Szerző: Dömös Zsuzsanna

2024. február 23. 11:48

Rosszul sült el a diverzitásra törekvés a Google Geminiben

Emberábrázolásban még nem működik tökéletesen a keresőóriás generatív szolgáltatása, ezért határozatlan ideig korlátozott képességekkel fut a szolgáltatás.

A Google átmenetileg felfüggesztette a személyeket ábrázoló képek generálásának lehetőségét a Gemini (korábban Bard) szolgáltatásban, miután több felhasználó is arról adott visszajelzést, hogy az eszköz rendkívül pontatlanul teljesít történelmi témájú képek előállításában. A Gemini több alkalommal is színesbőrűként, vagy ázsiaiként ábrázolt olyan történelmi személyeket, akik nem voltak azok, többek közt amerikai alapító atyákat, náci katonákat, ugyanígy járt el a vikingek ábrázolásakor is, vagy amikor a pápáról kértek képet.

A keresőcég az X-en közölte, hogy már dolgozik a problémán, hamarosan érkezik egy frissített képgeneráló modell, addig is nélkülözniük kell a felhasználóknak a személyeket ábrázoló képek készítését. A cég elismeri, hogy a Gemini pontatlan ábrázolásokkal tér vissza egyes történelmi képgenerálási feladatokban, de ezt azzal magyarázza, hogy a fejlesztők próbálták minél diverzebbé tenni az adatkészletet és a kimenetet is. A diverzitásra való törekvés azonban magával hozza, hogy az MI az adott kulturális közegbe abszolút nem illő megjelenésű személyeket is kényszeresen belekomponált.

Egyébként ha a Geminitől egy fehér bőrű személy ábrázolását kéri a felhasználó, a szolgáltatás azzal tér vissza, hogy nem tudja teljesíteni a kérést, mivel azzal káros sztereotípiákat erősítene.

diverzit

Ollé, lesz SYSADMINDAY!

Duna melletti szabadtéri helyszínen idén is megrendezzük a hazai Sysadmindayt, az IT-üzemeltetők világnapját. Standup, IT security meetup, szakmázás, barátok, még több sörcsap.

Ollé, lesz SYSADMINDAY! Duna melletti szabadtéri helyszínen idén is megrendezzük a hazai Sysadmindayt, az IT-üzemeltetők világnapját. Standup, IT security meetup, szakmázás, barátok, még több sörcsap.

Régóta téma a mesterségesintelligencia-technológiák kapcsán a modellekbe épített faji elfogultság és a diverzitás hiánya, ami valós életbeli hátrányokat okozhat egyes csoportok számára, például arcfelismerő technológiák esetén. A keresőcég láthatóan most átesett a másik oldalra, mivel eddig éppen hogy azzal vádolták, hogy nem mutat elég színesbőrű embert, és szolgáltatásai előítéletesek. 2015-ben annak kapcsán tört ki botrány, hogy a Google Fotók  algoritmusa két fekete férfit gorillaként címkézett.

A vállalat éveket töltött olyan csapatok összeállításával, amelyek kifejezetten azon dolgoznak, hogy a szolgáltatásokban minél kisebb eséllyel forduljanak elő olyan eredmények, amelyeket egyes felhasználók sértőnek találhatnak, emellett a Képkeresőben is próbálja növelni a képek változatosabb és diverzebb megjelenítését.

Derítsd ki, hol tartasz a felhőérettségben a Devertix Cloud Readiness felmérésével, mellyel átfogó képet kaphatsz vállalatod felkészültségéről. Töltsd ki 3 perces, ingyenes felmérőnket!

a címlapról

Hirdetés

Ollé, lesz SYSADMINDAY!

2025. július 4. 00:11

Duna melletti szabadtéri helyszínen, a Budapest Gardenben idén is megrendezzük a hazai Sysadmindayt, az IT-üzemeltetők világnapját. Standup, IT security meetup, kvízek, szakmázás, barátok, még több sörcsap.