Rosszul sült el a diverzitásra törekvés a Google Geminiben
Emberábrázolásban még nem működik tökéletesen a keresőóriás generatív szolgáltatása, ezért határozatlan ideig korlátozott képességekkel fut a szolgáltatás.
A Google átmenetileg felfüggesztette a személyeket ábrázoló képek generálásának lehetőségét a Gemini (korábban Bard) szolgáltatásban, miután több felhasználó is arról adott visszajelzést, hogy az eszköz rendkívül pontatlanul teljesít történelmi témájú képek előállításában. A Gemini több alkalommal is színesbőrűként, vagy ázsiaiként ábrázolt olyan történelmi személyeket, akik nem voltak azok, többek közt amerikai alapító atyákat, náci katonákat, ugyanígy járt el a vikingek ábrázolásakor is, vagy amikor a pápáról kértek képet.
A keresőcég az X-en közölte, hogy már dolgozik a problémán, hamarosan érkezik egy frissített képgeneráló modell, addig is nélkülözniük kell a felhasználóknak a személyeket ábrázoló képek készítését. A cég elismeri, hogy a Gemini pontatlan ábrázolásokkal tér vissza egyes történelmi képgenerálási feladatokban, de ezt azzal magyarázza, hogy a fejlesztők próbálták minél diverzebbé tenni az adatkészletet és a kimenetet is. A diverzitásra való törekvés azonban magával hozza, hogy az MI az adott kulturális közegbe abszolút nem illő megjelenésű személyeket is kényszeresen belekomponált.
Egyébként ha a Geminitől egy fehér bőrű személy ábrázolását kéri a felhasználó, a szolgáltatás azzal tér vissza, hogy nem tudja teljesíteni a kérést, mivel azzal káros sztereotípiákat erősítene.
Nyerd meg az 5 darab, 1000 eurós Craft konferenciajegy egyikét! A kétnapos, nemzetközi fejlesztői konferencia apropójából a HWSW kraftie nyereményjátékot indít.
Régóta téma a mesterségesintelligencia-technológiák kapcsán a modellekbe épített faji elfogultság és a diverzitás hiánya, ami valós életbeli hátrányokat okozhat egyes csoportok számára, például arcfelismerő technológiák esetén. A keresőcég láthatóan most átesett a másik oldalra, mivel eddig éppen hogy azzal vádolták, hogy nem mutat elég színesbőrű embert, és szolgáltatásai előítéletesek. 2015-ben annak kapcsán tört ki botrány, hogy a Google Fotók algoritmusa két fekete férfit gorillaként címkézett.
A vállalat éveket töltött olyan csapatok összeállításával, amelyek kifejezetten azon dolgoznak, hogy a szolgáltatásokban minél kisebb eséllyel forduljanak elő olyan eredmények, amelyeket egyes felhasználók sértőnek találhatnak, emellett a Képkeresőben is próbálja növelni a képek változatosabb és diverzebb megjelenítését.