Szerző: Dömös Zsuzsanna

2024. február 23. 11:48

Rosszul sült el a diverzitásra törekvés a Google Geminiben

Emberábrázolásban még nem működik tökéletesen a keresőóriás generatív szolgáltatása, ezért határozatlan ideig korlátozott képességekkel fut a szolgáltatás.

A Google átmenetileg felfüggesztette a személyeket ábrázoló képek generálásának lehetőségét a Gemini (korábban Bard) szolgáltatásban, miután több felhasználó is arról adott visszajelzést, hogy az eszköz rendkívül pontatlanul teljesít történelmi témájú képek előállításában. A Gemini több alkalommal is színesbőrűként, vagy ázsiaiként ábrázolt olyan történelmi személyeket, akik nem voltak azok, többek közt amerikai alapító atyákat, náci katonákat, ugyanígy járt el a vikingek ábrázolásakor is, vagy amikor a pápáról kértek képet.

A keresőcég az X-en közölte, hogy már dolgozik a problémán, hamarosan érkezik egy frissített képgeneráló modell, addig is nélkülözniük kell a felhasználóknak a személyeket ábrázoló képek készítését. A cég elismeri, hogy a Gemini pontatlan ábrázolásokkal tér vissza egyes történelmi képgenerálási feladatokban, de ezt azzal magyarázza, hogy a fejlesztők próbálták minél diverzebbé tenni az adatkészletet és a kimenetet is. A diverzitásra való törekvés azonban magával hozza, hogy az MI az adott kulturális közegbe abszolút nem illő megjelenésű személyeket is kényszeresen belekomponált.

Egyébként ha a Geminitől egy fehér bőrű személy ábrázolását kéri a felhasználó, a szolgáltatás azzal tér vissza, hogy nem tudja teljesíteni a kérést, mivel azzal káros sztereotípiákat erősítene.

diverzit

Égbe révedő informatikusok: az Időkép-sztori

Mi fán terem az előrejelzés, hogy milyen infrastruktúra dolgozik az Időkép alatt, mi várható a deep learning modellek térnyerésével?

Égbe révedő informatikusok: az Időkép-sztori Mi fán terem az előrejelzés, hogy milyen infrastruktúra dolgozik az Időkép alatt, mi várható a deep learning modellek térnyerésével?

Régóta téma a mesterségesintelligencia-technológiák kapcsán a modellekbe épített faji elfogultság és a diverzitás hiánya, ami valós életbeli hátrányokat okozhat egyes csoportok számára, például arcfelismerő technológiák esetén. A keresőcég láthatóan most átesett a másik oldalra, mivel eddig éppen hogy azzal vádolták, hogy nem mutat elég színesbőrű embert, és szolgáltatásai előítéletesek. 2015-ben annak kapcsán tört ki botrány, hogy a Google Fotók  algoritmusa két fekete férfit gorillaként címkézett.

A vállalat éveket töltött olyan csapatok összeállításával, amelyek kifejezetten azon dolgoznak, hogy a szolgáltatásokban minél kisebb eséllyel forduljanak elő olyan eredmények, amelyeket egyes felhasználók sértőnek találhatnak, emellett a Képkeresőben is próbálja növelni a képek változatosabb és diverzebb megjelenítését.

Nagyon széles az a skála, amin az állásinterjú visszajelzések tartalmi minősége mozog: túl rövid, túl hosszú, semmitmondó, értelmetlen vagy semmi. A friss heti kraftie hírlevélben ezt jártuk körül. Ha tetszett a cikk, iratkozz fel, és minden héten elküldjük emailben a legfrissebbet!

a címlapról