Letiltja a Meta a tiniket az AI karakterekről
Ideiglenes korlátozásokat vezet be a Meta, miután fokozódik a politikai nyomás a tinédzserek és a különféle AI-chatbot karakterek közti interakciók potenciális káros hatásainak kérdésében.
A jogi viták ráirányították a figyelmet a generatív AI pszichológiai és társadalmi hatásaira, különösen a serdülők és fiatalok mentális egészségére gyakorolt potenciális kockázatokra. Egyre több szülő, gyerekvédelmi szervezet és jogalkotó szorgalmazza erősebb szabályozási és felelősségi keretek kialakítását, amelyek meghaladják a jelenlegi, önkéntes iparági gyakorlatokat.
A Meta friss bejelentése szerint a fiatalkorú felhasználók átmenetileg nem férhetnek hozzá különböző platformjain, köztük az Instagramon, Facebookon és WhatsAppon elérhető AI által vezérelt chatbot-karakterekhez. A cég bejegyzése szerint a korlátozást globálisan vezeti be a következő hetekben, és addig lesz érvényben, míg a vállalat nem áll készen a frissített, további szülői felügyeleti eszközökkel is rendelkező frissítés bevezetésére.
A rendszer nem csak az önbevallásos alapon megadott életkort veszi figyelembe az ellenőrzés során, hanem élesben használja saját életkorbecslő technológiáját. A Meta korábban már visszavonta a Kendall Jenner, Snoop Dogg és Tom Brady mintájára készített AI-chatbotokat is.
London calling: a magyar IT kivándorlás valósága Kirándultunk egyet a második legnagyobb magyar településen.
Hasonló lépéseket tettek a rivális szolgáltatások is az elmúlt hónapok során. A többek közt fiktív karaktereket megszemélyesítő chatbotokkal való csevegést kínáló Character.ai a 18 évnél fiatalabb felhasználók számára megszüntette a nyitott csevegések lehetőségét a platformon, ami a felhasználó és a chatbot közti oda-vissza beszélgetéseket jelenti. A szolgáltatást fejlesztő cég ellen egy tinédzser halála után indítottak pert a szülők, de végül a feleknek sikerült megegyezni. A pereket több államban, köztük Floridában, Kolorádóban, Texasban és New Yorkban kezdeményezték a családok kártérítési igénnyel, akik szerint a Character.AI szolgáltatásában elérhető chatbotok hozzájárultak gyermekeik önkárosító viselkedéséhez, egyes esetekben öngyilkosságokhoz. Ezek voltak az első olyan peren kívüli egyezségek, melyek a generatív AI-chatbotok és a felhasználókra gyakorolt ártalmas hatásokkal kapcsolatos jogi viták során megszülettek.
A ChatGPT-fejlesztő OpenAI múlt héten jelentette be, hogy életkorhatározó modellje a szolgáltatás fogyasztói szintjeibe beépülve segíti abban a vállalatot, hogy azonosítani tudja a 18 év alattiak fiókjait. A modellt a következő hetekben kezdik el bevezetni az Európai Unióban a helyi szabályozásokhoz hangoltan. Az egyes országokban már december óta tesztelt megoldás egyfajta automatizmust visz be az elmúlt hónapokban bevezetett szülői felügyeleti eszközök mellé, melyek lehetőséget adnak a szülőknek arra, hogy ChatGPT-fiókjukat e-mailen keresztül összekapcsolják a tinédzser fiókjával, és idősávokat szabjanak ki a használatára, letiltsanak bizonyos funkciókat, vagy konkrét órákra letiltsák a chatbot elérhetőségét.