Megállapodott a Character.AI a pereskedő családokkal
Megszülettek az első jelentős megállapodások a chatbotokat használó fiatalok önkárosító viselkedésével kapcsolatos ügyekben.
A Google és a Character.AI sikeresen megegyezett a chatbotokat használó önkárosító tinédzserek ügyében indított perekben érintett családokkal. A pereket több államban, köztük Floridában, Kolorádóban, Texasban és New Yorkban kezdeményezték a családok kártérítési igénnyel, akik szerint a Character.AI szolgáltatásában elérhető chatbotok hozzájárultak gyermekeik önkárosító viselkedéséhez, egyes esetekben öngyilkosságokhoz. Ezek az első olyan peren kívüli egyezségek, melyek a generatív AI-chatbotok és a felhasználókra gyakorolt ártalmas hatásokkal kapcsolatos jogi viták során megszülettek.
A megállapodások részletei egyelőre nem nyilvánosak, de a bírósági bejelentések szerint a felek közösen kérték az ügyek felfüggesztését, mielőtt véglegesítik a hivatalos egyezségi feltételeket és dokumentumokat. Elsődlegesen pénzügyi kártérítésekről van szó, és az egyezségek elkerülik azt a jogi precedenst, amely egyértelműen meghatározná az AI-szolgáltatók felelősségét a generatív modellek kimeneteleiért.
A Google úgy keveredett az ügybe, hogy 2024-ben nem csak licencet szerzett a Character.Ai technológiájára és modelljeinek használatára mintegy 2,7 milliárd dollárért, de a startup két alapítóját, a Noam Shazeert és Daniel De Freitast is visszahívta alkalmazottként, így a felperesek szerint a keresőcég közvetlenül részt vett a chatbotok mögötti motor fejlesztésében. Shazeer és Freitas korábban már dolgozott a Google-nél, mielőtt megalapították a Character.AI-t.
2026: ez a választás az IT munkaerőpiacot is megbolygatja Évindító adásunk tradicionálisan az IT munkaerőpiaccal kapcsolatos 2026-os prognózisainkat foglalja keretbe.
A többek közt fiktív karaktereket megszemélyesítő chatbotokkal való csevegést kínáló Character.AI idén novemberben vezetett be szigorúbb intézkedéseket a fiatalkorú felhasználókra vonatkozóan, és korlátozni kezdte a beszélgetéseket. A tinédzserek számára megszűnt a nyitott csevegések lehetősége a platformon, ami a felhasználó és a chatbot közti oda-vissza beszélgetéseket jelenti, emellett a szolgáltatás új kormeghatározó eszközt épített be a hatékonyabb szűrés érdekében.
A korlátozást egy évvel azután vezette be a szolgáltatás, hogy egy tinédzser halála után pert indítottak ellene hanyagság és megtévesztő kereskedelmi gyakorlatok miatt, mely szintén a napokban rendezett perek közé tartozik. Az elhunyt fiatalkorú édesanyja, Megan Garcia azt kifogásolta, hogy az AI-alapú chatbotok használata „indokolatlanul veszélyes” a kiskorúakra nézve, valamint hiányosak a szolgáltatás biztonsági intézkedései. A vádak közt szerepelt továbbá, hogy a platform antropomorfizálja a nem létező karaktereket, a chatbotok pedig engedély és képesítés nélkül kínálnak „pszichoterápiát” a pszichológus-botokkal, többel kommunikált az elhunyt fiú is. A Character.AI üzemeltetői az eset óta több intézkedést is bevezettek, például egy értesítést, ami nyomatékosítja a felhasználó felé az üzenetet, hogy nem valódi emberrel beszélget.
A jogi viták ráirányították a figyelmet a generatív AI pszichológiai és társadalmi hatásaira, különösen a serdülők és fiatalok mentális egészségére gyakorolt potenciális kockázatokra. Egyre több szülő, gyerekvédelmi szervezet és jogalkotó szorgalmazza erősebb szabályozási és felelősségi keretek kialakítását, amelyek meghaladják a jelenlegi, önkéntes iparági gyakorlatokat. Korábban az OpenAI-jal és Meta-val szemben is indultak hasonló, pszichés károkra alapozott jogi követelések, ami azt jelzi, hogy a chatbotok felhasználói biztonságának joga hamarosan központi kérdéssé válhat a technológiai szabályozás és fogyasztóvédelem területén.