Letiltja a tiniket a Character.AI a chatbotokról
A többek közt fiktív karaktereket megszemélyesítő chatbotokkal való csevegést kínáló Character.ai szigorúbb intézkedésekkel próbálja védeni a fiatalkorú felhasználókat. A szolgáltatás november 25-től kezdődően a 18 évnél fiatalabb felhasználók számára csak tartalmak generálását engedélyezi majd, és korlátozni kezdi a beszélgetéseket. A tinédzserek számára megszűnik a nyitott csevegések lehetősége a platformon, ami a felhasználó és a chatbot közti oda-vissza beszélgetéseket jelenti. A szolgáltatás új kormeghatározó eszközt fog bevetni a hatékonyabb szűrés érdekében.
A határidőig vezető átmeneti időszakban a 18 év alattiak mostantól kezdve naponta legfeljebb két órát használhatják a chatbotokat, mely időkorlátot a határidő közeledtével folyamatosan csökkenteni fogja a Character.AI.
A NER-es informatika már összecsomagolt Egy esetleges kormányváltás után komoly változás jöhet az állami IT holdudvarában, amelynek jelentős munkaerőpiaci hatásai is lehetnek.
A cég ezen felül az AI biztonsági kockázataival foglalkozó új kutatólaboratóriumot is szeretne felállítani, mely a kutatók, más vállalatok és akadémikusok számára lehetővé tenné, hogy megosszák egymásssal tapasztaataikat és általánosságban előremozdíthassák az iparágban az AI-jal kapcsolatos biztonsági intézkedéseket.
A korlátozást egy évvel azután vezeti be a szolgáltatás, hogy egy tinédzser halála után pert indítottak ellene hanyagság és megtévesztő kereskedelmi gyakorlatok miatt. Az elhunyt fiatalkorú édesanyja, Megan Garcia állítása szerint az AI-alapú chatbotok használata „indokolatlanul veszélyes” a kiskorúakra nézve, valamint hiányosak a szolgáltatás biztonsági intézkedései. A vádak közt szerepel az is, hogy a platform antropomorfizálja a nem létező karaktereket, a chatbotok pedig engedély és képesítés nélkül kínálnak „pszichoterápiát” a pszichológus-botokkal, többel kommunikált az elhunyt fiú is. A Character.AI üzemeltetői az eset óta több intézkedést is bevezettek, például egy értesítést, ami nyomatékosítja a felhasználó felé az üzenetet, hogy nem valódi emberrel beszélget.