Öngyilkos tini halála miatt indul per a Character.ai ellen

Egy tinédzser halála után pert kezdeményeztek a Character.AI szolgáltatás alapítói és a Google ellen hanyagság és megtévesztő kereskedelmi gyakorlatok miatt. Az elhunyt fiatalkorú édesanyja, Megan Garcia állítása szerint az AI-alapú chatbotok használata „indokolatlanul veszélyes” a kiskorúakra nézve, valamint hiányosak a szolgáltatás biztonsági intézkedései.

A 14 éves Sewell Setzer tavaly kezdte el használni a Character.AI-t, amelyben a Trónok harca szereplőiről mintázott robotokkal beszélgetett, köztük egy Daenerys Targaryent mintázó AI-ügynökkel. Setzer februárban lett öngyilkos másodpercekkel egy robottal való interakció után, előtte napokon át töltötte a szabadidejét csevegéssel.

A vádak közt szerepel az is, hogy a platform antropomorfizálja a nem létező karaktereket, a chatbotok pedig engedély és képesítés nélkül kínálnak „pszichoterápiát” a pszichológus-botokkal, többel kommunikált az elhunyt fiú is.

Platón ragadt informatikusok klubja Egyetlen más szakma sincs, ahol olyan gyorsan el lehet érni a karrier-platóra, mint az IT. A midlife, a mid-level mellett létezik mid-career krízis is.

Garcia ügyvédei szerint a két alapító azért hagyta el a Google-t korábban, hogy saját céget alapítsanak, mert a nagyvállalatoknál túl nagy kockázatot vállal a márka a hasonló fejlesztésekkel. A keresőóriás végül augusztusban felvásárolta a szolgáltatás vezetői csapatát.

A Character.AI üzemeltetői az eset óta több intézkedést is bevezettek, például egy értesítést, ami nyomatékosítja a felhasználó felé az üzenetet, hogy nem valódi emberrel beszélget.

A témát korábban egy HWSW Weekly adásban is veséztük Damsa Andrei pszichológussal.