Öngyilkos tini halála miatt indul per a Character.ai ellen

Egy tinédzser halála után pert kezdeményeztek a Character.AI szolgáltatás alapítói és a Google ellen hanyagság és megtévesztő kereskedelmi gyakorlatok miatt. Az elhunyt fiatalkorú édesanyja, Megan Garcia állítása szerint az AI-alapú chatbotok használata „indokolatlanul veszélyes” a kiskorúakra nézve, valamint hiányosak a szolgáltatás biztonsági intézkedései.

A 14 éves Sewell Setzer tavaly kezdte el használni a Character.AI-t, amelyben a Trónok harca szereplőiről mintázott robotokkal beszélgetett, köztük egy Daenerys Targaryent mintázó AI-ügynökkel. Setzer februárban lett öngyilkos másodpercekkel egy robottal való interakció után, előtte napokon át töltötte a szabadidejét csevegéssel.

A vádak közt szerepel az is, hogy a platform antropomorfizálja a nem létező karaktereket, a chatbotok pedig engedély és képesítés nélkül kínálnak „pszichoterápiát” a pszichológus-botokkal, többel kommunikált az elhunyt fiú is.

Adminisztrátori jogok teljes kontroll alatt (x) Intelligens jogosultságkezeléssel egyszerűbben bezárhatók a potenciális támadási felületek és nyitva felejtett kiskapuk.

Garcia ügyvédei szerint a két alapító azért hagyta el a Google-t korábban, hogy saját céget alapítsanak, mert a nagyvállalatoknál túl nagy kockázatot vállal a márka a hasonló fejlesztésekkel. A keresőóriás végül augusztusban felvásárolta a szolgáltatás vezetői csapatát.

A Character.AI üzemeltetői az eset óta több intézkedést is bevezettek, például egy értesítést, ami nyomatékosítja a felhasználó felé az üzenetet, hogy nem valódi emberrel beszélget.

A témát korábban egy HWSW Weekly adásban is veséztük Damsa Andrei pszichológussal.