:

Szerző: Dömös Zsuzsanna

2024. október 24. 12:08

Öngyilkos tini halála miatt indul per a Character.ai ellen

A pert kezdeményező anya szerint a chatbot-platform fejlesztői egy veszélyes terméket dobtak piacra, aminek kockázatairól nem tájékoztatták megfelelően a szülőket.

Egy tinédzser halála után pert kezdeményeztek a Character.AI szolgáltatás alapítói és a Google ellen hanyagság és megtévesztő kereskedelmi gyakorlatok miatt. Az elhunyt fiatalkorú édesanyja, Megan Garcia állítása szerint az AI-alapú chatbotok használata „indokolatlanul veszélyes” a kiskorúakra nézve, valamint hiányosak a szolgáltatás biztonsági intézkedései.

A 14 éves Sewell Setzer tavaly kezdte el használni a Character.AI-t, amelyben a Trónok harca szereplőiről mintázott robotokkal beszélgetett, köztük egy Daenerys Targaryent mintázó AI-ügynökkel. Setzer februárban lett öngyilkos másodpercekkel egy robottal való interakció után, előtte napokon át töltötte a szabadidejét csevegéssel.

A vádak közt szerepel az is, hogy a platform antropomorfizálja a nem létező karaktereket, a chatbotok pedig engedély és képesítés nélkül kínálnak „pszichoterápiát” a pszichológus-botokkal, többel kommunikált az elhunyt fiú is.

Modern SOC, kiberhírszerzés és fenntartható IT védelem (x)

Gyere el meetupunkra november 18-án, ahol valós használati eseteken keresztül mutatjuk be az IT-biztonság legújabb trendjeit.

Modern SOC, kiberhírszerzés és fenntartható IT védelem (x) Gyere el meetupunkra november 18-án, ahol valós használati eseteken keresztül mutatjuk be az IT-biztonság legújabb trendjeit.

Garcia ügyvédei szerint a két alapító azért hagyta el a Google-t korábban, hogy saját céget alapítsanak, mert a nagyvállalatoknál túl nagy kockázatot vállal a márka a hasonló fejlesztésekkel. A keresőóriás végül augusztusban felvásárolta a szolgáltatás vezetői csapatát.

A Character.AI üzemeltetői az eset óta több intézkedést is bevezettek, például egy értesítést, ami nyomatékosítja a felhasználó felé az üzenetet, hogy nem valódi emberrel beszélget.

A témát korábban egy HWSW Weekly adásban is veséztük Damsa Andrei pszichológussal.

November 25-26-án 6 alkalmas K8s security és 10 alkalmas, a Go és a cloud native szoftverfejlesztés alapjaiba bevezető képzéseket indítunk. Az élő képzések órái utólag is visszanézhetők, és munkaidő végén kezdődnek.

a címlapról