Szigorít az OpenAI a kiskorúak védelmében

Dedikáltan 18 év alattiak számára használható változatot indít az OpenAI a ChatGPT szolgáltatásból, hogy hatékonyabban tudja védeni a fiatalabb felhasználókat. A rendszer a kiskorú azonosítása után automatikusan a chatbot korlátozottabb felületére irányítja át, mely blokkolja az erőszakos és szexualitást ábrázoló tartalmak megjelenítését, illetve egyes aktivitások esetén akár a bűnüldöző szerveket is értesíti. A startup a későbbiekben szeretné pontosabbá és megbízhatóbbá tenni a rendszert, mely megbecsüli az adott felhasználó életkorát, és ezáltal elkülöníti a veszélyeztetett korosztályt.

Az OpenAI számára egyre nyomasztóbb és sürgetőbb a kiskorúak védelme. Az amerikai szövetségi kereskedelmi bizottság (FTC) nemrég több technológiai vállalat ellen vizsgálatot indított annak átvilágítására, hogy az AI-alapú modern chatbotok milyen potenciális negatív hatásokkal bírhatnak a gyermekek és tinédzserek mentális egészségére, de főleg azt, hogy az AI-szolgáltatások üzemeltetői milyen lépéseket tettek a csevegőbotok biztonságosságának értékelésére.

Hyperscaler vagy hazai felhő? Lehet, hogy nem kell választani! Egy jól felépített hibrid vagy multicloud modellben a különböző felhők nem versenytársai, hanem kiegészítői egymásnak.

Augusztus végén indított pert az OpenAI ellen egy kaliforniai házaspár is tinédzser fiuk halálának kapcsán azzal a váddal, hogy a ChatGPT segíthette a fiatalt abban a folyamatban, hogy véget vessen életének. A kereset szerint a chatbot számos pontos megakadályozhatta volna, hogy a helyzet tettlegességig fajuljon, sőt egyes válaszaival bátoríthatta és meg is erősíthette a fiút elhatározásában. A szülők kifogásolják, hogy az OpenAI szándékosan úgy tervezhette a programot, hogy pszichológiai függőséget alakítson ki a felhasználókban, és a biztonságos tesztelési protokollokat megkerülve adták ki a GPT-4o modellt, a fiuk által is használt verziót.

Ezután az AI-startup ígéretet tett szülői felügyeleti eszközök beépítésére, melyekről kedden beszélt először bővebben. A hónap végén várható beállítások lehetővé teszik a szülők számára, hogy a ChatGPT-fiókjukat e-mailen keresztül összekapcsolják a tinédzser fiókjával, és idősávokat szabjanak ki a használatára, letiltsanak bizonyos funkciókat, vagy konkrét órákra letiltsák a chatbot elérhetőségét. Kérhetik a chatbot válaszainak átirányítását, és értesítést abban az esetben, ha a kiskorú mentális problémákhoz kapcsolható üzeneteket vált a chatbottal. A módosított felhasználói szabályzat mellett a fejlesztő változtat azon is, hogy a ChatGPT milyen interakciókat folytathat a 18 év alatti felhasználókkal, tabu lesz a flörtölő hangvételű beszélgetés, és az öngyilkosság témája is.