Szigorít az OpenAI a kiskorúak védelmében
Szülői felügyeleti eszközökkel korlátozható dedikált ChatGPT-élményt kap a veszélyeztetett korosztály, miközben a cég az életkor-detektáló rendszerét is hatékonyabbá tervezi tenni.
Dedikáltan 18 év alattiak számára használható változatot indít az OpenAI a ChatGPT szolgáltatásból, hogy hatékonyabban tudja védeni a fiatalabb felhasználókat. A rendszer a kiskorú azonosítása után automatikusan a chatbot korlátozottabb felületére irányítja át, mely blokkolja az erőszakos és szexualitást ábrázoló tartalmak megjelenítését, illetve egyes aktivitások esetén akár a bűnüldöző szerveket is értesíti. A startup a későbbiekben szeretné pontosabbá és megbízhatóbbá tenni a rendszert, mely megbecsüli az adott felhasználó életkorát, és ezáltal elkülöníti a veszélyeztetett korosztályt.
Az OpenAI számára egyre nyomasztóbb és sürgetőbb a kiskorúak védelme. Az amerikai szövetségi kereskedelmi bizottság (FTC) nemrég több technológiai vállalat ellen vizsgálatot indított annak átvilágítására, hogy az AI-alapú modern chatbotok milyen potenciális negatív hatásokkal bírhatnak a gyermekek és tinédzserek mentális egészségére, de főleg azt, hogy az AI-szolgáltatások üzemeltetői milyen lépéseket tettek a csevegőbotok biztonságosságának értékelésére.
Az AI és a nagy full-full-stack trend Az AI farvizén számos új informatikai munkakör születik, vagy már ismert munkák kapnak új nevet és vele extra elvárásokat is.
Augusztus végén indított pert az OpenAI ellen egy kaliforniai házaspár is tinédzser fiuk halálának kapcsán azzal a váddal, hogy a ChatGPT segíthette a fiatalt abban a folyamatban, hogy véget vessen életének. A kereset szerint a chatbot számos pontos megakadályozhatta volna, hogy a helyzet tettlegességig fajuljon, sőt egyes válaszaival bátoríthatta és meg is erősíthette a fiút elhatározásában. A szülők kifogásolják, hogy az OpenAI szándékosan úgy tervezhette a programot, hogy pszichológiai függőséget alakítson ki a felhasználókban, és a biztonságos tesztelési protokollokat megkerülve adták ki a GPT-4o modellt, a fiuk által is használt verziót.
Ezután az AI-startup ígéretet tett szülői felügyeleti eszközök beépítésére, melyekről kedden beszélt először bővebben. A hónap végén várható beállítások lehetővé teszik a szülők számára, hogy a ChatGPT-fiókjukat e-mailen keresztül összekapcsolják a tinédzser fiókjával, és idősávokat szabjanak ki a használatára, letiltsanak bizonyos funkciókat, vagy konkrét órákra letiltsák a chatbot elérhetőségét. Kérhetik a chatbot válaszainak átirányítását, és értesítést abban az esetben, ha a kiskorú mentális problémákhoz kapcsolható üzeneteket vált a chatbottal. A módosított felhasználói szabályzat mellett a fejlesztő változtat azon is, hogy a ChatGPT milyen interakciókat folytathat a 18 év alatti felhasználókkal, tabu lesz a flörtölő hangvételű beszélgetés, és az öngyilkosság témája is.