Munkába áll a ChatGPT életkorbecslő modellje

Sam Altman tavaly októberben jelentette be, hogy az OpenAI ChatGPT-jének felnőtt felhasználói a jövőben a chatbot egy kevésbé cenzúrázott, kifejezetten nagykorúak általi használatra kialakított, akár „erotikus” tartalmakat megjelenítő verziójához férhetnek hozzá. Az ehhez szükséges korhatár-besoroló rendszer indulását az idei év első negyedévére saccolták, amit a cég keddi bejelentése szerint sikerül is tartani. Az OpenAI életkorbecslő modellje a ChatGPT fogyasztói szintjeibe beépülve aktívan segíti abban a vállalatot, hogy azonosítani tudja a 18 év alattiak fiókjait. A modellt a következő hetekben kezdik el bevezetni az Európai Unióban a helyi szabályozásokhoz hangoltan.

Fidji Simo, a vállalat alkalmazásokért felelős vezetője szerint kulcsfontosságú, hogy az életkort megfelelően képes legyen megtippelni a rendszer a fiatalkorúak védelmében, vagy éppenséggel azért, hogy egy felnőttet ne nézzen gyermeknek. Az egyes országokban már december óta tesztelt megoldás egyfajta automatizmust visz be az elmúlt hónapokban bevezetett szülői felügyeleti eszközök mellé, melyek lehetőséget adnak a szülőknek arra, hogy ChatGPT-fiókjukat e-mailen keresztül összekapcsolják a tinédzser fiókjával, és idősávokat szabjanak ki a használatára, letiltsanak bizonyos funkciókat, vagy konkrét órákra letiltsák a chatbot elérhetőségét.

Az OpenAI által fejlesztett modell a fiókkal kapcsolatos aktivitásokat és a felhasználó viselkedésére jellemző jelek kombinációját használja fel a feltételezett életkor megsaccolásához. Ezek közé tartoznak olyan faktorok, minthogy a felhasználó jellemzően mikor és mire használja a fiókját, mikor hozta létre azt, vagy milyen életkort vallott be magáról.

London calling: a magyar IT kivándorlás valósága Kirándultunk egyet a második legnagyobb magyar településen.

Az OpenAI tavaly szeptemberben jelentette be, hogy dedikáltan 18 év alattiak számára használható változatot indít az OpenAI a ChatGPT szolgáltatásból, hogy hatékonyabban tudja védeni a fiatalabb felhasználókat. A rendszer a kiskorú azonosítása után automatikusan a chatbot korlátozottabb felületére irányítja át, mely blokkolja az erőszakos és szexualitást ábrázoló tartalmak megjelenítését, illetve egyes aktivitások esetén akár a bűnüldöző szerveket is értesíti.

Az OpenAI számára azután vált egyre sürgetőbbé a kiskorúak védelme, hogy az amerikai szövetségi kereskedelmi bizottság (FTC) több technológiai vállalat ellen vizsgálatot indított annak átvilágítására, hogy az AI-alapú modern chatbotok milyen potenciális negatív hatásokkal bírhatnak a gyermekek és tinédzserek mentális egészségére, de főleg azt, hogy az AI-szolgáltatások üzemeltetői milyen lépéseket tettek a csevegőbotok biztonságosságának értékelésére. A diskurzust kirobbantó eset az volt, hogy tavaly augusztus végén pert indított a cég ellen egy kaliforniai házaspár tinédzser fiuk halálának kapcsán azzal a váddal, hogy a ChatGPT segíthette a fiatalt abban a folyamatban, hogy véget vessen életének.

Van még hova fejlődni

Szabályozói nyomásra a különféle más online platformokat fejlesztő cégek számára is napirendre került az életkorhatárok betartását támogató rendszerek kiépítésének feladata. Egy hete a ByteDance tulajdonában lévő TikTok jelentettebe, hogy egy új AI-alapú életkor-ellenőrző rendszert tesztelt az elmúlt év során az Egyesült Királyságban, melyet a következő hetek során széles körben bevezet Európában a 13 évnél fiatalabb, de életkorukról hazudó felhasználók azonosításához. A rendszer különböző faktorokat vesz figyelembe a fiók tulajdonosának életkorára vonatkozó becsléshez, köztük a profilhoz fűződő adatokat, a közzétett videókat, megtekintési szokásokat és általánosságban az aktivitást. A feltételezhetően kiskorúhoz tartozó megjelölt fiókat nem távolítja el rögtön a platform, előtte egy dedikált moderátori csapat vizsgálja felül a döntést a félreértések elkerülése végett. 

Az eddigi tapasztalatok azonban azt mutatják, hogy az életkormeghatározó fejlesztések korántsem működnek tökéletesen.

Január elején a a leginkább tinédzserek által használt Roblox kreatív platform kötelezővé tette az Egyesült Államokban és több más régióban az addig opcionális életkor-ellenőrzést, mely egy szelfi feltöltésével, illetve a személyi igazolvánnyal rendelkezők esetében opcionálisan az okmány befotózásával jár. Azonban a kötelezővé tett életkor-ellenőrzés célja, hogy a fiatalkorú felhasználó csak a vele egyező korosztályba tartozó társaival tudjon csevegni a Robloxon keresztül, totális kudarcnak bizonyult. A beszámolók szerint több alkalommal előfordult, hogy az algoritmus fiatalabbnak becsülte a koránál a felhasználót, és ennek a fordítottja is - ami leginkább azért probléma, mivel ezzel az egy korosztályba tartozó barátokkal való kapcsolattartás is ellehetetlenül bizonyos esetekben. Ha ez nem lenne elég, a rendszer rendkívül könnyen átverhető, melynek ízére a platformot használó gyerekek hamar rá is éreztek.

A szakértők szerint egyébként a jelenleg elérhető legjobb kormeghatározó technológia is körülbelül kétéves hibaablakkal dolgozik, így jó eséllyel a 16 és 20 év közöttiek csoportjába esők találkozhatnak majd legtöbbször téves megjelölésekkel. A ChatGPT esetében is lesz lehetőség a fellebbezésre: ha valakit tévesen minősít a rendszer fiatalkorúnak, a teljes jogosultság visszaállításához igzolnia kell magát a beállítások közt egy önarckép feltöltésével.