Az OpenAI is vízjelezni kezdi az AI-generált szövegeket és kódokat

Az OpenAI bejelentette, hogy az uniós AI Act jogszabályban foglalt transzparencia előírásoknak megfelelően speciális, szövegbe kódolt vízjelekkel fogja ellátni a rendszerei által előállított szövegeket vagy kódokat az Európai Unió területén.

A ChatGPT-ben és a Codexben előállított tartalmakat a versenytárs megoldásokkal egyezően speciális, statisztikai vízjelekkel látják el, melyek voltaképpen a modell szóhasználatába lesznek kódolva, így egy erre a célra alkalmas detektáló algoritmus többé-kevésbé pontosan meg tudja állapítani, hogy a szöveget részben vagy teljes egészében mesterséges intelligencia állította-e elő.

Tervezd újra a karriered az agentek világában ! Október 21-én ismét lesz kraftie meetup, ahol az AI 2026-os munkaerőpiaci és technológiai hatásai foguk kivesézni.

A startup textrGrain nevű rendszere ugyanakkor egyelőre még a fejlesztők szerint sem elég pontos a széles körű bevezetéshez. Az OpenAI saját belső bechmarkjai szerint a hibás detektálások aránya erősen szövegkörnyezet-függő.

Például a matematikai kontextusoknál és a rövidebb szövegeknél jóval több lehet a fals negatív eredmény, emellett a tesztek azt mutatták, hogy a szavak 10 százalékának szinonimákkal való lecserélése szintén drámai mértékben, 90-ről 66 százalékra csökkentette a detektálás pontosságát egy adott szöveg esetében.

Az OpenAI éppen ezért egyelőre csak bizonyos kutatócsoportoknak és jellemzően kutatási tevékenységet végző szervezetek számára teszi elérhetővé a detektálórutint, melyek visszajelzése alapján a rendszert továbbfejlesztik, hogy szélesebb körben is használhatóvá váljon.

Az EU-s jog hatálya alá eső AI-modellfejlesztőknek december 2-ig kötelezően be kell vezetniük a textGrain-hoz hasonló vízjelfelismerő rendszert az uniós nemzetállamokban, ennek a kötelezettségnek elsőként - és az OpenAI-n kívül egyedüliként - eddig az Anthropic tett eleget.