Keményítene az EU a szexualizált deepfake-tartalmak ellen
Újabb lépést tett az EU a nem beleegyezésen alapuló erotikus tartalmak generálására alkalmas AI-eszközök regulázása felé az AI Act módosításának keretén belül.
Nagy port kavart az év elején, hogy az X platformba integrált AI-szolgáltatás, a Grok Imagine kiskorúakat, valamint nőket ábrázoló szexuális tartalmak generálását tette lehetővé a felhasználók számára. Az Európai Bizottság erre hamar lépett, és vizsgálni kezdte, hogy a cég megsérti-e a DSA-ban foglalt előírásokat az ilyen típusú tartalmakra vonatkozóan.
A Grok Imagine rendelkezik egy úgynevezett Spicy Mode móddal, ami kifejezetten erotikus képek generálását teszi lehetővé. Ennek kapcsán söpört végig a közösségi médiában az a trend, hogy a generatív AI-eszköz segítségével a felhasználók valódi személyeket ábrázoló fotók és videók alapján kezdtek el generálni intim jellegű képeket, melyeket az X felületén osztották tovább.
Európa a múlt héten megtette az első komolyabb lépéseket a beleegyezés nélküli szexuális és intim tartalmak, illetve a gyermekek szexuális zaklatásával kapcsolatos anyagok előállítását lehetővé tevő AI-eszközök megregulázása felé. Az uniós tagállamok március 11-én előzetes politikai megállapodásra jutottak az úgynevezett „AI Omnibus” jogalkotási csomagról, amely az AI Act módosítását és pontosítását célozza annak érdekében, hogy a gyakorlati alkalmazásban felmerülő számos jogi és technika kérdés könnyebben kezelhető legyen.
Fejleszd tudásod security, ethical hacker, pentester irányba! (x) NIS2-nek megfelelő CyberSecurity képzés az automatizált sérülékenységvizsgálatról. Scope meghatározás, felderítés, validálás, dokumentálás és riportálás. Jelentkezz most!
A javaslat szerint az EU-ban tilos lenne olyan AI-alkalmazások terjesztése vagy reklámozása, amelyek képesek valós személyekről szexuálisan explicit deepfake-képeket vagy videókat generálni, vagy beleegyezés nélkül szexuális helyzetben ábrázolni embereket. A tilalom nemcsak képekre, hanem hang- és videótartalmakra is kiterjedne, lényegében minden generatív AI-megoldásra, amely ilyen jellegű deepfake-tartalmat hozhat létre.
A módosítások a két éve elfogadott AI Actet finomhangoló Omnibus csomag részei, és a szexuális deepfake eleinte nem szerepelt a tárgyalások napirendjén, egészen a Grok-ügyig. Az unióban jelenleg érvényes szabályok még nem tiltják kifejezetten az olyan AI-rendszereket, amelyek gyermekpornográfiát vagy explicit deepfake képeket képesek generálni, így erre kínálhat utólagos megoldást a módosítás.
A megállapodásról szóló bizottsági szavazást március 18-ra tűzték ki, ezután kezdődhetnek a további parlamenti és tanácsi szakaszok, így a végleges szöveg még változhat. A tervezetet az EU tagállamainak és az Európai Parlamentnek is jóvá kell hagynia, majd ha a javaslat végleges formában elfogadásra kerül, az új szabályok már a következő évben az AI Act részeként léphetnek hatályba.