Leszámol az EU a szexizős deepfake-appokkal
Először foglalja jogszabályba az unió az úgynevezett „nudifier” alkalmazások, vagyis az olyan AI-rendszerek korlátozását, amelyek beleegyezés nélkül generálnak szexuális töltetű, hamis képeket, videókat és hangfelvételeket.
Nagy port kavart az év elején, hogy az X platformba integrált AI-szolgáltatás, a Grok Imagine kiskorúakat, valamint nőket ábrázoló szexuális tartalmak generálását tette lehetővé a felhasználók számára. Az Európai Bizottság erre hamar lépett, és vizsgálni kezdte, hogy a cég megsérti-e a DSA-ban foglalt előírásokat az ilyen típusú tartalmakra vonatkozóan.
Európa március elején tette meg az első komolyabb lépéseket a beleegyezés nélküli szexuális és intim tartalmak, illetve a gyermekek szexuális zaklatásával kapcsolatos anyagok előállítását lehetővé tevő AI-eszközök megregulázása felé. Az uniós tagállamok március 11-én előzetes politikai megállapodásra jutottak az úgynevezett „AI Omnibus” jogalkotási csomagról, amely az AI Act módosítását és pontosítását célozza annak érdekében, hogy a gyakorlati alkalmazásban felmerülő számos jogi és technika kérdés könnyebben kezelhető legyen.
A törvényhozók és a tagállamok a napokban állapodtak meg abban előzetesen, hogy betiltják a mesterségesintelligencia-alapú „meztelenítős” AI-appokat az AI Act elfogadott módosításának részeként - jelent meg a közlemény az Európai Parlament honlapján. Michael McNamara centrista európai parlamenti képviselő szerint az EU ezzel húzott egy vörös vonalat, és a blokk jogszabályai először tiltják kifejezetten az ilyen típusú szolgáltatásokat.
A hazai IT felrázásához haza kell hozni a legjobbjainkat Az elvándorolt szakemberek visszacsábítása komoly kihívás, azonban számos ország már megmutatta, hogy ez nem lehetetlen feladat.
A szabályozás az ilyen típusú szolgáltatások használatán felül azok piaci forgalmazását is tiltja, különösen akkor, ha a fejlesztők nem építenek be megfelelő biztonsági mechanizmusokat a visszaélések megakadályozására. Az érintett cégeknek 2026. december 2-ig kell megfelelniük az új előírásoknak. Az uniós intézmények célja, hogy a végleges szabályozás még idén augusztus előtt hatályba lépjen, de előtte még az EP-nek és a Tanácsnak is jóvá kell hagynia a módosításokat, ami általában már csak formai intézkedés.
A módosítások a két éve elfogadott AI Actet finomhangoló digitális omnibusz csomag részei. A szexuális deepfake eleinte nem szerepelt a tárgyalások napirendjén, egészen a Grok-ügyig. Az unióban eddig érvényes szabályok nem tiltották kifejezetten az olyan AI-rendszereket, amelyek gyermekpornográfiát vagy explicit deepfake képeket képesek generálni, így erre is utólagos megoldást kínál a módosítás, melynek egyik fő célja az adminisztratív terhek csökkentése.
Az AI Acttel kapcsolatban az Európai Parlament és a tagállamok abban is megállapodtak, hogy csúsztatják a magas kockázatú kategóriába sorolt mesterségesintelligencia-rendszerekre vonatkozó szabályok végrehajtását. A biometrikus, oktatási, foglalkoztatási, rendészeti vagy kritikus infrastruktúrában használt AI-rendszerekre vonatkozó kötelezettségek 2027. december 2-án lépnek életbe, a biztonsági termékekhez kapcsolódó AI-rendszerek esetében pedig 2028. augusztus 2. lesz az új határidő.