Szerző: Dömös Zsuzsanna

2023. június 15. 09:57

Megvan a parlamenti álláspont az MI-törvényről

Szavazott az Európai Parlament az MI fejlesztésében és szabályozásában világszinten irányadónak számító jogszabályról, az AI Actről, ami többek közt megtiltja a valós idejű arcfelismerést, és új átláthatósági követelményeket ír elő az olyan generatív mesterséges intelligencia eszközökre, mint a ChatGPT.

Az Európai Parlament képviselői június 14-én 499 szavazattal, 28 ellenében és 93 tartózkodás mellett meghatározták, hogy milyen tárgyalási álláspontot képviseljen a Parlament a mesterséges intelligenciáról szóló jogszabályjavaslat (EU AI Act) tanácsi vitájakor - tájékoztatott róla a testület. Ezután kezdődnek a Tanáccsal folytatott tárgyalások a jogszabály végleges szövegéről, a cél, hogy a megállapodás év végéig megszülessen, majd a jövőre esedékes uniós választások előtt hatályba léphessen a törvény.

A szabályozás azt hivatott biztosítani, hogy a mesterséges intelligencia Európán belüli fejlesztése és alkalmazása mindenben megfeleljen az európai alapjogoknak és értékeknek, azaz maradjon emberi felügyelet alatt, legyen biztonságos, átlátható és megkülönböztetésmentes, illetve a társadalom és a környezet jólétét szolgálja.

A szabályok a kockázatok szintje szerint állapítanak meg kötelezettségeket a szolgáltatók és a felhasználók számára. Az emberek biztonságára nézve elfogadhatatlan mértékű kockázatot jelentő MI-rendszerekre, mint például a társadalmi pontozás (az embereknek a társadalomban tanúsított magatartása vagy személyes jellemzők szerinti osztályozása), tilalom vonatkozna.

aiact

Nagy pénz, nagy szívás: útravaló csúcstámadó IT-soknak

Az informatikai vezetősködés sokak álma, de az árnyoldalaival kevesen vannak tisztában.

Nagy pénz, nagy szívás: útravaló csúcstámadó IT-soknak Az informatikai vezetősködés sokak álma, de az árnyoldalaival kevesen vannak tisztában.

A képviselők tilalmi listára tették az MI magánéletet sértő és diszkriminatív alkalmazásait is, többek között a köztereken zajló,  „valós idejű” és „utólagos” távoli biometrikus azonosítást; az érzékeny személyes adatokon (nemen, fajon, etnikai származáson, állampolgárságon, valláson, politikai szemléleten) alapuló biometrikus kategorizálást; a profilalkotásra, illetve a tartózkodási helyre vagy bűnözői előéletre alapozott prediktív rendvédelmet.

Tiltólistán ezen felül az érzelemfelismerés alkalmazása a bűnüldözésben, a határellenőrzésben, a munkahelyen és az oktatási intézményekben. Továbbá nem tolerált az arcfelismerő adatbázisok létrehozása az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan leválogatott arcképek felhasználásával, mivel a tevékenység sérti az emberi jogokat és a magánélethez való jogot.

A képviselők nagy kockázatúnak minősítenék azokat az MI-rendszereket, amelyek jelentős mértékben veszélyeztetik az emberek egészségét, biztonságát, alapvető jogait vagy a környezetet. A választási eredmények és a szavazók befolyásolására alkalmas MI-rendszerek, illetve a több mint 45 millió felhasználóval rendelkező közösségimédia-platformok által használt ajánlórendszerek a képviselők javaslatában szintén felkerültek erre a listára.

A Parlament álláspontja szerint az általános célú MI-rendszerek fejlesztői csak azután hozhatnák forgalomba termékeiket az uniós piacon, hogy felmérték és mérsékelték a lehetséges kockázatokat (az egészségre, biztonságra, az alapvető jogokra, a természeti környezetre, a demokráciára és a jogállamiságra), és bejegyeztették modelljeiket az uniós adatbázisba.

Az ilyen modelleken alapuló generatív MI-rendszerekkel szemben, mint például a ChatGPT, elvárás lenne az átláthatóság:

minden esetben fel kellene tüntetni, hogy a tartalmat mesterséges intelligencia állította elő, segítséget kellene nyújtani az úgynevezett „deep fake” képeknek az igaziaktól való megkülönböztetésében, valamint megfelelő biztosítékokkal kellene elejét venni a jogellenes tartalomgenerálásnak. Részletes összefoglalást kellene például közzétenni a rendszerek betanításához használt, szerzői jogi védelem alatt álló adatokról.

A korlátozott kockázatú MI-rendszereknek meg kell felelniük a minimális átláthatósági követelményeknek, amelyek lehetővé teszik a felhasználók számára, hogy megalapozott döntéseket hozzanak. Az alkalmazásokkal való interakció után a felhasználó eldöntheti, hogy szeretné-e tovább használni, illetve tájékoztatni kell őket róla, hogy MI-vel kommunikálnak. 

Az innováció és a kkv-k támogatása érdekében a képviselők azt javasolták, hogy a kutatási tevékenységekre és a nyílt forráskódú licencek alapján rendelkezésre bocsátott MI-komponensekre ne terjedjen ki minden kötelezettség. A jogszabályjavaslat azoknak a szabályozói tesztkörnyezeteknek is kedvez, amelyekben a hatóságok valós élethelyzeteket leképezve tesztelik az MI-rendszereket.

A képviselők több jogot kívánnak adni a polgároknak ahhoz, hogy adott esetben panasszal éljenek az MI-rendszerek alkalmazásával szemben. Az alapvető jogaikra jelentősen kiható döntésekről pedig részletes tájékoztatást kellene kapniuk a polgároknak, amennyiben azok nagy kockázatú MI-rendszerek bevonásával születtek. Végezetül a Parlament kibővítené az MI-ügyekkel foglalkozó uniós hivatal hatásköreit, hogy az nyomon tudja követni az MI-szabálykönyv végrehajtását.

Nagyon széles az a skála, amin az állásinterjú visszajelzések tartalmi minősége mozog: túl rövid, túl hosszú, semmitmondó, értelmetlen vagy semmi. A friss heti kraftie hírlevélben ezt jártuk körül. Ha tetszett a cikk, iratkozz fel, és minden héten elküldjük emailben a legfrissebbet!

a címlapról