Szerző: Dömös Zsuzsanna

2023. május 2. 10:30

Elfogadta az EU az új MI-törvény tervezetét

Időközben a generatív MI problémáira reagáló szabályokkal is bővült a már két éve bemutatott tervezet, ami az első átfogó szabályozást hozná el az unióban a mesterséges intelligencia területén.

Két évvel az előterjesztés után az uniós jogalkotás elfogadta a mesterséges intelligencia jövőbeni, az EU tagállamain belüli működését meghatározó keretrendszer szabálytervezetének időközben kiterjesztett verzióját (AI Act, AIA), ami az elképzelések szerint az MI-rendszerek által jelentett sajátos kockázatokat hivatott kezelni, és az első átfogó törvénycsomag lenne a területen. A következő, egyeztetési szakaszban az uniós törvényhozók és a tagállamok megtárgyalják a törvényjavaslat végső részleteit.

Az Euractiv jelentése szerint az Európai Parlament képviselői a korábbi javaslatok megerősítése mellett reagáltak a generatív modellek elterjedésére is, és szigorúbb kötelezettségeket rónának az „általános célú mesterséges intelligencia rendszerek (GPAIS)" alkategóriába tartozó eszközökre, ami alá például a nyilvánosság számára is széles körben hozzáférhető ChatGPT chatbot tartozik. A javaslatok értelmében azoknak a cégeknek, amelyek olyan generatív mesterséges intelligencia eszközöket készítenek, mint a ChatGPT, vagy a Midjourney képgenerátor, nyilvánosságra kell hozniuk, hogy használtak-e szerzői joggal védett anyagokat rendszereikben, ezzel pedig nagyobb átláthatóságot kényszerítene a szolgáltatásokra.

A Parlament az eredetileg javasoltnál több alkalmazással szeretne foglalkozni, beleértve az olyan rendszereket, amelyek „befolyásolhatják a demokratikus folyamatokat, választásokat”, vagy az „általános célú mesterséges intelligencia”, amelyek különböző alkalmazásokba integrálhatók, mint például az OpenAI ChatGPT.

A generatív modelleket az előírások szerint többek közt „az uniós joggal és az alapvető jogokkal, köztük a véleménynyilvánítás szabadságával összhangban kell megtervezni és fejleszteni”. Mher Hakobyan, az Amnesty International mesterséges intelligencia szabályozásával foglalkozó jogvédő tanácsadója szerint a törvény lehetőséget kínál az uniós jogalkotóknak, hogy véget vessenek a diszkriminatív és jogsértő mesterséges intelligencia-rendszerek használatának.

mi_tervezet

Promptolsz-e már padawan?

Januári, juniorokkal foglalkozó adásunk a téma felsőoktatási aspektusait nem érintette. Ezen most változtatunk.

Promptolsz-e már padawan? Januári, juniorokkal foglalkozó adásunk a téma felsőoktatási aspektusait nem érintette. Ezen most változtatunk.

A Bizottság közleménye szerint a rendelet szabályai megfelelően fogják kezelni az MI-rendszerek használata által jelentkező "sajátos kockázatokat", miközben az egyensúlyt figyelem előtt tartva "nem korlátozzák az innovációt". Az új szabályokat a mesterséges intelligencia időtálló meghatározása alapján valamennyi tagállamban azonos módon, közvetlenül kell alkalmazni. A kockázatalapú megközelítést bevezető szabályzat több kategóriát nevez meg, a minimálistól kezdve a magas kockázatig, így értelemszerűen az alacsony kockázatú felhasználási esetek nem igénylik a szigorúbb szabályozási kereteket, míg a magas kockázat átfogó dokumentálásra, tesztelésre és egyéb biztonsági intézkedések megtételére kötelezi a fejlesztőket.

Elfogadhatatlan kockázatúnak számítanak például az olyan MI-rendszerek, amelyek egyértelműen veszélyeztetik az emberek biztonságát, megélhetését és jogait, a rendelet értelmében be lesznek tiltva. Ide tartoznak az olyan MI-rendszerek vagy -alkalmazások, amelyek a felhasználók szabad akaratának megkerülése érdekében manipulálják az emberi viselkedést (pl. olyan játékok, amelyek hangasszisztens-szolgáltatások révén a kiskorúakat veszélyes viselkedésre ösztönzik) és olyan rendszerek, amelyek lehetővé teszik a kormányok általi „társadalmi pontozást”. A magas kockázatúnak minősített MI-rendszerek közé tartoznak többek közt a kritikus infrastruktúrák, az oktatás és szakképzés, az alapvető magán- és közszolgáltatások, a bűnüldözés és az igazságszolgáltatás területén alkalmazott MI-technológiák.

Minimális kockázat kategóriájában említhetők a mesterséges intelligencián alapuló videojátékok vagy a spamszűrők. A mesterségesintelligencia-rendszerek túlnyomó többsége ebbe a kategóriába tartozik. A rendelettervezet itt nem avatkozik be, mivel ezek a mesterségesintelligencia-rendszerek csak minimális kockázatot jelentenek a polgárok jogaira vagy biztonságára nézve.

Az átfogó uniós MI-törvény a jogászok szerint még évekbe telhet, mire hatályba léphet, de a döntéshozatal lassúsága miatt többször kritizált Brüsszel még így is viszonylag magához képest gyorsan reagál a technológia által jelentett új veszélyekre.

A sorozat május 28-i, harmadik állomásán az AWS-ben biztonsági megoldásait vesszük nagyító alá. Átnézzük a teljes AWS security portfóliót a konténerbiztonságtól a gépi tanulásos alkalmazások védelmén át, egészen az incidenskezelésig.

a címlapról

MÁLNÁS

6

Tőzsdére megy a Raspberry Pi

2024. május 16. 14:00

Az elmúlt évek meghatározó áramköri lapkáit készítő technológiai cég papírjaival is lehet majd kereskedni a brit tőzsdén.