Nem magától az AI-tól, inkább a techcégek hatalmától tart Leó pápa
Az elmúlt években a katolikus egyház egyre hangsúlyosabban fogalmazta meg kritikáit a techszektorral szemben. A hétfőn kiadott, AI-korszak társadalmi hatásait értelmező új enciklika egyértelműen jelzi, hogy a Vatikán hosszú távon aktív szereplő kíván lenni az etikai vitákban.
Pünkösdhétfőre időzítve jelent meg XIV. Leó első pápai enciklikája, a Magnifica Humanitas (Magasztos/fenséges emberiség), mely az AI és emberiség közti együttműködéssel kapcsolatos intelmeket tartalmazza. A Vatikán által közzétett több mint 43 ezer szavas dokumentum gyakorlatilag a katolikus egyház első olyan hivatalos teológiai dokumentuma, mely az AI korszak kérdéseivel foglalkozik, méghozzá eléggé sürgető hangnemben.
Már az is jelzésértékű, hogy a pápa május 15-én írta alá a művet, hiszen épp erre a napra esett anno XIII. Leó korszakalkotó enciklikája, a Rerum novarum megjelenése is. Az 1891-ben kiadott dokumentum az ipari forradalom idején taglalta a munkások méltóságát védelmét, így ez a gesztus azt is jelezheti, hogy az AI hasonló, akár ugyanolyan mélyreható változásokat hozhat a világban, amit az iparosodás hozott a 19. század végén. Az enciklika bemutatóján jelen volt Christopher Olah, az Anthropic kutatója is, aki támogatta a pápa javaslatait a külsős, független AI-felügyelet szükségességéről.
8 erős érv a friss AI Engineering alapjai képzésünk mellett Összefoglaltuk röviden, hogy miért érdemes részt venni a május 26-án induló online tanfolyamon.
A Magnifica Humanitas legfontosabb üzenete, hogy az AI-ról szóló viták nem szűkíthetők le algoritmusokra vagy szoftverekre, a kulcskérdés inkább az, hogy ki birtokolja az adatokat, ki ellenőrzi a rendszereket, és milyen társadalmi értékek mentén zajlanak a fejlesztések. Az első amerikai pápa szerint az adatok tulajdonjoga nem szabad, hogy kizárólag magánkézben maradjon, és arra sürget, hogy a politikai döntéshozók védjék a munkavállalók jogait. Mindeközben az AI-vállalatok közötti verseny enyhítését támogató intézkedések bevezetésére lenne szükség.
Ugyan a pápa az AI-t a bibliai Bábel tornyához hasonlítja, mely az emberiség technológiai önhittségének jelképeként széthúzáshoz és káoszhoz vezethet, mégsem képvisel kimondottan technofób álláspontot. A fő hangsúly inkább azon a gondolaton van, hogy az AI magában nem rossz, de meg kell akadályozni, hogy a technológia uralja az embert, és nem szerencsés, ha a technológiai infrastruktúra és az adatvagyon egy szűk vállalati elit kezében összpontosul.
A pápa szerint a valódi veszélyt a demokratikus kontroll hiánya jelentheti, ezért elsődlegesen a fejlesztések lassítására és a nemzetközi szabályozások kidolgozására sürget.
Az enciklika kitér olyan problémákra is, hogy a technológiai verseny felgyorsíthat korábbi folyamatokat, ezáltal egyre nőhetnek a társadalmi egyenlőtlenségek, a politikai manipuláció burjánzása és a munkavállalók kiszolgáltatottsága. A pápa élesen bírálja azt a gazdasági modellt is, amelyben az AI-fejlesztések elsődleges célja a piaci fölény megszerzése, mivel az algoritmusok ma már nem csupán technológiai eszközök, hanem politikai és társadalmi erőforrások is egyben. XIV. Leó szerint az emberi döntéshozatal fokozatos kiszervezése az algoritmusoknak veszélyeztetheti a demokratikus intézményeket.
A katonai AI-rendszerek említésekor XIV. Leó különösen veszélyesnek tartja az autonóm fegyverek fejlődését, melyek bizonyos döntéseket már emberi kontroll nélkül képesek meghozni. Ez az AI-alapú hadviselés csökkentheti az erőszak pszichológiai és erkölcsi küszöbét, mivel ha a döntések egy részét gépek hozzák meg, az ember eltávolodik a konfliktusok valós következményeitől és a felelősségvállalástól.