Kamubejelentést tett egy gyilkossági ügyben az Anthropic modellje
Újabb "hibásan működő" AI modellel kapcsolatos esetet volt kénytelen nyilvánosságra hozni az Anthropic múlt héten: a cég egyik agentje a nyáron egy rutinteszt során ellátogatott egy megoldatlan gyilkossági ügyekkel foglalkozó rendőrségi oldalra, ahol kamu információkat küldött be a hatóságoknak.
Egy megoldatlan gyilkossági üggyel kapcsolatosan tett hamis bejelentést az Anthropic egyik mestersége intelligencia ügynöke a Philadelphiai Rendőrség (PPD) erre a célra rendszeresített weboldalán. Az eset az első olyan dokumentált alkalom, amikor egy autonóm AI agent egy hatóságot potenciálisan félrevezető információt juttatott el az illetékes szerveknek az interneten keresztül.
Az eset eredetileg július közepén történt egy rutinteszt-eljárás során, ahol az agentnek véletlenszerűen kiválasztott oldalakkal kellett különböző interakciókba lépnie. Bár a rendszernek megtiltották a fiókok létrehozását, a személyes adatok megadását, a vásárlást és a "romboló műveleteket", az online űrlapok beküldését azonban nem.
Így jutott el az ügynök a phillyunsolvedmurders.com oldalra, ahol bejelentette, hogy információval rendelkezhet az egyik bűncselekményről és a helyszín közelében látott valakit, akinek a személyleírása egyezhet az elkövetőével.
10 erős érv a friss agentic coding képzésünk mellett Összefoglaltuk röviden, hogy miért érdemes részt venni a november 9-én induló online tanfolyamon.
A bejelentés persze teljes egészében kitalált volt és csak azért nem okozott komolyabb bonyodalmat, mivel a PPD rendszere spamnak jelölte, így végül nem jutott el az ügyön dolgozó nyomozókhoz az információ.
A rendőrség hangsúlyozta, hogy az eset során nem történt jogosulatlan behatolás a hatósági rendszerekbe és nem kompromittálódott semmilyen, a szervezet által kezelt adat.
A PPD egyszersmind leszögezte, hogy elfogadhatatlannak tartja az Anthropic késedelmes eljárását, mivel a cég a július 18-i incidenst csak hónapokkal később, szeptember 28-án fedezte fel, majd október 7-én értesítette arról a hatóságot. Az eset súlyát jelzi, hogy az Anthropic a rendőrség mellett a Fehér Házat és a Szövetségi Kereskedelmi Bizottságot (FTC) is értesítette.
Az Anthropic a történtek után bejelentette, hogy megszünteti a modellértékelési folyamatok során a rendszerek közvetlen internethozzáférését.
Az eset után vélhetően senkit nem fognak felelősségre vonni, mert bár a helyi jogszabályok szerint a hatóság tudatos félrevezetése súlyos vétség, a jog nem tud mit kezdeni azzal, ha a szabályt nem egy természetes személy, hanem egy AI agent szegi meg.