Súlyos biztonsági incidenshez vezetett egy AI ügynök tanácsa a Meta-nál
Múlt héten rövid ideig tartó, potenciálisan súlyos következményekkel járó biztonsági incidenst idézett elő egy meta-alkalmazott, aki egy AI ügynök tanácsára hallgatva végzett el módosításokat a rendszerben.
Az AI ügynökök használata számos céges belső folyamatot hivatott egyszerűbbé, gördülékenyebbé tenni, ám ellenőrizetlen működésüknek súlyos ára lehet. Múlt héten kevésen múlt, hogy a Meta nagyon megégesse a kezét egy ilyen esetben.
A The Information riportja szerint a vállalat alkalmazottai múlt héten mintegy két órán keresztül hozzáférési jogosultságot kaptak olyan, szenzitív felhasználói adatokat tartalmazó adatbázisokhoz, melyekhez eredetileg nem férhettek volna hozzá - mindezt azután, hogy egy AI ügynök pontatlan technikai megoldási javaslatot adott egy fejlesztőmérnöknek, aki ellenőrizetlenül végrehajtotta azt.
Miért érdemes belevágnod AI Agent fejlesztői képzésünkbe? Összefoglaltuk röviden, hogy miért érdemes részt venni a szeptember 21-én induló online tanfolyamon.
A vállalat szóvivője a The Verge-nek megerősítette az incidenst, mely a Meta skáláján az SEV1, vagyis a második legkritikusabb minősítést kapta. Tracy Clayton hozzátette, hogy az AI ügynök semmilyen tevékenységet nem végzett önállóan a Meta rendszereiben, csupán válaszolt a mérnök által feltett kérdésre.
A cég magyarázata szerint voltaképpen emberi mulasztás történt, mivel a mérnök mindvégig tudatában volt annak, hogy egy bottal beszél, ezzel együtt az eset nem történt volna meg, ha a végrehajtás előtt ellenőrizte volna, hogy az ügynök által nyújtott információk helytállóak-e.
A Meta szerint az eset során nem kerültek illetéktelen kézbe felhasználói adatok.
Múlt hónapban szintén bekerült egy olyan Meta-alkalmazott a hírekbe, akinek meggyűlt a baja egy AI ügynökkel, melyet ez esetben konkrétan az OpenClaw rendszerében hozott létre. Az ügynök a felhasználó kérését félreértelmezve törölni kezdte a gmailes inboxának a teljes tartalmát, ráadásul a promptba beírt határozott utasításra sem állította le a folyamatot.