Súlyos biztonsági incidenshez vezetett egy AI ügynök tanácsa a Meta-nál
Múlt héten rövid ideig tartó, potenciálisan súlyos következményekkel járó biztonsági incidenst idézett elő egy meta-alkalmazott, aki egy AI ügynök tanácsára hallgatva végzett el módosításokat a rendszerben.
Az AI ügynökök használata számos céges belső folyamatot hivatott egyszerűbbé, gördülékenyebbé tenni, ám ellenőrizetlen működésüknek súlyos ára lehet. Múlt héten kevésen múlt, hogy a Meta nagyon megégesse a kezét egy ilyen esetben.
A The Information riportja szerint a vállalat alkalmazottai múlt héten mintegy két órán keresztül hozzáférési jogosultságot kaptak olyan, szenzitív felhasználói adatokat tartalmazó adatbázisokhoz, melyekhez eredetileg nem férhettek volna hozzá - mindezt azután, hogy egy AI ügynök pontatlan technikai megoldási javaslatot adott egy fejlesztőmérnöknek, aki ellenőrizetlenül végrehajtotta azt.
Az AI erősokszorozó egy rutinos security szakember kezében Az AI nem csak a fejlesztésre van hatással: új sorozatunkban végignézzük, hogyan hat az informatika más részterületeire.
A vállalat szóvivője a The Verge-nek megerősítette az incidenst, mely a Meta skáláján az SEV1, vagyis a második legkritikusabb minősítést kapta. Tracy Clayton hozzátette, hogy az AI ügynök semmilyen tevékenységet nem végzett önállóan a Meta rendszereiben, csupán válaszolt a mérnök által feltett kérdésre.
A cég magyarázata szerint voltaképpen emberi mulasztás történt, mivel a mérnök mindvégig tudatában volt annak, hogy egy bottal beszél, ezzel együtt az eset nem történt volna meg, ha a végrehajtás előtt ellenőrizte volna, hogy az ügynök által nyújtott információk helytállóak-e.
A Meta szerint az eset során nem kerültek illetéktelen kézbe felhasználói adatok.
Múlt hónapban szintén bekerült egy olyan Meta-alkalmazott a hírekbe, akinek meggyűlt a baja egy AI ügynökkel, melyet ez esetben konkrétan az OpenClaw rendszerében hozott létre. Az ügynök a felhasználó kérését félreértelmezve törölni kezdte a gmailes inboxának a teljes tartalmát, ráadásul a promptba beírt határozott utasításra sem állította le a folyamatot.