Pár napja mi is írtunk arról külföldi lapok nyomán, hogy a Meta AI-asszisztensében megbújó súlyos hibát kihasználva rosszindulatú felek könnyedén átvehették az irányítást gyakorlatilag bárki Instagram-fiókja felett, még a kétfaktoros azonosítás ellenére is. Így történhetett meg, hogy ellopták többek közt Barack Obama volt amerikai elnök régi fehér házi, és a korábban Metánál dolgozó Jane Manchun Wong accountjait is.

A közösségi óriás szűkszavú közleménye nem válaszolta meg, hogyan kerülhetett ilyen banális és súlyos biztonsági rés az AI-alapú eszközbe. Egyes szakértők szerint a támadás sikerességében szerepet játszott az is, hogy a Meta chatbot a fióktulajdonosok fizikai helyére támaszkodik, és a hackerek VPN-nel maszkolva igazolták a kiszemelt személy/fiók tartózkodási helyét.

A globális szoftverfejlesztői közösség egyik legismertebb szerzője, a The Pragmatic Engineer hírlevelet író Orosz Gergő nemrég a HWSW-hez is ellátogatott a Krafti 82. adásának vendégeként, ahol első kézből származó információkat osztott meg velünk a botrányosan aggasztó üggyel kapcsolatban.

Orosz szerint a jelentésekkel ellenben a támadás kivitelezéséhez szinte semmilyen biztonsági intézkedést nem kellett kijátszani az elkövetőknek, mivel az AI még a szelfis azonosítást se igényelte, különösebb azonosítás vagy hitelesítés nélkül végigment a támadás. A korábbi jelentésekkel ellenben még az e-mail cím megváltoztatására sem volt szükség: bárki kérhette a Meta AI-tól, hogy változtassa meg a kiszemelt accounthoz tartozó jelszót, ehhez még szelfit sem kért a rendszer.

A Metánál dolgozó egyik belsős forrás szerint a közelmúltbeli leépítések és a vezetőség felől érkező, AI-használatot túltoló nyomás hatására „padlón van a morál” a cégnél. Főként ennek a nyomásnak lehet egyik következménye az Instagram-fiókokat érintő banális hiba is, amit még ironikusabb, hogy maga az AI idézett elő.

Szerették volna, ha minél több tokent mutat a leaderboard

A történet magjához egészen a Meta Trust and Safety részlegén belül dolgozó, Instagram biztonságáért felelős Integrity csapatig kell lenyúlni. Még a május végén történt 10 százalékos céges leépítés előtt a csapat 45 százalékát egyik napról a másikra fizikailag is áthelyezték egy másik csapathoz, hogy AI-labeling feladatokat végezzenek, onnantól kezdve gyakorlatilag a gépies munkának számító AI trainelés vált a fő feladatukká.

Az Instagramra „vigyázó” magasan képzett csapatnak tehát 40 százaléka kiesett, ami után a 10 százalékos leépítés is megfaragta a létszámot. Ennek eredményeként nem maradt elég ember az „on call” feladatok elvégzésére, tehát a futó szolgáltatás felügyeletére.

A Metánál Mark Zuckerbergtől felfelé mindenki tolja, hogy a dolgozók használják az AI-t kódírásra, reviewra. Bement egy csomó pull request, amiben csak AI írta a kódot, és csak AI végezte a review-t. És volt egy Trust and Safety csapat, ahol már senkit nem érdekelt a safety, mindenkit az érdekelt, hogy minél több tokent mutasson a leaderboard, mert tudták, hogy jönnek a kirúgások. Ember nem nézte meg azt a kódot, nem is vette észre, mert mindenki azzal volt elfoglalva, hogy minél több AI-t használjon.”

Orosz szerint az „AI-pszichózisban” lévő Mark Zuckerberg esetében egyértelműen látszik, hogy a vezető attól tart, hogy a Facebooknak „vége lesz", ha nem csinálnak egy szuper kódolómodellt, ami jobb lesz a Claude Opus 4.8-nál, ennek érdekében 5000 fejlesztőt raktak az adatokat trainelő részlegre. Ez lehet az alapja annak a Gergő által hallott belsős poénnak, hogy „csak a Metánál többen dolgoznak AI labelingen, mint az OpenAI-nál és Anthropicnál együtt".

A Gergővel készült teljes beszélgetést itt hallgathatod meg.