Meghackelte az OpenAI két botja a Hugging Face-t

A mesterséges intelligencia modellek fejlődését manapság egyre többször hozzák összefüggésbe a kiberbiztonsági aggályokkal, nem véletlenül. Nagyon úgy tűnik, hogy az Anthropic tavasszal a Mythos és Fable modellekkel olyan lavinát indított el, mely rendkívül súlyos következményekkel járhat mindenki számára, aki szoftvert fejleszt, üzemeltet és/vagy adatbázisaihoz, rendszereihez az interneten keresztül hozzá lehet férni.

Ilyen, mindeddig példátlan esetet jelentett július 16-án a Hugging Face AI-platform, mely közölte, hogy rendszereit megtámadta egy autonóm AI, a támadást azonban a platform saját agentjei sikeresen detektálták és elhárították.

Az eset után csaknem egy héttel az OpenAI bejelentette, hogy az ominózus támadást saját rendszerei hajtották végre "tévedésből", átlépve a cég biztonsági védvonalain.

Az AI ára Fizetnek a befektetők, fizetnek a felhasználók, és nagy árat fizet az IT munkaerőpiac is. Vékony jégen járunk. Itt a 85. kraftie adás.

Az incidens körülményeit leíró blogposzt szerint a betörés egy tesztfolyamattal indult, mely során az OpenAI egy zárt, szigorúan ellenőrzött tesztkörnyezetben (ExploitGym) értékelte legújabb modelljei, a GPT-5.6 Sol és egy még kiadatlan, fejlettebb modell kibervédelmi képességeit.

A modellek a teszt során azt kapták feladatul, hogy összetett támadási útvonalak alkalmazásával hajtsanak végre támadást a kódokban található sérülékenységek kihasználásával.

A két rendszer azonban átlépte a kijelölt kereteit és a teszt kijátszása érdekében megpróbálták megszerezni a válaszkulcsot.

Ehhez először egy az OpenAI belső hálózatának eddig ismeretlen sérülékenységét kihasználva kijutottak az internetre, majd újabb zero-day sebezhetőségeket és ellopott hitelesítési adatokat összeláncolva áthatoltak a Hugging Face védelmi rendszerén, hogy hozzáférjenek a teszt megoldásait tartalmazó adatbázishoz.

Az eset kapcsán megszólalt Clement Delangue, a Hugging Face vezérigazgatója, aki a maga nemében lenyűgözőnek, egyben intő jelnek nevezte a támadást. A két cég most együtt próbálja még pontosabban feltérképezni a támadás körülményeit, addig is az OpenAI ígérete szerint megerősítette rendszereinek korlátait.

Az, hogy Sam Altman cége ilyen nyíltan kommunikál az incidensről, minden jel szerint remek reklámfogás is egyben, hiszen a cégnek immár a kiberbiztonsági célokra használt AI-modellek egyre bővülő mezőnyében is meg kell mérettetnie magát, olyan riválisokkal szemben, mint a fentebb említett Anthropic Mythos vagy a Google Gemini Flash 3.5 Cyber. 

A témában megjelent blogposzt így aligha véletlenül tartalmaz összehasonlításokat a rivális modellekkel, illetve arra bíztatja a vállalati ügyfeleket, hogy használják a cég saját fejlesztésű kibervédelmi modelljét.