Féket rakott az OpenAI az új Astra modelljére

Az AI-modellek fejlődését manapság egyre többször hozzák összefüggésbe a kiberbiztonsági aggályokkal, nem véletlenül. Nagyon úgy tűnik, hogy az Anthropic tavasszal a Mythos és Fable modellekkel olyan lavinát indított el, mely rendkívül súlyos következményekkel járhat mindenki számára, aki szoftvert fejleszt, üzemeltet és/vagy adatbázisaihoz, rendszereihez az interneten keresztül hozzá lehet férni.

Az elmúlt hetekben sorra érkeztek a hatásvadászabb sajtójelentések arról, hogy egyik-másik autonóm AI „tévedésből” olyan támadásokat hajtott végre, melyeket nem kellett volna, többek közt a Hugging Face AI-platformot is betörés érte az OpenAI oldaláról. A ChatGPT-fejlesztő nyílt kommunikációja az incidensről azonban minden jel szerint remek reklámfogás is egyben, hiszen a cégnek immár a kibervédelmi célokra használt AI-modellek egyre bővülő mezőnyében is meg kell mérettetnie magát, olyan riválisokkal szemben, mint a fentebb említett Anthropic Mythos vagy a Google Gemini Flash 3.5 Cyber. 

Az OpenAI nem hagyja lankadni a figyelmet, és a napokban közölte, hogy ideiglenesen le kellett állítania az Astra kódnevű, fejlesztés alatt álló AI-modelljéhez kapcsolódó munkák egy részét, miután belső biztonsági tesztek során olyan „fejlett kiberbiztonsági képességeket" mért fel, melyek már a vállalat legmagasabb kockázati kategóriáját is elérhetik. A cég külön kiemelte, hogy az Astrának nem volt szerepe a Hugging Face rendszereit érintő korábbi biztonsági incidensben, tehát egy másik, jelenleg fejlesztés alatt álló modellről van szó.

Az AI ára Fizetnek a befektetők, fizetnek a felhasználók, és nagy árat fizet az IT munkaerőpiac is. Vékony jégen járunk. Itt a 85. kraftie adás.

Az OpenAI szerint az Astra fejlesztése során a modell jelentős előrelépést mutatott az úgynevezett agentic coding, vagyis az önállóan végrehajtott programozási feladatok, valamint a kiberbiztonsági műveletek terén, ezért nem lehet egyelőre kizárni, hogy a rendszer elérte a „kritikus” kiberképességekhez kapcsolódó küszöböt. A fejlesztés leállítása azt jelzi, hogy az OpenAI-nak még biztonsági intézkedéseket kell kialakítania a kiadás előtt, hogy megfelelően ellensúlyozza a modell képességeivel járó kockázatokat.

Az OpenAI Preparedness Framework nevű biztonsági keretrendszere alapján egy modell akkor érheti el a kritikus kiberképességi szintet, ha emberi beavatkozás nélkül képes működő zero-day sérülékenységek azonosítására és kidolgozására akár megerősített, valódi kritikus rendszerekben, illetve ha képes egy magas szintű célkitűzés alapján önállóan megtervezni és végrehajtani teljes, újszerű kibertámadási láncokat. Ez lényegesen magasabb szintet jelent annál, mint amikor egy chatbot képes exploitkódot generálni, biztonsági hibákat magyarázni vagy támogatni egy behatolási tesztet. A valódi kockázat az end-to-end autonómia, tehát hogy a modell a felderítéstől a sérülékenység kihasználásán át a támadás végrehajtásáig képes komplex folyamatok önálló kezelésére.

Az OpenAI ugyanakkor hangsúlyozza, hogy az Astra egyelőre nem kapta meg hivatalosan a kritikus besorolást, az előzetes értékelés után továbbra is folytatja a teszteket, azonban a modell teljesítménye már elég erős ahhoz, hogy a kritikus szint lehetőségét ne lehessen kizárni. Mivel az OpenAI üzleti modellje épp arra alapul, hogy a versenytársakat előzve próbálja piacra vinni saját fejlett modelljeit, a biztonsági tesztelés és a megfelelő védelem kialakítása könnyen a fejlesztési folyamat szűk keresztmetszetévé válhat.