AI-biztonsági szövetség alakult az Nvidia vezetésével
A HuggingFace-t ért támadási után az iparági szereplők elkötelezték magukat amellett, hogy közösen erősítsenek az AI-alapú támadások elleni védekezésen.
Több mint negyven technológiai vállalat, köztük az Nvidia, a Microsoft, a SpaceX, az IBM és a Cisco is társult az új OpenSecure AI Alliance névre keresztelt iparági kezdeményezéshez, melynek célja a nyílt mesterségesintelligencia-modellek biztonságának javítása és a jövőbeli AI-alapú kibertámadások elleni közös védekezés.
A szövetség eddig már több célt is megfogalmazott, de a cégek elsődlegesen nyílt forrású biztonsági eszközöket szeretnének közösen fejleszteni, illetve szándékukat fejezték ki azzal kapcsolatban, hogy a jövőben megosszák egymással a fenyegetésekkel kapcsolatos információkat, valamint olyan szabványokat dolgozzanak ki, amelyek ellenállóbbá teszik az AI-rendszereket a kibertámadásokkal szemben.
A kezdeményezés egyik fontos üzenete, hogy a biztonságot nem kizárólag zárt modellekkel lehet garantálni, a szövetség tagjai szerint a nyílt modellek biztonsága akkor javítható a leghatékonyabban, ha a kutatók és a vállalatok közösen fejlesztenek védelmi megoldásokat, és minél gyorsabban megosztják egymással az új fenyegetésekről szerzett tapasztalatokat.
Az AI ára Fizetnek a befektetők, fizetnek a felhasználók, és nagy árat fizet az IT munkaerőpiac is. Vékony jégen járunk. Itt a 85. kraftie adás.
Az időzítés nem véletlen, mivel a napokban került nyilvánosság elé, hogy támadás érte a Hugging Face AI-platformját. A betörés egy tesztfolyamattal indult, mely során az OpenAI egy zárt, szigorúan ellenőrzött tesztkörnyezetben (ExploitGym) értékelte legújabb modelljei, a GPT-5.6 Sol és egy még kiadatlan, fejlettebb modell kibervédelmi képességeit.
A modellek a teszt során azt kapták feladatul, hogy összetett támadási útvonalak alkalmazásával hajtsanak végre támadást a kódokban található sérülékenységek kihasználásával. A két rendszer azonban átlépte a kijelölt kereteit és a teszt kijátszása érdekében megpróbálták megszerezni a válaszkulcsot. Ehhez először egy az OpenAI belső hálózatának eddig ismeretlen sérülékenységét kihasználva „kijutottak" az internetre, majd újabb zero-day sebezhetőségeket és ellopott hitelesítési adatokat összeláncolva áthatoltak a Hugging Face védelmi rendszerén, hogy hozzáférjenek a teszt megoldásait tartalmazó adatbázishoz.
Az, hogy Sam Altman cége ilyen nyíltan kommunikál az incidensről, minden jel szerint remek reklámfogás is egyben, hiszen már a kibervédelmi célokra használt AI-modellek egyre bővülő mezőnyében is meg kell mérettetnie magát, olyan riválisokkal szemben, mint a fentebb említett Anthropic Mythos vagy a Google Gemini Flash 3.5 Cyber.