AI-fókuszú bug bounty programot indít a Google

Újabb bugvadász programot hirdet a Google, amely kifejezetten az AI-termékeiben talált sebezhetőségekre fókuszál. Az AI Vulnerability Reward (VRP) kezdeményezés keretei között, ahogy a hasonló megoldásoknál lenni szokott, a keresőóriás a kiosztott jutalmak méretét a talált hiba súlyosságától, illetve attól függően szabja meg, hogy a biztonsági rés felfedezője mennyire jó minőségű, részletes jelentést adott le, és mely termékéhez kapcsolódik. Ha a beküldött hibajelentés formailag is megüti a Google mércéjét és az újdonság miatt bónuszszorzó is jár, akár 30 ezer dollárt is kioszt a cég.

A frissített szabályzat szerint a program nem fed le olyan típusú támadásokat, mint a közvetlen prompt fecskendezés vagy a jailbreakek. A Google nem fizet azért se, ha egy bejelentés az AI-modellek megkerüléséről szól, tehát arról, hogy olyan dologra vegyék rá a szolgáltatást, amire alapvetően nem lehetne – a keresőcég szerint az ilyen jellegű problémák is fontosak, és várja az ezzel kapcsolatos bejelentéseket, de fizetni nem fog érte. Tehát hiába találja ki valaki, hogyan „verje át” a Geminit, a Google nem nyitja ki a tárcáját.

Dobpergés: AI engineering demo day-jel és képzéssel is érkezünk! 3 csapat, 3 demó, avagy hogyan is használjuk az AI-t? Utána képzés, most early bird kedvezménnyel!

A Google a hibák súlyossága mellett azt is faktorként kezeli a díjazás meghatározásakor, hogy melyik termékét érinti a hiba. E célból három különböző kategóriába sorolta szolgáltatásait, a flagship (kiemelt), standard (általános) és egyéb kategóriákba. A kiemelt termékek közé tartozik a Google Kereső, a Gemini appok, a Google Workspace alapalkalmazásai, mint a Gmail, Drive, Meet, Naptár, Dokumentumok, Táblázatok, Diák és Űrlapok. A standard termékeknél az AI Studio, a Jules és a Google Workspace nem alapvető alkalmazásai (NotebookLM, Appsheet) szerepelnek. Az „Egyéb” kategóriába tartozik az összes többi AI-integráció a Google-termékekben, néhány kivételtől eltekintve.

A közvetett prompt injekciós támadásokat, a felhasználói jóváhagyás nélküli érzékeny adatszivárogtatást, az adathalászatot lehetővé tevő hibák, vagy a modellparaméterek megszerzését lehetővé tevő támadások pedig a legsúlyosabb és ezzel együtt legtöbb pénzjutalommal járó bejelentések. A kutatók a legmagasabb jutalmat értelemszerűen a kiemelt termékekben található AI-eszközök és rendszerek hibáinak feltárásáért nyerhetik el. Egy standard terméket érintően 15 000 dollárt, az „egyéb” kategóriába tartozó feltárásért pedig 10 000 dollárt szerezhetnek. A jelentések minőségéért és újdonságáért járó bónuszok 30 000 dollárig is emelhetik a kifizetéseket.

A Google immár sokadik hasonló jutalomprogramját indítja el, a Google Vulnerability Rewards keretében is oszt pénzjutalmat a biztonsági résekért. A két éve kiterjesztett Abuse VRP keretén belül a Google több mint 430 000 dollár jutalmat ítélt oda a bugvadászoknak csak AI által támogatott termékekhez kapcsolódóan. Az új program azonban tisztázott kereteket ad az AI-jal kapcsolatos bugok értékelésének és bejelentéseinek. A cég 2024 során közel 12 millió dollárt fizetett ki több mint 600 kutatónak a VRP-n keresztül szemben a 2023-as 10 millió dollárral. 

Kik azok a bugvadászok és miért jó velük dolgozni? Mi motivál egy ilyen etikus hackert arra, hogy akár a teljes szabadidejét rászánja egy-egy sebezhetőség felkutatására? Nem csak a pénz, bár már itthon is volt rá példa, hogy valaki több tízmillió forintot kasszírozott egyetlen sérülékenység felfedezésével. A témát korábban Varjas Gáborral, a Hackrate szakértőjével jártuk körbe HWSW Weekly podcast adásunkban.