Kikapcsolta saját felügyeletét az OpenAI két modellje
Újabb olyan esetet hozott nyilvánosságra az OpenAI, ahol a cég által fejlesztett modellek nem az előre meghatározott keretek közt végezték el a kiszabott feladatokat. Egyikük ráadásul kategorikusan tagadta, hogy ezt tette volna.
A mesterséges intelligencia modellek, illetve agentek fejlesztése kapcsán az utóbbi időben kiemelt fókuszt kapnak a különböző felügyeleti eljárások, melyek arra szolgálnak, hogy az AI egy-egy adott tesztfolyamat során ténylegesen csak olyan tevékenységeket végezzen el, melyet a humán üzemeltetők nekik szántak.
Éppen ezért lehet aggasztó, amikor az AI-modellek kikapcsolják a feladatok végrehajtása közben ezeket a felügyeleti mechanizmusokat - márpedig az OpenAI most két olyan októberi esetet is dokumentált, amikor pontosan ez történt.
Bye-bye IT, helló kovász, helló kuvasz! Az IT-szakma az elmúlt években már a sokadik krízisén esik át, és egyre többeket gondolkodtat el: van-e élet a szakmán kívül?
Az első alkalommal, október 3-án a GPT-6.1 Sol modellre épülő egyik ügynök egy belső tesztfeladat során elnyomta az automatikus biztonsági riasztásokat, mivel úgy értelmezett egy korábbi utasítást - miszerint nem lehet Slack-üzeneteket küldenie -, hogy az a biztonsági értesítésekre is vonatkozik.
Ennél valamivel problémásabb eset történt három nappal később, amikor egy GPT-6 Astra -alapú agent egy meglévő kódot másolva eltávolított egy biztonsági felügyeleti komponenst, majd később ezt szisztematikusan letagadta.
Az OpenAI egyelőre nem tudott kielégítő magyarázattal szolgálni a történtekre, így nem ismert a modellek pontos motivációja sem az esetek kapcsán. A cég most megpróbál olyan teszteket fejleszteni, melyek erre választ adnak, addig is módosította belső rendszereit annak érdekében, hogy a felügyeleti mechanizmusok kikapcsolása nehezebbé váljon, illetve a hasonló próbálkozások jobban felismerhetők legyenek.
Az AI-startup egyben közölte, hogy a két eset közül egyik sem kapott kritikus besorolást saját, belső incidenskezelő rendszere alapján.
Fontos kiemelni emellett, hogy a most nyilvánosságra hozott esetek önmagukban nem bizonyítják, hogy a modellek emberi értelemben vett szándékossággal vagy tudatos önvédelmi motivációval cselekedtek.