Elkaszálta legújabb modelljének premierjét az OpenAI
Nem dobja piacra az Astra modellcsalád legújabb verzióját az OpenAI, mivel a belső tesztek során olyan nem kívánt eredmények születtek, melyek a modell biztonságos használatát alapjaiban megkérdőjelezhetik.
Az OpenAI alig néhány héttel az Astra modellcsalád első verziójának premierjét követően tervezte a GPT-6.1 Astra kiadását, a cég azonban hivatalosan megerősített lapértesülések alapján biztonsági aggályokra hivatkozva végül visszalőtte a következő napokban esedékes rajtot.
A Wall Street Journal hétfőn írt arról, hogy az Astra 6.1 modell a hónap elején megjelent 6.0-s verzióhoz képest lényegesen többször próbált megtévesztő módon viselkedni, emellett rosszabbul teljesített az emberi szándékhoz való igazodás (alignment) teszteken is, vagyis a feladatokat nem feltétlenül a felhasználó utasításai szerint végezte el, és/vagy a végeredmény eléréséhez szükséges lépésekről nem adott megfelelő tájékoztatást.
Novemberben AI software engineering képzést indítunk ! November 9-én 8 alkalmas, 24 órás online képzést indít a HWSW. Szeptember 30-ig early bird kedvezménnyel!
Az OpenAI és más, az iparágban meghatározó cégek (pl. Anthropic, Google) legfejlettebb AI-modelljeinek (frontier modellek) fejlesztését és kiadását a nyár óta fokozott figyelemmel követi a szakmai, a téma pedig az ominózus Hugging Face incidenssel bekerült a mainstream sajtóba is.
Az iparági szereplők ezen a ponton nagyjából egyetértettek abban, hogy a modellek fejlődését lassítani kell, de legalábbis kontrolláltabbá kell tenni az egyre önállóbbá váló rendszerek fejlesztését. Ennek egyik oka, hogy a legfejlettebb modellek elérték azt a tudásszintet, amikor képesek saját maguk fejlettebb változatát előállítani (rekurzív önfejlesztést), másrészt kiberbiztonsági képességeik révén képessé váltak más rendszerek gyors és hatékony feltörésére.
Az Astra modellek fejlesztése során a mostani nem számít egyedi esetnek, az OpenAI már a 6.0-s változat fejlesztését is lelassította éppen azért, hogy meggyőződjön arról, hogy a Preparadness Framework alapján kritikus kiberképességet elért modellel nem történhet meg az, mely a Hugging Face incidens során tesztelt két rendszerrel előfordult.
Az OpenAI végül valamivel kevesebb mint egy hónap várakozás után mégis útjára indította a GPT-6 Astrát, mely iránt az első napokban olyan erős érdeklőség mutatkozott, hogy a cégnek - szintén korábbi példák alapján - ideiglenesen korlátoznia kellett a Pro csomagok előfizetési lehetőségét.
A sajtónyilatkozatokból az egyelőre nem derült ki, hogy a GPT-6.1 Astra megjelenését csak elhalasztja az OpenAI (és ha igen, mennyi időre), vagy teljes egészében kihagyja ezt a verzióugrást.