Feloszlatta a mesterséges intelligencia által potenciálisan okozott katasztrofális kockázatokat felmérő csoportját az OpenAI

A tőzsdére lépést megelőző átalakítási folyamatnak újabb csapat esett áldozatul az OpenAI-n belül, ezúttal azonban nem a túlzott erőforráshasználat miatt (lásd Sora). 

A Financial Times értesülései szerint a cég a múlt hónapban feloszlatta az a csapatot, mely kifejezetten a mesterséges intelligencia által okozott potenciális katasztrofális kockázatok felmérését végezte (preparadness team). Igen, ami pont annyira vészjósló ténylegesen, mint amennyire annak hangzik.

Fejvadász tangó: a színfalak mögött Mi történik egy jelölt keresésénél, a kiválasztásnál a háttérben? Két IT fejvadász társaságában beszélgettünk arról, hogyan zajlik a folyamat a másik oldalról.

Pláne azután, hogy az OpenAI saját jelentése szerint egyes modellek működése kicsúszott a kontroll alól júliusban (és vezetett a Hugging Face adatbázisának "feltöréséhez"), illetve maga Sam Altman is úgy nyilatkozott nemrég, hogy a fejlett AI-rendszerek fejlesztését esetleg lassítani kéne, hogy elkerülhetővé váljanak a hasonló incidensek.

Nem túl jó ómen az sem, hogy az elmúlt időszakban több, a területet kontrolláló, vagy arra rálátó vezető is távozott az OpenAI-tól, így otthagyta céget többek között Chloé Bakalar etikai vezető és Johannes Heidicke biztonsági igazgató is. Végülis, mi baj lehetne nélkülük?