Nyugi, csak alig több mint 10 százalék esély van rá, hogy az AI egy évtizeden belül kiirtja az emberiséget!
A Skynet-módjára elszabaduló mesterséges intelligenciával való riogatás az idei év egyik slágertémája, különösen azután, hogy az agentek tudása a ChatGPT alapképességein immár jóval túlmutatva elért arra a szintre, hogy emberi beavatkozás nélkül képesek egész komplex feladatok félelmetesen gyors végrehajtására az online térben.
Szerencsére azonban elég kicsi a valós veszélye annak, hogy egy "öntudatára ébredt" AI-modell a Skynet babérjaira törve kiirtja az emberiséget. A témáról mindenesetre elég jól eldiskurált az X-en az Anthropic egyik biztonsági kutatója, Evan Hubinger és egy másik, cégnél dolgozó kutató, Jacob Coxon. Pontosabban csak ex-dolgozó, de erről később.
Tervezd újra a karriered az agentek világában ! Október 21-én ismét lesz kraftie meetup, ahol az AI 2026-os munkaerőpiaci és technológiai hatásai foguk kivesézni.
Az okfejtésbe később bekapcsolódó Hubinger egészen konkrét becslésre ragadtatta magát: szerinte reálisan nézve több mint 10 százalék esély van arra, hogy az AI-nak betudhatóan az elkövetkező tíz évben kihal az emberiség (de azért az Anthropic szeretné ezt elkerülni).
Coxon azonban ennél némileg borúlátóbb és felvetette az AI-cégek felelősségét, konkrétan kijelentve, hogy azok az önfejlesztő szuperintelligencia létrehozásával, illetve az ebben való versengésben emberek életével játszanak és ezzel pontosan tisztában is vannak.
A történet úgy kerek, ha hozzátesszük, hogy Coxon ebben a továbbiakban nem kívánt szerepet vállalni és erre hivatkozva ott is hagyta az Anthropicot, Hubinger pedig az ő meglehetősen sötét jövőképét próbálta kissé árnyalni - nem tudom, mennyire megnyugtató módon.
Via CNBC.