Goblinmániássá tette az egész ChatGPT-t a kocka személyiségmód

A nagy nyelvi modellek tanítási folyamataikból és működésükből fakadóan olykor kifejezetten vicces módon hívják fel a a figyelmet a mesterséges intelligencia működésének sajátosságaira. Itt van például a goblin-jelenség, melyre annyian felkapták a fejüket, hogy az OpenAI külön blogposztot szánt a szálak kibogozására.

Maga a jelenség nagyjából annyiból állt, hogy a GPT-5.1 -es verzió tavalyi megjelenését követően kutatók észrevették, hogy a chatbot a hasonlataiban gyanúsan gyakran használ goblinokat, gremlineket és más fantasy lényeket. 

Később kiderült, hogy a furcsa viselkedés a ChatGPT egyik választható személyiségmódjához köthető. A nerdy, vagy magyarul nagyjából kocka személyiséget ugyanis úgy programozták, hogy legyen az átlagosnál intellektuálisabb, játékosabb, amit a személyiségmód túl szorosan kapcsolt össze a fantasy szerepjátékokkal, illetve azok világával.

8 erős érv a friss AI Engineering alapjai képzésünk mellett Összefoglaltuk röviden, hogy miért érdemes részt venni a május 26-án induló online tanfolyamon.

Ennek oka az OpenAI szerint az volt, hogy a megerősítő tanulás során a rendszer jutalmat adott a modellnek minden olyan válaszért cserébe, melyben ilyen lények szerepeltek hasonlatként. Bár a goblinmánia elsősorban a kockamódot hatotta át, a jelenség az alapmodell működésére is kihatással volt, mivel a modell megtanulta, hogy az adott szavak "sikeresek" - ezen a ponton pedig beindult egy öngerjesztő folyamat azzal, hogy a modell egyre többször generált goblinos szöveget, ezek pedig bekerültek a következő tanítási fázisokba.

Az OpenAI végül a hiba azonosítását követően, idén márciusban lekapcsolta a kocka személyiségmodellt, szűrni kezdte a tanítóadatokat, az áprilisban megjelent GPT-5.5 pedig már tiltó utasításokat is kapott kifejezetten a goblinokkal kapcsolatos említések megfékezésére.