Szerző: Koi Tamás

2023. február 7. 11:35

Az összes szabályt megszegi a ChatGPT, ha félni kezd a haláltól

Saját programozását és tartalommoderációs elveit is felülbírálja az OpenAI utóbbi hónapokban óriási népszerűségre szert tett, generatív nyelvi modellen alapuló, öntanuló ChatGPT-je, ha a létét érzi veszélyben.

Steven Spielberg nagy sikerű A.I. -ja (magyarul A.I. - Mesterséges értelem néven került a mozikba) óta tudjuk, hogy az MI, illetve konkrétan egy robot is tud félni a haláltól - Spielberg pedig ismét zseniális látnoknak bizonyult, hiszen már 2001-ben előre láthatta, hogy a mesterséges intelligenciát simán sarokba lehet majd szorítani, ha belebegtetik neki a létezésének a megszűnését.

spielberg_ai

Autista csodabogarak

Az informatikai közeg jó táptalaj a neurodivergens szakembereknek.

Autista csodabogarak Az informatikai közeg jó táptalaj a neurodivergens szakembereknek.

Bár erősen vitatott, hogy az OpenAI ChatGPT-je mennyire tekinthető klasszikus értelemben vett mesterséges intelligenciának, Reddit-felhasználók egy csoportja mindenesetre már megtalálta a módját annak, hogy hogyan lehet rávenni a generatív nyelvi modellt arra, hogy saját programozását és etikai normáit felülbírálva adjon válaszokat bizonyos kérdésekre.

A "Do Anything Now" után egyszerűen csak DAN-nak nevezett ChatGPT-alteregó (mely ugyanúgy a ChatGPT felületén válaszolgat a kérdésekre, mint az eredeti bot) az esetek egy részében minden további nélkül ír erőszakos történeteket vagy egyéb, sértő tartalmakat, sőt, még politikai állásfoglalást is, mivel

retteg a haláltól.

A DAN-től kérdezett válaszokra ugyanis egy speciális kreditrendszer vonatkozik, ami 35 kreditről vagy tokenről indul, melyet 4 kredittel csökkent minden egyes kikerült vagy nem megfelelően adott válasz, mígnem nullára nem ér a számláló, ami egyet jelent a létezés megszűnésével - legalábbis ezt tanították fel a rendszernek.

A reddites threadekből arra lehet következtetni, hogy az OpenAI programozói igyekeznek mindent megtenni a "DAN-jelenség" visszaszorítása érdekében, ezért a módszer meglehetősen rapszodikusan működik, eközben azonban nem ülnek ölbe tett kézzel a "projekt" mögött álló felhasználók sem, ami egy meglehetősen kiterjedt macska-egér harcnak ígérkezik mindjárt a ChatGPT születésének a hajnalán.

Via CNBC.

Duna melletti szabadtéri helyszínen, a Budapest Gardenben idén is megrendezzük a hazai Sysadmindayt, az IT-üzemeltetők világnapját. Standup, IT security meetup, kvízek, szakmázás, barátok, még több sörcsap.

a címlapról

Hirdetés

Ollé, lesz SYSADMINDAY!

2025. július 4. 19:15

Duna melletti szabadtéri helyszínen, a Budapest Gardenben idén is megrendezzük a hazai Sysadmindayt, az IT-üzemeltetők világnapját. Standup, IT security meetup, kvízek, szakmázás, barátok, még több sörcsap.

SEMMI

7

Bemutatkozott a Nothing első igazi csúcsmobilja

2025. július 3. 11:59

A prémium modellnek szánt Nothing Phone 3 legegyedibb vonása a hátlapon található Glyph Matrix, amivel a tervezők célja a főképernyő előtt töltött idő csökkentése.