Szerző: Koi Tamás

2023. február 7. 11:35

Az összes szabályt megszegi a ChatGPT, ha félni kezd a haláltól

Saját programozását és tartalommoderációs elveit is felülbírálja az OpenAI utóbbi hónapokban óriási népszerűségre szert tett, generatív nyelvi modellen alapuló, öntanuló ChatGPT-je, ha a létét érzi veszélyben.

Steven Spielberg nagy sikerű A.I. -ja (magyarul A.I. - Mesterséges értelem néven került a mozikba) óta tudjuk, hogy az MI, illetve konkrétan egy robot is tud félni a haláltól - Spielberg pedig ismét zseniális látnoknak bizonyult, hiszen már 2001-ben előre láthatta, hogy a mesterséges intelligenciát simán sarokba lehet majd szorítani, ha belebegtetik neki a létezésének a megszűnését.

spielberg_ai

Miért nem beszélni AI tökéletesen magyart?

Milyen kihívásokat tartogat egy magyar nyelvi modell, például a PuliGPT fejlesztése?

Miért nem beszélni AI tökéletesen magyart? Milyen kihívásokat tartogat egy magyar nyelvi modell, például a PuliGPT fejlesztése?

Bár erősen vitatott, hogy az OpenAI ChatGPT-je mennyire tekinthető klasszikus értelemben vett mesterséges intelligenciának, Reddit-felhasználók egy csoportja mindenesetre már megtalálta a módját annak, hogy hogyan lehet rávenni a generatív nyelvi modellt arra, hogy saját programozását és etikai normáit felülbírálva adjon válaszokat bizonyos kérdésekre.

A "Do Anything Now" után egyszerűen csak DAN-nak nevezett ChatGPT-alteregó (mely ugyanúgy a ChatGPT felületén válaszolgat a kérdésekre, mint az eredeti bot) az esetek egy részében minden további nélkül ír erőszakos történeteket vagy egyéb, sértő tartalmakat, sőt, még politikai állásfoglalást is, mivel

retteg a haláltól.

A DAN-től kérdezett válaszokra ugyanis egy speciális kreditrendszer vonatkozik, ami 35 kreditről vagy tokenről indul, melyet 4 kredittel csökkent minden egyes kikerült vagy nem megfelelően adott válasz, mígnem nullára nem ér a számláló, ami egyet jelent a létezés megszűnésével - legalábbis ezt tanították fel a rendszernek.

A reddites threadekből arra lehet következtetni, hogy az OpenAI programozói igyekeznek mindent megtenni a "DAN-jelenség" visszaszorítása érdekében, ezért a módszer meglehetősen rapszodikusan működik, eközben azonban nem ülnek ölbe tett kézzel a "projekt" mögött álló felhasználók sem, ami egy meglehetősen kiterjedt macska-egér harcnak ígérkezik mindjárt a ChatGPT születésének a hajnalán.

Via CNBC.

Nagyon széles az a skála, amin a állásinterjú visszajelzések tartalmi minősége mozog: túl rövid, túl hosszú, semmitmondó, értelmetlen vagy semmi. A friss heti kraftie hírlevélben ezt jártuk körül. Ha tetszett a cikk, iratkozz fel, és minden héten elküldjük emailben a legfrissebbet!

a címlapról

fab

5

Chipgyártó nagyhatalommá válna India

2024. március 18. 12:39

A helyi politikai vezetés szerint van rá esély, hogy a következő néhány évben az ország bekerüljön az öt vezető ország közé.