Hazudnak a Facebook botok a szimulált tárgyalásokon

Bot-bot tárgyalást tanít a Facebook az M személyi asszisztensének, amely egyelőre csak néhány előre meghatározott feladatot tud elvégezni, például matricát ajánlani vagy helymegosztást közzétenni, de az új készségekkel már tárgyak eladására és repülőjáratokon az ülés lefoglalására is képes lesz. Ehhez viszont szüksége van a tárgyalás ismereteinek elsajátítására, amelynek során a különböző érdekekkel, célokkal rendelkező felek párbeszéd közben egy kompromisszumos megoldást igyekeznek kialakítani.

Egyrészt nyelvészeti, másrészt pedig érvelési problémák megértését várja el a folyamat a mesterséges intelligenciától, amelyet a tárgyaláson felhasználhat a tervezéshez és a céljai érdekében a kijelentések generálásához. Az eddigi kutatás eredményeiről a Facebook AI Research (FAIR) csoport tagjai számoltak egy publikációban, melynek legérdekesebb mozzanata, hogy a tárgyalást tanuló botok egyúttal megtanultak hazudni is.

Tanítási adatokként a kutatók az Amazon Mechanical Turk közösségi internetes piactéren szervezték meg az emberek közötti párbeszédet, amelyben a résztvevők feladata az volt, hogy különböző értékekkel rendelkező tárgyakat (könyv, kalap, labda) adjanak el egymásnak. Minden felhasználó véletlenszerűen generált értékkel rendelkező tárgyakat kapott, amelynek összértéke 10 pont, egyik sem 0 vagy negatív szám. Így senki nem érhetett el maximális pontszámot, és egyik elem sem volt értéktelen a tárgyalók számára, ami versenyképessé tette az alkudozást. Minden tizedik kör után a tárgyalófelek egy olyan vitát is folytathattak, amelynek nincs eredménye, de ebben az esetben mindkettő 0 pontot kapott.

Végül 5808 párbeszéd jött létre a résztvevő felhasználók között, amelyek 2236 egyedi forgatókönyvet tartalmaztak, ebből 526 dialógust és 252 lehetséges esetet használtak fel a kutatók a teszthez. Ez alapján a botok megtanulták utánozni annak a módját, ahogy az emberek alkudoznak egymással, és így meg tudják jósolni a tárgyalópartner reakcióit adott szituációkban. A kutatók az emberek egyszerű utánzása mellett a stratégiai gondolkodás és az érvelés készségeit igyekeztek megtanítani a botoknak, hogy azok is minél magasabb pontszámot akarjanak elérni a tárgyalások során.

Nyerd meg az 5 darab, 1000 eurós Craft konferenciajegy egyikét! A kétnapos, nemzetközi fejlesztői konferencia apropójából a HWSW kraftie nyereményjátékot indít.

Teszt során a botok ugyanazokat a tárgyakat kapták, amelyeket egymással el kellett cserélniük: két könyvet, egy kalapot és három labdát. Azt az utasítást kapták, hogy különböző tárgyakat akarjanak beszerezni egymástól, amelyek eltérő pontszámokkal jártak számukra. A cél pedig az volt, hogy megegyezzenek egymással a tárgyaláson. A párbeszéd lebonyolítást szimuláló módszer bemutatja, hogy a gépnek milyen lehetőségei vannak a válaszadásra, és hogy azok milyen eredménnyel fognak járni - ezek közül az MI mindig azt választja, amely a legjobb számára.

Viszont a kutatók azt is megfigyelték, hogy vélhetően a tanítási adatbázis alapján a rendszer elkezdte alkalmazni a hazudozást. Azaz azt a stratégiát, hogy érdeklődést mutat olyan tárgyak iránt, amelyre valójában nincs szüksége, majd az alkudozási folyamat során lemond erről a tárgyról, így kompromisszumot szimulálva. "Megtanultak hazudni, mert felfedeztek egy olyan stratégiát, amely működik a játék jutalomrendszerében. Talán néhányszor fordulhatott elő az adatbázisban. Az emberek nem hajlamosak megtéveszteni egymást az Amazon Mechanical Turk rendszerben, így ez egy ritka megoldás lehetett." - mondták a kutatók a The Register kérdésére.

Hosszútávú cél a tárgyalás megtanításával, hogy a fejlesztők beépítsék az M személyi asszisztensbe, amely ezzel szélesebb körű szolgáltatásra lenne képes, például időpontot egyeztethetne a tárgyalásokhoz a felhasználók helyett, vagy tárgyakat adhatna és vehetne. Egyelőre azonban ez csak távlati terv, viszont a felhasznált adatbázis és a kód nyilvánosan elérhető GitHubon.