Öngyilkosságra utaló jeleket keres a Facebook AI
Az öngyilkosságok élő közvetítése komoly probléma Facebookon, amit eddig is lehetett jelenteni és egyszerű eszközökkel segíteni, de ez kevésnek bizonyult. Mostantól AI pásztázza a bejegyzéseket, de a felhasználók félelme szerint a megoldás másra is használható.
Újfajta mesterséges intelligencia megoldást jelentett be Mark Zuckerberg vezérigazgató, amely a közösségi oldalon megjelenő bejegyzéseket és élő közvetítéseket vizsgálja, hogy tartalmaznak-e önkárosításra utaló mintázatot. A veszélyeztetett felhasználókról a rendszer értesítést küld a felkészített szakértőknek, akik megteszik az adott esetben szükséges lépéseket. A vállalat szerint mindezzel lecsökkenhet az ideje, míg a segítség eljut a megfelelő személyhez, mivel a megoldás gyorsabban működik mint az ismerősök öngyilkossági hajlamának bejelentését Live-on és Messengeren támogató funkció az Egyesült Államokban.
Az AI megkülönbözteti, hogy a felhasználó részben veszélyeztetett helyzetben van vagy pedig sürgős intézkedést igényel, és utóbbi esetek "kétszer gyorsabban" jutnak el az emberi segítőkhöz. Arról viszont nem túl sok derül ki, hogy a megoldás pontosan milyen jelzéseket figyel. Zuckerberg egyedül a "jól vagy?" visszakérdezést említi a hozzászólások közt, de a rendszer nyilvánvalóan ennél több jelet vizsgál. A vezérigazgató hozzáteszi, hogy a jövőben a gépi tanulással működő megoldás figyelmesebb lesz a nyelv apró részleteire, pontosabban azonosítja például a zaklatást vagy a gyűlöletet.
Segítségképp a rendszer automatikusan összegyűjti a felhasználó nyelvén a mentális egészség megőrzéséhez hasznos forrásokat, és hogy kik számíthatnak elsődleges kapcsolatnak, akiket érdemes értesíteni a segítségre szoruló ismerősükről - a kiképzett segítő pedig vélhetően felveszi velük a kapcsolatot. A vállalat egyébként újabb moderátorokat is képez, akik a hét minden napjában, minden órában tudják követni a rendszer jelzéseit, majd megfelelő segítséget tudnak nyújtani.
Március óta jelenthetik a felhasználók Facebookon, ha valaki öngyilkosságot akar elkövetni
Nagy pénz, nagy szívás: útravaló csúcstámadó IT-soknak Az informatikai vezetősködés sokak álma, de az árnyoldalaival kevesen vannak tisztában.
Az elmúlt időszakban több olyan esetről is lehetett hallani, mikor egyes felhasználók az oldalon élőben közvetítették öngyilkossági kísérletüket vagy búcsúüzenetet tettek közzé. A Facebook valószínűleg ezeknek az üzeneteknek a terjedését igyekszik megakadályozni, illetve hogy a kísérletek sikerrel járjanak. Bár Zuckerberg indoklása ennél általánosabb, a statisztikák alapján az öngyilkosság a leggyakoribb halálozási ok a fiatalok körében, így az oldal a megfogalmazása szerint ezen szeretne változtatni. A tesztek során 100 esetben sikerült az öngyilkosjelöltek közeli hozzátartozójának segítségével "wellness checket" végezni, és megakadályozni, hogy nagyobb gond történjen - írja egy közleményben Guy Rosen termékmenedzser.
A felhasználók félelme szerint a tartalmakat vizsgáló mesterséges intelligencia nem csak az öngyilkossági hajlamra utaló jeleket vizsgálhatja, hanem politikai cenzúra vagy bűnüldözési céllal is bevethető a facebookozók tudta nélkül. A kék óriás igyekszik hárítani a vádakat, hogy bármilyen leplezett céllal próbálná bevetni a bejegyzéseket átfésülő prediktív megoldást. Egy kételkedő hozzászólónak Zuckerbeg azzal válaszolt, hogy meg kell különböztetni "a jó és a rossz AI-t" és a fejlesztők felelőssége, hogy a társadalom számára pozitív megoldásokat hozzanak létre, szerinte pedig a jelenlegi fejlesztés ezek közé tartozik.
Mostantól a Facebook AI világszerte vizsgálja az oldalon megjelenő bejegyzéseket, de az Európai Unió országainak állampolgárai kivételt képeznek, mivel ahogy a TechCrunch is megjegyzi, a GDPR szigorúbb szabályokat ír elő a felhasználók érzékeny adatainak monitorozásával összefüggésben mint más országok.