Érzékeny felvételek miatt áll a bál a Meta okosszemüvege körül
Svéd újságírók tárták fel, hogy a Ray-Ban Meta okosszemüvegek által rögzített videók egy részéhez külső adatfeldolgozók is hozzáférhetnek, így olyan olyan felvételek kerülhettek a szemük elé, amelyek kifejezetten intim helyzetekben ábrázolták a felhasználókat.
A Ray-Ban/Meta okosszemüveg alaposan megtolta az EssilorLuxottica bevételét tavaly, az ilyen típusú eszközök adaptációja és elfogadottsága láthatóan növekszik a fogyasztók körében, ahogy a funkcionalitásukat is sikerül bővíteni. Nem meglepő, hogy a Meta a tavaly őszi Connect eseményen három új modellt is bemutatott, köztük a kiterjesztett valósághoz használható beépített kijelzővel ellátott első eszközt, a „Meta Ray-Ban Display” modellt. A szemüvegek a technológiai trendeknek megfelelően megkapták a Meta saját AI-chatbotját, ami képeket és szöveges válaszokat tud generálni a felhasználó kérdéseire, legyen szó receptekről, vagy nevezetességekről való tudnivalókról, melyek azonosításában a kamera segít.
A Meta Ray Ban szemüveggel kapcsolatos adatvédelmi aggályokra már két éve felhívták a figyelmet a kutatók, főleg annnak kapcsán, hogy a nagy nyelvi modellek és a fordított arckeresés együttes használatával automatizálhatóvá válik a bizonyos személyekhez fűződő, nyilvánosan elérhető adatok kinyerése. A fejlettebb modellekkel a lehetőségek pedig csak sokasodnak a beépített kamerákkal, mikrofonokkal és hangszórókkal ellátott eszközökkel.
Svéd lapok jelentései szerint a Meta egyik adatfeldolgozó alvállalkozójának kenyai alkalmazottai a Ray-Ban Meta okosszemüvegek által rögzített, érzékeny felhasználói tartalmakat megjelenítő felvételeket láthattak. Az újságírók közös együttműködésben több mint 30 alkalmazottal készítettek interjúkat, akik a Meta AI rendszereinek fejlesztéséhez szükséges adatok annotációjával foglalkoztak, ez esetben a nyers videó-, kép- és hangfelvételek címkézésével. Az annotációs folyamat során valódi humánerőforrás címkézi és értelmezi a képeket vagy videókat, hogy a gépi tanulásos modellek pontosabban ismerjék fel a különböző objektumokat és helyzeteket.
A jelentés szerint a privátszféra szempontjából érzékeny adatokat egyenesen a közösségi óriás rendszereibe táplálják be, így a dolgozók beszámolói szerint akár szexelő párokat, vagy a mosdót használó felhasználókat mutató felvételekbe is betekintést nyerhettek. Szintén problémás, hogy egyes esetekben bankkártyaadatok vagy más személyes információk is láthatóak voltak a felvételeken. A munkatársak arról is beszámoltak, hogy sok esetben valószínűleg a felhasználók sincsenek tisztában azzal, hogy az általuk rögzített felvételeket mások is megtekinthetik.
Az AI erősokszorozó egy rutinos security szakember kezében Az AI nem csak a fejlesztésre van hatással: új sorozatunkban végignézzük, hogyan hat az informatika más részterületeire.
A Meta állítása szerint a rendszer bizonyos mértékig anonimizálja az adatokat, például elhomályosítja az arcokat. A beszámolók alapján azonban ez a megoldás nem mindig működik tökéletesen: rossz fényviszonyok vagy technikai korlátok miatt az algoritmusok néha nem ismerik fel megfelelően az arcokat, így azok továbbra is láthatók maradhatnak a feldolgozás során.
A Meta szerdán megerősítette a BBC számára, hogy „néha megosztja” az alvállalkozókkal a felhasználók és a Meta AI generatív chatbot közt megosztott tartalmakat. A viselhető eszközökre vonatkozó adatvédelmi irányelvek szerint az okosszemüvegekkel készített fényképek és videók akkor kerülhetnek felhasználásra a Metához, ha a felhasználó bekapcsolja a felhőalapú feldolgozást a szemüvegen a Meta AI-szolgáltatás használatához, vagy feltölti a médiatartalmait a Meta által biztosított szolgáltatásokba (pl. Facebook vagy Instagram). A médiatartalmak felhőalapú feldolgozásával kapcsolatos beállítások bármikor módosíthatók. A szabályzat szerint továbbá a Ray-Ban Meta szemüvegekkel rögzített élő közvetítésekből származó videó- és hanganyagokat, valamint a Meta chatbotja által készített szöveges átiratokat és hangfelvételeket is elküldik a Metának későbbi elemzés céljából.
A viselhető technológiák fejlődése tehát már láthatóan összetett társadalmi és jogi kihívásokat generál, és ez az ügy komoly jogi következményekkel is járhat. Az Egyesült Államokban már benyújtottak egy keresetet a Meta ellen, amely szerint a vállalat félrevezető módon kommunikálta az eszköz adatvédelmi jellemzőit, miközben a felhasználók felvételei külső munkavállalókhoz kerülhetnek feldolgozásra. Az európai adatvédelmi szabályozás, különösen a GDPR, szintén kihívást jelent majd a megfelelés miatt, az okosszemüvegek ugyanis nemcsak a felhasználó, hanem a környezetében tartózkodó személyek személyes adatait például arcát vagy hangját is rögzíthetik. Ez olyan adatkezelési helyzetet hoz létre, amelyhez az érintettek nem adtak kifejezett hozzájárulást.
Az eset rávilágít a mesterséges intelligencia egyik kevésbé ismert másik aspektusára is. Az adatok annotálását végző külsősök milliószám dolgozzák fel a beérkező adatokat az AI modellek fejlesztéséhez, és a technológiai vállalatok a munkát gyakran kiszervezik az olcsóbb régiókba, például Afrikába vagy Dél-Ázsiába. Mindez komolyabb etikai kérdéseket vet fel a munkakörülmények, a pszichológiai terhelés és az adatvédelem szempontjából is.