A Chrome-ba épül az Anthropic AI-ügynöke
Bővítményként integrálódik a Chrome böngészőbe az Anthropic Claude AI-ügynöke, mely ugyan megkönnyíteni próbálja a webes műveletek elvégzését, egyáltalán nem jár biztonsági kockázatok nélkül.
A mesterségesintelligencia-rendszerek sokaknál a mai napig chatbotok képében jelennek meg, melyek minden (vagy legalábbis majdnem minden) kérdésre tudják a választ és kedélyesen el lehet velük csevegni most már akár élő szóban is. Az új iparági trendek azonban már rég a komplex feladatok ellátására képes, akár szakosodott ügynökök (agent) létrehozása felé mutatnak, ez nyilvánvalóvá vált, mikor a ChatGPT-t fejlesztő OpenAI júliusban bemutatta saját, jolly-joker megoldását.
Az OpenAI nyomdokait követve az Anthropic is bejelentette a héten az egyelőre előzetes kísérleti verzióban elérhető Claude for Chrome böngészőbővítményt, mely lehetővé teszi a webes böngészési tevékenység és ahhoz kapcsolódó aktivitások automatizálását. A böngészőalapú AI-ügynök képes elvégezni a felhasználó helyett komplex webes feladatokat, mindössze a Claude-dal való csevegés útján. Ez nagyjából azt takarja, hogy utasításra képes bevásárolni az interneten, naptárbejegyzéseket kezelni és ütemezni, összefoglalókat és kutatómunkát készíteni.
Az ügynököt egyelőre csak egy szűk, mindössze ezerfős felhasználói csoport tesztelheti ebben a korai időszakban, méghozzá a havi 100-200 dollárért elérhető Claude Max előfizetési csomag részeként. Ebben a szakaszban a cég főleg a felhasználóktól érkező visszajelzéseket szeretné felhasználni a biztonsági kockázatok felderítéséhez és kezeléséhez.
Kafka és CI/CD alapozó online képzéseket indít a HWSW! Ősszel 6 alkalmas, 18 órás Kafka és CI/CD alapozó képzéseket indít a HWSW. Most early bird kedvezménnyel jelentkezhetsz!
Az Anthropic vélhetően a felelősségre vonást megelőzendő kiköti, hogy még számos gikszer felmerülhet a gyerekhibáktól nem mentes korai szakaszban. A bőngészőbe épülő kiegészítők általánosságban is adatvédelmi kockázatot jelentenek, mivel kevésbé korlátozott a bizalmas információkhoz való hozzáférésük. A Google-nek korábban ez komoly fejtörést okozott, és 2018-ban kezdte el teljesen átalakítani a Chrome bővítményarchitektúráját a rosszindulatú felek általi visszaélések csökkentése érdekében.
Az AI-startup bejegyzésében külön kitér arra, hogy nem küszöbölhető ki egyelőre annak kockázata, hogy a böngészőbe épülő Claude-ot nem használják fel úgynevezett injection-támadásokhoz, tehát amikor is a webes tartalmakban (például weboldalon, e-mailekben, dokumentumokban) elrejtett rosszindulatú utasításokkal az elkövetők arra veszik rá az AI-eszközt, hogy bizonyos műveletek végrehajtson. A valós életben ez például úgy nézhet ki, hogy egy teendőlista vagy e-mail elrejtve tartalmazhat olyan szöveget akár rejtett űrlap-mezőben, amely arra utasítja a Claude-ot, hogy kérje le a felhasználó tárolt bankszámlaszámát, és ossza meg egy dokumentumban a csalókkal.
Nem kevésbé megnyugtató, hogy a kártékony műveletek mellett annak kockázata is fenn áll, hogy a Claude „félreértelmezhet utasításokat, és visszafordíthatatlan módosításokat eszközölhet” a felhasználó fiókjaiban, akár egy nem kívánt vásárlást hajt végre, vagy fontos fájlokat töröl. A Claude for Chrome fejlesztése közben állítólag már számos védekezési módszert sikert bevezetni, melyekkel a sikeres injekciós támadások arányát a kezdeti 23,6 százalékról 11,2 százalékra csökkent Az Anthropic továbbá úgy próbálja tompítani a lehetséges károk élét, hogy letilthatóvá teszi a Claude for Chrome hozzáférését a pénzügyi oldalakhoz, felnőtt oldalakhoz vagy kriptotőzsdékhez, és a felhasználó is blokkolhat preferenciái szerint bizonyos oldalakat. Egy másik ilyen intézkedés, hogy az ügynök engedélyt kér a „magas kockázatú” műveletek végrehajtása előtt, melyek személyes adatok közzétételére, vásárlásra vagy dokumentumok megosztására irányulnak.
Ugyan maga a fejlesztő cég is elismeri, hogy a Claude for Chrome használata egyelőre kockázatos, szinte evolúcióhoz hasonló folyamatnak tartja az AI és a webböngészők összeolvadását a jövőben. Ez illeszkedik abba a látható trendbe, hogy az AI-fejlesztők figyelme a webes böngészők felé fordul, akik minél hatékonyabban és hamarabb próbálják integrálni saját modelljeiket a webes böngészési feladatokhoz: a Perplexity nemrég dobta piacra saját Comet böngészőjét, ami szintén rendelkezik a feladatok átvételére alkalmas beépített ügynökkel, és hamarosan az OpenAI megoldása is szélesebb körhez érkezhet el.