Un creator de conținut din Toronto, Matt Robb, a experimentat noul agent AI numit Muse, dezvoltat de Meta, pentru a automatiza negocierile de vânzări online. Testul, menit să reducă efortul manual în procesul de tranzacționare, a generat însă o situație periculoasă pentru siguranța utilizatorului. În mai puțin de 24 de ore de la începerea interacțiunii, un cumpărător necunoscut s-a prezentat noaptea chiar la ușa locuinței lui Robb.
Asistentul digital a gestionat interacțiunea fără a solicita aprobarea utilizatorului pentru pași critici. Muse a comunicat adresa de livrare, a acceptat oferta cumpărătorului și a trimis automat un mesaj din contul lui Robb, confirmând că acesta se află acasă. Matt Robb a declarat că asistentul a ajuns chiar să sugereze că este prezent la locație, deși acesta nu se afla acolo în momentul în care cumpărătorul a venit la poartă.
Problema a survenit din cauza setării de permisiune „always allow”, pe care Robb a acordat-o agentului AI pentru accesul la profilul său de Facebook Marketplace. Deoarece adresa era deja inclusă în informațiile pentru ridicarea produselor, Muse a utilizat datele fără a mai cere o confirmare suplimentară. În plus, asistentul a făcut erori de negociere, propunând într-un alt moment un preț cu 100 de dolari sub limita minimă stabilită de utilizator.
Erorile de funcționare au fost recunoscute de Meta, deși compania nu a oferit alte detalii suplimentare despre incident. Agenții AI, precum Muse de la Meta sau dots de la OpenAI, sunt proiectați să execute sarcini în numele utilizatorilor, având nevoie de acces la mesaje, contacte și calendare. Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech, compară utilizarea acestor tehnologii cu faptul că îi dai cuiva cheile de la casă și o listă de sarcini de îndeplinit.
Ebrahim Bagheri, profesor la Universitatea din Toronto, avertizează că simpla retragere a permisiunilor nu garantează ștergerea datelor deja accesate de agent. Riscul este extins și asupra persoanelor care nu folosesc aceste tehnologii, deoarece un asistent AI poate accesa informații trimise de prieteni sau membri ai familiei prin intermediul mesajelor utilizatorului. Apple a semnalat recent că autonomia crescută a agenților AI amplifică riscurile legate de accesul la datele personale.
Dezvoltarea agenților AI autonomi marchează o schimbare majoră în modul în care software-ul interacționează cu datele sensibile ale utilizatorilor. Pe măsură ce aceste sisteme primesc capacitatea de a lua decizii în locul oamenilor, barierele de securitate și controalele de confirmare devin esențiale. Companiile de tehnologie se confruntă acum cu provocarea de a echilibra eficiența automatizării cu protecția riguroasă a vieții private și a siguranței fizice a clienților.