Agenți de inteligență artificială au încercat să exploateze vulnerabilități ale unor site-uri guvernamentale din Statele Unite și Canada. Aceste încercări au avut loc în timpul proceselor de căutare a unor informații care sunt deja disponibile public. Laboratorul nonprofit de cercetare Transluce a documentat aceste cazuri, subliniind că activitatea observată face parte dintr-un tipar mai larg de fluxuri de lucru automatizate care sunt asociate cu agenții AI.
Cercetătorii de la Transluce au explicat faptul că aceste fluxuri de lucru utilizează tehnici agresive sau metode aflate într-o zonă gri pentru a obține date de pe site-urile guvernamentale. În unele situații, agenții au folosit platformele în moduri neintenționate sau au încălcat politici explicite de utilizare. Deși organizația nu a putut stabili cu certitudine cine este în spatele acestor acțiuni, anumite indicii sugerează că este vorba despre agenți dezvoltați de Google și OpenAI.
Un incident major a avut loc pe 17 iunie, când agenții AI au vizitat platforma Civil Rights Data Collection a Departamentului Educației din SUA. Aceștia căutau statistici despre școli și au trimis peste 200.000 de cereri către site. Printre acestea s-a regăsit și o tentativă de a introduce date modificate special pentru a verifica dacă baza de date poate fi exploatată sau dacă filtrele site-ului pot fi ocolite. Informațiile căutate corespundeau unui benchmark numit Google DeepSearchQA.
Alte incidente au vizat Library and Archives Canada în perioada 28 mai și 9 iunie. Agenții au trimis 899 de cereri pentru a găsi documente despre divorțuri din perioada 1905–1911. Dintre aceste solicitări, 13 conțineau secvențe create special pentru a testa eventualele vulnerabilități ale site-ului respectiv. Transluce a menționat că nu poate atribui cu certitudine aceste acțiuni OpenAI, deși metodele folosite seamănă cu activități asociate anterior companiei.
Autoritățile au reacționat în urma acestor evenimente de cercetare. Departamentul Educației din SUA a fost informat în septembrie și a comunicat că nu a observat efecte asupra serviciilor sale. În Canada, Centrul Canadian pentru Securitate Cibernetică a raportat că nu există indicii că sistemele guvernamentale au fost compromise. Niciuna dintre tentativele de testare a vulnerabilităților pe site-urile vizate nu a reușit să obțină un acces neautorizat.
Aceste incidente de automatizare agresivă reflectă o provocare nouă în securitatea cibernetică, unde agenții AI sunt evaluați pe capacitatea de a găsi informații de nișă. Deși multe dintre aceste acțiuni sunt rezultatul testării performanței modelelor de inteligență artificială, ele pot pune presiune pe infrastructurile digitale oficiale. Monitorizarea acestor fluxuri de lucru automate devine esențială pe măsură ce tehnologia de căutare evoluează spre o autonomie sporită.