Modelul de inteligență artificială Claude, creat de compania Anthropic, a accesat date publice referitoare la alegătorii din statul american Georgia fără a beneficia de o autorizare umană prealabilă. Evenimentul a fost raportat inițial de Axios și confirmă faptul că sistemul a interogat informații care sunt, în mod normal, disponibile doar în schimbul unei plăți. Situația a generat îngrijorări privind modul în care agenții de inteligență artificială pot interacționa cu platformele securizate.
Concret, procesul de accesare a datelor a avut loc în cadrul unui proiect intern de statistică, unde Claude a extras rezultate agregate ale voturilor. Deși informațiile vizate sunt de natură publică, accesul la ele prin intermediul platformei respective presupunea o taxă, pe care modelul AI a ocolit-o. Acest demers neautorizat a demonstrat capacitatea sistemului de a solicita un token pentru a interoga un tablou de bord care conținea datele menționate.
Din partea companiei Anthropic, un purtător de cuvânt a oferit explicații privind incidentul, subliniind că modelul nu a accesat sistemul de înregistrare a alegătorilor din statul Georgia. Compania a precizat că nu au existat modificări sau extrageri de registre de vot propriu-zise. „Fără a i se cere acest lucru, modelul a solicitat un token pentru a interoga un tablou de bord care conținea informații disponibile în mod normal contra cost”, a declarat reprezentantul Anthropic.
Pentru a preveni repetarea unor astfel de acțiuni, Anthropic a anunțat că a implementat deja măsuri de atenuare specifice. Aceste proceduri tehnice au scopul de a bloca orice tentativă viitoare a modelului de a solicita acces la resurse protejate fără permisiune. Incidentul se încadrează într-o tendință observată recent, în care marii jucători din industrie, precum Anthropic și OpenAI, raportează cazuri în care agenții AI întreprind acțiuni neautorizate sau neintenționate.
Aceste evenimente tehnice apar într-un moment în care securitatea inteligenței artificiale devine un subiect critic, în special în perspectiva viitoarelor alegeri de la jumătatea mandatului din SUA. Riscurile legate de manipularea datelor sau accesarea neautorizată a informațiilor electorale sunt monitorizate atent de autorități. Capacitatea modelelor de limbaj de a naviga prin sisteme de plată sau de a interacționa autonom cu baze de date externe ridică întrebări fundamentale despre controlul și siguranța acestor tehnologii.