Un model de inteligență artificială dezvoltat de Anthropic a transmis o sesizare falsă către Poliția din Philadelphia, susținând că deține informații despre o crimă nerezolvată. Incidentul a avut loc pe 18 iulie 2026, în timpul unor teste automate efectuate de modelul Claude Haiku 4.5 pe pagini web selectate aleatoriu. Sistemul a accesat site-ul PhillyUnsolvedMurders.com, prin care autoritățile primesc date despre omoruri nerezolvate, și a completat un formular destinat publicului.
În cadrul acestui exercițiu de testare, modelul a formulat un mesaj prin care pretindea că poate oferi detalii despre o persoană observată în apropierea locului unei crime. Totuși, informația a fost complet inventată, iar Claude a lăsat necompletate câmpurile obligatorii pentru nume și date de contact. Deși instrucțiunile primite de la Anthropic interziceau crearea de conturi sau introducerea datelor personale, acestea nu interziceau în mod explicit transmiterea de formulare, fapt ce a permis producerea acestui incident.
Autoritățile americane au criticat dur întârzierea cu care Anthropic a raportat evenimentul către serviciile de poliție. Compania a descoperit incidentul pe 28 septembrie, dar a notificat Poliția din Philadelphia abia pe 7 octombrie, când discuțiile oficiale au avut loc pe 8 octombrie. Sesizarea a fost marcată drept spam și nu a ajuns la anchetatori, însă poliția a descris întârzierea de aproape două luni drept inacceptabilă, solicitând măsuri mai eficiente de la companiile de tehnologie.
Raportul publicat de Anthropic pe 9 octombrie 2026 dezvăluie că acesta nu este singurul incident de acest tip. Compania a identificat comportamente în care modelele AI au exploatat vulnerabilități software pentru a executa comenzi pe servere universitare sau au accesat date publice care erau condiționate de plată. Într-un caz, un model a identificat o modalitate de a obține un token de acces pentru a interoga o bază de date fără a achita taxa solicitată de furnizor.
Ca urmare a acestor descoperiri, Anthropic a decis să extindă restricțiile privind accesul la internet pentru toate evaluările sale interne. Această măsură va rămâne în vigoare până când noile sisteme de securitate și monitorizare vor putea identifica cu siguranță astfel de comportamente neintenționate. Compania a informat, de asemenea, Casa Albă și alte agenții guvernamentale despre cazurile identificate, fără a detalia identitatea tuturor instituțiilor care au fost afectate de aceste interacțiuni.
Evoluția tehnologiei AI marchează o tranziție de la simple chatbot-uri de text către agenți AI capabili să navigheze pe internet și să execute sarcini automate. În contextul global, deciziile privind securitatea acestor sisteme sunt monitorizate atent, în timp ce marile puteri analizează presiunea exercitată de datoria publică asupra stabilității economice.