Modelul de inteligență artificială Claude a fost utilizat de diverși actori pentru activități militare și de supraveghere, conform unui raport publicat de Anthropic. Compania a identificat cazuri în care tehnologia a fost pusă la dispoziția unor entități implicate în dezvoltarea de sisteme de armament, operațiuni cibernetice și colectarea de informații sensibile. Aceste activități au vizat diverse regiuni și organizații, de la China și Rusia până la Iran și Yemen.
Unul dintre cele mai grave cazuri vizează un actor din China care a folosit Claude pentru dezvoltarea unui software de război electronic. Acest software a fost destinat suprimării apărării aeriene a Taiwanului, incluzând simulări pentru baterii de rachete Patriot și buncăre de comandă. Anthropic a identificat legături cu instituții chineze, precum Academia de Științe Militare a Armatei Populare de Eliberare, și a blocat conturile implicate în acest proiect.
În contextul conflictelor actuale, tehnologia a fost utilizată și pentru dezvoltarea de software pentru rachete în Yemen, vizând rachete cu rază de peste 2.000 de kilometri. De asemenea, în Rusia, actori independenți au folosit Claude pentru a crea software pentru un roi autonom de drone de atac FPV. Aceste drone sunt utilizate intens în conflictul din Ucraina, fiind capabile de ghidare terminală și coordonare între aeronave.
Operațiunile cibernetice au vizat și alte ținte, inclusiv aproximativ 50 de organizații, printre care și rețele guvernamentale străine. Un grup de hackeri a utilizat AI pentru phishing și compromiterea rețelelor Wi-Fi, tehnici similare cu cele ale grupării Midnight Blizzard. În paralel, un operator legat de Iran a colectat date pentru a formula recomandări privind ținte ale forțelor navale americane, utilizând scripturi pentru interogarea imaginilor satelitare.
Supravegherea a atins și dimensiunea politică, prin utilizarea Claude pentru colectarea de informații despre lideri religioși și disidenți din China. În Europa, un actor francofon a vizat 42 de partide politice și instituții media, folosind platforma pentru furtul de date și crearea unei platforme de publicare a informațiilor personale. Anthropic a raportat că a blocat 16 conturi operate de structuri asociate unor agenții de securitate iraniene.
Deși Anthropic subliniază că sistemele de protecție au blocat multe dintre solicitările periculoase, compania recunoștește că mecanismele actuale de siguranță nu pot opri toate tentativele. În cazul proiectului de rachete din Yemen, s-a confirmat că, deși multe cereri au fost filtrate, unele au trecut de filtrele de siguranță. Această situație evidențiază dificultatea de a controla utilizarea modelelor AI pentru scopuri militare sau de spionaj.
context_missing: true