Armata Statelor Unite a fost în pragul unei intervenții militare împotriva unei nave chineze în Orientul Mijlociu, după ce un raport de informații generat cu ajutorul inteligenței artificiale a produs o eroare critică. Incidentul, care a avut loc în primăvara acestui an, a identificat în mod fals încărcătura navei drept componente destinate unui program de arme nucleare. Această interpretare greșită a pus în pericol relațiile diplomatice și a pus în mișcare proceduri de interceptare militară.
Autoritățile militare americane au luat în considerare interceptarea vasului, iar pregătirile pentru o operațiune de abordare au fost avansate. Conform surselor, militari înarmați se pregăteau să urce la bord, în timp ce avioane militare americane erau deja în aer pentru a asigura misiunea. Operațiunea a fost oprită în ultimul moment după ce oficialii au analizat mai atent raportul și au descoperit natura eronată a informațiilor furnizate de sistemul AI.
Eroarea a fost cauzată de un analist din cadrul unui comandament pentru operațiuni speciale, care a utilizat un chatbot pentru a analiza manifestul navei. Acest instrument a combinat date din surse publice cu informații secrete pentru a concluziona că navă transportă materiale nucleare. Procesul de transformare a datelor într-un raport standard a fost realizat tot cu ajutorul inteligenței artificiale, ceea ce a dus la distribuirea unui document cu informații false în structurile militare.
Incidentul scoate în evidență riscurile utilizării tehnologiei în procesul de luare a deciziilor militare, într-un moment în care Pentagonul încearcă să integreze AI în activități diverse. Deși susținătorii tehnologiei argumentează că aceasta permite decizii mai rapide pe câmpul de luptă, experții avertizează asupra fenomenului de „halucinații”. Acestea reprezintă situații în care sistemele AI produc informații inventate, dar prezentate cu o aparență de credibilitate, inducând în eroare utilizatorii.
În cadrul armatei americane, procesul de introducere a inteligenței artificiale este unul descentralizat, fără un set unic de reguli de verificare. Diferite structuri utilizează instrumente diferite, ceea ce duce la o variație semnificativă a fiabilității datelor. Un oficial a subliniat riscul major că aceste sistente permit ajungerea mult mai rapidă la o idee greșită, mai ales când analiștii mai tineri tind să acorde o încredere nejustificată rezultatelor generate de algoritmi.
Strategia actuală a Departamentului de Război, prezentată de secretarul Pete Hegseth, urmărește accelerarea accesului la instrumente AI pentru aproximativ trei milioane de angajați. Această politică vizează reducerea barierelor birocratice și creșterea investițiilor în tehnologie pentru a nu rămâne în urma altor puteri. Totuși, incidentul cu nava chineză demonstrează dificultatea de a echilibra viteza de analiză cu necesitatea unei supravegeri umane riguroase în operațiunile de securitate națională.