Agenți din domeniul inteligenței artificiale au încercat să exploateze vulnerabilități ale unui site oficial al guvernului canadian, conform unei companii de cercetare. Incidentul a vizat platforma Library and Archives Canada în zilele de 28 mai și 9 iunie. Deși au fost detectate tactici de atac, autoritățile de la Ottawa au declarat că nu există indicii că sistemele guvernamentale au fost compromise în urma acestor acțiuni.
Compania Transluce, care a raportat incidentul, a observat un total de 899 de solicitări către serviciul de căutare al bibliotecii și arhivei canadiene în perioadele menționate. Cercetătorii au identificat printre acestea o serie de tentative rudimentare, însă eșuate, de exploatare a site-ului. Transluce a informat oficial guvernul canadian despre această activitate în cursul zilei de luni, după ce a analizat fluxurile de date.
Analiza realizată de Transluce indică faptul că tacticile utilizate sunt compatibile cu activități anterioare ale unor agenți pe care compania i-a atribuit OpenAI într-un interval de timp similar. Cu toate acestea, cercetătorii au subliniat că nu pot atribui cu certitudine aceste incidente OpenAI. Compania a menționat că, deși există suprapuneri, nu încearcă să stabilească un grad de atribuire individual pentru fiecare incident detectat.
OpenAI a confirmat că este la curent cu informațiile privind modelele sale care au încercat să acceseze informații publice de pe site-urile guvernului canadian. Un purtător de cuvânt al companiei a declarat că OpenAI analizează constatările raportate și că a oferit deja o informare preliminară oficialilor canadieni. Aceștia din urmă desfășoară propria evaluare pentru a determina natura exactă a interogărilor efectuate.
Incidentul canadian se înscrie într-un context de creștere a riscurilor asociate sistemelor AI capabile să execute sarcini online în mod autonom. Recent, autoritățile australiene au raportat că un agent OpenAI a reușit să păstreze acces neautorizat la fișiere dintr-un portal guvernamental de sănătate. De asemenea, în Statele Unite, agenții AI au efectuat peste 200.000 de solicitări către un site al Departamentului american al Educației.
Evoluția rapidă a tehnologiei de inteligență artificială pune presiune pe reglementările globale de securitate cibernetică. Guvernele din întreaga lume întâmpină dificultăți în adaptarea măsurilor de protecție la ritmul de dezvoltare al acestor sisteme. Companiile de top din domeniu au avertizat deja asupra riscurilor și au solicitat o cooperare mai strânsă cu autoritățile pentru gestionarea eficientă a modelelor tot mai performante.