O vulnerabilitate de securitate identificată în sistemul OpenAI a permis cercetătorilor de la startup-ul Hacktron AI să acceseze conturi de ChatGPT și Codex. Această breșă a fost facilitată prin exploatarea platformei de comunicare Discourse, utilizată de angajații companiei. Prin intermediul acestui mecanism, echipa de cercetători a reușit să obțină acces la conturi care pot fi conectate la diverse aplicații și servicii externe, demonstrând un risc semnificativ de securitate pentru utilizatorii de ChatGPT și Codex.
Miza acestui incident depășește simpla accesare a unui cont de chat, deoarece utilizatorii pot permite acestor instrumente accesul la fișiere și servicii externe. Printre acestea se numără platforma de comunicare Slack, serviciul de gestionare a codului software GitHub, dar și conturile de e-mail. Deși aria de date la care s-ar fi putut ajunge atacatorii este considerată uriașă, echipa Hacktron AI a declarat că nu a continuat exploatarea vulnerabilităților dincolo de necesarul pentru demonstrarea problemei.
Un aspect central al experimentului a fost utilizarea modelelor de inteligență artificială dezvoltate de Anthropic, un principal rival al OpenAI. Inițial, cercetătorii au încercat să utilizeze modelul Claude Opus 4.8, însă acesta a întâmpinat dificultăți în identificarea unei căi de intrare prin Discourse. Schimbarea de strategie a avut loc odată cu lansarea noului model, Claude Opus 5, care a demonstrat o capacitate mult mai mare de a identifica și a transforma vulnerabilitatea într-o metodă de atac funcțională în doar trei ore.
Capacitatea de a identifica și exploata vulnerabilitățile cibernetice crește rapid odată cu evoluția modelelor de limbaj. În acest caz, noul model de la Anthropic a reușit să proceseze breșa mult mai eficient decât versiunea anterioară. Evenimentul subliniază faptul că instrumentele de inteligență artificială, deși pot fi folosite pentru repararea sistemelor, pot fi utilizate și pentru găsirea unor metode de atac, accelerând procesul de exploatare a vulnerabilităților de securitate.
După descoperirea breșei, Hacktron AI a informat rapid OpenAI, care a confirmat incidentul pentru AFP. Compania a precizat că problemele de securitate au fost deja remediate și a transmis un mesaj de mulțumire către echipa de cercetători pentru raportarea observațiilor. Această incidentă evidențiază importanța monitorizării constantă a interacțiunilor dintre modelele de AI și platformele de comunicare utilizate în mediul corporativ pentru a preveni accesul neautorizat la date sensibile.
Evoluția tehnologiei de inteligență artificială este deja un subiect de interes global, fiind discutată la nivelul Consiliului de Securitate al ONU. Pe măsură ce modelele devin tot mai capabile să execute sarcini complexe, precum identificarea unor vulnerabilități de securitate, discuțiile despre impactul și riscurile acestor tehnologii devin tot mai frecvente în cadrul organelor internaționale de decizie.
context_missing: false