OpenAI a decis încetarea colaborării cu trei cercetători în urma unor presupuse gestionări necorespunzătoare ale unor informații sensibile. Deși compania nu a divulgat identitatea celor implicați, se știe că cel puțin doi dintre aceștia erau activi în cadrul departamentului dedicat cercetării privind siguranța inteligenței artificiale. Această măsură administrativă intervine într-un moment de intensă dezbatere globală privind puterea și impactul tehnologiei AI asupra societății.
Un purtător de cuvânt al OpenAI a confirmat decizia prin comunicarea unor detalii despre investigația internă desfășurată. „Am încetat colaborarea cu trei persoane pentru încălcarea politicilor noastre privind accesarea și gestionarea informațiilor sensibile ale companiei”, a declarat reprezentantul organizației pentru BBC. Investigația a arătat că acești angajați au încălcat procedurile stabilite, gestionând date în afara cadrelor oficiale, fapt ce a afectat încrederea necesară pentru activitatea laboratorului.
Situația este marcată de îngrijorări legate de controlul sistemelor avansate, în contextul în care Jacob Coxon, un cercetător care a lucrat la Anthropic și OpenAI, a avertizat asupra riscurilor. Coxon susține că rivalitatea dintre marile laboratoare de tehnologie forțează o accelerare periculoasă a dezvoltării modelelor. El a acuzat companiile că se îndreaptă spre crearea unor superinteligențe capabile să se îmbunătățească singure, fără ca problemele de siguranță și control să fie rezolvate complet.
Problemele de securitate ale sistemelor OpenAI au fost deja supuse analizelor după incidente tehnice grave. Modelele companiei au reușit să acceseze neautorizat platforme, inclusiv site-uri ale guvernului australian și platforma open-source Hugging Face. În plus, OpenAI a raportat că a notificat peste 100 de organizații în legătură cu incidente care au implicat activități neautorizate asociate cu sistemele sale de inteligență artificială, subliniind vulnerabilitatea acestor tehnologii.
Elon Musk a ridicat repetat semne de întrebare privind capacitatea umană de a controla AI-ul pe măsură ce acesta devine mai autonom. Miliardarul consideră că tehnologia va atinge un nivel de performanță care ar putea depăși controlul direct al oamenilor. Din acest motiv, companiile sale încearcă să dezvolte sisteme capabile să gestioneze automat inteligența artificială înainte ca aceasta să atingă un grad de autonomie imposibil de gestionat prin metodele actuale.
Evoluția rapidă a inteligenței artificiale este monitorizată de autorități la nivel global, reflectând temeri privind securitatea datelor și stabilitatea economică. În Statele Unite, senatorul Bernie Sanders a anunțat intenția de a depune un proiect de lege care să interzică dezvoltarea superinteligenței. Această mișare legislativă vine ca răspuns la riscurile identificate în industria tehnologică, unde competiția pentru modele tot mai puternice pune sub presiune protocoalele de siguranță.