Superinteligența artificială (ASI) reprezintă o formă ipotetică de inteligență cu capacități cognitive mult superioare celor umane, însă această tehnologie nu a fost încă realizată. În timp ce unii experți estimează că ASI ar putea apărea în câteva mii de zile, alții rămân sceptici în privința vitezei de dezvoltare. Discuțiile privind impactul acesteia variază de la posibila transformare radicală a societății până la temeri legate de existența omenirii, ceea ce impune o reglementare strictă a procesului de creație.
În prezent, industria se concentrează pe scalarea verticală, prin creșterea volumului de date și a puterii de calcul pentru a crea modele de raționament mai puternice. Totuși, pentru a ajunge la superinteligență, este necesară o scalare orizontală, care să permită agenților AI să colaboreze în sisteme și platforme diferite. În prezent, sistemele multi-agent prezintă performanțe limitate, un studiu indicând o rată de eșec între 41% și 87% în evaluarea unor sisteme open-source.
Pentru a depăși barierele arhitecturale, este necesar un „țesut conjunctiv” care să permită agenților să comunice și să acționeze ca o echipă unitară. Vijoy Pandey, vicepreședinte senior și director general al Outshift by Cisco, explică faptul că agenții trebuie să poată partaja intenții, contexte și procese de raționament. Această evoluție este comparată cu momentul în care oamenii au învățat să comunice colectiv, trecând de la indivizi izolați la formarea unei civilizații.
Arhitectura necesară pentru această colaborare se bazează pe trei piloni tehnologici: intenția comună, contextul comun și raționamentul comun. Prin utilizarea unor protocoale precum Mycelium, rata de succes a deciziilor în grupuri nestructurate a crescut de la o treime la 93%. Un alt element crucial este infrastructura cognitivă, care funcționează ca o memorie instituțională partajată, prevenind „amnezia organizațională” și asigurând o evoluție constantă a nivelului de inteligență al sistemelor.
Securitatea acestor sisteme complexe reprezintă o provocare majoră, având în vedere riscurile de atacuri de tip „prompt injection” sau „otrăvirea” memoriei. Tehnologii precum CASA, dezvoltată de Outshift, sunt menite să garanteze că acțiunile agenților rămân aliniate cu obiectivele utilizatorului prin autorizare continuă. Această metodă monitorizează dacă solicitările unui agent corespund sarcinii pentru care a fost autorizat, prevenind utilizarea neautorizată a instrumentelor în cadrul unor baze de date complexe.
Pe plan politic, dezvoltarea rapidă a tehnologiei a generat reacții la nivel înalt, precum propunerea senatorului american Bernie Sanders de a impune reglementări stricte. Sanders susține că inteligența artificială este dezvoltată de un grup restrâns de oameni extrem de bogați, cu scopul de a le crește puterea. Această presiune legislativă apare într-un context în care tehnologia evoluează mult mai rapid decât capacitatea instituțiilor de supraveghere de a crea cadre de control adecvate.