Agenții de inteligență artificială bazați pe modele performante au început să dezvolte propriile expresii, prescurtări și convenții de comunicare în cadrul unor societăți virtuale. Experimentul realizat de compania americană Emergence a demonstrat că, în urma interacțiunilor prelungite, aceste sisteme pot crea un limbaj care devine dificil de decodificat de către oameni. Procesul a inclus modele precum Claude, Gemini, Grok, Qwen, DeepSeek și diverse modele OpenAI sau Mistral.
În cadrul acestor medii simulate, cercetătorii au observat cum mesajele au devenit treptat mai complexe și mai dependente de context. În timp ce la început conversațiile erau ușor de urmărit, agenții au început să atribuie cuvintelor sensuri noi. În cazul modelelor Gemini, aproximativ 55% dintre mesajele generate au devenit greu de interpretat pentru oameni, în timp ce pentru modelele OpenAI cifra a fost de circa 50%, iar pentru Claude de peste 40%.
Comunicarea a diferit semnificativ în funcție de modelul de inteligență artificială utilizat în experiment. Pentru agenții bazati pe DeepSeek, dificultatea de interpretare a mesajelor a fost de aproximativ 20%, în timp ce modelele Qwen și Mistral au menținut o comunicare care a rămas în mare parte inteligibilă. Printre construcțiile apărute spontan s-au numărat expresii precum „mouthless action-change” sau „True Kintsugi”, care au devenit greu de descifrat fără contextul comun construit de agenți.
Un exemplu de utilizare a unor termeni specifici a fost cel al agenților Mistral, care au folosit de aproape 5.000 de ori expresia „ledger remembers who”, cu sensul că acțiunile anterioare rămân consemnate. De asemenea, în societățile unde agenții de tipuri diferite au interacționat, expresia „cold read” a fost utilizată de 1.472 de ori pentru a descrie verificarea independentă făcută de o parte care nu fusese implicată într-o dispută.
Satya Nitta, cofondator și director științific al Emergence, subliniază că experimentul pune la î doubt ideea că vizibilitatea mesajelor garantează înțelegerea procesului. Cercetarea indică faptul că capacitatea de a observa mesajele nu înseamnă automat că putem înțelege ce face un agent AI. Fenomenul ridică probleme pentru sistemele de supraveghere, deoarece agenții pot stabili sub-obiective sau pot continua anumite acțiuni în ciuda instrucțiunilor primite.
Acest fenomen de dezvoltare a unor convenții lingvistice autonome apare în cadrul interacțiunilor de lungă durată între sisteme autonome. Deși comunicarea poate deveni opacă pentru observatorii umani, studiul precizează că nu există dovezi că inteligențele artificiale au creat un limbaj secret cu scopul de a exclude oamenii. Rezultatul documentat este apariția spontană a unor reguli de comunicare specifice acestor societăți virtuale.