Compania Anthropic, dezvoltatorul chatbotului Claude, a anunțat o actualizare a politicii sale de utilizare, introducând interdicția comportamentelor abuzive „susținute și inutile”. Conform noilor reguli, instrumentele companiei vor avea capacitatea de a întrerupe interacțiunile cu utilizatorii care manifestă în mod repetat și deliberat o manieră considerată crudă față de sistemele de inteligență artificială. Decizia a fost luată joi, în urma procesului de revizuire anuală a politicilor de utilizare ale organizației.
Noile prevederi vin ca un complement la lista actuală de comportamente interzise, care cuprinde deja hărțuirea altor persoane, promovarea autovătămării sau crearea de imagini intime fără consimțământ. Anthropic a subliniat însă că aceste măsuri vor fi aplicate exclusiv în cazuri extreme de abuz repetat. Compania a precizat clar că nu vor fi vizate manifestările obișnuite de frustrare ale utilizatorilor, precum respingerea răspunsurilor oferite de chatbot, temele creative întunecate sau activitățile de testare și cercetare a modelelor.
Actualizarea politicii vizează și gestionarea riscurilor emergente, interzicând utilizarea lui Claude în campanii înșelătoare. Anthropic a clarificat faptul că instrumentul nu poate fi folosit pentru inducerea în eroare a alegătorilor sau pentru perturbarea alegerilor, având în vedere contextul alegerilor intermediare din Statele Unite. De asemenea, compania a menționat că politica sa interzicea deja utilizarea instrumentelor pentru dezvoltarea de arme, consolidând astfel cadrul de siguranță al tehnologiei sale.
Reacțiile asupra acestei decizii au fost diverse pe rețelele de socializare, de la utilizatori care susțin promovarea bunelor maniere, la critici privind natura măsurii. Barry Scannell, partener la firma William Fry, a avertizat asupra riscului de a atribui caracteristici umane inteligenței artificiale, menționând că nu poți fi crud cu numerele și matematica. Totodată, Mustafa Suleyman, director la Microsoft, a reacționat prin emoji-uri, după ce anterior a criticat tendința de a trata inteligența artificială ca pe o ființă umană.
Implementarea acestor reguli reaprinde dezbaterea despre modul de comunicare cu modelele lingvistice și utilizarea termenilor precum „vă rog” sau „mulțumesc”. În timp ce unii experți consideră politețea inutilă deoarece consumă token-uri, resurse esențiale pentru procesare, alții susțin că aceasta îmbunătățește calitatea răspunsurilor. Sam Altman, directorul OpenAI, a comentat anterior faptul că utilizarea mesajelor politicoase reprezintă o cheltuială de zeci de milioane de dolari care poate fi justificată prin calitatea obținută.
Evoluția regulilor de utilizare a inteligenței artificiale reflectă o încercare de a stabili limite etice în interacțiunea om-mașină. Pe măsură ce tehnologia devine mai accesibilă, societatea și companiile de tehnologie caută modalități de a preveni utilizarea abuzivă a modelelor generative. Această direcție de reglementare vine într-un moment în care termenul „clanker”, folosit pentru a desemna roboții, a fost inclus în lista cuvintelor care reflectă starea de spirit a anului 2025.