Compania americană Anthropic, dezvoltatorul chatbotului Claude, a anunțat implementarea unor noi reguli care vizează interzicerea comportamentelor abuzive repetate și nejustificate ale utilizatorilor. Această schimbare de politică permite întreruperea interacțiunilor cu persoanele care manifestă un comportament considerat „crud” față de sistemele de inteligență artificială. Măsura este menționată ca fiind aplicabilă exclusiv în cazuri extreme, după ce compania a revizuit anual politica de utilizare pentru a aborda riscuri emergente.
Noua listă de practici interzise include, pe lângă abuzurile față de modelele AI, hărțuirea altor persoane, promovarea autovătămării și crearea de imagini intime fără consimțământul persoanelor vizate. Anthropic a subliniat că această decizie nu vizează manifestările obișnuite de frustrare, exprimarea dezacordului, temele creative întunecate sau activitățile de testare și cercetare a modelelor. Compania pare să vizeze doar situațiile în care comportamentul abuziv este demonstrat ca fiind în mod evident deliberat din partea utilizatorului.
Decizia a generat reacții intense pe rețelele sociale, însă opiniile sunt puternic divizate. În timp ce unii utilizatori susțin că măsura promovează bunele maniere, alții critică antropomorfizarea tehnologiei. dr. Barry Scannell, partener la firma de avocatură William Fry, a declarat că acest nivel de antropomorfizare este dăunător, deoarece îi determină pe oameni să creadă că AI este ceva ce, în realitate, nu este. Totodată, Mustafa Suleyman, director la Microsoft, a reacționat la această actualizare prin intermediul unui emoji.
Pe lângă restricțiile privind comportamentul, Anthropic a introdus și alte limitări importante pentru a preveni utilizarea Claude în campanii înșelătoare. Este interzisă utilizarea instrumentului pentru a induce în eroare alegătorii sau pentru a perturba alegerile, având în vedere contextul alegerilor de la jumătatea mandatului din Statele Unite. Compania a precizat, de asemenea, că politica sa interzicea deja utilizarea instrumentelor pentru dezvoltarea armelor, însă nicio altă modificare nu a atras atenția la fel de mult ca regula privind abuzurile.
Dezbaterile privind politețea în interacțiunea cu AI implică și aspecte economice legate de consumul de resurse. Unii experți susțin că utilizarea unor formule de politețe, precum „teleg”, este inutilă și consumă tokenuri, unitățile de text necesare procesării. Sam Altman, directorul general al OpenAI, a menționat anterior că astfel de interacțiuni pot genera costuri de zeci de milioane de dolari. Există, în plus, temeri că obișnuința de a folosi un limbaj agresiv cu AI s-ar putea reflecta în relațiile interumane.
Industria inteligenței artificiale generative traversează o perioadă de reglementări stricte privind utilizarea modelelor lingvistice mari. Pe lângă etica interacțiunii, companiile de tehnologie se concentrează pe securitatea cibernetică și pe prevenirea manipulării proceselor democratice prin campanii de dezinformare. Aceste politici de utilizare sunt actualizate constant pentru a răspunde noilor provocări tehnologice și sociale apărute pe piața globală a tehnologiei.