Compania americană Anthropic a anunțat implementarea unor noi măsuri de securitate destinate protejării modelelor sale de inteligență artificială, Claude. Aceste intervenții tehnologice vizează combaterea atacurilor de tip „distilare”, care permit entităților rivale să reproducă funcționalitățile modelelor avansate într-un timp mai scurt și cu costuri mult mai reduse. Conform datelor furnizate de companie, noile protecții au redus cantitatea de date extrase prin aceste metode cu un procent cuprins între 90% și 99%.
Noile mecanisme de protecție funcționează prin limitarea accesului la procesele de raționament specifice modelului Claude. Prin această abordare, Anthropic reușește să reducă posibilitatea ca competitorii să extragă informații esențiale pentru dezvoltarea propriilor sisteme de inteligență artificială. Compania a subliniat că numărul de tokenuri asociate proceselor de raționament care sunt extrase de către atacatori este acum de 10 până la 100 de ori mai mic față de situația anterioară la implementarea acestor măsuri.
Pentru a întări apărarea, entitatea cu sediul în California a introdus și proceduri care îngreunează utilizarea rețelelor de servere intermediare. Aceste rețele sunt folosite de atacatori pentru a încerca, în mod repetat, accesarea informațiilor protejate ale sistemului Claude. Anthropic a raportat că a reușit deja blocarea a zeci de mii de conturi care erau asociate direct cu campanii de distilare a modelelor sale de inteligență artificială.
Eficacitatea acestui nou sistem de securitate este comparată de companie cu robustețea mecanismelor care împiedică modelul Claude să contribuie la dezvoltarea armelor biologice. Anthropic precizează că rata rezultatelor fals pozitive este extrem de scăzută, fiind sub pragul de 0,1%. Compania a menționat startupul chinez Z.ai, cunoscut și sub numele de Zhipu, ca fiind un exemplu de actor care ar fi încercat să copieze capacitățile Claude în timpul procesului de dezvoltare a modelului GLM-5.3.
Problematica distilării modelelor de inteligență artificială a devenit o preocupare majoră pentru marii jucători tehnologici, inclusiv OpenAI și Google. Această competiție pentru proprietatea intelectuală se înscrie într-un context de intensificare a rivalității tehnologice dintre Statele Unite și China. Anthropic avertizează că astfel de practici de copiere nu reprezintă doar o pierdere economică, ci pot genera riscuri serioase pentru siguranța și securitatea națională.
Industria tehnologică globală traversează o perioadă de expansiune accelerată, în care dezvoltarea modelelor de limbaj mari necesită resurse masive. Pe lângă provocările legate de securitatea datelor și protecția proprietății intelectuale, sectorul este monitorizat și pentru impactul asupra resurselor naturale. Dezvoltarea infrastructurii de calcul și a centrelor de date necesită o gestionare atentă a consumului de energie și a resurselor de apă, având implicații directe asupra comunităților locale.