O creștere alarmantă a materialelor de abuz sexual asupra copiilor generate prin inteligență artificială a fost raportată de o organizație britanică specializată în monitorizarea globală a acestor conținuturi. IWF a analizat un total de 6.310 imagini statice care intră în definiția legală a materialelor de abuz sexual asupra minorilor. Această cifră reprezintă o creștere de aproximativ 40% față de totalul înregistrat în anul 2025, când organizația a identificat peste 4.500 de astfel de imagini pe internet.
Analiza datelor arată că majoritatea imaginilor identificate în acest an îl reprezintă pe fete și copii cu vârste cuprinse între 7 și 13 ani. Pe lângă materialele statice, IWF a raportat anterior și o creștere semnificativă a materialelor video create prin intermediul inteligenței artificiale. Această evoluție a determinat organizația să solicite implementarea unor reguli obligatorii pentru toți dezvoltatorii de tehnologii de inteligență artificială, pentru a preveni utilizarea acestora în scopuri ilicite.
Hannah Swirsky, șefa departamentului de politici al organizației, susține că firmele de tehnologie au responsabilitatea de a construi sisteme care să nu poată fi utilizate cu ușurință pentru generarea acestor materiale. În Marea Britanie, astfel de imagini sunt deja ilegale, indiferent dacă sunt rezultatul proceselor de inteligență artificială sau provin din materiale reale. Legislația britanică interzice inclusiv adaptarea unui model AI pentru producerea acestor conținuturi sau distribuirea unor modele create special în acest scop.
Problema vizează și manipularea imaginilor reale, serviciul britanic Report Remove primind deja 420 de sesizări de la copii care au descoperit fotografii falsificate sau manipulate pentru a-i prezenta în situații sexuale. Acest număr de sesizări depășește deja totalul de 397 de cazuri raportate în anul 2025. Din acest motiv, Agenția Națională pentru Combaterea Criminalității din Marea Britanie și IWF recomandă părinților să limiteze publicarea fotografiilor copiilor pe rețelele sociale, sugerând utilizarea conturilor private.
În Marea Britanie, dezvoltarea unui model conceput pentru a produce imagini hiperrealiste de abuz sexual asupra copiilor poate atrage pedepse de până la cinci ani de închisoare. Deși reglementările actuale sunt stricte, guvernul britanic nu a anunțat încă un nou proiect de lege dedicat exclusiv inteligenței artificiale. Ministrul britanic pentru AI, Kanishka Narayan, a declarat în acest sens că nimic nu este exclus în privința unor viitoare reglementări suplimentare pentru sectorul tehnologic.
Monitorizarea conținutului digital prin organizații internaționale precum IWF este esențială pentru identificarea noilor metode de criminalitate cibernetică. Evoluția tehnologiei AI permite generarea de conținut hiperrealist, ceea ce pune presiune pe autoritățile de reglementare și pe platformele de social media pentru a implementa filtre de siguranță mai avansate. Protecția minorilor în mediul online necesită o colaborare strânsă între dezvoltatorii de software, poliția națională și părinți.