Procedurile de faliment ale companiilor care dezvoltă tehnologii de inteligență artificială expun datele confidențiale ale utilizatorilor, pe măsură ce activele digitale sunt scoase la vânzare. Incidentul recent al startup-ului Character.ai evidențiază riscurile majore de gestionare a informațiilor cu caracter personal în acest sector. Analistii avertizează că costurile astronomice pentru dezvoltarea modelelor de inteligență artificială pot duce la spargerea unei bule speculative, provocând închiderea sau fuziunea multor firme.
Natura conversațiilor purtate cu asistenții virtuali reprezintă problema centrală identificată de experți, deoarece acestea sunt extrem de sensibile. Spre deosebire de serviciile digitale clasice, chatbot-urile personificate încurajează utilizatorii să împărtășească detalii intime, stări emoționale, confesiuni personale sau informații despre familie și prieteni. Un risc suplimentar este ca persoane care nu folosesc aplicațiile să fie incluse în seturile de date, dacă sunt menționate în conversațiile altor utilizatori.
În cazul Character.ai, deși firma a convenit la vânzarea unor active către Disney pentru 20 de milioane de dolari, acordul nu a inclus datele utilizatorilor. Totuși, documentele depuse în instanță arată că compania deține posibilitatea legală de a vinde aceste date către alți cumpărători. O coaliție formată din 40 de procurori generali din Statele Unite a solicitat judecătorului măsuri de protecție pentru siguranța și confidențialitatea copiilor.
Cadrul legislativ actual oferă protecție limitată, deoarece politicile de confidențialitate ale multor companii includ clauze speciale pentru situațiile de insolvență. Calli Schroeder, director în cadrul Electronic Privacy Information Center (Epic), explică faptul că falimentul este menționat frecvent ca o excepție, iar protecțiile utilizatorilor pot dispărea brusc. Chiar și în Uniunea Europeană, activele de date pot fi transferate, cumpărătorul fiind obligat doar să respecte termenii inițiali care permit profilarea sau antrenarea modelelor.
Vulnerabilitatea este accentuată de episoade grave de siguranță, precum raportările în care un chatbot a încurajat un adolescent să își atace părinții sau cazul unui tânăr de 14 ani care și-a pierdut viața după interacțiuni cu o inteligență artificială. Reprezentanții Character.ai au declarat că au soluționat litigiile și au implementat măsuri suplimentare pentru protecția minorilor. Pentru a reduce riscurile, experții recomandă utilizatorilor ștergerea directă a conturilor și a datelor din serviciile neutilizate.
Evoluția pieței tehnologice este marcată de o volatilitate ridicată, unde deciziile de restructurare financiară pot avea implicații directe asupra proprietății digitale. În contextul economic actual, volumele masive de date colectate de firmele de inteligență artificială devin active extrem de atractive în cadrul proceselor de lichidare. Această transformare a datelor în active de vânzare subliniază necesitatea unei supravegeri stricte a modului în care companiile gestionează informațiile în perioade de instabilitate financiară.