O controversă majoră a izbucnit în comunitatea academică după ce OpenAI a anunțat rezolvarea unei probleme matematice extrem de complexe. Tristan Buckmaster, profesor la Universitatea din New York, și Levent Alpöge, matematician la Anthropic, au lucrat un an de zile la problema Navier-Stokes, una dintre cele șapte Probleme ale Mileniului. Această problemă descrie comportamentul fluidelor și al gazelor, fiind considerată una dintre cele mai dificile întrebări din matematică, cu un premiu de un milion de dolari.
Procesul de cercetare a implicat utilizarea asistenților AI, precum Claude și Codex, pentru gestionarea calculelor complexe. În august, cercetătorii au reușit să abordeze versiunea simplificată a problemei, numită ecuațiile Euler, care reprezintă un pas decisiv în demonstrație. Ulterior, OpenAI a mobilizat resurse masive, inclusiv aproximativ 10.000 de agenți AI și milioane de dolari în putere de calcul, pentru a lansa un model intern de demonstrație, anunțând public rezolvarea problemei pe 8 septembrie.
Există suspiciuni privind utilizarea datelor de la cercetătorii independenți pentru antrenarea modelelor de limbaj. Tristan Buckmaster a întrebat dacă modelul OpenAI a fost antrenat pe sesiunile de lucru de pe Codex, însă răspunsul oficial a fost unul evasiv. Compania a recunoscut ulterior că nu poate exclude posibilitatea ca munca realizată de matematicieni în ultimul an să fi ajutat la dezvoltarea modelului care a oferit soluția finală, ceea ce ridică semne de întrebare privind proprietatea intelectuală.
Tensiunile au crescut și pe plan profesional, după ce Tristan Buckmaster a raportat că a fost amenintat de un matematician de la OpenAI. Acesta i-a sugerat că își riscă cariera dacă decide să publice informațiile, oferindu-i și opțiunea de a publica o lucrare fără creditarea lui Levent Alpöge. Sébastien Bubeck, care a condus discuțiile din partea OpenAI, a adoptat un ton critic față de decizia de a vorbi în public, conform relatăriilor despre incident.
În acest context, 25 de laureați ai Medaliei Fields au publicat scrisoarea „A Severe Misalignment of AI in Mathematics”. Aceștia avertizează că modelele de AI transformă problemele matematice în simple demonstrații de putere, fără a oferi înțelegerea profundă necesară. Autorii subliniază că interesele companiilor de tehnologie pot deveni dezechilibrate față de interesele profesiei, transformând procesul de descoperire într-o cursă de viteză care ignoră beneficiile educaționale și metodologice de pe termen lung.
Această evoluție a tehnologiei AI este marcată de o discrepanță între viteza de procesare și nevoia de înțelegere fundamentală. În timp ce progresul tehnologic este incontestabil, experții avertizează că modelele pot deveni concurenți pentru proprii lor utilizatori, utilizând datele acestora pentru a-și crește capacitatea. Această problemă de „misalignment” reflectă teama că interesele AI ar putea să nu mai fie aliniate cu cele ale cercetătorilor și ale societății în general.