Un al doilea matematician a acuzat în mod public OpenAI de comportament neetic și „necinstit” în legătură cu datele din spatele celebrelor sale descoperiri în matematică, declarând că compania nu a reușit să demonstreze că interacțiunile sale private cu ChatGPT nu au contribuit la rezultatele anunțate cu mare fanfară luna trecută.
Într-o serie de postări despre Mastodon raportate miercuri de The Verge, matematicianul Andreas Thom și-a exprimat îngrijorarea că conversațiile pe care el și colegii săi au avut cu ChatGPT înainte de anunțul OpenAI ar fi putut contribui la succesul modelului. Intervenția sa a avut loc la doar câteva zile după ce profesorul de matematică de la Universitatea din New York Tristan Buckmaster a pus la îndoială public dacă modelele OpenAI au beneficiat de propria utilizare a instrumentului Codex al companiei - transformând un moment de triumf pentru laborator într-o dispută curentă privind proveniența datelor de antrenament. For more context on this story, see our ongoing AI industry coverage.
De la descoperire la reacții adverse
În august, OpenAI a anunțat că sistemul său a produs zece rezultate semnificative în matematică și informatică teoretică, fiecare verificată cu dovezi Lean verificate de mașină – o piatră de hotar acoperită de acest site la acea vreme, alături de soluția pretinsă a companiei la o problemă a premiului Millennium. Unul dintre cele zece rezultate a stabilit existența așa-numitelor grupuri non-sofice, o întrebare de mult deschisă în teoria grupurilor.
Acest rezultat se află în centrul noii controverse. Potrivit The Verge, OpenAI a recunoscut că dovada s-a bazat în mare măsură pe lucrările anterioare ale lui Thom și ale colegului matematician Gábor Kun - și după criticile cercurilor matematice pentru că inițial nu și-au recunoscut contribuțiile recente, compania și-a modificat în liniște articolul.
Pentru Thom, recunoașterea a ridicat o întrebare inconfortabilă: cum a ajuns modelul să comandă tehnicile lui și ale lui Kun atât de detaliat?
Întrebarea pe care o spune Thom a rămas fără răspuns
Thom a spus că a fost surprins de „stăpânirea detaliată de către OpenAI a tehnicilor noastre”, despre care el a remarcat că nu erau nici cele mai evidente, nici cele mai promițătoare căi către o soluție la acea vreme. El a scris e-mailuri către cercetătorii OpenAI Sébastien Bubeck și Mark Sellke - acesta din urmă și statistician la Harvard - întrebând dacă interacțiunile sale cu ChatGPT au făcut „parte din datele de formare sau accesibile procesului de raționament” și, prin urmare, ar fi putut contribui la rezultat.
Răspunsul pe care l-a primit s-a adresat doar dacă conversațiile sale puteau fi accesate direct, nu dacă au intrat în bazinele vaste de date folosite pentru antrenarea și îmbunătățirea modelelor companiei. „Nu s-a dat o astfel de calificare, explicație sau dovadă”, a scris Thom. „Prin asta ca pe o necinste ca să spun cel puțin.”
Într-o continuare citată de The Verge, el a ascutit acuzația: „Răspunsul categoric al lui Sellke a fost, cel puțin, nejustificat de larg și înșelător din punct de vedere material; privind în urmă, a fost clar necinstit”.
Argumentul lui Thom este mai puțin despre ceea ce a făcut OpenAI decât despre cine poartă sarcina probei. Cercetătorii, a spus el, nu sunt echipați pentru a face inginerie inversă a conductei de formare a companiei. „Doar OpenAI are datele relevante pentru asta”, a scris el – așa că, dacă compania dorește să nege că datele utilizatorilor au contribuit la rezultatele sale, OpenAI are responsabilitatea de a dovedi acest lucru, dezvăluind seturile de date relevante și clarificând modul în care utilizează interacțiunile cu clienții.
Refuzurile atente ale OpenAI
Disputa este un ecou cu gestionarea de către companie a pretinsului său succes Navier-Stokes, lucru pe care Buckmaster o desfășura cu cercetătorul antropic Levent Alpöge în calitate personală, potrivit The Verge. În postarea pe blog care a anunțat acest rezultat, OpenAI a declarat: „Noi (cercetătorii și agenții) nu am văzut nimic din munca lor prin niciun mijloc până când nu l-au lansat public – în special, nu au fost accesate date specifice ale utilizatorului pentru a rezolva această problemă”.
Dar aceeași postare a recunoscut un canal indirect: „Deși este puțin probabil, nu putem exclude că datele de-identificate derivate din utilizarea produselor noastre au ajutat la îmbunătățirea modelelor noastre”.
Pentru Thom, această distincție este întreaga problemă. „De-identificarea poate elimina un nume; nu elimină conținutul intelectual al unei idei matematice”, a scris el. OpenAI nu a răspuns imediat solicitării de comentarii a lui The Verge.
El a adăugat că „ar fi de neapărat din punct de vedere etic” dacă cercetările nepublice furnizate de utilizatori ar ajuta la îmbunătățirea modelelor pe care compania le-a folosit apoi pentru a-i concura pe aceiași utilizatori la publicare – fără consimțământ, dezvăluire adecvată sau credit.
Un chill peste matematică
Circumstanțele impulsului pentru Premiul Mileniului nu au făcut nimic pentru a calma nervii. OpenAI a spus că a urmărit problema după ce a auzit zvonuri online potrivit cărora alți cercetători au făcut progrese majore – aducându-le efectiv academicienilor la un rezultat pe care au petrecut ani de zile să se apropie.
Numeroși cercetători au declarat pentru The Verge că se îngrijorează că un astfel de comportament va împinge matematica într-o stare mai secretă, dacă matematicienii ajung să creadă că chiar și zvonurile despre o descoperire iminentă ar putea aprinde o cursă împotriva unui gigant tehnologic bine dotat, dornic de glorie. Acoperirea conexă a Verge – „Dezvoltarea matematică vicleană a OpenAI trimite un fior în mediul academic” – a surprins starea de spirit din domeniu.
Episodul aterizează într-un moment delicat pentru companiile AI și comunitățile de cercetare cu care se confruntă din ce în ce mai mult. Indiferent de meritele oricărui rezultat individual, asimetria descrisă de Thom este structurală: laboratoarele pot ingera interacțiunile utilizatorilor la scară, în timp ce oamenii care generează acele date nu au nicio modalitate de a audita ceea ce a fost preluat. Până când companiile fie își vor deschide conductele de instruire pentru a fi controlate, fie vor impune firewall-uri dure și verificabile între conversațiile cu clienții și formarea modelului, fiecare declarație „nu v-am folosit datele” va purta implicit un asterisc – și fiecare descoperire va veni cu matematicieni și din ce în ce mai mulți cercetători din alte domenii, care cer dovezi.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
