„Dacă vrei serios, deschide greutățile”: scrisoarea deschisă virală provoacă apelul de încetinire a AI al lui Dario Amodei

La câteva ore după ce CEO-ul Anthropic, Dario Amodei, a publicat eseul „We Must Pace the Frontier” prin care cere guvernelor să încetinească cursa AI, un răspuns clar a început să urce pe Hacker News, devenind în cele din urmă una dintre cele mai votate povești ale zilei. Argumentul său, prezentat într-o scrisoare deschisă de scriitorul și dezvoltatorul Jacob Gold, este dezarmant de simplu: dacă Amodei este sincer în ceea ce privește încetinirea AI, există o lege pe care ar putea-o cere și care ar face-o de fapt - și niciun alt director de laborator nu ar putea-o propune. Solicitați ca fiecare model de inteligență artificială pe care o companie îl oferă publicului să fie lansat ca ponderi deschise.

„Cred că ești sincer”, se deschide scrisoarea, adresându-se direct lui Amodei, „deci vă cer să cereți o altă lege, una care de fapt ar încetini lucrurile, deși ar necesita un adevărat sacrificiu din partea dumneavoastră”. Scrisoarea a lovit un nervi tocmai pentru că se implică cu cea mai puternică versiune a argumentului lui Amodei, mai degrabă decât să o respingă - și pentru că ajunge în mijlocul celei mai importante dezbateri politice din AI de astăzi, o dezbatere pe care o urmărim zilnic în acoperirea politicii AI.

Ce a propus Amodei și de ce Gold spune că nu va funcționa

Eseul lui Amodei a angajat Anthropic în fața unor evaluatori terți încorporați și a cerut guvernelor să solicite tuturor celorlalte companii de frontieră să corespundă acestui angajament. Sam Altman a fost de acord în câteva ore - „Sunt de acord cu Dario că trebuie să ritmăm frontiera”, a spus el, potrivit Politico, OpenAI egalând și angajamentul evaluatorului. Pe față, aceasta este o aliniere fără precedent: șefii celor mai valoroase laboratoare de inteligență artificială din lume cer public să fie încetiniți.

Scrisoarea lui Gold susține că tocmai acest consens ar trebui să-i facă pe observatori suspicioși. „Fiecare regulament pe care l-ați cerut se termină prin capturare”, avertizează acesta. Evaluatori încorporați, praguri de calcul, coordonarea industriei cu derogări antitrust — „Totul este scris cu ajutorul laboratoarelor de frontieră actuale, pentru că nimeni altcineva nu înțelege detaliile tehnice suficient de bine pentru a le scrie”. Odată ce astfel de reguli devin lege, fiecare incident adaugă o regulă și niciuna nu este niciodată eliminată, iar giganții își pot permite echipele de conformitate care îi țin departe pe cei mici. „În loc să te încetinească”, îi spune scrisoarea lui Amodei, „îți protejează poziția și profiturile”.

Contrapropunerea cu greutăți deschise

Schițele alternative Gold sunt în mod deliberat netede. Orice model de inteligență artificială pe care o companie îl oferă publicului ar trebui să fie livrat cu greutățile publicate. Modelele interne și de cercetare ar fi neatinse, iar guvernele ar păstra accesul la sistemele nelansate – dar Anthropic ar trebui să publice ponderile următorului său model de frontieră în ziua în care va fi lansat, iar OpenAI ar trebui să facă același lucru. „Nu există nimic de jucat sau de eschivat”, conchide scrisoarea, „chiar și pentru tine”.

Mecanismul este mai degrabă financiar decât birocratic. După cum explică Gold, finanțarea pentru dezvoltarea modelului de frontieră depinde de evaluări care presupun că ponderile rămân proprietare. Un mandat inversează această ipoteză: dacă fiecare lansare publică este deschisă, avantajul competitiv revine celui care antrenează cel mai bun model, mai degrabă decât celui care vinde accesul la acesta, prima încorporată în evaluările private se dezumflă, iar banii disponibili pentru următoarea cursă de antrenament se micșorează - „la fiecare laborator deodată, fără ca un organism de reglementare să decidă nimic”. Este, de fapt, un argument că așteptările pieței de modele închise este motorul cursei și că eliminarea așteptării îndepărtează motorul.

De ce Amodei, mai exact

Cazul scrisorii pentru care Amodei este singura persoană care ar putea face această propunere se bazează pe dosarul său și este deosebit de respectuos. Gold îl merită că a părăsit OpenAI la sfârșitul anului 2020 pentru a fonda Anthropic „când mișcarea sigură în carieră trebuia să rămână”, că a susținut timp de ani de zile reglementarea propriei sale industrie și că a promovat controalele la export care îi micșorează propria piață. El observă că Anthropic s-a structurat ca o corporație de beneficiu public cu o misiune legală - „dezvoltarea responsabilă și menținerea IA avansată pentru beneficiul pe termen lung al umanității” - care ar permite conducerii sale să absoarbă lovitura financiară pe care o ar produce o astfel de lege. Eseul propriu al lui Amodei, observă Gold, spune că Anthropic pledează pentru reglementare „chiar și atunci când acest lucru ne face acuzați de hype, „doomerism” sau captura de reglementare”.

Scepticii vor nota contraargumentele evidente, iar scrisoarea nu le răspunde pe deplin: ponderile deschise facilitează utilizarea abuzivă și îngreunează progresul, un mandat de pondere deschisă s-ar confrunta cu o opoziție acerbă din partea investitorilor fiecărui laborator, iar criticii pozițiilor anterioare ale lui Amodei cu privire la modelele deschise chineze vor auzi ecouri ale vechilor lupte în propunere. Dar principala provocare a scrisorii nu depinde de adoptarea politicii sale. Depinde de o tensiune pe care o numește în mod explicit: un laborator care cere guvernelor să încetinească pe toți ceilalți, în timp ce propria sa evaluare depinde de a rămâne în frunte, nu a cerut încă nimic care să-l coste ceva.

O dezbatere care acum este inevitabilă

Dacă Amodei răspunde este aproape deloc în discuție. Într-o singură zi, laboratoarele de frontieră au trecut de la concurența în ceea ce privește capacitatea la convenirea asupra necesității ritmului, iar răspunsul publicului a trecut de la întrebarea dacă AI este periculoasă la întrebarea dacă oamenii care avertizează despre asta pot fi crezuți. Scrisoarea lui Gold – câteva sute de cuvinte cu detalii politice înglobate în jurul unei întrebări inconfortabile – a devenit cea mai clară expresie a acestui scepticism, iar viralitatea ei sugerează că dezbaterea ritmică va fi purtată nu doar la Washington, ci în public, pe platforme precum Hacker News, unde comunitatea deschisă face variații ale acestui argument de ani de zile.

Stai înaintea AI

Reglementări, greutăți deschise și lupta pentru ritmul AI - acoperite fără hype.

Citiți mai multe știri AI →