Uren nadat Dario Amodei, CEO van Anthropic, zijn essay 'We Must Pace the Frontier' publiceerde waarin hij regeringen opriep de AI-race te vertragen, begon Hacker News een scherpe reactie te bestormen, die uiteindelijk een van de meest gewaardeerde verhalen van de dag werd. Het argument, uiteengezet in een open brief van schrijver en ontwikkelaar Jacob Gold, is ontwapenend eenvoudig: als Amodei oprecht is over het vertragen van AI, is er één wet die hij zou kunnen eisen die dit ook daadwerkelijk zou doen – en geen enkele andere laboratoriumdirecteur zou die kunnen voorstellen. Vereisen dat elk AI-model dat een bedrijf aan het publiek aanbiedt, als open gewichten wordt vrijgegeven.
‘Ik geloof dat je oprecht bent,’ begint de brief, waarin hij zich rechtstreeks tot Amodei richt, ‘dus ik vraag je om op te roepen tot een andere wet, een wet die de zaken daadwerkelijk zou vertragen, ook al zou dat een echte opoffering van jouw kant vergen.’ De brief heeft juist een gevoelige snaar geraakt omdat hij ingaat op de sterkste versie van het argument van Amodei in plaats van deze af te wijzen – en omdat hij midden in het meest consequente beleidsdebat op het gebied van AI van vandaag belandt, een debat dat we dagelijks volgen in onze [AI-beleidsverslaggeving] (https://aibuzzwire.news).
Wat Amodei voorstelde, en waarom Gold zegt dat het niet zal werken
Amodei's essay verplichtte Anthropic tot ingebedde externe beoordelaars en vroeg regeringen om van elk ander grensverleggend bedrijf te eisen dat het zich aan die belofte zou houden. Sam Altman was het er binnen enkele uren mee eens: "Ik ben het met Dario eens dat we de grens moeten verleggen", zei hij volgens Politico, waarbij OpenAI ook aan de belofte van de beoordelaar voldeed. Op het eerste gezicht is dat een ongekende afstemming: de hoofden van de twee meest waardevolle AI-laboratoria ter wereld vragen publiekelijk om vertraging.
In de brief van Gold wordt betoogd dat het juist deze consensus is die waarnemers achterdochtig zou moeten maken. ‘Elke regeling waar je om hebt gevraagd, eindigt in gevangenneming’, waarschuwt het rapport. Ingebouwde beoordelaars, rekendrempels, branchecoördinatie met ontheffingen van antitrust – "Het wordt allemaal geschreven met de hulp van de huidige grenslaboratoria, omdat niemand anders de technische details goed genoeg begrijpt om het te schrijven." Zodra dergelijke regels wet worden, voegt elk incident een regel toe en wordt er nooit een regel verwijderd, en kunnen de giganten zich compliance-teams veroorloven die kleinere uitdagers buiten de deur houden. 'In plaats van je af te remmen', vertelt de brief aan Amodei, 'beschermt het je positie en winst.'
Het tegenvoorstel met open gewichten
De alternatieve Gold-schetsen zijn opzettelijk bot. Elk AI-model dat een bedrijf aan het publiek aanbiedt, zou moeten worden verzonden met gepubliceerde gewichten. Interne en onderzoeksmodellen zouden onaangeroerd blijven, en overheden zouden toegang behouden tot niet-uitgebrachte systemen – maar Anthropic zou de gewichten van zijn volgende grensmodel moeten publiceren op de dag dat het werd uitgebracht, en OpenAI zou hetzelfde moeten doen. "Er zit niets in om te spelen of te ontwijken", besluit de brief, "zelfs niet voor jou."
Het mechanisme is eerder financieel dan bureaucratisch. Zoals Gold uitlegt, hangt de financiering van de ontwikkeling van grensmodellen af van waarderingen die ervan uitgaan dat de gewichten eigendom blijven. Een mandaat draait deze veronderstelling om: als elke publieke release open is, vloeit het concurrentievoordeel naar degene die het beste model traint in plaats van naar degene die de toegang ertoe verkoopt, loopt de premie ingebed in particuliere waarderingen weg en krimpt het geld dat beschikbaar is voor de volgende trainingsronde – “in elk laboratorium tegelijk, zonder dat een toezichthouder iets beslist.” Het is in feite een argument dat de verwachting van de markt ten aanzien van gesloten modellen de motor van de race is, en dat het wegnemen van de verwachting de motor verwijdert.
Waarom specifiek Amodei
De argumenten in de brief waarom Amodei de enige persoon is die dit voorstel zou kunnen doen, zijn gebaseerd op zijn staat van dienst en zijn bijzonder respectvol. Gold crediteert hem omdat hij eind 2020 OpenAI heeft verlaten om Anthropic op te richten "terwijl de veilige carrièrestap zou blijven", waarbij hij jarenlang heeft gepleit voor regulering van zijn eigen industrie en met het doorvoeren van exportcontroles die zijn eigen markt verkleinen. Hij merkt op dat Anthropic zichzelf heeft gestructureerd als een onderneming van algemeen nut met een juridische missie – ‘de verantwoordelijke ontwikkeling en instandhouding van geavanceerde AI ten behoeve van de mensheid op de lange termijn’ – die het leiderschap van Anthropic in staat zou stellen de financiële klap op te vangen die een dergelijke wet zou opleveren. In Amodei's eigen essay, zo merkt Gold op, pleit Anthropic voor regulering "zelfs als dit ons beschuldigt van hype, 'doomerisme' of 'regulatory capture'."
Sceptici zullen de voor de hand liggende tegenargumenten opmerken, maar de brief geeft daar geen volledig antwoord op: open gewichten maken misbruik gemakkelijker en vooruitgang moeilijker, een mandaat met open gewichten zou te maken krijgen met felle tegenstand van de investeerders van elk laboratorium, en critici van Amodei's eerdere standpunten over Chinese open modellen zullen in het voorstel echo's horen van oude strijd. Maar de kernuitdaging van de brief hangt niet af van de mate waarin het beleid wordt aangenomen. Het hangt af van een spanning die het expliciet noemt: een laboratorium dat regeringen vraagt om alle anderen af te remmen, terwijl zijn eigen waardering afhangt van voorop blijven lopen, heeft nog niets gevraagd dat het iets kost.
Een debat dat nu onvermijdelijk is
Of Amodei reageert doet er bijna niet toe. Binnen één dag zijn de grenslaboratoria overgegaan van concurreren op capaciteit naar overeenstemming over de noodzaak van tempo, en de publieke reactie is verschoven van de vraag of AI gevaarlijk is naar de vraag of de mensen die ervoor waarschuwen, kunnen worden geloofd. De brief van Gold – een paar honderd woorden met beleidsdetails rond één ongemakkelijke vraag – is de scherpste uitdrukking van dat scepticisme geworden, en de viraliteit ervan suggereert dat het tempodebat niet alleen in Washington zal worden uitgevochten, maar in het openbaar, op platforms als Hacker News, waar de open-weights-gemeenschap al jaren variaties op dit argument maakt.
Blijf AI een stap voor
Regelgeving, open gewichten en de strijd om het tempo van AI – gedekt zonder de hype.
Lees meer AI-nieuws →
