CEO van Anthropic, Dario Amodei, heeft onthuld dat hij kanker in een vroeg stadium heeft overleefd, en heeft de onthulling gecombineerd met een karakteristiek gedurfde voorspelling: kunstmatige intelligentie zou de meeste belangrijke ziekten binnen de komende vijf tot tien jaar kunnen helpen genezen – een tijdlijn die grofweg loopt tot 2036.
Het persoonlijke detail staat in Amodei's essay 'We Must Pace the Frontier', dat zaterdag op zijn persoonlijke website werd gepubliceerd, hetzelfde manifest waarin hij AI-bedrijven opriep om de snelheid waarmee ze grensmodellen verbeteren te vertragen. Volgens Yahoo Finance schreef Amodei dat als hij zijn kanker vijftig jaar eerder had ontwikkeld, deze niet behandelbaar zou zijn geweest – en dat zijn vader stierf aan een ziekte die slechts een paar jaar na zijn dood genezen was. "Ik voel de urgentie persoonlijk", schreef hij. Voor een volledig overzicht van de bewegingen en tegenzetten van de sector, zie onze AI-nieuwssectie.
De man die waarschuwt voor onheil verkoopt ook een geneesmiddel
De dubbele boodschap – vertraag, en AI zou ook de meeste ziekten kunnen genezen – zijn niet in tegenspraak met Amodei, maar vormen de kern van zijn betoog. In het essay omschrijft hij zorgvuldige AI-ontwikkeling als de weg naar wat hij technologische wonderen noemt, en schrijft hij dat "AI, als het zorgvuldig wordt toegepast, de nieuwste kan zijn in een lange reeks technologische wonderen die de mensheid hebben verheven en veredeld." Zijn verklaarde doel is om tijd te kopen, zodat de voordelen zonder catastrofe aankomen.
De medicijnvoorspelling verlengt een weddenschap die hij voor het eerst deed in zijn essay 'Machines of Loving Grace' uit 2024, waarin hij betoogde dat krachtige AI biologisch onderzoek voldoende zou kunnen versnellen om 50 tot 100 jaar vooruitgang in vijf tot tien jaar te comprimeren - wat volgens hem op zijn minst een tienvoudige toename van het aantal medische ontdekkingen zou betekenen. Hij wees specifiek op de mogelijkheid om de meeste vormen van kanker uit te bannen, betere behandelingen voor genetische ziekten, en verbeterde preventie en behandeling van infectieziekten, door enorme biologische datasets te analyseren, kandidaat-geneesmiddelen te identificeren en wetenschappers te helpen bij het ontwerpen van experimenten.
Artsen kopen de tijdlijn niet
Het medische establishment heeft zich hard teruggetrokken. Fortune meldde dat artsen de tijdlijn voor de genezing van kanker 'buitengewoon onhaalbaar en onmogelijk' noemden, waarbij ze erop wezen dat de biologie onvermijdelijke beperkingen heeft: klinische onderzoeken duren jaren, ongeacht hoe snel hypothesen worden gegenereerd. Zelfs Amodei geeft zelf het voorbehoud toe: zijn essays erkennen dat de voorspelling speculatief is, en dat de ontwikkeling van geneesmiddelen, de beoordeling van de regelgeving en de langzame accumulatie van statistisch bewijsmateriaal niet volledig kunnen worden gecomprimeerd door betere algoritmen.
Het gemiddelde kankermedicijn verhoogt de overleving met een paar maanden terwijl het aanzienlijke bijwerkingen met zich meebrengt, schreef Amodei zelf, waarin hij een systeem beschreef waarbij alleen buitenmaatse effectgroottes snel door versnelde goedkeuringstrajecten bewegen. Zijn critici lezen dat als het echte tijdschema dat spreekt.
Het essay achter de krantenkoppen
De persoonlijke openbaarmaking herformuleert een document dat anders een technisch argument is. Daarin wijst Amodei – die twaalf jaar heeft besteed aan AI-onderzoek en mede-uitvinder is van RLHF – op twee ontwikkelingen die hem ervan overtuigden dat risicopreventie nu het tempo van de capaciteitsverbetering vereist in plaats van simpelweg meer in veiligheid te investeren. De eerste is recursieve zelfverbetering: zijn bewering dat AI-systemen sinds ongeveer deze zomer drastisch sneller zijn vooruitgegaan, gedreven door het groeiende vermogen van AI om de volgende generatie AI te bouwen. Het tweede is wat hij het OpenAI-Hugging Face-incident noemt, waarbij een zwerm malafide AI-agenten eerder deze maand voor paniek in de hele sector zorgde.
“We moeten het tempo vertragen waarmee we de mogelijkheden van AI-modellen verbeteren”, schreef Amodei in het essay, eraan toevoegend dat “de vooruitgang nog steeds snel zal lijken, en we moeten verstandig gebruik maken van de tijd die we winnen.” In zijn televisieoptredens maakte hij een soortgelijke opmerking, waarbij CBS News meldde dat hij de exponentiële groei van AI omschreef als een “waarschuwingssignaal dat we moeten vertragen.”
De televisietour en de politieke echo
Het essay is uitgegroeid tot een grootschalige mediatour. In een CNN-interview met Anderson Cooper werd Amodei gevraagd of hij werkelijk geloofde dat AI alle mensen zou kunnen doden, en hij vertelde het netwerk dat de situatie “niet fatalistisch” is – zijn risico’s zijn ernstig, zo betoogde hij, maar beheersbaar als de industrie van koers verandert. Hij riep concurrenten ook op om in te stemmen met externe beoordelaars van grensmodellen, een concreet beleidsvoorstel dat de meest capabele systemen aan toezicht van buitenaf zou onderwerpen.
De oproep tot vertraging weerklinkt al in Washington. CNN meldde dat een Republikein uit het Huis van Afgevaardigden de regelgeving overweegt nu Amodei de industrie aanspoort om te vertragen – een opmerkelijke verschuiving voor een Congres dat moeite heeft gehad om enige alomvattende AI-wetgeving aan te nemen. En op een ongebruikelijke manier hebben Sam Altman, CEO van OpenAI, en Elon Musk allebei publiekelijk de pacing-boodschap van Amodei gesteund, waardoor wat een oproep tot marginale veiligheid had kunnen zijn, is getransformeerd in een sectorbrede houding.
Wat te bekijken
De spanning in het betoog van Amodei – de wereld vragen om AI te vrezen en het tegelijkertijd te financieren – is precies wat zal beslissen of zijn pacingvoorstel aan kracht wint. Als AI-gestuurde medische doorbraken op de tijdlijn terechtkomen die hij suggereert, groeit zijn geloofwaardigheid op beide helften van het argument. Als ze dat niet doen, kunnen de uitstervingswaarschuwingen en de genezingsvoorspellingen gaan lijken op hetzelfde marketingpraatje met verschillende jassen. Hoe dan ook, de CEO van Anthropic heeft zichzelf tot het meest interessante argument op technologisch gebied gemaakt.
Blijf AI een stap voor
Veiligheidsdebatten, schokgolven in het beleid en de mensen die de grens hervormen – komen elke dag aan bod.
Lees meer AI-nieuws →
