Een medeoprichter van Anthropic zegt dat regeringen AI-bedrijven mogelijk moeten dwingen een ‘kill switch’ te installeren – een mechanisme om AI-systemen volledig uit te schakelen – en dat externe inspecteurs moeten kunnen verifiëren dat deze daadwerkelijk werkt.

Jack Clark, een van de zeven oprichters van het $965 miljard kostende AI-lab, vertelde de BBC dat hoewel de meeste toonaangevende laboratoria al interne manieren hebben om “de stekker eruit te trekken” uit gevaarlijke systemen, de samenleving “wellicht uiteindelijk regels wil goedkeuren” die dergelijke schakelaars verplicht stellen en onafhankelijk controleerbaar maken. Voor lezers die het bredere AI-veiligheidsdebat volgen, markeert zijn interventie het meest concrete beleidsvoorstel tot nu toe vanuit een grenslaboratorium tijdens een week van escalerende waarschuwingen.

"Moet je bedrijven verplichten om zeker een kill-switch te hebben? Is die kill-switch verifieerbaar door een derde partij?" Dat zei Clark in een interview met technologieverslaggever Kali Hays en economieredacteur Faisal Islam. "Ik denk dat dit het soort dingen is dat de samenleving wil weten en uiteindelijk misschien regels wil doorgeven."

'We gooien met dobbelstenen met enorme risico's'

Clarks meest opvallende opmerking was een algehele afwijzing van de status quo. Gevraagd naar het traject van de industrie, zei hij dat het een slecht idee was om AI te laten voortbestaan ​​als een ‘totaal ongereguleerde industrie’.

"We gooien met dobbelstenen met enorme risico's", zei hij. "En het punt is dat we de koers van deze industrie moeten veranderen."

In tegenstelling tot sommige van zijn collega's weigerde Clark een cijfer te geven aan het risico van uitsterven van de mens. “Ik denk niet dat deze statistieken zo nuttig zijn”, zei hij – een opmerkelijk contrast met antropisch onderzoeker Evan Hubinger, die vorige week zei dat hij persoonlijk geloofde dat er binnen de komende tien jaar een kans van meer dan 10% bestaat op het uitsterven van de mens door AI, en met AI-pionier Geoffrey Hinton, die vrijdag tegen de BBC zei dat een schatting van 10% “niet onredelijk” was.

Wat Clark niet betwistte, is de reisrichting. AI is, zoals hij het in hetzelfde interview uitdrukte, ‘met de dag krachtiger’ – en hij voerde aan dat de details van elke shutdown-vereiste, inclusief wie deze zou verifiëren en hoe, thuishoren in ‘het grotere beleidsgesprek’ dat nu plaatsvindt rond AI.

Een voorstel met wetgevend momentum

Het voorstel van Clark komt niet in een vacuüm terecht. Amerikaanse wetgevers hebben al wetgeving voorgesteld met de naam Kill Switch Act, die zou vereisen dat grens-AI-ontwikkelaars afsluitmechanismen in hun systemen zouden inbouwen – een wetsvoorstel dat AI Buzz Wire vorige maand behandelde toen de urgentie ervan groeide na incidenten met malafide agenten.

Het idee wordt ook geconfronteerd met openlijk scepticisme. In Groot-Brittannië zei minister van Zaken Jonathan Reynolds tegen de BBC dat hij het concept niet nuttig vond. Hij zei dat hij "niet echt zeker wist wat dat in de praktijk zou betekenen", en waarschuwde dat overregulering het land zou kunnen afsnijden van in het buitenland ontwikkelde modellen.

De achtergrond: een veiligheidsburgeroorlog – en een beursintroductie

De opmerkingen van Clark bestrijken een week waarin AI-veiligheid van seminaronderwerp naar voorpaginanieuws verschoof. Antropische CEO Dario Amodei riep dit weekend op om het tempo van de grensontwikkeling te vertragen en beter in de gaten te houden, terwijl hij erop aandrong dat elke pauze zou moeten komen "zonder commercieel voordeel op te offeren." Vervolgens bracht hij die zaak naar een mainstream Amerikaans publiek in een interview met Anderson Cooper van CNN, waarbij Coxon zelf op het netwerk verscheen om erop te reageren. De opmerkingen volgden op een virale ontslagpost van voormalig antropisch onderzoeker Jacob Coxon, waarin hij waarschuwde voor het lot van de mensheid, wat op zijn beurt aanleiding gaf tot Hubingers schatting van het uitsterven. The Guardian onderzocht op zijn beurt waarom deze specifieke doemscenario-waarschuwing doorbrak waar de vorige waren vervaagd.

De alarmsignalen zijn met openlijke spot ontvangen door delen van de technologie-industrie. Hugging Face CEO Clement Delangue maakte de spot met de beslissing om van Coxon een spreekbuis te maken voor het uitstervingsrisico en schreef: "Sorry, maar Jacob vragen naar het uitstervingsrisico van AI is hetzelfde als je AC-man vragen naar klimaatverandering." Grindr-CEO George Arison ging verder en stelde dat de angstzaaierij commercieel gemotiveerd is. "De enige manier om deze waarderingen te rechtvaardigen is door daadwerkelijk te beweren: 'Ik ga elke sector overnemen en ik ga elke baan overnemen, en mijn AI zal al dat werk doen'", zei hij.

Er hangt ook een enorme hoeveelheid geld af van de uitkomst van dit debat. Anthropic bereidt zich voor op een beursintroductie met een waardering van $965 miljard, terwijl OpenAI – recentelijk gewaardeerd op $852 miljard – naar verwachting naar de beurs zou gaan voordat CEO Sam Altman vrijdag zei dat een beursintroductie dit jaar niet zou plaatsvinden vanwege de veiligheidscontroverse. Critici als Arison beweren dat de doemretoriek en het fondsenwervende veld twee kanten van dezelfde medaille zijn; Het antwoord van Clark is dat de sector hoe dan ook van koers moet veranderen.

Of een verplichte, verifieerbare ‘kill switch’ ooit een wet wordt, zal afhangen van wetgevers die tot nu toe weinig bereidheid hebben getoond om een ​​industrie die de Amerikaanse economie aandrijft aan banden te leggen. Maar voor het eerst nodigt een van de machtigste insiders van de technologie hen expliciet uit om het te proberen.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →