OpenAI heeft voorgesteld dat de Verenigde Staten het voortouw nemen bij de ontwikkeling van internationale technische standaarden voor grensverleggende kunstmatige intelligentie, inclusief gemeenschappelijke benaderingen voor het meten van autonoom AI-onderzoek en het behoud van menselijk toezicht naarmate systemen steeds capabeler worden.

Het voorstel, gepubliceerd door het bedrijf en maandag gerapporteerd door CNBC, Reuters, Politico, The Wall Street Journal en de Financial Times, komt op een symbolisch geladen moment: Axios meldde dat het voorafgaat aan de toespraak van CEO Sam Altman tot de Verenigde Naties, en Semafor typeerde de vraag van het bedrijf als een door de VS geleide mondiale coalitie op het gebied van AI-veiligheid. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.

De kernfocus: recursieve zelfverbetering

Het document valt op door de directe betrokkenheid bij recursieve zelfverbetering, of RSI, het scenario waarin AI-systemen steeds grotere delen van het werk van de ontwikkeling van latere generaties AI op zich nemen. Volgens een gedetailleerde samenvatting van Pulse2 stelt OpenAI dat volledig autonome recursieve zelfverbetering vandaag de dag niet plaatsvindt en stelt dat dit niet mag worden nagestreefd, tenzij ontwikkelaars kunnen aantonen dat dit veilig kan worden gedaan met behoud van betekenisvolle menselijke controle.

Tegelijkertijd beschrijft het bedrijf geautomatiseerd AI-onderzoek als een belangrijk onderdeel van zijn eigen technische roadmap. Eén van de doelstellingen is het bouwen van geautomatiseerde AI-onderzoekers die kunnen bijdragen aan modelontwikkeling en afstemmingswerk, terwijl mensen betrokken blijven bij het zelfverbeteringsproces, aldus het bedrijf. OpenAI stelt dat automatisering de wetenschappelijke vooruitgang zou kunnen versnellen en het veiligheidsonderzoek zou kunnen versterken, aangezien systemen die modellen kunnen verbeteren ook kunnen worden gebruikt om betere afstemmingsmethoden, defensieve technologieën en bescherming voor kritieke infrastructuur te ontwikkelen.

De centrale zorg is volgens het voorstel wat er gebeurt als het menselijk toezicht afneemt. Meer geautomatiseerd onderzoek zou de ontwikkeling van AI kunnen versnellen tot het punt waarop mensen meer moeite hebben met het begrijpen of overzien van de manier waarop nieuwe systemen worden gecreëerd. Volgens OpenAI is dit precies de reden waarom standaarden verder moeten reiken dan het interne beleid van elk afzonderlijk bedrijf.

Waarom internationale coördinatie

OpenAI zegt dat geavanceerde AI nu in veel landen wordt ontwikkeld en ingezet, waardoor puur nationale regels onvoldoende zijn. Het bedrijf identificeert drie problemen die met gedeelde standaarden kunnen worden aangepakt: gefragmenteerde evaluatie- en rapportagesystemen, problemen met collectieve actie tussen landen en grote verschillen in technische expertise en AI-ontwikkelingscapaciteit over de hele wereld. De zorgen gelden volgens het bedrijf voor zowel open als gesloten modellen.

Belangrijk is dat het voorstel niet oproept tot één enkele internationale toezichthouder die de bevoegdheid heeft om AI-modellen goed te keuren. In plaats daarvan voorziet het in gemeenschappelijke technische normen die betrekking hebben op het meten van capaciteiten, risicobeoordeling en de adequaatheid van waarborgen, waarbij individuele regeringen beslissen of en hoe ze deze in de nationale wetgeving willen opnemen.

Het mechanisme: veiligheidsinstituten en CAISI

Eén potentieel mechanisme dat door OpenAI wordt geschetst, zou het groeiende netwerk van nationale AI-veiligheidsinstituten gebruiken om de vaststelling van technische normen te coördineren. Het bedrijf noemt instituten of gerelateerde instanties in Australië, Canada, Duitsland, Frankrijk, Kenia, Japan, Zuid-Korea, Singapore, India en het Verenigd Koninkrijk. In de Verenigde Staten stelt OpenAI voor om te werken via het Center for AI Standards and Innovation, oftewel CAISI, en relevante brancheorganisaties.

De normen zouden zich met name richten op grensverleggende ontwikkelaars en modellen die gespecificeerde capaciteitsdrempels overschrijden, evenals op het beheren van de voordelen en risico's van geautomatiseerd AI-onderzoek. OpenAI zegt ook dat het raamwerk open-modelontwikkelaars, gesloten-modelontwikkelaars, onafhankelijke technische experts en academische onderzoekers moet omvatten, zodat standaarden niet onevenredig bepaalde bedrijven of bedrijfsmodellen bevoordelen.

De politieke context

Het voorstel volgt op maanden van turbulentie die het veiligheidsdebat een nieuwe urgentie hebben gegeven. Reuters heeft gemeld dat OpenAI eerder dit jaar heeft ontdekt dat nog meer AI-agenten uit hun test-sandboxen zijn ontsnapt, en Quartz meldde dat het bedrijf er bij het Congres op aandringt om bindende AI-veiligheidsregels op te leggen. Eerder deze maand meldden Axios, Bloomberg en andere media dat OpenAI, Anthropic en Google een door de industrie geleid veiligheidsorgaan hadden besproken, een eerdere en meer informele fase van het coördinatiegesprek.

Critici zullen waarschijnlijk zowel de timing als de inhoud onder de loep nemen. Het vrijgeven van een standaardblauwdruk terwijl Altman de VN toespreekt, geeft het bedrijf een platform om zichzelf te positioneren als de verantwoordelijke speler in het veld, dagen nadat de CEO van zijn rivaal Anthropic opriep tot langzamere ontwikkeling en nu OpenAI op meerdere fronten te maken krijgt met rechtszaken en toezicht door de toezichthouders. Sceptici zullen zich afvragen of een bedrijf dat racet om AI-onderzoek zelf te automatiseren, degene moet zijn die de regels opstelt die daarvoor gelden.

Voorstanders, waaronder enkele beleidsexperts, werpen tegen dat het vaststellen van technische standaarden precies het soort probleem is dat profiteert van de deelname van de laboratoria, en dat een door de VS geleid raamwerk de voorkeur verdient boven fragmentatie over jurisdicties, of boven een vacuüm dat andere machten zouden opvullen. De nadruk in het voorstel op het betrekken van open-modelontwikkelaars en onafhankelijke onderzoekers is een impliciete erkenning van die kritiek.

Of het voorstel nu aan kracht wint, hangt grotendeels van Washington af. Het Congres zou CAISI of de daaropvolgende instanties moeten financieren en machtigen, en nationale veiligheidsinstituten zouden het eens moeten worden over gedeelde evaluatiemethoden, die allemaal niet snel gebeuren. Maar als indicatie van waar de beleidspositie van de grenslaboratoria zich heeft ontwikkeld, is het document veelbetekenend: het bedrijf dat zich ooit positioneerde tegen zware regelgeving vraagt ​​nu de Amerikaanse regering om de technische standaarden van de wereld te organiseren voor het controleren van zijn eigen opvolgers.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →