De veiligheidswaarschuwingen van antropische onderzoekers die deze week het AI-discours domineerden, hebben nu iets concreets opgeleverd in Washington: een wetgevende impuls. Reuters meldde donderdag dat Amerikaanse wetgevers oproepen tot nieuwe AI-regels als reactie op de verklaringen van de onderzoekers, terwijl vertegenwoordiger van Massachusetts, Lori Trahan, een interview op donderdagochtend gebruikte om haar Frontier Act uit te leggen, een wetsvoorstel dat voor het eerst bindende verplichtingen zou opleggen aan grensverleggende AI-ontwikkelaars.

Trahan zei tijdens de Morning Edition van WBUR dat de reactie op Capitol Hill op de gebeurtenissen van deze week anders is dan alles wat ze heeft gezien sinds ze eerder dit jaar begon te werken aan AI-regulering. Voor dagelijkse berichtgeving over AI-beleidsbewegingen in Washington, Brussel en daarbuiten volgt u AI Buzz Wire, uw bron voor het laatste AI-nieuws en updates van de regelgeving.

Wat de Frontier Act zou doen

Trahan, co-auteur van het tweeledige wetsvoorstel, beschreef het als een reeks ‘verkeersregels’ voor het handjevol bedrijven wier modellen catastrofale schade zouden kunnen veroorzaken. De Frontier Act zou volgens het congreslid vier dingen verplicht stellen: transparantievereisten voor frontier AI-ontwikkelaars, incidentrapportage, onafhankelijke verificatie van modelveiligheidsclaims, en wat zij een pauzeknop van de overheid noemde als een model een onmiddellijk risico op een catastrofe met zich meebrengt.

“Op een basisniveau moeten we vangrails plaatsen op de grenslaboratoria”, zei Trahan, terwijl hij deze bepalingen omschreef als “tafelinzetten”, terwijl het Congres beleid uitwerkt voor de vele andere sectoren die AI zal raken.

'The Honor System': Trahan's pleidooi voor bindende regels

De kern van Trahans betoog is dat niets de ontwikkelaars van de krachtigste AI-systemen momenteel bindt. "Vandaag de dag is het enige dat we hebben het eersysteem", zei ze. "De krachtigste technologie in de menselijke geschiedenis wordt gereguleerd door de ontwikkelaars ervan."

Ze erkende de scepsis onder collega's en zei dat sommigen de waarschuwingen van de week als angstzaaiend of te extreem beschouwen. Maar ze beschreef een snelle verandering in de stemming in de Kamer: "Mijn telefoon is niet gestopt met rinkelen sinds Jacob Coxon op de fluit blies. Ik denk dat mijn collega's bang zijn. Ze horen van hun kiezers dat we in actie moeten komen... Deze week heeft net een omslagpunt bereikt."

Ze zei met name dat de druk niet beperkt blijft tot één partij. “Het zijn niet alleen de Democraten,” zei Trahan, en merkte op dat “MAGA-Republikeinen gisteren opriepen tot tweeledige actie. De grond is echt verschoven.”

De waarschuwingen waarmee het begon

De onrust in de wetgeving is rechtstreeks terug te voeren op uitspraken van twee antropische onderzoekers. Jacob Coxon verliet dinsdag het bedrijf en schreef op sociale media dat Anthropic "rechtstreeks racet naar zelfverbeterende superintelligentie en gokken met ons leven." Collega-antropisch onderzoeker Evan Hubinger steunde hem publiekelijk en schreef: "Jacob heeft hier gelijk... We geloven echt oprecht dat AI alle mensen zou kunnen doden! Ik denk persoonlijk dat dit binnen tien jaar> 10% is."

Het verhaal verspreidde zich in de loop van de week. The Hill meldde dat wetgevers na de waarschuwingen alarm sloegen over de gevaren van AI, de BBC en CBS berichtten over de waarschijnlijkheidsschatting van Hubinger, en NBC News rapporteerde donderdag over twee AI-onderzoekers die Anthropic en Google verlieten vanwege veiligheidsproblemen, waarbij hij iemand citeerde die zei: "Er zijn geen volwassenen in de kamer." Reuters meldde donderdag dat wetgevers nu oproepen tot nieuwe regels, en er circuleren ook berichten dat OpenAI Amerikaanse regels heeft gezocht voor krachtige AI-modellen.

Van waarschuwingen tot een rekeningbestand

Wat deze week anders maakt dan eerdere veiligheidscontroverses, is de snelheid van de beleidsreactie. De eigen onthullingen van Anthropic deze week – een rapport over dreigingsinformatie waarin verstoorde misbruikcampagnes worden beschreven, inclusief mogelijke pogingen om Claude te gebruiken voor de ontwikkeling van biologische wapens – gaven de waarschuwingen een bewijskrachtige ruggengraat die in het eerdere debat ontbrak, en wetgevers lijken in beweging te komen zolang dit moment aanhoudt.

De weg vooruit voor AI-wetgeving

De vooruitzichten voor de Frontier Act blijven onzeker. Het Congres worstelt al jaren met het goedkeuren van alomvattende AI-wetgeving, en elk wetsvoorstel dat betrekking heeft op verplichte verificatie of een federale pauze-autoriteit zou te maken krijgen met intensief lobbywerk van de laboratoria die het zou reguleren, naast jurisdictiegevechten tussen commissies. Aan de zijlijn wachten de staten niet: de gouverneur van Californië, Gavin Newsom, heeft deze week volgens de Los Angeles Times een reeks AI-veiligheidswetten ondertekend, waarmee hij de druk opvoert voor een federaal raamwerk dat vooruitloopt op een lappendeken van staatsregels.

Voorlopig is de dynamiek omgekeerd. Voor het eerst tijdens dit congres eisen de mensen die grensmodellen bouwen publiekelijk beperkingen voor hun eigen industrie – en wetgevers stellen deze op.

Of deze afstemming tot wetgeving zal leiden of alleen maar voorpaginanieuws zal afhangen van de komende maanden. Maar de week demonstreerde iets dat noch de laboratoria, noch hun critici kunnen negeren: AI-veiligheid is verschoven van de seminarruimte naar het tellen van de zweepslagen, en de leden die de stemmen tellen, zeggen dat hun kiezers eindelijk degenen zijn die hen vragen om actie te ondernemen.

AI Buzz Wire zal de Frontier Act blijven volgen terwijl deze door het Congres beweegt.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →