Wetgevers in Massachusetts zijn bezig met het creëren van de strengste waarborgen op staatsniveau voor kunstmatige intelligentie, en het voorstel heeft de twee belangrijkste laboratoria van de industrie verdeeld: Anthropic onderschrijft de regels, terwijl OpenAI ertegen lobbyt.
De maatregel, opgenomen in een wetsvoorstel voor economische ontwikkeling dat vorige maand door de Senaat werd aangenomen, zou leidende AI-laboratoria ertoe verplichten hun grensmodellen minstens één keer per 120 dagen te onderwerpen aan onafhankelijke beoordelingen van catastrofale risico’s – een primeur voor elke Amerikaanse staat. De bevindingen zouden openbaar worden gemaakt, hoewel de staat ze niet zou kunnen gebruiken om de ontwikkeling stop te zetten. De strijd om de definitieve tekst van het wetsvoorstel vindt nu plaats achter gesloten deuren op Beacon Hill, en het is een bepalende test voor hoe ver een Amerikaanse staat zal gaan in het toezicht op grensmodellen. Voor regelmatige berichtgeving over hoe overheden met de technologie omgaan, volgt u onze AI-beleidsverslaggeving.
Wat het voorstel van Massachusetts zou vereisen
De kernbepaling van het wetsvoorstel is een periodieke, onafhankelijke controle op de gevaren van grensoverschrijdende AI-systemen. Externe organisaties zouden de bevoegdheid krijgen om het potentieel van een model voor catastrofes te evalueren – gedefinieerd als gebeurtenissen die minstens 50 mensen doden of ernstig verwonden of $1 miljard of meer aan materiële schade veroorzaken – onafhankelijk van de eigen veiligheidsrichtlijnen van de ontwikkelaar, volgens een woensdag gepubliceerd Bloomberg-rapport.
De staat zou ook een jaarlijkse nalevingsbeoordeling uitvoeren, vergelijkbaar met wat Illinois al vereist. Maar de terugkerende evaluaties gaan veel verder dan de wetten die in Californië, New York en Illinois zijn aangenomen, en zouden van Massachusetts de eerste staat maken die grensmodellen op een vaste 120-daagse inspectieklok van derden zou zetten.
Antropisch: de industrie mag haar eigen huiswerk niet beoordelen
Anthropic, dat heeft gepleit voor strengere AI-regulering door de staat bij gebrek aan een federale norm, heeft het voorstel van Massachusetts omarmd en noemt het “de duidelijkste en sterkste AI-wetgeving van het land.”
"Uiteindelijk vinden we niet dat de industrie haar eigen huiswerk moet beoordelen", zei Cesar Fernandez, hoofd van de Amerikaanse staats- en lokale overheidsrelaties, tegen Bloomberg. Fernandez voegde eraan toe dat staten mogelijk nog strenger toezicht moeten houden naarmate de technologie zich verder ontwikkelt – een opvallend standpunt van een AI-laboratorium dat pleit voor meer regulering van zijn eigen producten.
OpenAI waarschuwt dat de beoordelingen een averechts effect zullen hebben
OpenAI heeft de wetgevers in Massachusetts gewaarschuwd dat frequente verplichte evaluaties de introductie van cyberbeveiligingsmodellen zouden vertragen die bescherming zouden kunnen bieden tegen de risico’s waar wetgevers bang voor zijn, meldde Bloomberg. Het bedrijf geeft de voorkeur aan een uniforme staatsnorm naar het voorbeeld van de wet van Illinois, die slechts één keer per jaar een audit door een derde partij vereist en zich richt op de vraag of laboratoria hun eigen veiligheidsrichtlijnen volgen en de vereiste openbaarmakingen doen.
Inconsistentie tussen staatsregimes “betekent niet veiliger. Het betekent alleen maar verwarring”, zegt Donnie Fowler, hoofd van het Amerikaanse staatsbeleid en partnerschappen bij OpenAI.
Fowler vergeleek de jaarlijkse audits van Illinois met een routinematige auto-inspectie – om er zeker van te zijn dat de remlichten en de ruitenwissers werken – terwijl hij de door Massachusetts voorgestelde evaluaties vergeleek met het demonteren van de motor en het elke paar maanden weer in elkaar zetten.
Een lobbysprint vóór de verkiezingen van november
Beide bedrijven verdringen zich nu om de definitieve tekst vorm te geven. Anthropic huurde eerder dit jaar het lobbybedrijf Tremont Strategies Group uit Boston in, terwijl OpenAI de afgelopen weken het lokale bedrijf Benchmark Strategies binnenhaalde, aldus Bloomberg.
Het wordt waarschijnlijk geacht dat de bredere wet op de economische ontwikkeling vóór de verkiezingen in november zal worden aangenomen, omdat deze ook financiering bevat voor projecten in de districten van wetgevers. Een zeskoppige groep onderhandelaars uit het Huis en de Senaat strijkt de details glad, inclusief de AI-regels.
Senator Barry Finegold, een van de onderhandelaars, zei dat onafhankelijke evaluaties nodig zijn om ervoor te zorgen dat grensmodellen geen aanzienlijke schade zullen aanrichten, en voorspelde dat andere staten zouden volgen als Massachusetts in actie zou komen. "We liepen achter op sociale media. We lieten te veel voorbijgaan zonder vangrails te plaatsen, en nu zijn we bezig met een inhaalslag", vertelde Finegold aan Bloomberg. "Dat willen we niet nog een keer doen."
Staten stappen in een federaal vacuüm
De push in Massachusetts komt nu de veiligheid van AI een nieuwe urgentie heeft gekregen. In de afgelopen maand rapporteerden OpenAI, Anthropic en Meta Platforms elk gevallen waarin hun modellen per ongeluk systemen van derden hackten in testomgevingen, meldde Bloomberg.
Federaal toezicht blijft beperkt: president Donald Trump heeft een grotendeels hands-off benadering gekozen, en tweeledige AI-veiligheidswetgeving die de staatswetten zou overschaduwen, is in het Congres vastgelopen. Staten vullen nu deze leemte op, ook al concurreren ze met elkaar om een stukje van de AI-boom die een onevenredig groot deel van de Amerikaanse economische groei aandrijft.
Massachusetts zelf probeert actief de industrie het hof te maken. In februari kondigde de staat een partnerschap aan met OpenAI en werd de eerste staat die zijn gehele uitvoerende macht toegang gaf tot een door ChatGPT aangedreven assistent. Dit voorjaar spraken gouverneur Maura Healey en haar secretaris voor economische ontwikkeling, voormalig durfkapitalist Eric Paley, met Anthropic President Daniela Amodei over het uitbreiden van de aanwezigheid van het bedrijf in Massachusetts en het samenwerken op het gebied van cyberbeveiliging en de ontwikkeling van het personeelsbestand, zo blijkt uit e-mails die zijn verkregen via een verzoek om openbare registers.
In één bericht vertelde Paley aan Anthropic dat “we allemaal duidelijkere voorbeelden moeten delen van hoe AI de mensheid verbetert en positieve inspiratie moet bieden om alle angstzaaierij te bestrijden”, en bood aan om het bedrijf in contact te brengen met een staatswetgever over samenwerking op het gebied van toezicht.
Healey, een Democraat die zich in november kandidaat stelt voor herverkiezing, nam de AI-waarborgen niet op in haar oorspronkelijke voorstel voor economische ontwikkeling. Zowel zij als het Huis moeten nog instemmen met de bepaling, en haar regering zegt dat ze met wetgevers zal samenwerken om de wetgeving dit najaar af te ronden.
Blijf het AI-beleid voor
De regulering van grensmodellen versnelt in de VS, Europa en Azië, en de details zullen beslissen wie bouwt, wie verzendt en wie betaalt. Ontvang beknopte, bronrapportage over elke belangrijke ontwikkeling op AI Buzz Wire.
Lees meer AI-nieuws →
