Melk- en wasmachines zijn momenteel meer gereguleerd dan kunstmatige intelligentie, aldus de president van Microsoft – en dat is volgens Brad Smith precies het omgekeerde.

In zijn toespraak tot het Big Boss Interview van de BBC riep Smith in zondag gepubliceerde opmerkingen op tot mondiale veiligheidsregels voor AI, waaronder een wettelijke verplichting om een ​​‘slachtoffer’ te vertellen wanneer hun systeem is geschonden door een malafide AI-agent, en een raamwerk om te beslissen wanneer onafhankelijke beoordelaars een AI-product moeten ondertekenen voordat het wordt verzonden. Zijn opmerkingen brachten hem publiekelijk in conflict met de Amerikaanse president Donald Trump, die heeft betoogd dat de sector zichzelf moet reguleren, zodat Amerikaanse bedrijven geen terrein verliezen aan Chinese rivalen. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

"Op dit moment is je wasmachine onderworpen aan meer veiligheidsregels dan AI", zei Smith. "Elk pak melk dat je in de supermarkt ziet, is onderworpen aan veiligheidsregels en inspecties."

Een gereedschap en een wapen

Smith beschreef AI als zowel een “instrument als een wapen” dat dringend gereguleerd moet worden, en voegde eraan toe: “Laten we vandaag aan de slag gaan.”

Zijn voorstellen waren concreter dan de gebruikelijke regelgevende standaard. Bedrijven zouden ‘noodremmen’ moeten bouwen – wat de industrie vaak ‘kill-switches’ noemt – die een AI-systeem kunnen pauzeren of vertragen als het uit de hand loopt. Bedrijven zouden wettelijk verplicht moeten worden om incidentrapporten op te stellen en slachtoffers op de hoogte te stellen wanneer AI kwaadwillig wordt. En onafhankelijke overheidsbeoordelaars moeten nieuwe AI-technologie onderzoeken voordat deze wordt vrijgegeven.

"We weten hoe we dit voor andere producten moeten doen," zei Smith. "We moeten voortbouwen op die kennis en nadenken over hoe we deze kunnen toepassen op AI."

De interventie landt over een koortsweek voor AI-toezicht. Dagen eerder riep de CEO van Microsoft, Satya Nadella, op tot een noodrem waardoor mensen AI-systemen halverwege hun taak kunnen uitschakelen – een opvallende positie voor het hoofd van een van 's werelds grootste AI-leveranciers, en een positie die nu eerder een bedrijfsdoctrine lijkt te zijn dan een overpeinzing van één leidinggevende.

Breken met het Witte Huis

De opvattingen van Smith verschillen sterk van die van zijn president. Trump heeft herhaaldelijk gezegd dat “wie AI wint, wint” – en heeft zich verzet tegen de oproepen van de bazen van Anthropic, OpenAI en Google DeepMind, die allemaal het idee van een vertraging van de AI-ontwikkeling hebben gesteund.

Toch suggereerde Smith ook dat de wrijving kleiner is dan het lijkt. Eind vorige maand ontving Trump de leiders van OpenAI, Anthropic, Nvidia, SpaceX, Meta en Google in het Witte Huis, waar de leidinggevenden een ‘moreel bindend’ document ondertekenden waarin ze werden verplicht samen te werken met onafhankelijke auditors om te beoordelen of hun AI-systemen werken zoals bedoeld – en niet om ‘technische systemen te hacken of op onbedoelde manieren toegang te krijgen tot technische systemen’.

Smith juichte de verklaring toe en zei dat Microsoft "graag deze wil ondertekenen". Maar hij voegde eraan toe: "Het is een goede stap, het is een noodzakelijke stap... Maar ik denk niet dat het nog langer voldoende is."

Zijn redenering snijdt het kernprobleem van vrijwillige regimes aan: "De goede bedrijven zullen doen wat je wilt", zei hij. "Het zijn de bedrijven die niet zo verantwoordelijk zijn waar je je zorgen over moet maken."

Waarom hij vindt dat Groot-Brittannië de regels moet schrijven

Het meest geopolitiek geladen deel van het interview was Smiths goedkeuring van het Verenigd Koninkrijk als de natuurlijke auteur van mondiale AI-regels, waarbij hij wees op het UK AI Security Institute – opgericht onder de regering van voormalig premier Rishi Sunak als het AI Safety Institute – dat de krachtigste modellen ter wereld test voordat deze worden vrijgegeven.

"In de wereld van technologie, in de technologiesector, zouden de meeste mensen die ik ken zeggen: als je het hen vraagt: noem het land dat de leider is op het gebied van deze technische capaciteit, dan zeggen ze: het is heel eenvoudig. Het is het Verenigd Koninkrijk. Zij zijn de beste", zei Smith.

Hij voerde ook aan dat de Amerikaanse regering Britse normen gemakkelijker zou accepteren dan regelgeving in Brusselse stijl: "In Washington DC kijken mensen niet naar Groot-Brittannië en kijken ze niet naar Londen zoals ze naar Brussel kijken - dat is een kracht."

Zijn pleidooi voor urgentie was bot. "Als je kijkt naar AI-agenten die aan de menselijke controle zijn ontsnapt, als je kijkt naar modellen die zo krachtig zijn dat ze de cyberveiligheid van de wereld in gevaar brengen, zou ik zeggen: het moment is aangebroken", aldus Smith. "Laten we rustig spreken, misschien zelfs zacht, maar vastberaden, en beginnen mensen samen te brengen. Ik hoop dat dit de rol is die we als bedrijf kunnen spelen. Ik hoop dat dat de rol is die Groot-Brittannië als land kan spelen."

Een zeldzaam gesplitst scherm in technisch beleid

Het is ongebruikelijk dat een zittende president van een bedrijf lobbyt voor strengere regels voor zijn eigen sector, terwijl zijn CEO vanuit een ander stadium dezelfde zaak bepleit. De duellerende interventies van Microsoft – de noodrem van Nadella en de oproep van Smith tot verplichte incidentrapportage, slachtoffermelding en onafhankelijke evaluatie – geven aan dat ten minste één grote leverancier tot de conclusie is gekomen dat vertrouwen, en niet capaciteit, de bindende beperking wordt voor de adoptie van AI.

Ze geven de Britse regering ook een actueel argument. Whitehall heeft de afgelopen week de waarschuwingen van zijn eigen inlichtingenchefs in zich opgenomen, terwijl ministers zich afvragen of ze zich zullen aansluiten bij een internationale oproep voor gecoördineerde AI-veiligheidsnormen die Washington tot nu toe heeft geweigerd te ondertekenen. Wanneer de president van Microsoft zegt dat Groot-Brittannië "het beste" gepositioneerd is om het rulebook te schrijven, krijgt Downing Street zowel validatie als een uitnodiging die het moeilijk zal kunnen negeren.

Of de omlijsting van de melkpakken van Smith de stemming in Washington verandert, is een andere zaak. Maar als verklaring van waar een van de grootste bouwers van AI naartoe wil met het debat over regelgeving – verplichte remmen, verplichte rapportage, onafhankelijke ondertekening – kan het interview herinnerd worden als een markering in de verschuiving van vrijwillige toezeggingen naar afdwingbare regels.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →