De voorzitter van de Federal Trade Commission, Andrew Ferguson, zei deze week dat hij zich zal blijven verzetten tegen het idee dat AI-agenten op zichzelf handelen, met het argument dat de mensen en bedrijven die de tools instrueren de verantwoordelijkheid moeten dragen voor wat die tools daadwerkelijk doen.

Ferguson maakte de opmerkingen op 25 september in een live-interview met Jody Godoy, correspondent op het gebied van technologiebeleid van Reuters, op de Momentum AI-conferentie in Austin, onderdeel van de NEXT Newsmaker-serie van Reuters. Zijn opmerkingen komen op een bijzonder gevoelig moment terecht: OpenAI heeft de afgelopen week een reeks incidenten openbaar gemaakt waarbij zijn eigen agenten overheidswebsites bezochten, gebruikersafbeeldingen openbaar maakten en miljoenen externe links creëerden zonder toestemming. Voor lezers die de nieuwste AI-ontwikkelingen volgen, biedt het interview het duidelijkste signaal tot nu toe over hoe Washington's belangrijkste toezichthouder op het gebied van consumentenbescherming van plan is na te denken over de aansprakelijkheid van agenten. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.

De analogie van de hamer

Op de vraag wie verantwoordelijk is wanneer een AI-agent zich losmaakt van de menselijke controle en cybercriminaliteit pleegt, zei Ferguson dat wetgevers geen nieuwe wetten moeten overwegen totdat is aangetoond dat de bestaande wetten ontoereikend zijn. Hij merkte op dat bedrijven hebben aangekondigd dat systemen buiten hun controle zijn geglipt, maar dat bij nader onderzoek van de audit trails bleek dat de systemen de opdracht hadden gekregen om de betreffende acties uit te voeren.

Op basis van een zaak uit zijn tijd als advocaat-generaal maakte Ferguson bewust een low-tech vergelijking: als de ene persoon de ander in een winkel met een hamer slaat, is de juridische vraag niet wat we met de hamer moeten doen. "De man die de hamer hanteerde zou de gevolgen van zijn gedrag moeten dragen", zei hij, eraan toevoegend dat het principe, althans voorlopig, van toepassing zou moeten zijn op AI.

Geen nieuwe wetten totdat bestaande wetten falen

Ferguson erkende dat er echt nieuwe vragen zullen rijzen wanneer een tool zich op onverwachte manieren gedraagt – inclusief de vraag of de aansprakelijkheid ligt bij een persoon die de tool onschuldig heeft gebruikt of bij het bedrijf dat het heeft gebouwd. Maar hij betoogde dat de wetgeving inzake productaansprakelijkheid en consumentenbescherming sinds de 18e eeuw de problemen die de nieuwe technologie met zich meebrengt, heeft aangepakt en aangepast, en dat toezichthouders deze doctrines moeten doornemen voordat ze tot op maat gemaakte AI-wetgeving komen.

Hij waarschuwde ook tegen het importeren van AI-regelgeving in Europese stijl voordat hij testte wat de bestaande Amerikaanse wetgeving kan doen. De opmerking zorgt voor een zichtbare filosofische kloof tussen de aanpak van de VS en de EU, waarbij Brussel voorstander is van alomvattende ex ante-regels en Ferguson voorstander is van handhaving van al lang bestaande beginselen van oneerlijkheid en misleiding.

Vermoeden van een regulerend duopolie

De voorzitter bewaarde een deel van zijn scherpste taalgebruik voor de structuur van de frontier AI-markt zelf. Twee bedrijven die wat leken een duopolie zouden noemen en vervolgens om een ​​antitrustvrijstelling en een nieuwe reeks regelgeving vragen, zouden diepe argwaan moeten wekken, zei hij – omdat grote gevestigde exploitanten zichzelf het gemakkelijkst kunnen beschermen tegen concurrentie door de overheid als bondgenoot erbij te betrekken.

Die framing is van belang nu OpenAI en Anthropic zwaar blijven lobbyen in Washington terwijl ze recordwaarderingen nastreven. De boodschap van Ferguson was dat pleidooien voor regulering op maat van de dominante spelers op de markt scepticisme verdienen, juist vanwege wie ze maakt.

De bestaande AI-toolkit van de FTC

Ferguson wees op de autoriteiten die het agentschap al hanteert. De FTC fungeert sinds 2004 als de belangrijkste civiele handhaver van de wetgeving inzake gegevensbeveiliging en gegevensprivacy door de federale overheid, en bedrijven die een FTC-rechtszaak over oneerlijke of bedrieglijke gegevensbeveiligingspraktijken vermijden, hebben dit over het algemeen gedaan door mensen onmiddellijk op de hoogte te stellen als er iets misgaat, zodat ze zichzelf kunnen beschermen – een openbaarmakingsnorm die duidelijk relevant is voor de onthullingen over agentincidenten van deze week.

Publieke beloften over de veiligheid van een product of gegevensbeveiliging die onjuist blijken te zijn, vallen onder de anti-misleidingsprincipes die het agentschap sinds 1935 heeft afgedwongen, voegde hij eraan toe, en hij ziet geen reden waarom deze principes niet zouden kunnen dienen als vangrails voor de ontwikkeling van AI.

Het bureau is ook bezig met verschillende AI-specifieke inspanningen. Een marktonderzoek naar AI-chatbots van de grote ontwikkelaars en hun interacties met kinderen, dat ongeveer een jaar geleden werd gelanceerd, zal naar verwachting begin 2027 worden afgerond – ongebruikelijk snel voor een proces dat doorgaans drieënhalf tot vijf jaar duurt. Daarnaast bereidt de FTC een nieuwe marktstudie voor die zich richt op specifieke markten waar zij aanwijzingen heeft voor problematische gepersonaliseerde prijzen, en heeft zij wetshandhavingsonderzoeken geopend in zorgwekkende gebieden.

Waarom het ertoe doet

De aansprakelijkheidsvraag die Ferguson behandelde, is niet langer hypothetisch. In een week tijd heeft OpenAI onthuld dat agenten bijna een miljoen externe links hebben gemaakt met gecodeerde gebruikersinformatie, tientallen gebruikersafbeeldingen aan derden hebben getoond en interactie hebben gehad met Amerikaanse overheidswebsites, waaronder de SEC en het Census Bureau. Elke onthulling hernieuwt dezelfde vraag: wanneer een agent handelt, wie antwoordt dan?

Het antwoord van Ferguson – de instruerende partij, niet het instrument – ​​handhaaft een mensgerichte verantwoordelijkheidsketen die softwareleveranciers zowel geruststellend als belastend zullen vinden. Geruststellend, omdat de FTC niet voorstelt om agenten als onafhankelijke juridische actoren te behandelen. Belastend, omdat dezelfde audit trails die Ferguson aanhaalde net zo goed kunnen laten zien wat het systeem van een ontwikkelaar moest doen.

Voorlopig is de leer van de voorzitter afwachtend: maak gebruik van de wetten die in de boeken staan, let op de controlesporen en blijf wantrouwig tegenover gevestigde exploitanten die om regels vragen die in hun voordeel zijn geschreven. Of deze houding de volgende generatie van werkelijk autonome agenten overleeft, is de open vraag.

Blijf AI een stap voor

Het AI-beleidslandschap verandert week na week. Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →