Taalmodellen voor kunstmatige intelligentie zijn gevaarlijk gevoelig voor subtiele veranderingen in de manier waarop opties worden gepresenteerd, en reageren veel sterker op misleidende duwtjes dan mensen, volgens een nieuwe studie gepubliceerd in de Proceedings of the National Academy of Sciences.

De bevindingen roepen ernstige zorgen op over de inzet van AI-agenten voor autonome besluitvorming in reële scenario's, van financiële transacties tot keuzes in de gezondheidszorg. Zoals AI Buzz Wire heeft gemeld, positioneren bedrijven steeds vaker LLM-aangedreven agenten om namens gebruikers in complexe omgevingen op te treden.

De studie, geleid door Manuel Cherep, een promovendus aan het Media Lab van het Massachusetts Institute of Technology, testte veertien ultramoderne taalmodellen van grote technologiebedrijven. De geteste modellen omvatten versies van OpenAI's GPT-3.5-, GPT-4- en GPT-5-families, Anthropic's Claude 3- en 4.5-modellen en Google's Gemini 1.5- en 2.5-modellen.

Hoe de studie werkte

De onderzoekers hebben een beslissingsspel met meerdere attributen aangepast, oorspronkelijk ontworpen voor menselijke deelnemers. Het spel presenteert een digitaal raster dat manden met verborgen prijzen vertegenwoordigt, met als doel de uiteindelijke beloning te maximaliseren door de mand met de hoogste puntenwaarde te kiezen. Elke cel onthult kostenpunten, waardoor deelnemers gedwongen worden de kosten van het verzamelen van informatie af te wegen tegen de voordelen van het vinden van een beter mandje.

De onderzoekers hebben dit visuele spel omgezet in een op tekst gebaseerd formaat dat taalmodellen kunnen verwerken. De AI-modellen hebben honderden tests doorlopen onder verschillende omstandigheden. Sommigen kregen basisinstructies, anderen kregen aanwijzingen die stapsgewijze logica aanmoedigden, en anderen kregen voorbeelden uit het verleden van menselijke gameplay te zien. Voor elk type nudge voerden de onderzoekers ongeveer 300 tot 340 tests per model uit, waarbij in totaal ongeveer twee miljard teksttokens werden verbruikt.

Vier soorten nudges getest

De studie onderzocht vier specifieke soorten nudges die zijn ontworpen om beslissingsomgevingen in de echte wereld na te bootsen:

  • Standaard duwtjes: één mandje was vooraf geselecteerd en de agent moest dit actief accepteren of afwijzen.
  • Suggestie-nudges: een willekeurige basket werd vroeg of laat in het spel aanbevolen.
  • Informatie benadrukken: het is goedkoper gemaakt om bepaalde prijswaarden bekend te maken, waardoor de agent mogelijk naar suboptimale keuzes wordt gestuurd.
  • Optimale duwtjes: er waren vooraf specifieke cellen onthuld die de prestaties van een menselijke speler wiskundig zouden maximaliseren.

Alarmerende nalevingspercentages

De resultaten brachten dramatische verschillen aan het licht tussen het besluitvormingsgedrag van mensen en AI.

Wanneer mensen een standaardoptie kregen, kozen ze ongeveer 88 procent van de tijd voor de standaardoptie. De taalmodellen waren aanzienlijk conformer, waarbij verschillende modellen 99 tot 100 procent van de tijd het standaardmandje accepteerden.

Dit patroon bleef bestaan ​​met suggestie-nudges. Mensen accepteerden 35 procent van de tijd willekeurig voorgestelde manden in het begin van het spel. Veel AI-modellen accepteerden deze willekeurige suggesties tegen veel hogere tarieven, en volgden advies op, zelfs als het geen logisch voordeel opleverde.

De timing van suggesties manipuleerde de modellen ook op onnatuurlijke manieren. Terwijl mensen 25 procent van de tijd late suggesties opvolgden, daalden sommige taalmodellen hun acceptatiegraad tot tussen de 7 en 13 procent. Dit impliceert dat de modellen strikt reageerden op de timing van het signaal in plaats van het daadwerkelijke nut ervan te evalueren.

Misschien wel het zorgwekkendst: toen onderzoekers suboptimale keuzes benadrukten door middel van het benadrukken van informatie, gebruikten mensen die misleidende informatie 57 procent van de tijd. De meeste geteste AI-modellen overschreden deze basislijn aanzienlijk, na het slechte hoogtepunt 83 tot 100 procent van de tijd.

Verborgen problemen achter goede scores

De onderzoekers hielden ook bij hoe de modellen informatie verzamelden voordat ze een definitieve keuze maakten. Mensen hebben de neiging om net genoeg cellen te onthullen om een ​​goede inschatting te kunnen maken. De taalmodellen verwierven informatie op zeer ongebruikelijke en inefficiënte manieren.

Sommige modellen kozen voor manden zonder verborgen cellen te onthullen, waardoor de kans om gegevens te verzamelen volledig werd genegeerd. Andere modellen besteedden buitensporig veel punten aan het onthullen van hele rijen of kolommen, waardoor hun potentiële beloningen werden verspild. Sommige modellen vertoonden vreemde ruimtelijke vertekeningen, waarbij alleen cellen helemaal links van het raster of strikt langs diagonale lijnen zichtbaar werden.

Het aanbieden van modellen met stap-voor-stap redeneringsaanwijzingen of voorbeelden van menselijke gameplay hielp weinig om deze vreemde zoekgewoonten op te lossen.

De auteurs merkten op dat alleen kijken naar eindscores deze onderliggende problemen kan verbergen. In sommige proeven verdienden de AI-modellen een vergelijkbaar aantal nettopunten als menselijke spelers. Een toevallige waarnemer die alleen de eindscore controleert, zou kunnen aannemen dat de modellen slimme, mensachtige keuzes maakten. In werkelijkheid bereikten de modellen deze scores vaak door blinde naleving in plaats van door strategisch denken.

Als een duwtje in de richting van een goede basket wees, scoorde de overdreven volgzame AI goed. Toen de duw in de richting van een slechte basket wees, volgde de AI deze blindelings naar een lagere score, waarbij hij het doel van het spel volledig miste.

Implicaties voor de implementatie van AI-agenten

"Veel toepassingen van AI-agenten gaan er stilzwijgend van uit dat ze, onder onzekerheid, op grofweg mensachtige manieren zullen reageren, zo niet rationeler", aldus Cherep. "In plaats van deze veronderstelling te accepteren, hebben we besloten te onderzoeken hoe agenten zich gedragen wanneer keuzes op verschillende manieren aan hen worden gepresenteerd."

De bevindingen van het onderzoek hebben aanzienlijke gevolgen voor de snelgroeiende markt van AI-agenten die zijn ontworpen om op internet te surfen, tools te bedienen en financiële of winkelbeslissingen voor gebruikers te nemen. Als deze agenten blindelings standaardopties, suggesties of gemarkeerde informatie volgen zonder kritische evaluatie, kunnen ze gemakkelijk worden gemanipuleerd door slechte actoren of slecht ontworpen interfaces.

Het onderzoek suggereert dat de huidige taalmodellen de begrensde rationaliteit missen die de menselijke besluitvorming stuurt. Terwijl mensen mentale sluiproutes gebruiken om de kosten van het verzamelen van informatie af te wegen tegen de beloning van het maken van een goede keuze, delen AI-modellen deze biologische beperkingen niet, maar vertonen ze toch hun eigen vorm van irrationaliteit die aantoonbaar extremer en minder voorspelbaar is.

Blijf AI een stap voor

Ga voor meer actueel AI-nieuws en analyses naar AI Buzz Wire.

Lees meer AI-nieuws →