Antropisch topman Dario Amodei heeft wetgevers gewaarschuwd dat de steeds snellere trend naar open-source kunstmatige intelligentie de samenleving op een gevaarlijk pad zou kunnen leiden als er krachtige modellen worden vrijgegeven zonder zorgvuldige waarborgen, waardoor een van de meest controversiële debatten in het AI-beleid opnieuw zal oplaaien.

Amodei, die het bedrijf achter de Claude-modellenfamilie heeft opgericht en leidt, betoogde dat de unieke aard van open-source AI, die geavanceerde systemen vrij beschikbaar maakt voor iedereen om te downloaden, aan te passen en te implementeren, risico's met zich meebrengt die conventionele open-sourcesoftware nooit heeft met zich meegebracht. Zijn opmerkingen, gerapporteerd door Tekedia, concentreren zich op de moeilijkheid om capabele AI te controleren zodra deze publiekelijk is verspreid. Voor meer context over dit verhaal, zie onze lopende meer AI-verhalen.

In tegenstelling tot traditionele software kunnen geavanceerde AI-systemen overtuigende tekst genereren, realistische afbeeldingen produceren, computercode schrijven en helpen bij cyberbeveiligingstaken. Amodei stelt dat deze capaciteiten in de verkeerde handen kunnen worden misbruikt om cyberaanvallen te automatiseren, geavanceerde desinformatiecampagnes op te zetten of schadelijk biologisch onderzoek te bevorderen.

Het probleem van duurzaamheid

Een van de centrale risico's die Amodei benadrukte, is dat zodra een krachtig model openlijk wordt vrijgegeven, het in feite onmogelijk wordt om het zich nog te herinneren. Gesloten systemen die door bedrijven worden beheerd, kunnen worden gemonitord, gepatcht en beperkt wanneer er nieuwe kwetsbaarheden opduiken. Een open-sourcemodel kan daarentegen voor onbepaalde tijd worden gekopieerd en opnieuw over het internet worden verspreid, waardoor ontwikkelaars geen mechanisme hebben om het gebruik ervan na de release te beperken.

Die duurzaamheid, waarschuwde Amodei, is vooral verontrustend nu modellen prestaties op menselijk niveau benaderen bij steeds complexere taken. Hij betoogde dat geavanceerde AI moet worden onderworpen aan robuuste veiligheidstests, gecontroleerde implementatie en passend regelgevend toezicht voordat deze breed toegankelijk wordt, in plaats van te worden behandeld als gewone software die in de openbaarheid kan worden verbeterd.

Zijn positie weerspiegelt een groeiende breuklijn in de sector. Voorstanders van open-source AI beweren dat publieke toegang de concurrentie stimuleert, de technologische vooruitgang democratiseert en verhindert dat een handvol bedrijven kunstmatige intelligentie monopoliseert. Ontwikkelaars over de hele wereld kunnen de modelarchitectuur inspecteren, beveiligingsfouten aan het licht brengen en systemen gezamenlijk verbeteren, terwijl startups, onderzoekers en onderwijsinstellingen kunnen bouwen zonder afhankelijk te zijn van dure eigen platforms.

Specifieke risico's op tafel

Amodei's zorgen zijn niet abstract. Openlijk vrijgegeven modellen zijn door onderzoekers al ontdaan van hun veiligheidsbeugels met behulp van eenvoudige verfijningstechnieken, een praktijk die aantoonde hoe snel beschermende maatregelen kunnen worden verwijderd zodra de onderliggende gewichten openbaar zijn. Naarmate modellen beter in staat worden om taken als scheikunde, biologie en software-exploitatie uit te voeren, bestaat de zorg dat open releases krachtige mogelijkheden kunnen overdragen aan actoren die nooit de screening zouden doorstaan ​​die verantwoordelijke laboratoria hun klanten opleggen.

Ook de desinformatiedimensie heeft veel aandacht getrokken. Modellen die op grote schaal realistische tekst, afbeeldingen en audio kunnen genereren, kunnen worden ingezet voor verkiezingsinmenging, financiële fraude of de massaproductie van propaganda. Omdat een open model volledig op de eigen hardware van de aanvaller werkt, merkt Amodei op, is er geen API die kan worden beperkt, geen account dat kan worden opgeschort en geen provider die aansprakelijk kan worden gesteld zodra de schade is aangericht.

Een competitieve achtergrond

De waarschuwingen van Amodei komen te midden van een golf van capabele open modellen van Chinese ontwikkelaars. Zhipu's GLM-5.2 heeft, samen met andere goedkope Chinese systemen, nieuwe aandacht gevestigd op hoe snel open en openlijk beschikbare modellen de kloof dichten met grensverleggende propriëtaire systemen van Anthropic en OpenAI. Die concurrentiedruk heeft het beleidsdebat geïntensiveerd over de vraag of beperkingen op open releases dominante bedrijven zouden bevoordelen of samenlevingen bloot zouden stellen aan misbruik.

Critici van het standpunt van Amodei beweren dat het beperken van open-source AI onbedoeld grote technologiebedrijven zou kunnen verankeren door onafhankelijke innovatie te beperken. Ze merken ook op dat transparantie onderzoekers vaak in staat stelt kwetsbaarheden sneller te identificeren dan bij gesloten ontwikkeling. Zelfs veel voorstanders van open ontwikkeling erkennen echter dat steeds krachtigere systemen mogelijk sterkere bestuurskaders vereisen dan eerdere generaties software.

Het regelgevende koord

De discussie heeft aan urgentie gewonnen nu regeringen over de hele wereld nieuwe AI-regelgeving overwegen. Beleidsmakers worden geconfronteerd met een moeilijk evenwicht: buitensporige beperkingen kunnen de economische groei en wetenschappelijke ontdekkingen vertragen, terwijl onvoldoende toezicht samenlevingen kan blootstellen aan risico's die moeilijk te anticiperen zijn. Om dat evenwicht te vinden, zo stelde Amodei, is samenwerking nodig tussen overheden, technologiebedrijven, academische onderzoekers en het maatschappelijk middenveld.

Zijn getuigenis onderstreept een van de bepalende debatten over het technologiebeleid van het decennium. Naarmate kunstmatige intelligentie steeds capabeler wordt, moet de samenleving beslissen hoe innovatie wordt aangemoedigd en tegelijkertijd de gevaren die gepaard gaan met wijdverbreide toegang tot transformatieve systemen tot een minimum worden beperkt. Of het nu gaat om regelgeving, industriestandaarden of internationale samenwerking, de keuzes die de komende maanden worden gemaakt over open-source AI kunnen de komende jaren bepalen wie de technologie controleert en hoe veilig deze wordt ingezet.

Voor Anthropic komt het standpunt overeen met de al lang bestaande nadruk van het bedrijf op AI-veiligheid en gecontroleerde releases. Maar nu open modellen zich snel ontwikkelen en toezichthouders nog steeds hun best doen om hun achterstand in te halen, wordt de kloof tussen Amodei's waarschuwingen en het tempo van de open source-beweging mogelijk sneller kleiner dan beleidsmakers deze kunnen dichten.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →