Google DeepMind heeft een nieuw instituut gelanceerd dat zich richt op het verbreden van het gesprek rond kunstmatige algemene intelligentie – en de inaugurele essays bevatten een concreet voorstel van Demis Hassabis voor een door de VS geleid orgaan dat grensverleggende AI-modellen zou evalueren voordat het werd ingezet.
Het DeepMind Institute, woensdag gelanceerd door Google en Google DeepMind-onderzoekers, noemt mede-oprichter van DeepMind Shane Legg als hoofdredacteur, naast Google-directeur James Manyika en Google DeepMind-voorzitter Demis Hassabis als directeuren, volgens TechCrunch. Voor meer context over dit verhaal, zie ons meer AI-verhalen.
Ruimte om het oneens te zijn
Het doel van het instituut is om echte meningsverschillen aan het licht te brengen, ook binnen Google zelf. “Ze zullen het niet altijd met elkaar eens zijn, en ze zullen waarschijnlijk van gedachten veranderen, naarmate er meer gegevens en informatie aan het licht komen in de snel veranderende grens”, luidt de aankondiging.
De eerste bundel bestaat uit vier essays over het economisch beleid voor het beheersen van potentiële AGI-verstoring, het behoud van door mensen leesbare modelredeneringen, principes voor menselijke bloei en een raamwerk voor het evalueren van grensverleggende AI-modellen.
Het institutionaliseren van openlijke meningsverschillen is een ongebruikelijke zet voor een AI-laboratorium van bedrijven, waar de publieke berichtgeving doorgaans streng wordt gecontroleerd. Het is zo ontworpen dat het instituut de onderzoekers van Google een plek biedt om standpunten te bepleiten die in strijd kunnen zijn met de commerciële belangen van het bedrijf – of met die van elkaar.
Het transparantie-essay: bekijk de 'ondoorzichtige seriële diepte'
In een van de vier essays van DeepMind-veiligheidsonderzoekers Rohin Shah en Anca Dragan wordt betoogd dat de steeds kleiner wordende transparantie van AI – het vermogen om de stapsgewijze redenering van een model te zien en te controleren – niet onvermijdelijk is, ook al maken nieuwe architecturen de krachtigste modellen moeilijker te monitoren.
De auteurs zeggen dat ontwikkelaars en toezichthouders de veiligheidsafwegingen direct onder ogen moeten zien. Concreet zou dat kunnen betekenen dat we de zogenaamde ‘ondoorzichtige seriële diepte’ moeten beperken – de hoeveelheid sequentiële berekeningen die een model kan uitvoeren zonder een leesbaar redeneerspoor te produceren – of dat we van ontwikkelaars moeten eisen dat ze aantonen dat minder transparante systemen net zo controleerbaar blijven als interpreteerbare systemen.
Het voorstel is opmerkelijk omdat het het verlies aan interpreteerbaarheid beschouwt als een ontwerp- en beleidskeuze en niet als een onvermijdelijk gevolg van schaalgrootte, waardoor de deur wordt geopend voor eisen die in regelgeving kunnen worden vastgelegd.
Het voorstel van Hassabis: een Amerikaans grensnormenorgaan
Het meest consequente essay is misschien wel dat van Hassabis. Hij stelt een door de VS geleid grensorgaan voor AI-standaarden voor, belast met het evalueren van de meest geavanceerde AI-modellen. Volgens dit raamwerk zouden ontwikkelaars modellen in eerste instantie tot 30 dagen vóór de release vrijwillig ter beoordeling indienen. Zodra het evaluatiesysteem effectief is gebleken, zou het slagen voor de tests een vereiste kunnen worden voor het inzetten van grensmodellen in de Verenigde Staten.
Het orgaan zou beginnen met het ontwerpen van beoordelingen in overleg met AI-bedrijven, maar zou uiteindelijk onafhankelijke, geheime evaluaties ontwikkelen – wat het essay ‘uitgebreide’ tests noemt – om te voorkomen dat laboratoria hun modellen afstemmen op bekende benchmarks, een goed gedocumenteerde faalwijze van publieke evaluatieregimes.
Hassabis liet ook de deur open voor escalatie: het raamwerk zou ‘opgevoerd kunnen worden als de ernst van de situatie dit vereist’, mogelijk met inbegrip van een gecoördineerde vertraging onder grensverleggende AI-ontwikkelaars.
Waarom de andere twee essays ertoe doen
De overige twee essays – over economisch beleid voor het beheersen van de ontwrichting van AGI en over principes voor menselijke bloei – ronden een verzameling af waarin AGI wordt behandeld als een maatschappelijk probleem in plaats van als een puur technisch probleem. Economische ontheemding is lange tijd de meest tastbare publieke zorg rond geavanceerde AI geweest, en door dit naast evaluatiebeleid en interpreteerbaarheid te plaatsen, suggereert het instituut dat beleidsmakers de stukken als één agenda moeten zien in plaats van als afzonderlijke debatten.
Die breedte is ook een signaal over de positionering van Google. Het bedrijf concurreert om zakelijke klanten en overheidscontracten, terwijl het tegelijkertijd betoogt dat grenssystemen toezicht van buitenaf nodig hebben. Het publiceren van de spanning, in plaats van deze weg te vlakken, is het uitgangspunt van het instituut.
Van zorg naar concrete voorstellen
De essays komen op het moment dat het veiligheidsdebat in de sector verschuift van brede uitingen van zorg naar specifieke mechanismen: openbaarmakingsvereisten, toezicht van buitenaf en – als de veiligheidsmaatregelen achterblijven – gecoördineerde vertragingen. Die verschuiving werd deze week versneld toen leiders uit de sector elementen onderschreven van de oproep van Anthropic CEO Dario Amodei om de grensverleggende AI-ontwikkeling te "tempo" maken, volgens TechCrunch.
De timing is belangrijk. Regeringen aan beide zijden van de Atlantische Oceaan vragen zich af hoe ze toezicht kunnen houden op systemen waarvan de capaciteiten sneller vooruitgaan dan de evaluatie-infrastructuur. Een voorstel dat zijn oorsprong vindt in een toonaangevend AI-laboratorium – en dat een pre-release review met tanden omvat – geeft beleidsmakers een sjabloon dat de industrie zelf nominaal heeft onderschreven, wat van oudsher een voorwaarde is geweest voor zinvolle AI-regulering.
Wat te bekijken
De redactionele onafhankelijkheid van het instituut ten opzichte van Google zal de eerste test zijn. Als de essays standpunten blijven bevatten die indruisen tegen de commerciële routekaart van Google – zoals het transparantie-essay aantoonbaar doet – zou de locatie een serieuze bijdrage kunnen leveren aan het beleidsdebat van AGI. Als het richting zakelijke berichten gaat, wordt het weer een PR-kanaal in een druk veld.
Hoe dan ook, de inhoud ligt nu op tafel: evaluatievereisten vóór de release, uitgestelde tests en zelfs een gecoördineerde vertraging worden publiekelijk bepleit door een van de machtigste figuren in de AI. De vraag is niet langer of grensmodellen onafhankelijk moeten worden geëvalueerd, maar wie de evaluatie doet – en volgens welk tijdschema.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
