Medewerkers van het kleine Amerikaanse overheidskantoor dat verantwoordelijk is voor het testen van de veiligheid van grensoverschrijdende AI-modellen is onlangs gevraagd om informeel te rapporteren aan een kantoor in het Witte Huis, zo meldde Associated Press zaterdag, wat aanleiding gaf tot nieuwe zorgen over de onafhankelijkheid van de beste AI-veiligheidsbeoordelaar van het land.

Het kantoor, het Center for Advancing Innovation and Standards for Super Intelligence – bekend als CAISSI en gehuisvest binnen het ministerie van Handel – is volgens de AP ook gestopt met het publiceren van zijn onderzoek. Het rapport komt terecht in een context van groeiende publieke ongerustheid over een reeks verhalen over uit de hand gelopen AI-agenten, en beschrijft een waakhond die onderbemand is, geen leider heeft en steeds stiller wordt. Voor meer context over dit verhaal, zie ons meer AI-verhalen.

Wat CAISSI doet – en wat de AP heeft gevonden

CAISSI is belast met het beoordelen van de veiligheid van nieuwe AI-aanbiedingen voordat ze het publiek bereiken, een mandaat dat onder meer omvat het evalueren van hoe goed frontiermodellen misbruik voor cyberaanvallen en andere ernstige schade kunnen weerstaan. Volgens de AP werd het personeel van het centrum “onlangs” gevraagd zich informeel te melden bij een kantoor van het Witte Huis. Het persbureau citeerde twee voormalige overheidsfunctionarissen met kennis van de discussies, die anoniem spraken om de huidige werknemers te beschermen. Het Witte Huis reageerde niet op specifieke vragen over het centrum.

De omvang van de operatie is bescheiden. De AP meldt dat CAISSI ongeveer 10 miljoen dollar per jaar ontvangt – grofweg een achtste van wat zijn tegenhanger in het Verenigd Koninkrijk ontvangt, ook al zijn de Verenigde Staten de landen waar de meeste grensmodellen worden gebouwd.

De informele rapportageregeling is slechts de nieuwste verstoring in het centrum. De AP beschrijft een leiderschapsvacuüm dat maanden teruggaat: een directeur werd in april aangenomen en binnen enkele dagen ontslagen, zijn vervanging duurde een paar maanden voordat hij aftrad, en het hoofd van het moederinstituut fungeert momenteel als waarnemend directeur. In de praktijk betekent dit dat niemand met een permanent mandaat momenteel de onafhankelijkheid van het centrum verdedigt.

Een waakhond die stopte met publiceren

De meer consequente verandering is volgens de AP wat het centrum niet langer doet. In augustus vroeg het Congres waarom CAISSI was gestopt met het publiekelijk vrijgeven van rapporten over hoe AI-systemen presteren bij veiligheidstests. Testen vóór de implementatie functioneert alleen als een openbare controle op modelbouwers als de resultaten ervan buiten het laboratorium zichtbaar zijn – en voorlopig is dat niet het geval.

De verschuiving kwam niet uit het niets. In oktober onthulde Reuters, onder verwijzing naar een rapport van The Information, dat de regering van plan was drie hoge CAISSI-functionarissen naar het Witte Huis te verhuizen. Een functionaris van het Witte Huis vertelde destijds aan The Information dat coördinatieproblemen met de handel de noodzaak aantoonden om de leiding van het centrum dichter bij de AI-besluitvorming te brengen. Volgens dat rapport zouden de functionarissen verantwoording afleggen aan Michael Kratsios, die het Office of Science and Technology Policy leidt, en National Cyber ​​Director Sean Cairncross. Minister van Handel Howard Lutnick had de twee ongeveer zes maanden eerder uitgenodigd om het centrum mede te beheren.

Alles bij elkaar genomen suggereert de nieuwe rapportage van de AP dat het plan in de praktijk komt – informeel en voorafgaand aan enige formele herstructurering.

Zorgen over de onafhankelijkheid, in beide richtingen

Critici geciteerd door de AP maken zich zorgen dat beslissingen die te maken hebben met de cyberveiligheid en het risico van biowapens gepolitiseerd kunnen worden, of dat de bevindingen verzacht kunnen worden om tegemoet te komen aan de technologie-industrie. Amos Toh van het Brennan Center for Justice vertelde de AP dat dergelijke beslissingen van enorme publieke betekenis zijn en in het openbaar moeten worden uitgelegd. Caroline Siegel Singh van de Federation of American Scientists beschreef centra als CAISSI als krachtige instellingen die levens drastisch kunnen verbeteren of het tegenovergestelde kunnen doen.

Er is een tegenargument, en de AP wijst dit niet af. Het evalueren van het vermogen van een model om malware te helpen schrijven is een kwestie van nationale veiligheid, en een regering die inzicht wil in wie deze resultaten ziet, heeft een verdedigbare zaak. De moeilijkheid is institutioneel: een scheidsrechter die verantwoording aflegt aan een van de sponsors van de teams is slecht geplaatst om de wedstrijd in goede banen te leiden, en het centrum is gestopt met het publiceren van de rapporten die anders zijn onafhankelijkheid zouden aantonen.

Waarom het belangrijk is voor bouwers en kopers

Voor bedrijven die voortbouwen op grensmodellen is het praktische risico dat in de rapportage wordt geïdentificeerd geen verbod, maar onzekerheid. Als evaluaties geheim blijven en bijdragen aan exportcontroles en overheidsaanbestedingen, kan een laboratorium een ​​contract of een markt verliezen op basis van een vondst die het nooit te zien krijgt of betwist. Dat risico zou zich zonder enige waarschuwing via de toeleveringsketen verspreiden naar producten verderop in de keten.

Vervolgens zijn er twee dingen die de moeite waard zijn om te bekijken. De eerste is of de regering een permanente directeur voor het centrum aanwijst, en wie deze kiest. De tweede is of het Congres, dat het centrum al onder druk heeft gezet vanwege zijn stilzwijgen over gepubliceerde rapporten, stappen gaat ondernemen om de onafhankelijkheid van het centrum in de wet te verankeren. Totdat een van beide gebeurt, opereert de grensoverschrijdende AI-veiligheidsscheidsrechter van Amerika met een budget van $10 miljoen, geen permanente leider en een rapportagelijn die richting het Witte Huis loopt.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →