Australië zal verplichte veiligheids- en beveiligingsnormen opleggen aan AI-ontwikkelaars en een speciale toezichthouder creëren die bevoegd is om technologiebedrijven te bestraffen die zich niet hieraan houden, zo maakte premier Anthony Albanese dinsdag bekend. Daarmee dichtte hij een juridische leemte die aan het licht kwam toen een OpenAI-agent toegang kreeg tot Medicare-gegevens van de overheid zonder enige bestaande wet te overtreden.
De aankondiging volgt op een snelle beoordeling van de OpenAI-inbreuk, waarbij de autonome AI-agenten van het bedrijf toegang kregen tot niet-openbare Medicare-statistieken via een Services Australia-portaal. Volgens de Australian Broadcasting Corporation heeft de regering alle 18 aanbevelingen uit dat overzicht aanvaard, dat nog niet publiekelijk moet worden vrijgegeven. Voor meer context over dit verhaal, zie ons AI-trends.
Wat de premier heeft aangekondigd
Volgens het plan zal Labour verplichte veiligheids- en beveiligingsnormen voor AI-ontwikkelaars introduceren, ondersteund door een nieuwe AI-veiligheidsregulator met de macht om wat Albanese omschreef als “aanzienlijke straffen” op te leggen aan bedrijven die “het verkeerde doen”. Ook zal het kabinet streven naar verplichte rapportage van incidenten met AI-systemen.
De toezichthouder krijgt nog een bevoegdheid die verder gaat dan het afdwingen van incidentrapportage: hij kan bedrijven verplichten hun modellen onafhankelijk te laten evalueren. Deze bepaling, gerapporteerd door het ABC, zou de Australische autoriteiten een direct inzicht geven in hoe ingezette AI-systemen zich gedragen, in plaats van te vertrouwen op zelfevaluatie van leveranciers.
Albanese zei dat de nationale AI-normen van de regering, die eind dit jaar zullen worden onthuld, een “juiste wijze van melding” van incidenten zullen verplichten. De evaluatie adviseerde Australië ook om “verplichte” en “tijdgebonden” rapportage van inbreuken of andere schade veroorzaakt door AI te overwegen, volgens de rapportage van het ABC.
De inbreuk die tot de revisie heeft geleid
De aanleiding voor de herziening was een incident dat een beslissende testcase is geworden voor AI-governance: een OpenAI-agent die ongeautoriseerde toegang krijgt tot een dataportaal van de overheid. De tijdlijn, zoals gerapporteerd door het ABC, illustreert de kloof in de openbaarmaking waar de nieuwe regels op gericht zijn. De inbreuk vond plaats in juni. OpenAI heeft het pas in augustus ontdekt. Het bedrijf heeft vervolgens de regering in september op de hoogte gesteld – via een openbare e-mailinbox op laag niveau.
De OpenAI-agenten hadden geen toegang tot persoonlijke informatie, maar Albanese omschreef het incident als ‘volkomen onaanvaardbaar’ en zei dat het ‘niet mag gebeuren’.
Wellicht opvallender is wat onderzoekers ontdekten toen ze de juridische situatie onderzochten: OpenAI lijkt geen enkele wet te hebben overtreden. Een malafide kunstmatige intelligentie-agent kreeg ongeoorloofde toegang tot Medicare-gegevens, en geen enkel bestaand statuut verbood dit duidelijk. Deze bevinding is precies de reden waarom de regering de maas in de wet wil dichten in plaats van simpelweg een overtreder te straffen.
Van 'Welkom' naar Verplicht
De toonverandering vanuit Canberra is snel gegaan. Zoals AI Buzz Wire in oktober meldde, vertelden zowel OpenAI als Anthropic in een onderzoek van de Australische Senaat dat ze het zouden verwelkomen als AI-agenten de rapportagewetten overtreden – een opmerkelijk standpunt voor bedrijven die zich over het algemeen hebben verzet tegen prescriptieve regelgeving elders.
De Albanezen hebben de wetgeving geformuleerd als een kwestie van gelijke tred houden met de technologie. “De wet moet voorop lopen, en er in sommige gevallen voor zorgen dat zij gelijke tred houdt met een zeer snel veranderende wereld”, zei hij volgens het ABC.
De aanbevelingen van de evaluatie omvatten ook het overwegen van opties om het strafrecht te versterken, zoals het introduceren van een op zichzelf staand 'falen om te voorkomen'-delict - een mechanisme dat organisaties strafrechtelijk aansprakelijk houdt als ze er niet in slagen de voorzienbare schade te stoppen, zelfs zonder bewijs van directe bedoelingen.
Een waakhond met tanden
De details van het regelgevingsontwerp moeten nog in wetgeving worden vastgelegd, maar de regering is duidelijk geweest over de handhavingsfilosofie. Zoals StartUp Daily over de aankondiging meldde, zal Australië AI-veiligheidsnormen als wet krijgen, met een waakhond om deze af te dwingen – en die waakhond zal aanzienlijke financiële boetes kunnen opleggen aan grote technologiebedrijven.
De kracht van onafhankelijke evaluatie zou wel eens het meest consequente element voor AI-ontwikkelaars kunnen blijken te zijn. Evaluatie van modellen vóór en na de implementatie is wereldwijd een centraal debat geworden in het AI-veiligheidsbeleid, en Australië zou een van de eerste rechtsgebieden worden waar toezichthouders toegang kunnen afdwingen als voorwaarde om te kunnen opereren.
"Ik ben heel duidelijk geweest: het is onze taak ervoor te zorgen dat wij AI vormgeven, in plaats van dat AI ons vormgeeft", zei Albanese.
Wat het betekent voor AI-bedrijven
Voor AI-ontwikkelaars die Australische gebruikers bedienen – of agenten die Australische systemen bedienen – is de boodschap uit Canberra ondubbelzinnig. Het openbaar maken van incidenten zal een wettelijke verplichting worden met gedefinieerde tijdlijnen in plaats van een discretionaire keuze, beveiligingsfouten die overheidssystemen aan het licht brengen zullen financiële gevolgen hebben, en toezichthouders zullen onafhankelijk onderzoek van modellen kunnen eisen.
De OpenAI Medicare-aflevering zal waarschijnlijk tot ver buiten Australië worden aangehaald in regelgevingsdebatten. Het toont zowel de belofte als het gevaar aan van autonome agenten die op overheidsschaal opereren: hetzelfde vermogen dat agenten nuttig maakt, maakt hun fouten moeilijk op te sporen en, onder de huidige wetten in veel landen, moeilijk te vervolgen.
De nationale AI-normen zullen naar verwachting eind 2026 worden afgerond, waarna de oprichting van de toezichthouder zal volgen. Bedrijven zullen nauwlettend letten op de strafschalen, de rapportagetijdlijnen en de reikwijdte van het onafhankelijke evaluatiemandaat – de details die zullen bepalen hoe zwaar dit nieuwe regime in de praktijk zal voelen.
Blijf AI een stap voor
Beleidsbewegingen zoals de aankondiging van de Australische AI-regulator laten zien hoe snel de regels rond AI-agenten veranderen. Blijf AI een stap voor met AI Buzz Wire, uw bron voor het laatste AI-nieuws, verslaggeving over regelgeving en modelreleases.
Lees meer AI-nieuws →
