Danmark gick på torsdagen för att förbjuda digital kopiering och delning av verklighetstrogna AI-genererade representationer av verkliga människor, eftersom landets kulturminister formellt föreslog ett lagförslag som syftade till att stävja spridningen av deepfakes. Enligt Reuters skulle lagstiftningen göra det olagligt att skapa eller distribuera realistiska digitala imitationer av en persons utseende eller röst utan deras samtycke.
Vad räkningen skulle göra For more context on this story, see our ongoing more AI stories.
Förslaget, som lagts fram av kulturminister Zenia Stampe, riktar sig till kärnmekaniken i moderna djupförfalskningar: förmågan att syntetisera en övertygande kopia av en verklig person och cirkulera den online. Enligt lagförslaget skulle digital kopiering av någons ansikte eller röst kräva den personens tillåtelse, vilket ger danskarna ett rättsmedel som för närvarande inte finns för de flesta privata medborgare.
Stampe sa i ett uttalande att AI-manipulerade videor och bilder kan underblåsa felaktig information och urholka allmänhetens förtroende för vad som är verkligt. Hennes ministerium har formulerat lagförslaget som ett svar på en teknik som har överträffat reglerna som styr det, vilket gör att tillverkade medier kan spridas snabbare än nedtagningssystem kan svara.
Tryck på plattformar för att snabbt ta bort innehåll
Ett centralt syfte med lagstiftningen är att flytta ansvaret mot de plattformar där deepfakes cirkulerar. "Ett av huvudmålen med lagförslaget är att få teknikjättarna att snabbt ta ner manipulerat innehåll så att det orsakar så lite skada som möjligt", säger Stampe, enligt Reuters.
Den inramningen signalerar att bördan av verkställighet inte bara skulle vila på offren för deepfakes. Istället skulle sociala nätverk och andra värdtjänster möta en rättslig skyldighet att ta bort rapporterade djupförfalskningar omedelbart – ett tillvägagångssätt som, om det antas, skulle lägga till Danmark i gruppen av europeiska regeringar som testar hur långt nationell lag kan driva plattformsansvar för AI-genererat innehåll.
Skydd för artister och allmänheten
Lagförslaget är skrivet för att i synnerhet omfatta två grupper. Den första är allmänheten, vars likhet och röster tidigare kunde kopieras med liten rättslig prövning. Den andra är kreativa proffs: artister vars arbete – och personas – skulle kunna imiteras av AI-system och omfördelas utan kompensation eller samtycke.
För musik- och filmbranschen är skillnaden viktig. AI-röstkloning och videosyntes har gjort det trivialt enkelt att skapa övertygande framträdanden som tillskrivs artister som aldrig spelat in dem, och artistgrupper över hela Europa har lobbat för starkare personlighetsrättsskydd. Det danska förslaget skulle ge utövande konstnärer en uttrycklig rättslig grund att kräva borttagning av obehöriga AI-kopior av deras föreställningar.
Satir och parodi är fortfarande tillåtna
Förbudet är inte absolut. Reuters rapporterar att lagstiftningen innehåller undantag för karikatyrer, parodier, satir och annat arbete som kritiserar samhället och makthavare. Denna utskärning speglar långvariga uttrycksfrihetstraditioner i dansk och europeisk rätt, och syftar till att förhindra att de nya reglerna används för att undertrycka legitima kommentarer.
Undantaget kommer sannolikt att vara en av de svårare bestämmelserna att administrera i praktiken. Att dra gränsen mellan en skyddad parodi och en inkräktande deepfake är en bedömning, och plattformar som hanterar begäranden om borttagning i stor skala kan ha svårt att tillämpa det konsekvent.
Designen väcker också praktiska frågor om hur samtycke ska verifieras. En begäran om borttagning som lämnas in av en offentlig person och en som lämnas in av en privat medborgare kommer att hamna i samma modereringsköer, och plattformar kommer att behöva ett sätt att skilja legitima rättighetsinnehavare från rapporter om ond tro. Danmarks lagförslag löser inte dessa mekaniker i texten som rapporterats av Reuters, och de kommer sannolikt att fastställas i implementeringsvägledning när lagen träder i kraft.
Tidslinje i parlamentet
Förslaget är fortfarande föremål för riksdagens godkännande och Stampe sa att hon hoppas att lagförslaget kan träda i kraft runt årsskiftet. Det skulle sätta Danmark på ett snabbt spår av lagstiftningsmässiga standarder - en reflektion, menar analytiker, av den politiska brådska som syntetiska medier har fått inför valcykler i flera länder.
Ett testfall för personlighetsrättigheter i AI-eran
Danmarks tillvägagångssätt utvidgar effektivt upphovsrättens logik – ett ramverk byggt för att skydda kreativa verk – till människor själva. Om lagförslaget går igenom skulle en dansk medborgares ansikte och röst funktionellt bli skyddat material, och att dela en obehörig AI-kopia skulle få juridiska konsekvenser.
Lagstiftningen kommer när regeringar över hela världen brottas med samma dilemma: hur man skyddar individer från syntetisk identitetsstöld utan att nedslå legitimt tal, journalistik och konst. Danmarks svar – samtyckesbaserat skydd med satirundantag och nedtagningsplikter för plattformar – är bland de mest konkreta förslag någon nationell regering har lagt fram, och dess framsteg genom parlamentet kommer att följas noga i Bryssel och utanför.
Den korsar också regler som Europeiska unionen redan har satt igång. EU:s AI-lag införde transparenskrav för AI-genererade och manipulerade medier, vilket kräver att deepfakes avslöjas som sådana. Danmarks lagförslag går längre: snarare än att begära att syntetiskt innehåll ska märkas, skulle det ge människor rätt att stoppa obehöriga syntetiska kopior av sig själva från att existera överhuvudtaget. Gapet mellan "märkt" och "förbjudet" är där mycket av den kommande debatten kommer att sitta - och Danmarks parlamentariska process kommer att erbjuda det första verkliga testet av var den europeiska allmänheten vill dra den gränsen.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
