Eine neue Studie von MIT-Informatikern, die am Dienstag in Nature Communications veröffentlicht wurde, liefert ein Ergebnis, das die Debatte über das KI-Urheberrecht neu gestalten könnte: Da Diffusionsmodelle auf mehr Daten trainiert werden, wird es zunehmend unmöglich, ihre Ergebnisse auf ein bestimmtes Trainingsmaterial zurückzuführen. Die Forscher nennen das Phänomen „Attributionsverfall“. Für Leser, die die schnelllebige Welt der generativen KI verfolgen, ist der Artikel eines der folgenreicheren Forschungsergebnisse, über die diese Woche von AI Buzz Wire berichtet wird.

Der Artikel mit dem Titel „Outputs of Generative Diffusion Models are Oft Unattributable“ wurde von Zheng Dai und David K. Gifford verfasst, beide Mitarbeiter des Computer Science and Artificial Intelligence Laboratory (CSAIL) des MIT. Ihre zentrale Frage war täuschend einfach: Wenn ein generatives Modell ein Bild erzeugt, können Sie in den Trainingsdaten ein bestimmtes Element finden, das für diese Ausgabe verantwortlich ist?

Was die Forscher herausfanden

Die Antwort lautet zunehmend nein. Die Forscher zeigen, dass Attribution – definiert als die Aufgabe, einen Teil der Trainingsdaten zu lokalisieren, der für eine generierte Stichprobe verantwortlich gemacht werden kann – „unmöglich werden kann, wenn ein Modell auf einem ausreichend großen Datenkorpus trainiert wird“.

„Wir stellen fest, dass je mehr Daten ein Modell trainiert, desto weniger zuordenbar werden seine generierten Stichproben, ein Phänomen, das wir im Folgenden als Attributionsverfall bezeichnen“, schreiben die Autoren.

Um dies zu testen, entwickelte das Team eine „Ablations“-Methodik, die es ermöglicht, bestimmte Trainingsbeispiele aus einem bereits trainierten Modell ohne kostspielige Neuschulung zu entfernen. Anschließend führten sie groß angelegte Was-wäre-wenn-Experimente durch: Was würde das Modell erzeugen, wenn ein bestimmtes Bild oder das gesamte Werk eines Schöpfers nie im Trainingssatz gewesen wäre?

In einigen der auffälligsten Ergebnisse der Studie stellten die Forscher fest, dass sie bei Modellen, die auf ausreichend großen Datensätzen trainiert wurden, die Mona Lisa – oder sogar das gesamte Werk von Leonardo da Vinci – entfernen konnten und das Modell immer noch das Bild oder den künstlerischen Stil reproduzieren konnte. Kein einzelnes Trainingselement war ursächlich für den Output verantwortlich.

Warum es für Urheberrechtsstreitigkeiten wichtig ist

Die Erkenntnisse fallen mitten in ein aktives Rechtsstreitfeld. Diffusionsmodelle wie Midjourney und Stable Diffusion haben Klagen von Künstlern nach sich gezogen, die argumentieren, dass Kopien ihrer Arbeit in Trainingsdaten es KI-Systemen ermöglichen, ihre Ausgabe und ihren Stil zu reproduzieren.

In einem laufenden Urheberrechtsfall aus dem Jahr 2023 haben Andersen et al. gegen Stability AI Ltd. haben Kläger versucht, Midjourney zur Offenlegung der Datensätze zu zwingen, die zum Trainieren seiner Modelle verwendet werden. Sie behaupten, Midjourney habe seine Trainingssets „durch das Ausschneiden von Bildern, die mit den Namen bestimmter Künstler in Verbindung stehen, mit dem ausdrücklichen Zweck entwickelt, seinem Modell die Nachahmung der Ausdrucksinhalte dieser Künstler zu ermöglichen“.

Die MIT-Studie legt nahe, dass die Herstellung solcher Kausalzusammenhänge in großem Maßstab technisch unmöglich sein könnte. Wie The Register, das erstmals über die Einzelheiten der Studie berichtete, feststellte, dürfte die Forschung die KI-Regulierung eher schwieriger als einfacher machen – das Gegenteil von dem, was die Autoren zu Beginn der Arbeit erhofft hatten.

Die Fair-Use-Frage

In der Pressemitteilung des MIT argumentiert Gifford, dass die Ergebnisse in beide Richtungen gehen. Wenn die generierten Ausgaben nichts mit einzelnen Trainingsdaten zu tun haben, sind Modelle möglicherweise wirklich kreativ und keine bloßen Kopiermaschinen.

„Das wirft Fragen zur fairen Nutzung auf, ob die Ergebnisse selbst als Romanwerke urheberrechtlich geschützt sind und wie Autoren entschädigt werden, wenn das Ergebnis eines Modells nicht auf irgendetwas im Internet zurückzuführen ist“, sagte Gifford.

Die Auswirkungen gehen über Bildgeneratoren hinaus. Diffusionsmodelle sind zur vorherrschenden Architektur für die Erzeugung audiovisueller Medien geworden und werden zunehmend in wissenschaftlichen Anwendungen eingesetzt, einschließlich der Modellierung von Proteinstrukturen und der therapeutischen Entdeckung. Attributionstools wurden auch für maschinelles Verlernen, Erkennung von Datenvergiftungen, Modellinterpretierbarkeit, Fairness-Audits und Datenschutz-Compliance vorgeschlagen.

Eine Warnung für Attribution-Startups

Die Studie warnt auch vor der wachsenden Branche der KI-Provenienz- und Inhaltsüberprüfungstools. Die Forscher fanden heraus, dass die auf Ähnlichkeit basierende Attribution – das Abgleichen generierter Ausgaben mit visuell ähnlichen Trainingsbildern – in großen Trainingsdatensystemen zu falschen Attributionen führt.

Mit anderen Worten: Ein Tool, das behauptet, „dieses KI-Bild stammt aus dem Portfolio dieses Künstlers“, kann einfach falsch sein, wenn Modelle auf Milliarden von Bildern trainiert werden. Für Plattformen, Gerichte und Regulierungsbehörden, die bei der Beilegung von Herkunftsstreitigkeiten auf technische Zuordnung setzen, deuten die MIT-Ergebnisse darauf hin, dass eine solche Gewissheit für Modelle im Grenzmaßstab möglicherweise unerreichbar ist.

Was als nächstes kommt

Es wird erwartet, dass das Papier in laufenden Rechtsstreitigkeiten und politischen Debatten zitiert wird, einschließlich Diskussionen über die Transparenzanforderungen des EU-KI-Gesetzes und Vorschläge für Künstlervergütungssysteme. Wenn der Attributionsrückgang bei den größten Produktionsmodellen zutrifft, müssen Vergütungssysteme, die auf der Rückverfolgung von Outputs auf bestimmte Werke basieren, möglicherweise umgestaltet werden, und zwar im Hinblick auf die kollektive Lizenzierung statt auf die Verfolgung auf Artikelebene.

Die Studie wirft auch einen heiklen Punkt für KI-Entwickler auf: Nichtzuordenbarkeit kann tatsächlich die Fair-Use-Argumente für Schulungen zu urheberrechtlich geschützten Daten stärken und gleichzeitig die Fähigkeit von Künstlern untergraben, einen konkreten Schaden durch einzelne Ergebnisse nachzuweisen. Beide Seiten des Urheberrechtsstreits werden in den Daten etwas finden, das sie nutzen können.

Bleiben Sie der KI immer einen Schritt voraus

Für weitere aktuelle KI-Forschung und -Analyse besuchen Sie AI Buzz Wire für die tägliche Berichterstattung über die KI-Branche.

Weitere KI-Neuigkeiten lesen →