Der inoffizielle Silicon-Valley-Leitspruch „Move fast and break things“ mag als motivierender Schlachtruf für Innovation funktionieren. Auf das gesellschaftliche Gefüge selbst darf er jedoch keinesfalls angewendet werden. Es ist höchste Zeit, dass unsere Gesetzgeber die Gefahren dieser Denkweise erkennen und entsprechend handeln – denn wir befinden uns mitten in einer technologischen Revolution von beispiellosem Ausmaß.
Kunst ist ein Prozess, nicht lediglich ein Produkt. Ob Schreiben, Filmemachen, Komponieren oder unzählige andere kreative Tätigkeiten: Der künstlerische Prozess ist entscheidend dafür, einen ersten Funken Inspiration zum Leben zu erwecken. Jede künstlerische Arbeit mag in angeborenem Talent wurzeln, doch sie erfordert ebenso Fleiß, Disziplin, Ausdauer, Kreativität und Geduld. Am Ende steht ein Werk menschlichen Ausdrucks, das einzigartig aus der persönlichen Erfahrung des jeweiligen Künstlers hervorgeht.
Kunst auf einen „Prompt“ zu reduzieren, ist eine Herabwürdigung all jener Kreativen, die vor uns gearbeitet haben, heute arbeiten und in Zukunft arbeiten werden.
Als Präsident der Motion Picture Sound Editors bin ich überzeugt, dass wir diejenigen schützen müssen, die ihr Leben diesen kreativen Berufen widmen. Gesetzgeberisches Handeln ist unerlässlich, um den notwendigen Schutz zu gewährleisten.
Dabei ist es wichtig, zwischen promptbasierten Ergebnissen generativer KI und dem Einsatz von Werkzeugen zu unterscheiden, die KI-Komponenten enthalten. Wenn ich von promptbasierten Ergebnissen generativer KI spreche, meine ich ausdrücklich solche Outputs oder Assets, bei denen die KI und nicht ein menschlicher Urheber die konkreten Einzelheiten des Ausdrucks erzeugt – etwa Video, Audio, Musik, Drehbuch oder Bild – und zwar auf Grundlage einer natürlichsprachlichen Eingabe oder anderer Verfahren, beispielsweise Video-to-Sound. Davon zu unterscheiden ist der Einsatz von Tools, die bereits vorhandenes, von Menschen geschaffenes Material bearbeiten oder optimieren, wie es in der Postproduktion häufig geschieht.
Den Wert menschlicher Kreativität zu bewahren, ist weniger kompliziert, als es zunächst erscheinen mag. Ich schlage vor, dass zwei grundlegende Regelungen den Rahmen für eine Gesetzgebung zum Schutz von Künstlern bilden:
- Gesetzliche Regelungen, die es untersagen, promptbasierte Outputs oder Assets generativer KI-Modelle sowie vollständige Werke, die solche promptbasierten Outputs oder Assets als Bestandteil enthalten, urheberrechtlich zu schützen.
- Gesetzliche Regelungen, wonach sämtliche promptbasierten Outputs, Assets und daraus abgeleiteten Werke eindeutig als solche gekennzeichnet werden müssen: visuell bei Bildern, Illustrationen und Videos; akustisch bei Songs, Scores sowie Soundeffekten und Sounddesign; und über Metadaten, die bei sämtlichen generativen KI-Outputs nachvollziehbar und dauerhaft auslesbar sind.
Das Ziel eines Gesetzes oder eines Gesetzespakets, das auf diesen Grundprinzipien basiert, muss darin bestehen, Folgendes zu verhindern:
- einen Song allein durch Prompting zu erzeugen und damit Geld zu verdienen;
- einen Film oder ein Video allein durch Prompting zu erzeugen und damit Geld zu verdienen;
- Kreativabteilungen abzubauen und ihre künstlerische Arbeit durch promptbasierte Outputs zu ersetzen;
- Deepfakes zu erzeugen, deren künstlicher Ursprung nicht erkennbar ist.
Nach einem solchen Regelwerk wären einzelne promptbasierte Outputs ebenso wenig urheberrechtlich schutzfähig wie vollständige Werke, die solche Outputs enthalten. Dazu zählen etwa Filme, die einen per Prompt erzeugten Score, Soundeffekte, visuelle Effekte oder Voice-over verwenden, ebenso wie Songs, deren finale Präsentation durch promptgenerierte Horn-Sections, Background-Vocals oder andere zentrale Bestandteile geprägt wird.
Neben den ethischen und moralischen Gründen für solche Regelungen gibt es dafür auch eine rechtliche Grundlage.
Der Gesetzestext muss zudem verhindern, dass Unternehmen den Einsatz promptbasierter generativer KI unter Berufung auf das Geschäftsgeheimnisrecht – das Trade Secret Law – verschleiern können.
Das US-Bundesrecht definiert ein urheberrechtlich schutzfähiges Werk als „an original work of authorship that is fixed in a tangible medium of expression“. Als originär gelten Werke, wenn sie unabhängig von einem menschlichen Urheber geschaffen wurden und ein Mindestmaß an Kreativität aufweisen – einen „Funken“ beziehungsweise ein „Mindestmaß“ an Kreativität, wie es der Supreme Court in Feist Publications, Inc. v. Rural Telephone Service Co. beschrieben hat.
Generative KI-Modelle sind ihrem Wesen nach abgeleitet. Large Language Models (LLMs) basieren auf riesigen Datensätzen, die von Computern schneller als jemals zuvor abgerufen, verarbeitet und miteinander kombiniert werden können. Das macht diese Maschinen zu beeindruckenden technischen Innovationen – aber nicht zu Künstlern oder Kreativen.
Promptbasierte Ergebnisse generativer KI sind letztlich die höchste Form statistischer Berechnung und Geschwindigkeit: Algorithmen prognostizieren in einer kaum vorstellbaren Folge potenziell unendlicher Einzelschritte jeweils den wahrscheinlichsten nächsten Schritt, um daraus ein Asset zu erzeugen. Dieses Asset ist das logische Endprodukt dieser statistischen Berechnungen. Letztlich handelt es sich um Mathematik. Ein Prompt erzeugt keinen „Funken“ und kein „Mindestmaß“ an Kreativität.
Ein Kritiker könnte fragen: „Aber warum erhalte ich unterschiedliche Ergebnisse, wenn ich dieselbe Anfrage mehrfach stelle oder einem LLM dieselbe Frage stelle? Ist das nicht ein Hinweis auf Kreativität im generativen Prozess?“
Nein. In diesen Fällen entstehen statistische Variationen, weil die Sicherheit der Berechnung für den jeweils nächsten Schritt abnimmt. Auch das bleibt eine Berechnung: eine zufällige Abweichung innerhalb des Prozesses, sobald die Wahrscheinlichkeit für das nächste statistische Ergebnis beziehungsweise das nächste Token sinkt. Einen „Funken“ Kreativität gibt es auch hier nicht.
Oder es könnte gefragt werden: „Das Copyright Office hat doch bereits festgestellt, dass Ergebnisse generativer KI grundsätzlich nicht urheberrechtlich geschützt werden können. Wären diese Maßnahmen dann nicht redundant?“
Nicht ganz. Es gibt Ausnahmen von dieser Regel, etwa bei „significant human editing“ und „creative selection and arrangement“. Diese Ausnahmen öffnen die Tür dafür, dass promptbasierte generative KI-Outputs unter bestimmten Umständen doch urheberrechtlich geschützt werden können.
Dieses Schlupfloch ist wie ein kleiner ausgefranster Faden in einer Jeans. Irgendwann wird jemand daran ziehen – bis daraus ein Loch entsteht, das kein Flicken mehr schließen kann.
Wenn wir in den vergangenen zehn Jahren eines gelernt haben sollten, dann dies: Schlupflöcher werden zwangsläufig ausgenutzt. Und sobald ihre Ausnutzung zur gängigen Praxis geworden ist, vergessen wir irgendwann, wie die ursprüngliche Norm überhaupt aussah.
Ein Fall hat diese subjektive Grenze bereits ein Stück weiter verschoben. Das US Copyright Office gewährte nach einem Einspruch Urheberrechtsschutz für das Werk A Single Piece of American Cheese von Kent Keirsey, dem CEO von Invoke AI. Das Werk und das anschließende Berufungsverfahren bewegten sich innerhalb des geltenden Urheberrechts – und nutzten dabei die unklare Ausnahme dessen aus, was als „significant human editing“ eines Werks gilt, dessen Ausgangspunkt ein Prompt war.
Dabei ist zu berücksichtigen, dass Invoke AI nach eigenen Angaben ausdrücklich herausfinden wollte, „where the ‘floor’ was“ – also wo die niedrigste Schwelle liegt, ab der das US Copyright Office einem KI-gestützten Werk urheberrechtlichen Schutz gewährt.
Es handelte sich um eine gezielte Untersuchung der Grenzen des Urheberrechts durch ein Unternehmen. Nach der Entscheidung erklärte Invoke AI mit Blick auf Künstler: „We hope that those people can now feel confident that their work can be protected, at least in the United States.“
Diese Grenze konnte nur deshalb ausgelotet werden, weil strengere Gesetze wie die hier vorgeschlagenen nicht existierten. Das geltende Urheberrecht ließ die Seitentür einen Spalt offen – und Invoke AI fand einen Weg hindurch. Sie waren die Ersten, die an dem ausgefransten Faden der Jeans zogen. Sie werden mit Sicherheit nicht die Letzten sein.
Nur eine gesetzgeberische Regelung kann diese Schlupflöcher schließen.
Täglich werden zehntausende KI-generierte Musikstücke auf Spotify hochgeladen, einige davon schaffen es in die Charts und erzielen Einnahmen. Künstler auf Spotify werden aus einem Pool von Abonnement- und Werbeeinnahmen vergütet. Wie viel ein Künstler erhält, hängt unter anderem von der Gesamtzahl seiner Streams oberhalb einer bestimmten Mindestschwelle ab. Daraus folgt: Jeder promptbasierte generative KI-Song nimmt letztlich Geld aus den Taschen menschlicher Künstler.
Generative KI-Modelle stehen derzeit in den USA in zahlreichen Gerichtsverfahren im Zentrum heftiger Auseinandersetzungen über die Rechtmäßigkeit ihrer Trainingsmethoden. Dass die Unternehmen weder ihre Trainingsmaterialien angemessen offenlegen noch deren Nutzung transparent machen, hat sie dem Vorwurf ausgesetzt, Inhalte gestohlen zu haben. Und gemessen an der schieren Menge ist dieser Diebstahl gigantisch. Solange die Rechtslage ungeklärt ist, sollte allein dieser Umstand ausreichen, um ihre Outputs von einer kommerziellen Verwertung auszuschließen – schließlich handelt es sich derzeit um die „Früchte eines vergifteten Baumes“.
Wie viel müsste ich an einem gestohlenen Auto verändern, bevor ich es anschließend als mein eigenes verkaufen dürfte?
Viele der Argumente, mit denen sich diese Unternehmen gegen den Vorwurf des unerlaubten Scraping von Inhalten aus dem Internet und anderer Formen der Beschaffung von Trainingsmaterial verteidigen, stützen sich auf die Fair-Use-Doktrin. Section 107 des Copyright Act nennt vier Faktoren, die bei der Prüfung von Fair Use gegeneinander abgewogen werden:
- Zweck und Charakter der Nutzung, insbesondere die Frage, ob sie kommerziellen Zwecken dient oder gemeinnützigen beziehungsweise Bildungszwecken;
- Art des urheberrechtlich geschützten Werks;
- Umfang und Wesentlichkeit des verwendeten Teils im Verhältnis zum Gesamtwerk;
- Auswirkungen der Nutzung auf den potenziellen Markt oder den Wert des urheberrechtlich geschützten Werks.
Gegen die Nutzung urheberrechtlich geschützter Werke als Trainingsmaterial lassen sich unter mehreren dieser Kriterien gewichtige Argumente vorbringen. Betrachten wir jedoch insbesondere Punkt drei – den Faktor, bei dem der Verstoß besonders offensichtlich erscheint.
Im Rahmen der Fair-Use-Doktrin spielt die Menge eines verwendeten urheberrechtlich geschützten Materials eine entscheidende Rolle bei der Frage, ob eine Urheberrechtsverletzung vorliegt. Je größer der verwendete Teil eines Werks, desto schwieriger ist es in der Regel, Fair Use zu begründen. Unternehmen, die ihre Modelle mit Trainingsdaten füttern, haben jedoch in großem Umfang vollständige Werke verarbeitet – komplette Bücher, Filme, Songs, Kunstwerke und vieles mehr. Dieses Kopieren und die Nutzung zahlloser vollständiger Werke stellt die Fair-Use-Argumentation erheblich infrage.
Die folgenden Punkte sind stärker ethischer und moralischer Natur als rechtlicher Art. Sie sind jedoch fundamental, wenn es darum geht, das gesamte Ausmaß dieses Problems zu verstehen. Sie müssen in dieser Debatte eine Rolle spielen, denn es sind die künstlerischen Leistungen zahlloser Kreativer, aus denen am Ende Produkte entstehen, deren Eigentum bei vergleichsweise wenigen Unternehmen und Rechteinhabern liegt. Der Diebstahl von Talent und künstlerischer Arbeit durch LLMs geht weit über die Frage formaler Rechtsansprüche hinaus.
Mit jedem Song, der in ein LLM eingespeist wird, werden sämtliche kreativen Elemente, die in seine Entstehung eingeflossen sind, stillschweigend übernommen. Das Gesetz regelt die Verteilung von Rechten an aufgenommener Musik ohnehin nur unzureichend. Doch die fertigen Tracks, die uns emotional berühren und unsere Kultur prägen, sind das Ergebnis der Fähigkeiten und der Kreativität mindestens eines Produzenten, Songwriters, Engineers, Mixers und natürlich der Musiker.
Der Klang einer Gitarre, das Arrangement der Bläser, der Groove des Basses, die Nuancen des Schlagzeugs, die Klangfarbe der Background-Sänger – all das ist heute potenziell Teil der Informationen, die ein LLM verarbeitet, um daraus neue Outputs zu synthetisieren. Ohne Erlaubnis. Ohne Vergütung.
Beim Film geht der Diebstahl noch weiter. Jeder Film, der von solchen Systemen verarbeitet wird, enthält die gestohlene künstlerische Arbeit von Drehbuchautor, Regisseur, Director of Photography beziehungsweise Kameramann, Production Designer, Prop Master, Kostümbildner, Editor, Production Mixer, Sound Editor, Foley Artist, Re-Recording Mixer, VFX-Künstlern und unzähligen weiteren Filmschaffenden.
Das Gesetz muss sich weiterentwickeln, um diese systematische Ausbeutung zu erfassen. Jahrzehntealte Work-for-Hire-Verträge konnten unmöglich vorhersehen, dass die Werke von Künstlern eines Tages von Computern instrumentalisiert werden würden, um ihre Fähigkeiten zu reproduzieren – zum Profit von Unternehmen und Nutzern, denen entweder die entsprechenden Fertigkeiten fehlen oder die schlicht kein Interesse daran haben, sie selbst zu entwickeln.
Die Faszination der KI-Renaissance hat unsere Gesellschaft für ihr schleichendes Eindringen in die Kunst blind gemacht. Unreguliert droht promptbasierte generative KI einen tiefgreifenden Rückschritt menschlicher Kreativität einzuleiten und zu beschleunigen – bis hin zu ihrem möglichen Verschwinden.
Zu Recht wird KI in bestimmten Bereichen als „demokratisierende“ Technologie gefeiert. In der Praxis droht sie jedoch zu einem Instrument zu werden, das gestohlene Kreativität und künstlerisches Talent in großem Maßstab neu verteilt. Das muss eingedämmt werden.
Dies ist ein Aufruf an die Menschheit. Wir brauchen die Männer und Frauen im US-Kongress, die den Millionen von Dollar an Unternehmensinteressen, die sich zweifellos gegen eine solche Gesetzgebung stemmen werden, Widerstand leisten. Wir brauchen Abgeordnete und Senatoren, die sich auf die Seite der Menschen stellen und Gesetze verabschieden, die auf diesen beiden logischen, ethischen und moralischen Grundprinzipien beruhen.
Wer von Ihnen wird zum Vorkämpfer für die menschliche Kreativität?
David Barber, CAS, MPSE, ist Supervising Sound Editor und Re-Recording Mixer. Er ist außerdem Musiker und absolviert derzeit seine zweite Amtszeit als Präsident der Motion Picture Sound Editors.
