Muss KI draufstehen, wo KI drinsteckt?
Mit Wirkung zum 2. August sind die neuen Transparenzregeln des EU AI Act in Kraft getreten. Die neuen Regeln sollen mehr Transparenz darüber schaffen, wann Inhalte mit KI erzeugt oder manipuliert wurden. Prof. Kevin Bauer und seine Co-Autor: innen greifen in einer aktuellen Studie eine Frage auf, die für Regulierung, Unternehmen und den Umgang mit generativer KI hoch relevant ist.
Drei Fragen an Prof. Kevin Bauer, Professur für Spieltheoretische und Kausale KI in Business und Economics:
Welche Ziele sollen Kennzeichnungspflichten für KI-generierte Inhalte eigentlich erreichen?
Die Kennzeichnungspflichten nach Artikel 50 des EU-AIA-Gesetzes haben zwei Ziele. Erstens sollen sie das Publikum schützen: Wer ein Bild, ein Video oder einen Text betrachtet, soll erkennen können, ob generative KI im Spiel war, um Täuschung und Desinformation vorzubeugen. Zweitens sollen sie kreative Arbeit und künstlerische Selbstentfaltung bewahren; der AI-Act formuliert ausdrücklich, dass die Kennzeichnung die künstlerische Freiheit nicht beeinträchtigen darf. Die Regulierung geht dabei von einer stillschweigenden Annahme aus: Das Label wirke erst am Ende der Kette, also dann, wenn das Werk beim Publikum ankommt. Genau diese Annahme haben wir empirisch überprüft. Denn Kreative wissen im Vorhinein, dass ihre Arbeit gekennzeichnet werden wird - und Transparenzregeln haben, wie wir aus anderen Kontexten wissen, selten nur die Wirkung, die man ihnen zuschreibt.
Welchen unerwarteten Effekt zeigt Ihre aktuelle Studie?
Wir zeigen einen indirekten Kennzeichnungseffekt: Die Offenlegungspflicht verändert nicht erst die Bewertung eines Werks, sondern bereits dessen Entstehung. In zwei Experimenten – zunächst mit Designstudierenden über mehrere Wochen, anschließend mit erfahrenen Kreativen und einem großen Bewertungspanel – haben wir Menschen mit einem Text-zu-Bild-Modell arbeiten lassen und dabei variiert, ob die KI-Nutzung dem Publikum später offengelegt wird. Das Ergebnis: Wer eine Kennzeichnung erwartet, zieht sich aus dem kreativen Prozess zurück. Die Prompts wurden deutlich kürzer und vager, der aufgewendete Aufwand sank, und das Gefühl, das Bild sei das eigene Werk, ging spürbar zurück. Viele übernahmen einfach das, was die KI vorschlug, anstatt das Modell gezielt zu steuern. Der Mechanismus ist dabei sozialer Natur: Kreative befürchten, dass das Publikum ihre menschliche Urheberschaft nicht mehr anerkennt. Sie geben sie daher vorsorglich auf. Das zeigt sich besonders deutlich daran, dass wir keinen solchen Rückzug beobachten, sobald die Kreativen wissen, dass ein fachkundiges Publikum bewertet, das den Aufwand hinter guter KI-Nutzung einzuschätzen weiß. Die entstandenen Bilder wirken entsprechend anders: neuartiger, aber weniger ansprechend und von geringerer Qualität, d.h. KI-geprägte statt menschlicher Kreativität. Und zwar unabhängig davon, ob das Label am Ende überhaupt gezeigt wird.
Was sollte die aktuelle Debatte über KI-Regulierung daraus mitnehmen?
Zunächst: Unsere Ergebnisse sind kein Argument gegen Transparenz. Sie sind ein Argument dafür, Transparenz besser zu gestalten. Ein binäres Label „mit KI erstellt" ist zu grob. Es behandelt eine mühevolle, iterative Zusammenarbeit und einen einzigen unbedachten Prompt als dasselbe und setzt damit die falschen Anreize. Wenn Regulierung menschliche Urheberschaft schützen will, muss die Kennzeichnung sichtbar machen, wo diese Urheberschaft tatsächlich stattgefunden hat – etwa über Provenienz Standards wie C2PA, die den Entstehungsprozess dokumentieren. Ebenso relevant ist die KI-Kompetenz des Publikums: Bislang adressiert Artikel 4 des AI-Acts vor allem die Nutzenden von Systemen. Unsere Befunde legen nahe, dass es auch die Ersteller des Werkes beeinflusst. Allgemeiner formuliert: Transparenzvorschriften wirken auf beide Seiten eines Marktes. Wer nur die Empfängerseite betrachtet, übersieht, dass sich das Werk selbst verändert, bevor es je bewertet wird.
Die Studie ist in Information Systems Research erschienen.
