Ein wichtiger Teil davon betrifft sogenannte Deepfakes: Bilder, Videos oder Tonaufnahmen, die mithilfe künstlicher Intelligenz erzeugt oder verändert wurden und so wirken können, als würden sie reale oder plausibel reale Personen, Orte, Gegenstände oder Ereignisse authentisch wiedergeben. Die Idee dahinter ist richtig. Mehr noch: Eine solche Regelung ist notwendig. Das Problem ist nur, dass sie an einer entscheidenden Stelle die falsche Frage stellt. Nicht die Frage, ob ein Bild mit künstlicher Intelligenz erzeugt wurde, sollte im Mittelpunkt stehen. Entscheidend sollte sein, ob ein Bild etwas als Realität erscheinen lässt, das keine Realität ist. Warum wir eine Kennzeichnung brauchen Generative künstliche Intelligenz hat die Herstellung überzeugender Fälschungen grundlegend verändert. Bildmanipulation ist selbstverständlich nichts Neues. Fotos wurden bearbeitet, seit es Fotografie gibt. Später kamen Photoshop, CGI und immer leistungsfähigere Werkzeuge zur digitalen Bildbearbeitung hinzu. Wer genügend Können und Zeit investierte, konnte bereits lange vor ChatGPT, Midjourney und Co. Bilder herstellen, die Ereignisse zeigten, die niemals stattgefunden hatten. KI hat diese Möglichkeit nicht erfunden. Sie hat sie demokratisiert. Heute braucht es weder jahrelange Erfahrung mit Bildbearbeitungsprogrammen noch ein professionelles Filmstudio, um täuschend echte Bilder zu erzeugen. Innerhalb weniger Minuten lassen sich Aufnahmen eines brennenden Regierungsgebäudes, eines Politikers an einem Ort, an dem er niemals gewesen ist, oder einer Naturkatastrophe herstellen, die niemals stattgefunden hat. Bei Video und Audio wird die Sache noch brisanter. Menschen können scheinbar Dinge sagen oder tun, die sie niemals gesagt oder getan haben. Das ist eine reale Gefahr. Denn unsere Gesellschaft funktioniert zu einem erheblichen Teil über Vertrauen in Informationen. Wir sehen eine Aufnahme und gehen zunächst davon aus, dass die Kamera zumindest irgendwann vor dem stand, was auf dem Bild zu sehen ist. Genau diese Grundannahme gerät zunehmend ins Wanken. Dabei droht sogar ein doppelter Vertrauensverlust. Wir können Falsches für echt halten. Gleichzeitig können wir irgendwann auch Echtes für falsch halten. Ein authentisches Video eines Politikers könnte mit einem simplen „Das ist doch KI“ abgetan werden. Ein tatsächliches Foto eines Ereignisses könnte seine Beweiskraft verlieren, weil technisch mittlerweile nahezu jedes denkbare Gegenbild erzeugt werden kann. Deshalb braucht es Regeln. Deshalb braucht es Transparenz. Und deshalb ist es grundsätzlich richtig, dass der europäische Gesetzgeber reagiert. Aber warum entscheidet das Werkzeug? Genau hier beginnt das Problem. Stellen wir uns ein fotorealistisches Bild vor. Darauf ist zu sehen, wie das Weiße Haus von einem riesigen außerirdischen Raumschiff zerstört wird. Science-Fiction-Fans dürfte dieses Motiv bekannt vorkommen. Im Film „Independence Day“ aus dem Jahr 1996 gehört die Zerstörung des Weißen Hauses zu den berühmtesten Bildern des Films. Auf einem Filmplakat ist die Sache eindeutig. Niemand steht vor dem Plakat und denkt: Mein Gott, Außerirdische haben Washington angegriffen! Der Kontext beantwortet die Frage bereits. Wir sehen Werbung für einen Science-Fiction-Film. Wir wissen, dass wir eine Fiktion betrachten. Nun nehmen wir jedoch dasselbe Prinzip und verändern nur den Kontext. Ich erstelle eine überzeugende Fotomontage eines Angriffs auf das Weiße Haus und veröffentliche sie in sozialen Medien mit der Überschrift: „BREAKING: Weißes Haus angegriffen – Washington unter Beschuss.“ Plötzlich haben wir ein Problem. Nur: Dafür brauche ich keine künstliche Intelligenz. Ich könnte das Bild in Photoshop zusammensetzen. Ich könnte CGI verwenden. Mit genügend Aufwand könnte ich ein Modell bauen, fotografieren und anschließend mit einer echten Aufnahme kombinieren. Das Ergebnis wäre immer dasselbe: Ich würde versuchen, Menschen mit einem Bild über ein Ereignis zu täuschen, das niemals stattgefunden hat. Warum sollte es für den Betrachter einen Unterschied machen, mit welchem Werkzeug ich die Täuschung hergestellt habe? KI-generiert bedeutet nicht automatisch problematisch Drehen wir das Beispiel um. Ein Verlag veröffentlicht einen Science-Fiction-Roman. Auf dem Cover ist Berlin nach einer außerirdischen Invasion zu sehen. Das Brandenburger Tor liegt in Trümmern, darüber schweben Raumschiffe. Das komplette Motiv wurde mit künstlicher Intelligenz erzeugt. Wo genau liegt hier die Täuschung? Der Käufer hält einen Roman in der Hand. Titel, Klappentext, Gestaltung und Kontext machen deutlich, dass er ein fiktionales Werk betrachtet. Niemand muss davor geschützt werden, versehentlich zu glauben, Berlin sei tatsächlich von Außerirdischen angegriffen worden. Der europäische AI Act berücksichtigt diesen Unterschied durchaus. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken gelten besondere, abgeschwächte Anforderungen an die Offenlegung. Das zeigt etwas Entscheidendes: Der Kontext ist bereits Teil des Problems. Und wenn der Kontext darüber entscheidet, ob eine Darstellung täuschen kann, stellt sich zwangsläufig die Frage, warum das verwendete Werkzeug überhaupt die zentrale Grenze bilden soll. Die falsche Grenze Genau darin liegt der Konstruktionsfehler. Die europäische Regelung konzentriert sich auf Inhalte, die von KI-Systemen erzeugt oder manipuliert wurden. Damit entsteht eine merkwürdige Trennlinie: Ein künstlich erzeugtes Bild kann kennzeichnungsrelevant sein, weil eine KI daran beteiligt war. Eine möglicherweise ebenso überzeugende digitale Fälschung, die vollständig mit klassischen Werkzeugen hergestellt wurde, fällt nicht deshalb unter diese spezielle KI-Regelung. Für den Menschen, der vor dem Bildschirm sitzt, ist dieser Unterschied jedoch bedeutungslos. Er möchte nicht wissen, ob Photoshop, Blender, Midjourney oder irgendein anderes Werkzeug verwendet wurde. Er muss wissen: Sehe ich hier eine authentische Aufnahme des behaupteten Ereignisses – oder nicht? Das ist die entscheidende Information. Nicht KI sollte gekennzeichnet werden, sondern künstliche Realität Vielleicht liegt genau hier die bessere Lösung. Eine Kennzeichnung sollte sich nicht in erster Linie daran orientieren, wie ein Inhalt entstanden ist, sondern daran, was er gegenüber seinem Publikum behauptet zu sein. Ein vollständig künstliches Bild in einem Fantasyroman benötigt kaum einen Warnhinweis, damit niemand es mit einer dokumentarischen Aufnahme verwechselt. Ein manipuliertes Bild in einem vermeintlichen Nachrichtenbeitrag dagegen schon. Und zwar unabhängig davon, ob dafür künstliche Intelligenz verwendet wurde. Die passende Information wäre deshalb häufig auch gar nicht: „Dieses Bild wurde mit KI erstellt.“ Viel hilfreicher wären Hinweise wie: „Digital erstellte Darstellung – keine authentische Aufnahme.“ Oder: „Symbolbild – zeigt nicht das tatsächliche Ereignis.“ Denn damit erfährt der Betrachter genau das, was für seine Beurteilung relevant ist. Ein richtiges Ziel braucht die richtige Regel Der Europäischen Union vorzuwerfen, sie habe auf ein Problem reagiert, das gar nicht existiert, wäre falsch. Das Problem existiert. Generative KI hat es sogar erheblich verschärft. Noch nie war es so einfach, schnell und günstig, überzeugende künstliche Bilder, Stimmen und Videos herzustellen und sie millionenfach zu verbreiten. Dass der Gesetzgeber darauf reagiert, ist richtig. Aber eine gute Absicht macht eine Regelung noch nicht automatisch zu einer guten Regelung. Wenn wir Menschen davor schützen wollen, künstliche Darstellungen mit dokumentierter Wirklichkeit zu verwechseln, sollten wir genau diese Grenze gesetzlich betrachten. Nicht KI gegen Nicht-KI. Sondern authentische Aufnahme gegen künstlich erzeugte oder wesentlich manipulierte Darstellung – immer dort, wo der Kontext eine Verwechslung mit der Realität erwarten lässt. Denn eine mit KI erzeugte Fiktion bleibt Fiktion. Und eine mit Photoshop erzeugte Lüge bleibt eine Lüge. Die Gefahr besteht nicht darin, dass ein Bild von einer künstlichen Intelligenz stammt. Die Gefahr besteht darin, dass eine Fälschung für Wahrheit gehalten wird. Und dafür brauchte es noch nie künstliche Intelligenz.
Gut gemeint, schlecht umgesetzt: Warum die KI-Kennzeichnung am eigentlichen Problem vorbeigeht
