Mit dem „Code of Practice on Transparency of AI-Generated Content“ hat die EU erstmals konkretisiert, wie die Kennzeichnungspflicht aus Artikel 50 Absatz 2 des AI Act praktisch umgesetzt werden soll. Der Code, entwickelt von einem Gremium unabhängiger Fachleute gemeinsam mit über 100 Interessengruppen, verlangt von KI-Anbietern mindestens zwei Schichten maschinenlesbarer Markierung – vor allem Metadaten und unsichtbare Wasserzeichen. Zudem fordert er kontinuierliche Tests und die Zusammenarbeit mit Plattformen, um Entdeckungswerkzeuge direkt in die Verbreitungswege zu integrieren.
Der:die Autor:in lobt diese Ansätze, benennt aber zugleich schwerwiegende blinde Flecken. Ein zentraler Kritikpunkt: Der Code berücksichtige zu wenig, dass entschlossene böswillige Akteure die Erkennung gezielt umgehen können. Gerade weil die Code-Vorgaben standardmäßig auf einen breiten öffentlichen Zugang zu Erkennungswerkzeugen setzen, bestehe die Gefahr, dass Täter:innen lernen, die Markierungen zu entfernen – so das „detection dilemma“. Außerdem bleibe die passive, forensische Erkennung, die oft die letzte Rückfallebene gegen gestrippte Medien sei, nur eine freiwillige Option, anstatt als notwendiger Bestandteil der Compliance behandelt zu werden.
Die eigentliche Fehlkonstruktion sieht der Text jedoch tiefer: Artikel 50 Absatz 2 und der darauf aufbauende Code gingen von einer „general-purpose AI detectability“ aus, also einer technisch machbaren, einheitlichen Lösung. Tatsächlich handele es sich aber um ein kontextabhängiges, politisches Problem, das eine kontinuierliche, vielstimmige Koordination erfordere – so die wörtliche Kritik: „the premise of ‘general-purpose AI detectability,’ which treats detection as a ‘fixable’ technical problem rather than a context-dependent, political one demanding iterative, multi-actor coordination.“ Diese Schieflage verhindere die eigentlich nötige Arbeit: zu klären, welche KI-Inhalte wirklich täuschen, und maßgeschneiderte sozio-technische Antworten zu finden.
Der Beitrag plädiert daher für einen grundlegenden Perspektivwechsel. An die Stelle isolierter technischer Vorgaben müsse ein institutionalisiertes Forum treten, in dem Regulierer, Entwickler, Plattformen, Forschung und Zivilgesellschaft unter Moderation der Behörden fortlaufend über Erkennungsstrategien und Zugangsregeln verhandeln. Der Code deute ein solches Gremium mit einer optionalen Taskforce nur zaghaft an – es gehöre stattdessen ins Zentrum der Regulierung.
Einordnung
Die Analyse folgt konsequent einer Governance-Perspektive, die technische Lösungen skeptisch sieht und stattdessen auf politische Aushandlung setzt. Ausgeblendet bleiben die praktischen Hürden eines solchen Dauerforums, etwa Fragen der demokratischen Legitimation oder die Gefahr, dass mächtige Industrieakteure die Agenda dominieren. Auch die implizite Annahme, dass eine „politische“ Lösung per se wirksamer sei als eine technische, wird nicht hinterfragt – dabei zeigt die Vergangenheit, dass auch multi-stakeholder-Prozesse an Trägheit und Interessenkonflikten scheitern können.
Die Argumentation ist rechts- und demokratiepolitisch unproblematisch, eröffnet aber eine wichtige Debatte über die Architektur digitaler Regulierung. Lesenswert ist der Text für alle, die sich mit dem AI Act, Plattformregulierung oder der Bekämpfung von Desinformation befassen. Wer ein rein technisches Update zur Kennzeichnung erwartet, erhält stattdessen eine kluge Strukturkritik, die den Blick auf das große Ganze lenkt.