Der Verfassungsblog-Beitrag zerlegt die landläufige Vorstellung, dass mehr und bessere Daten über behinderte Menschen automatisch zu faireren KI-Systemen führen. Die Autor:in, eine nicht namentlich genannte Wissenschaftler:in aus dem Bereich Disability Human Rights, stellt drei grundlegende Annahmen infrage, die derzeit in Politik und Regulierung – etwa im EU AI Act – weitgehend ungeprüft bleiben.
Erstens: Dass repräsentative Datensätze KI-Bias korrigieren können. Der Begriff „Bias“ sei unscharf; meist gehe es nur um diskriminierende Ergebnisse, nicht um Stigmatisierung oder blindes Vertrauen in Maschinen. Zudem widersetze sich Behinderung oft der starren Kategorisierung, auf der KI basiert. Die Autor:in zitiert eine Studie von 2019: „Fairness issues for PWD [people with disabilities] may be more difficult to remedy than fairness issues for other groups, particularly where people with particular classes of disability may represent a relatively small proportion of a population. Even if included in training and evaluation data, they may be overlooked as outliers by current AI techniques.“ Selbst bei erweiterter Datenerhebung blieben viele Betroffene als statistische Ausreißer:innen unsichtbar – damit werde eine rein datengetriebene Lösung zum unhaltbaren Versprechen.
Zweitens bezweifelt der Text, dass sich Behinderungsdaten wirksam schützen lassen. Zwar enthält der AI Act Schutzvorkehrungen, doch Forschung zeige, dass gerade seltene, einzigartige Daten aus Modellen extrahiert oder re-identifiziert werden können. Die Verhandlungen zum Digital-Omnibus-Vorschlag würden dieses Risiko verschärfen, weil sie den Anonymisierungsbegriff aufweichen. Menschen mit intersektionalen Merkmalen – etwa Migrationshintergrund, sexuelle Orientierung und Gesundheitsstatus – könnten trotz entfernter Direktidentifikatoren leicht wiedererkennbar sein.
Drittens, und das ist der menschenrechtliche Kern: Das Drängen auf mehr Daten verträgt sich schlecht mit den Standards der UN-Behindertenrechtskonvention (CRPD). Die Autor:in warnt vor Zwang zur Preisgabe sensibler Informationen, etwa wenn Betroffene nur mit Offenlegung nicht relevanter Daten Zugang zu Dienstleistungen erhalten. Zivilgesellschaftliche Organisationen sehen bereits die Gefahr, dass eine Neuregelung „a substantial increase in the scale and scope of the collection of sensitive data“ legitimieren könnte. Das Prinzip „Nichts über uns ohne uns“ und das Recht auf informationelle Selbstbestimmung drohten ausgehöhlt zu werden, während die Macht bei Datenverarbeiter:innen und Tech-Anbietern konzentriert bleibe.
Einordnung
Die Perspektive ist unverkennbar die einer Menschenrechtsjuristin, die stark aus der Behindertenbewegung schöpft. Wirtschaftliche Interessen oder technische Machbarkeitsargumente der KI-Entwickler:innen kommen kaum vor; das ist legitim, denn der Text will genau diese blinden Flecken der dominanten Debatte ausleuchten. Unausgesprochen setzt er voraus, dass Datensparsamkeit und Selbstbestimmung stets Vorrang haben sollten – eine Prämisse, die in einer auf Datenhunger getrimmten KI-Governance bewusst provoziert.
Argumentativ schwach bleibt, dass keine konstruktiven Alternativen jenseits der Kritik entwickelt werden; der Hinweis auf „personalisierte statt klassifizierende“ Ansätze bleibt vage. Auch die Frage, wie denn sonst Schutz vor algorithmischer Diskriminierung gelingen soll, wenn man auf Daten verzichtet, wird nicht vertieft. Dennoch ist der Beitrag lesenswert für alle, die KI-Regulierung nicht nur technisch, sondern auch menschenrechtlich denken. Er erinnert Politiker:innen, Entwickler:innen und Aktivist:innen daran, dass der Ruf nach mehr Daten für marginalisierte Gruppen schnell in ein neues Zwangsverhältnis umschlagen kann – und dass echte Inklusion nicht ohne Autonomie zu haben ist.