In dieser Episode von 404 Media werden zwei investigative Geschichten verhandelt, die zeigen, wie Technologie in sensiblen gesellschaftlichen Bereichen wirkt – und oft scheitert. Im ersten Teil geht es um eine Schule, an der KI-generierte sexualisierte Bilder von Minderjährigen aufgetaucht sind. Sam Cole hat den Fall über Monate recherchiert und zeichnet ein detailliertes Bild davon, wie Schule, Polizei und App-Stores an ihren Aufgaben scheitern. Im zweiten Teil berichtet Joseph Cox über das Unternehmen BusPatrol, das bisher Kameras an Schulbussen zur Überwachung von Verkehrsverstößen einsetzte – nun aber plant, diese in ein mobiles, allgemeines Massenüberwachungssystem auszuweiten, dessen Daten an Polizeibehörden fließen sollen.

Zentrale Punkte

  • Eine App, ein Trauma, eine hilflose Schule Ein 14-jähriger Schüler habe mit der App „Movely" nicht-einvernehmliche, stark sexualisierte Bilder von fünf Mitschülerinnen erstellt und in der Schule verbreitet. Die Schulleitung habe die Betroffenen isoliert, anstatt den Täter zur Verantwortung zu ziehen, und die Vorfälle offiziell als „Gerüchte" und nicht-pornografische „Animationen" verharmlost.
  • Ermittlungen, die keine sein sollten Die Polizei habe nach kurzer Zeit verkündet, es gebe keine Beweise für eine Straftat, und sich dabei offenbar auf die Aussage des beschuldigten Jugendlichen verlassen, er habe die Bilder gelöscht. Erst öffentlicher Druck habe eine nachträgliche Anklage wegen Belästigung erzwungen.
  • Vom Stoppschild zur Massenüberwachung BusPatrols Kameras an über 50.000 Schulbussen seien ursprünglich nur dazu gedacht gewesen, Autofahrer:innen zu erfassen, die an haltenden Bussen vorbeifahren. Durchgesickerten Dokumenten zufolge solle die Technik nun zu einem generellen automatischen Nummernschild-Scanner ausgebaut werden.
  • Schulbusse als Datenstaubsauger Anders als stationäre Kameras könnten die Schulbusse flächendeckend Daten sammeln, darunter auch von geparkten Autos. Die so gewonnenen Bewegungsprofile sollen Strafverfolgern ohne richterliche Anordnung zugänglich gemacht werden, was eine neue Dimension mobiler Überwachung darstelle.

Einordnung

Beide Geschichten gewinnen ihre Stärke aus der detaillierten Quellenarbeit und dem langen Atem der Journalist:innen. Sam Coles Recherche zur Highschool zeigt nicht bloß einen Einzelfall, sondern legt ein systemisches Versagen offen, das beim Marketing der App beginnt und sich in der Hilflosigkeit von Behörden fortsetzt. Jason Koeblers Einwurf, dass die monetarisierte App-Welt Jugendlichen einen „reibungslosen Weg zu einem Verbrechen" biete, ist ein prägnanter analytischer Punkt. Die BusPatrol-Recherche wiederum profitiert von den geleakten internen Dokumenten, die das Auseinanderklaffen von öffentlicher Selbstdarstellung und realen Geschäftsplänen sichtbar machen.

Kritisch bleibt jedoch, dass in der schulischen Fallgeschichte das Gegenüber fehlt. Die Perspektive des beschuldigten Jugendlichen und seiner Eltern bleibt vollständig ausgeblendet, was die Komplexität des Konflikts zwangsläufig reduziert. Auch die Selbstverständlichkeit, mit der das Ziel „Sicherheit" jegliche Datensammlung zu rechtfertigen scheint, wird in der BusPatrol-Diskussion nicht grundlegend hinterfragt. Dass mehr Daten automatisch mehr Sicherheit bedeuten, bleibt eine unhinterfragte Prämisse. Als symptomatisch für den Umgang der Institutionen mit dem Deepfake-Fall kann folgende Passage aus dem Transkript gelten: „es war so painful to get those emails. Calling the event rumors and speculation when a crime occurred was almost worse than the crime itself."

Sprecher:innen

  • Joseph Cox – Host und investigativer Reporter bei 404 Media, Experte für Überwachungstechnologien.
  • Sam Cole – Mitgründerin und Reporterin bei 404 Media, spezialisiert auf digitale Gewalt und Plattformverantwortung.
  • Emanuel Maiberg – Mitgründer und Reporter bei 404 Media mit Fokus auf KI und Online-Radikalisierung.
  • Jason Koebler – Mitgründer und Reporter bei 404 Media, berichtet über die Schnittstelle von Technologie und Gesellschaft.