Die Episode behandelt aktuelle Schnittpunkte von KI, Sicherheit und Gesellschaft. Es wird als selbstverständlich dargestellt, dass private Techkonzerne über den Zugang zu sicherheitsrelevanten KI-Modellen entscheiden, während Regulierungen wie der AI Act wirkungslos bleiben, wenn Produkte gar nicht auf dem Markt angeboten werden. Gleichzeitig wird der Krieg in der Ukraine als Innovationsmotor für autonome Waffensysteme gerahmt, wobei die Grenzen der Autonomie betont werden, um den menschlichen Kontrollanspruch aufrechtzuerhalten. Die Beiträge zeichnen ein Bild einer Technologie, die schneller integriert wird, als Institutionen sie fassen können.

Zentrale Punkte

  • Anthropics Exklusiv-Modell Mythos Das Modell zur Suche nach Sicherheitslücken werde als zu gefährlich für die Öffentlichkeit eingestuft, aber exklusiv an US-Konzerne vergeben. Für Europa bleibe der Zugriff verwehrt, weshalb der AI Act ins Leere laufe. Die alleinige Entscheidungsgewalt privater Firmen über hochriskante KI werde dabei als Problem benannt.

  • KI im Drohnenkrieg Die ukrainische Armee habe erstmals eine Stellung ausschließlich mit ferngesteuerten Robotern eingenommen. Vollständig autonome Waffensysteme gebe es nicht, da KI-Modelle als Blackboxen gelten. Die Rüstungsindustrie nutze KI jedoch bereits, um Trefferquoten und Zielerkennung massiv zu verbessern.

  • KI-Halluzinationen vor Gericht Immer mehr Anwält:innen nutzten KI für Schriftsätze, wobei erfundene Urteile zitiert würden. Sanktionierten Fällen stehe eine hohe Dunkelziffer gegenüber. Als Reaktion führten US-Gerichte Kennzeichnungspflichten ein, die jedoch als unpraktikabel gelten, da KI bereits in jeder Kanzleisoftware integriert sei.

Einordnung

Die Episode liefert einen breiten, fundierten Überblick über aktuelle KI-Entwicklungen. Stärkend ist die Einordnung des Mythos-Modells, die Machtasymmetrien zwischen US-Tech und EU-Regulierung aufzeigt. Die militärische Nutzung wird differenziert dargestellt, jedoch der Krieg als Innovationsmotor unhinterfragt übernommen: „Der Krieg in der Ukraine treibt die Entwicklung unbemannter Waffensysteme voran.“ Schwächen zeigt das Format bei der Tiefe: Betroffene wie Synchronsprecher:innen kommen kaum selbst zu Wort, und sicherheitspolitische Druckargumente (Chinas Aufholen) werden als Rechtfertigung für technische Aufrüstung reproduziert, ohne alternative Szenarien zu diskutieren.

Hörempfehlung: Für Hörer:innen, die einen kompakten Überblick zu den aktuellen Machtverschiebungen zwischen Tech-Firmen, Justiz und Militär suchen.

Sprecher:innen

  • Isabel Grünewald – Moderatorin
  • Malte Kirchner – Redakteur Heise Online
  • Max Schreiner – Redakteur The Decoder
  • Alexander Hann – Professor für digitale Transformation in der Gastroenterologie, Uniklinik Würzburg
  • Robin Arens – Redakteur c't
  • Nico Juran – Redakteur c't
  • Martin Holland – Redakteur Heise Online