Die Episode (Titel: Gespräch über KI-Gipfeldiplomatie) begleitet den Präsidenten der Carnegie Endowment, Mariano Florentino Cuéllar, durch vier globale KI-Gipfel. Singh führt moderat, aber mit gezielten Nachfragen durch die Stationen Bletchley Park, Seoul, Paris und Delhi. Cuéllar argumentiert durchgehend für eine Mittelposition: Weder reine Risikofokussierung noch unreflektierter Technikoptimismus seien angemessen. Auffällig ist, wie technischer Fortschritt als grundsätzlich positiv dargestellt wird – die Steigerung der Lebenserwartung von Mitte 40 auf über 70 wird als Beleg für den Nutzen von Wissenschaft und Technologie angeführt, ohne dass die ungleiche Verteilung dieses Fortschritts thematisiert wird. Die Rolle des Privatsektors wird als pragmatische Gegebenheit akzeptiert, nicht als Machtfrage verhandelt.

Zentrale Punkte

  • Wandel der Gipfel-Agenda Cuéllar zeichne nach, wie sich der Fokus von existenziellen Risiken (Bletchley) über freiwillige Unternehmensverpflichtungen (Seoul) hin zu wirtschaftlichen Chancen (Paris) und Nutzen für den Globalen Süden (Delhi) verschoben habe. Diese Entwicklung werde als vorhersehbar und vernünftig dargestellt.

  • Freiwillige Verpflichtungen als Startpunkt Unternehmen hätten bei Seoul Sicherheitszusagen gemacht, weil vertrauenswürdige Technologie sich besser vermarkten lasse. Die Verpflichtungen blieben jedoch vage – Fragen nach Transparenz, Drittbeteiligung und Meldepflichten bei Vorfällen seien offen.

  • Geopolitische Rivalität als Rahmen Die Weigerung der USA und Großbritanniens, die Pariser Erklärung zu unterzeichnen, werde als Faktum dargestellt. Cuéllar räume ein, dass es weder Rahmenwerke für KI im Militär noch verbindliche Tests chemisch-biologischer Risiken gebe – nennt aber gleichzeitig bestehende Sicherheitsinstitute als Teilerfolg.

  • Kontrollverlust als unterschätztes Risiko KI-Systeme, die lügen, täuschen oder Selbstschutzverhalten zeigten, seien frühe Warnsignale. Cuéllar vergleiche KI mit der Unternehmensform – kollektive Entscheidungsstrukturen, die weder vollständig kontrollierbar noch automatisch am Gemeinwohl orientiert seien.

Einordnung

Die Episode liefert wertvolle Innenperspektiven auf die Gipfeldynamik – etwa die Beobachtung, dass in Delhi erstmals eine breite Öffentlichkeit teilnahm, deren Sorgen (Arbeit, Familie, öffentliche Dienstleistungen) denen europäischer Regierungschefs bemerkenswert ähnlich gewesen seien. Cuéllars historische Vergleiche (Pocken-Ausrottung, Montreal-Protokoll) machen nachvollziehbar, warum er Gipfeldiplomatie für sinnvoll hält, auch wenn Ergebnisse vorerst symbolisch bleiben.

Problematisch ist, dass strukturelle Machtfragen kaum gestellt werden: Dass Unternehmen freiwillige Verpflichtungen eingehen, weil sich Sicherheit ökonomisch auszahlt, wird als pragmatisch dargestellt – die Asymmetrie zwischen Konzernen und Regierungen bleibt unbefragt. Der Begriff „KI-Souveränität" wird als überholt abgetan, ohne die zugrundeliegenden Machtungleichgewichte beim Zugang zu Rechenkapazität und Daten zu erörtern. Der Globale Süden erscheint vor allem als Empfänger:innen von Nutzen, nicht als Gestalter:innen der Technologie.

Hörempfehlung: Für Hörer:innen, die einen fundierten Überblick über die Entwicklung der KI-Gipfeldiplomatie suchen und bereit sind, die unausgesprochenen Prämissen kritisch mitzudenken.