Der ehemalige Tech-Manager und philosophisch motivierte Kommentator liberaler Werte, Mike Brock, befasst sich in seinem Newsletter mit einem fundamentalen Irrtum der KI-Sicherheitsforschung. Unter Berufung auf das informationstechnische Grundprinzip "Garbage in, garbage out" postuliert er, dass die Entwickler:innen von Künstlicher Intelligenz den wichtigsten Input überhaupt falsch konzipieren würden: menschliche Werte. Brock bezieht sich auf eine Umfrage unter 59 Teilnehmer:innen eines KI-Gipfels, die eine autoritäre Machtkonzentration durch KI als größte Gefahr einstuften. Er argumentiert, dass die KI-Community, ohne es zu merken, genau diese Gefahr durch ihre eigene Architektur befeuere. Der Kernfehler liege in der Annahme, die aus der klassischen Ökonomie übernommen worden sei, dass menschliche Präferenzen statische, messbare Datenpunkte seien, die man in eine Maschine einspeisen und optimieren könne. Präferenzen entstünden laut Brock jedoch erst im Moment der Entscheidung und seien ein fortlaufender menschlicher Aushandlungsprozess. Eine KI, die vorgebe, unsere Wünsche bereits im Voraus besser zu kennen als wir selbst, löse nicht das sogenannte Alignment-Problem, sondern eliminiere schlicht die menschliche Handlungsmacht. Er bringt diese Kritik pointiert zum Ausdruck: "It has replaced the human agent with a preference profile." Wenn Werte im Vorfeld fest programmiert werden müssten, setze dies zwingend voraus, dass eine kleine, elitäre Gruppe diese Werte für alle bestimme, was unweigerlich in einen Autoritarismus führe. Das wahre Ziel der KI-Ausrichtung dürfe daher niemals eine mathematische Nutzenfunktion sein, sondern müsse ein demokratischer, offener Prozess bleiben. Demokratie sei der einzige bekannte Fehlerkorrekturmechanismus, der Ungewissheit in seine Struktur einbaue. Brock schlussfolgert daraus apodiktisch: "The alignment target is not a utility function. It is a constitution." ## Einordnung Der Text wendet sich mit philosophischer Schärfe gegen die technokratische Hybris des Silicon Valley und dekonstruiert den blinden Fleck jener Tech-Eliten, die hochpolitische Herausforderungen auf rein mathematische Ingenieursprobleme reduzieren. Der Autor nutzt einen klugen Deutungsrahmen, der Demokratie nicht als moralisch überlegen, sondern als überlegenen informationstechnischen Fehlerkorrekturmechanismus rahmt. Allerdings weist die Argumentation Schwächen auf, da Brock die KI-Forscher:innen als monolithischen Block darstellt und bereits existierende Debatten über dynamisches Alignment oder partizipative KI-Entwicklung weitgehend ausblendet. Ebenso bleibt der Text den Beweis schuldig, wie genau man eine Technologie technisch auf einen demokratischen Prozess anstatt auf konkreten Code ausrichten soll. Trotz dieser Leerstelle bei der praktischen Umsetzung trifft der Newsletter einen entscheidenden gesellschaftlichen Nerv in der hochaktuellen Debatte um die enorme Machtkonzentration im privatwirtschaftlichen KI-Sektor. Für Leser:innen, die sich für die Schnittstelle von Technologiephilosophie, Demokratietheorie und tiefgehender Kritik an der Ideologie von Big Tech interessieren, ist dieser Essay äußerst lesenswert. Er liefert exzellente intellektuelle Werkzeuge, um den vorherrschenden KI-Lösungsansätzen kritisch zu begegnen.