Designing with AI: Agentic Noise: How AI Agents Can Break the Delicate Balance of Human Attention
Ein kritischer und hochaktueller Blick eines KI-Experten auf die Zerstörung des Internets durch maschinell generierte Inhalte und den Verlust menschlicher Werte auf digitalen Plattformen.
Designing with AI
11 min readDer vorliegende Newsletter eines Experten für Künstliche Intelligenz und Autors des Buches "Designing Multi-Agent Systems" befasst sich mit den destruktiven Auswirkungen von KI auf digitale Plattformen. Der Autor führt den Begriff des "Agentic Noise" ein. Dieser entstehe, wenn KI-Agenten die Produktionsseite einer Plattform massiv beschleunigen, während die Konsumseite im menschlichen Tempo verbleibe. Dies breche den impliziten Vertrag der Nutzung.
Anhand mehrerer Beispiele illustriert der Text den Kollaps von Vertrauenssignalen. Auf dem Arbeitsmarkt führe massenhafte KI-generierte Bewerbung zu einem defensiven Einsatz von KI-Filtern auf Arbeitgeberseite. In der akademischen Welt würden KI-geschriebene Papers zunehmend von KI-Systemen begutachtet. Besonders alarmierend sei die Situation bei Inhalten für Kinder: Das sogenannte "Elsagate 2.0" flute Streamingdienste mit inhaltlich leerem Videomaterial, das laut Expert:innen das kindliche Realitätsverständnis verzerren könne.
Ein zentrales Argument ist, dass eine symmetrische Beschleunigung das Problem nicht löse. Wenn KI Code schreibe und andere KI diesen überprüfe, entstünde kein Mehrwert. Der Autor warnt: "At some point - AI generating content, AI generating comments, AI recommending it to other AI - all human value is lost." Traditionelle Metriken wie Klicks seien manipulierbar geworden. Der Newsletter schließt mit dem Appell an Entwickler:innen und Plattformen, neue Koordinationsmechanismen ähnlich der strengen Frequenzvergabe beim Rundfunk zu etablieren.
## Einordnung
Der Text liefert eine scharfsinnige Analyse der strukturellen Schäden, die ungebremster KI-Einsatz anrichtet. Als Entwickler argumentiert der Autor nicht technikfeindlich, sondern aus Sicht der Plattformökonomie. Er hinterfragt das gängige neoliberale Narrativ des unausweichlichen technologischen Fortschritts und rückt stattdessen den echten menschlichen Nutzen kritisch in den Fokus.
Die Argumentation ist stark, weist aber analytische Lücken auf. Der Autor stützt sich vor allem auf eigene Beobachtungen und Branchen-Anekdoten. Zudem geht er unausgesprochen davon aus, dass Plattformen ein intrinsisches Interesse an der Rettung menschlicher Interaktion haben, solange rein maschinell generiertes Engagement weiterhin lukrative Werbeeinnahmen bringt. Die systemische Machtfrage gegenüber den großen Tech-Konzernen wird so nur am Rande gestreift.
Trotzdem besitzt der Newsletter eine enorm hohe gesellschaftspolitische Relevanz. Er macht das abstrakte Thema KI-Regulierung anhand greifbarer Beispiele wie Jobsuche und Kinderunterhaltung sofort verständlich. Es ist eine absolute Leseempfehlung für Nutzer:innen digitaler Plattformen, Eltern und Tech-Interessierte, da der Text fundiert erklärt, warum sich das Internet derzeit zunehmend defekt anfühlt.