Der Prompt »photo of Karl Marx riding a horse« von 2023 und heute zeigt, dass sich die generative »KI« bedeutend weiterentwickelt hat. Das gilt leider nicht für das linke Vermögen, die Gesellschaft kritisch zu begreifen.

Foto: KI

Der US-amerikanische Energieminister Chris Wright wies 2025 sein Ministerium an, das unter anderem für den Klimaschutz zuständig ist, die Website mit den National Climate Assessments abzuschalten. Damit wurden sämtliche Berichte, in denen landesweit detailliertes Klimawissen gesammelt wird, unzugänglich gemacht. Eine seit 1980 gepflegte Datenbank der Klimabehörde Noaa über Extremwetterereignisse und die dadurch verursachten Schäden wurde nicht mehr weitergeführt. Hunderte ihrer Mitarbeiter*innen wurden entlassen, darunter auch die Wissenschaftler*innen des Teams hinter der Webseite »climate.gov«, das um Aufklärung über Ursachen und Folgen des Klimawandels bemüht war. Die staatlichen Webseiten erwähnen einen menschengemachten Klimawandel nicht mehr. Erläuterungen zu diesem Thema wurden gelöscht.

Das Orwellsche Löschen und Verbieten von Begrifflichkeiten durch die Trump-Regierung (weit über »Klimawissenschaft« hinaus) soll die Thematik Klimabewusstsein und die dahinter stehenden Ideen im umfassenden Sinn unsichtbar machen. Solche Formen der Desinformation, also klassische Lügen, sieht der Weltrisikobericht des Weltwirtschaftsforums 2025 erneut auf dem ersten Platz der größten globalen Risiken – noch vor Klimakatastrophen und Kriegen. Sie gilt als Brandbeschleuniger; sie erhöhe die Wahrscheinlichkeit für sämtliche anderen Katastrophen. Allerdings, so die These der folgenden Abhandlung, gehen die eigentliche Krise der Wahrheit und die Krise der politischen Öffentlichkeit nicht bloß von solcher Desinformation aus. Der aktuelle »Normalzustand« digitaler Kommunikation und Wissensproduktion, in dem die großen »KI«-Sprachmodelle mit den sozialen Medien als Resonanz- und Trainingsdatenraum dominieren, zerstört Wahrheit in deutlich größerem Ausmaß als die »Ausnahme« der Desinformations-Angriffe.

Die klassische Lüge, die schon immer konstitutiver Bestandteil des Politikbetriebs war, lässt sich in ihrer Wirkung durch automatisierte Vervielfältigung gezielt verstärken. 2024 entdeckte das französische »Kompetenzzentrum für die Überwachung und den Schutz vor digitaler Einflussnahme aus dem Ausland«, Viginum, ein Moskauer Desinformationsnetzwerk namens Prawda (Wahrheit), welches allein in dem Jahr 3 600 000 »KI«-generierte Artikel ins Netz flutete. Allerdings landeten diese nicht auf Webseiten oder Social-Media-Portalen, die echte Menschen zu Gesicht bekämen. Sie wurden an für deren Nutzer*innen unsichtbare Stellen platziert, die jedoch von den Webcrawlern der großen Sprachmodelle als Trainingsmaterial verwertet werden. Diese Texte reihen sich damit ein in den statistischen Mix aller Informationsquellen und verändern die statistischen Gewichte bei der zukünftigen »KI«-Erzeugung von Texten, Bildern, Audios und Videos.

Auch die hoch personalisierte politische Einflussnahme auf das Wahlverhalten und die politische Stimmung im Wahlkampf verändern sich. Heute lässt sich über große Sprachmodelle dynamische, individualisierte Desinformation erzeugen, die sich an Tonfall, Gewohnheiten und Interessen der Social-Media-Nutzer*in anpasst. Diese Einflussnahmen gehören in die Schublade gezielter Desinformation, also der interessengeleiteten Verbreitung von Unwahrheiten beziehungsweise der Leugnung von Wahrheiten. Die Politik spricht hier von Desinformationskampagnen oder informationeller Kriegsführung und interpretiert diese als Angriffe auf einen informationellen Normalbetrieb. Aber dieser Normalbetrieb verändert sich selbst durch »KI«.

Die Sprachmodelle sind keine Wissensmodelle. Sie liefern lediglich assoziative Wortfolgen auf der Basis eines statistischen Remixes sämtlicher Trainingstexte.

Anders als sie öffentlich wahrgenommen werden, sind die Sprachmodelle der »Künstlichen Intelligenz« wie ChatGPT, Claude oder Gemini keine Wissensmodelle. Sie erstellen Texte in einem Wissensblindflug und liefern lediglich assoziative Wortfolgen auf der Basis eines statistischen Remixes sämtlicher Trainingstexte. Aufgrund der konzeptionellen Unfähigkeit der Programme, den statistisch erwürfelten Wortkombinationen irgendeine Bedeutung im Sinne eines semantischen Verständnisses zuzuordnen, fehlt den Sprachmodellen ebenfalls die Fähigkeit, die Bedeutung von wahr und falsch zu »erfassen«. Damit handelt es sich bei generativen Sprachmodellen um Bullshit-Generatoren im engen Wortsinn.

Bullshitter sind nach Harry Frankfurt Diskursteilnehmer*innen, denen der Wahrheitsgehalt ihrer Aussage egal ist. In Abgrenzung zur klassischen Lügner*in wird Unwahrheit nicht zur neuen Wahrheit erklärt, sondern bleibt ununterschieden neben der Wahrheit stehen und sorgt für diskursive Inkonsistenz und Verunsicherung. Im Bullshit-Output werden Fakten, Meinungsäußerungen, Unsinn (Misinformation) und aktive Lügen (Desinformation) stochastisch miteinander verknüpft. Damit entzieht er sich per Konstruktion dem Anspruch von Wirklichkeitsbezug und ist kein geeigneter Referenzpunkt für die Konstruktion von Wahrheit.

Die »KI«-Bullshit-Generatoren erzeugen mittlerweile rund die Hälfte aller Inhalte im Netz. Bei einem hohen Anteil an synthetisch erzeugten Inhalten als Trainingsbasis für die nächste Generation der Sprachmodelle entsteht repetitiv ein Verlust von Qualität bis hin zum Modell-Kollaps. Dieser Effekt ist bei allen »KI«-Modellen, die auf maschinellem Lernen basieren, als »Model Autophagy Disorder« bekannt: eine degenerative Selbstverdauungsstörung. Über diesen selbst-verstärkenden Effekt normalisieren die »KI«-Sprachmodelle zunehmend Misinformation.

Maschinelles Lernen reproduziert nicht nur den Mainstream der Trainingsdaten, es verstärkt ihn nachweislich, ob bei der lernenden Gesichtserkennung, der Erzeugung von Bildern oder mit den häufigsten vorkommenden Wortmustern der Trainingstexte. Diese Hegemonieverstärkung führt dazu, dass weniger häufig zu findende Muster noch stärker unterrepräsentiert werden – die Diversität nimmt also ab. Nach Interpretation der Wortmuster durch die Leser*in ergibt sich so eine Abnahme der semantischen Bandbreite über die Gesamtheit aller »Inhalte«. Überdies werden die großen Sprachmodelle (in zunehmender Konkurrenz untereinander) »auf menschliche Zustimmung trainiert« mit dem Ziel, als vermeintlich »freundlichere« beziehungsweise »empathische« »KI« mehr Nutzer*innen für sich zu gewinnen. Selbst auf offensichtlich unsinnige Vorschläge der Nutzer*in antworten die Modelle vielfach mit unterstützender Zustimmung. Diese Gefälligkeitsantworten, die in der »KI«-Forschung unter dem Begriff Sycophancy (Speichelleckerei) firmieren, verstärken den Anteil an Misinformation weiter.

Der Prompt »photo of workers in the 19th century« von 2023 und heute

Foto: KI

Wie lassen sich Wahrheiten finden, die ein möglichst nahes Abbild der unzugänglichen Wirklichkeit abgeben? In liberalen Gesellschaften werden dafür unterschiedliche Perspektiven diskutiert, um eigenständige Positionen zu erarbeiten, diese mit weiteren vertrauenswürdigen Positionen abzustimmen und dann mit etwaiger »wissenschaftlicher Erkenntnis« abzugleichen. Absolute Wahrheit bleibt dabei unerreicht, doch eine so konstruierte Wahrheit stellt eine Art gemeinschaftlich erzeugtes »Fürwahrhalten« dar und kann sich im Idealfall schrittweise der Wirklichkeit annähern. Die Prozedur lebt von der Kritik und der permanenten Möglichkeit, falsche »Wahrheiten« zu verwerfen: Die klassische Mechanik galt der Physik lange Zeit als Wahrheit, obwohl sie es nie war. Mit der Quantenmechanik konnte eine neue Wahrheit konstruiert werden, die aufgrund weiterer unbeschriebener, aber beobachtbarer Phänomene ebenfalls nicht »vollständig« und damit nicht uneingeschränkt wahr ist.

Aber welchen Kontexten und Quellen trauen wir (selbst-)kritische Kompetenz beim Abgleich mit wissenschaftlicher Erkenntnis zu? Hier entpuppt sich das ungerechtfertigte Vertrauen in die seit 2022 rasant an Beliebtheit gewinnenden »KI«-Sprachmodelle in der Nutzung für die Wissenssuche als fatal. Diese verlagert sich zunehmend weg von der Recherche referenzierter Einträge per klassischer Suchmaschine und anschließendem Studium der relevant erscheinenden Dokumente im oberen Segment der vorsortierten Trefferliste hin zur Gewöhnung an eine fertig gemixte Bullshit-Antwort per »KI«-Sprachmodell.

In der Regel verwendet das »KI«-Sprachmodell zwar deutlich mehr Quellen aus den Trainingsdaten als eine klassische, wissensbasierte Suche, dennoch ist das Ergebnis deutlich weniger faktenbasiert. Der so gelieferte Sprachmodell-Output wird dann weiter im Internet verbreitet und von den Webcrawlern der Sprachmodelle als Input zur erneuten assoziativen »Wissens«-Produktion beim nächsten Trainingslauf genutzt. Diese Form der Wahrheitskonstruktion, bei der »KI«-Sprachmodelle an der prominenten Position des Wissensabgleichs stehen, kann zunehmend an Wirklichkeitsbezug verlieren. Die statistisch gemixte Suchantwort per »KI«-Sprachmodell zeigt eine deutlich größere Streuung der Ergebnisse, die zudem nicht verlässlich reproduzierbar sind. Es gibt keine Anzeichen dafür, dass sich dabei eine stabile, »falsche Wahrheit« über verschiedene Nutzer*innen und Chatkontexte hinweg ergibt. Der wahrnehmbare Effekt ist vielmehr eine Normalisierung des Perspektivismus als Nebeneinander von (individuellen) »Wahrheiten«, die eine (kollektive) Frage nach wahr oder falsch unsinnig erscheinen lassen. Wahrheit wird dann standpunkt- und blickwinkelabhängig. Das ist eine fatale Konsequenz. Insbesondere weil die Art der so gewonnenen »Wahrheit« es verunmöglicht, zu eruieren, welche dominanten Einträge in der Wissensgewinnung zu dieser Wahrheit geführt haben, können wir diese Wahrheit schwerlich dekonstruieren, also ihren Machtanspruch untersuchen.

Der Aufwand, Bullshit zu widerlegen, ist dem Bullshit-Asymmetrie-Prinzip zufolge (mindestens) eine Größenordnung größer als der Aufwand, ihn zu produzieren. Dieses Ungleichgewicht stellt etwa die Online-Enzyklopädie Wikipedia vor wachsende Probleme: Es dauert zwei Sekunden und ist nahezu voraussetzungsfrei, per ChatGPT einen neuen, komplexen Wikipedia-Artikel inklusive zahlreicher »Quellenverweise« zu generieren. Es kostet die ehrenamtlich Tätigen hingegen im Durchschnitt mehrere Stunden und erfordert basales Kontextwissen, um den Text auf Sinnhaftigkeit und die Referenzen auf Stimmigkeit zu überprüfen. Ohne derartige Überprüfungen würde das Vertrauen und damit der Nutzen der Enzyklopädie schnell kumulativ zersetzt. Dies ist ganz im Sinne eines Elon Musk, der politisch motiviert einen rein »KI«-basierten Wikipedia-Ersatz namens Grokipedia als alternatives »Wissens«- und Machtinstrument aufbaut. Dieses Nachschlagewerk erzeugt seine Inhalte mit dem Sprachmodell Grok, das maßgeblich trainiert wird über das rechtslastige soziale Netzwerk X. Misinformation aus Grokipedia diffundiert nachweislich auch in andere Sprachmodelle: Analysen zeigen, dass ChatGPT, Gemini und Perplexity ebenfalls das Pseudo-Lexikon nutzen, um Antworten zu generieren.

Die zunächst als pragmatisch erscheinende Idee, Korrekturen der Misinformationen im Netz zu platzieren und auf die Kraft des besseren Arguments zu hoffen, entpuppt sich als naiv. Solche Faktencheck-Hinweise sind schwach besucht, während der Unsinn, auf den sie kritisch Bezug nehmen, weiter mit deutlich höherer Reichweite und Geschwindigkeit im Netz zirkuliert. Zusätzlich verbleibt das konzeptionelle Problem, welcher Instanz denn die Autorität der Entscheidung über den Faktencheck überantwortet werden soll. Auch sogenannte Community Notes, mit Hilfe derer die Nutzer*innenschaft der meisten Social-Media-Plattformen sich selbst moderieren soll, stellen keine sinnvolle Lösung dar. Bei der vorgeblich »demokratischsten« Version der Zensur können ausgewählte Nutzer*innen aus unterschiedlichen politischen Spektren Beiträge kommentieren, bewerten und (bei Übereinstimmung mit anderen aus der Community) in der Reichweite beschränken, um darüber Misinformation einzudämmen. Aber eine hochgradig polarisierte Nutzer*innenschaft zur unbezahlten Selbstkorrektur einzusetzen, funktioniert erwartbar schlecht.

Nicht der Ausnahmefall der orchestrierten Lüge, sondern der Normalzustand eines »KI«-verstärkten Perspektivismus ist die eigentliche Erosion politischer Öffentlichkeit

Für das eigenständige Faktenchecking gibt es zudem ein schwerwiegendes, praktisches Problem. Die klassische Google-Suchmaschine hat sich stark verändert und liefert mittlerweile Antworten, die wenig weiterhelfen. Die gewohnte Trefferliste wird nicht nur um die »KI«-Zusammenfassung ergänzt, sondern die Qualität und Bandbreite der Trefferliste ist stark eingeschränkt. Somit verlagert sich das inhaltliche Gewicht der Antwort auf die »KI«-Zusammenfassung. Die Unzulänglichkeiten bei der Nutzung von »KI«-Sprachmodellen als »Wissens«-Modelle sind daher zunehmend schwer manuell auszugleichen. Die Zukunft der Suchmaschinen sieht sogar einen weiter wachsenden Einfluss der »KI«-Modelle bei der Informationsbeschaffung vor.

Googles neuer »KI«-Modus liefert zukünftig gar keine Suchtreffer mehr, sondern imitiert eine Art Such-Chatbot und generiert nur noch einen Antworttext. Der Frage-Antwort-Dialog läuft vollständig auf der Google-Seite ab und bietet weder Notwendigkeit noch Gelegenheit, auf ursprüngliche Quellen-Seiten zu wechseln. Bei einem Marktanteil der Google-Suche in Deutschland über die letzten 15 Jahre bei zwischen 80 bis weit über 90 Prozent wird diese Weichenstellung enorme negative Auswirkungen haben für die Konstruktion von Wahrheit.

»KI«-Sprachmodelle und soziale Medien stellen für den politischen Diskurs die wesentlichen Informations- und Debatten-Infrastrukturen dar. Selbst die klassischen Medien sind in ihrem Bedeutungsverlust zunehmend durch Plattformen wie X und TikTok getrieben. Hier posten politische Entscheider*innen und orientieren sich Journalist*innen, welche Nachrichten trenden könnten. Die sozialen Medien stellen einen dominanten Resonanzraum für den »KI«-generierten Bullshit dar. In Wechselwirkung mit der algorithmischen Reichweitensteuerung von Tiktok, X, Instagram, Facebook, Youtube und Co. werden neben Ausgrenzung, Hass und Hetze auch Fakes - also Misinformation und Desinformation - in Reichweite und Ausbreitungsgeschwindigkeit nachweislich verstärkt. Dies geschieht zugunsten einer erhöhten sozialen Temperatur in den Netzen, denn nur diese ist für die Kommunikationsplattformen monetarisierbar.

Fake-Inhalte werden zudem nach politischer Neuausrichtung mehrerer Plattformen seit Beginn der zweiten Amtszeit von Trump und der Einführung neuer Moderationsmechanismen seltener gelöscht. Das bedeutet, dass die Wechselwirkung zwischen den großen Sprachmodellen und den »sozialen« Plattformen für einen noch höheren Anteil an Misinformation im Netz sorgt. Die resultierende Dynamik ist die beschriebene Fragmentierung von Wahrheit in einen Perspektivismus. Eine Gesellschaft, die immer weniger Wahrheit im Sinne eines gemeinsam erzeugten ›Fürwahrhaltens‹ teilt, verliert zunehmend die Grundlage für einen politischen Aushandlungsprozess über den Austausch von Argumenten. Das Resultat ist vielfach Verunsicherung, Rückzug, weitere Polarisierung. Dieses Diskursklima der postfaktischen Verunsicherung ist zudem förderlich für das Erstarken autoritärer, politisch rechter bis faschistoider Strömungen.

Ein exemplarischer Angriff auf die Öffentlichkeit ist Objection, das »KI-Tribunal der Wahrheit« von Peter Thiel und Start-up-Gründer Aron D’Souz. Wer zahlt, kann sich ohne Gericht gegen öffentliche, vor allem journalistische Anschuldigungen im Netz zur Wehr setzen. Denn klassische Gerichte seien nach Auffassung des Start-ups ungeeignet, um journalistische Verleumdung aufzuklären. Stattdessen setzt man hier auf die Entscheidung entsprechend trainierter »KI«-Sprachmodelle. Vorermittlungen zur Fütterung dieser »künstlich intelligenten« Entscheidungsinstanz leisten – je nach Budget der Klageerhebenden – Juniorermittler*innen (ab 2500 Dollar) oder ausgewachsene Ex-Agent*innen von FBI oder CIA beziehungsweise Juraprofessor*innen (ab 15 000 Dollar). Die angeklagten Journalist*innen können sich »verteidigen«, indem sie ebenfalls Dokumente hochladen, die ihre journalistischen Aussagen »belegen«. Die »KI« wertet jedoch geleakte, geschützte (und damit intransparente) Quellen mit der niedrigsten Beweiskraft. Die erzeugte »KI«-Entscheidung ist in Form eines digitalen Prangers öffentlich. Jede der abgeurteilten oder auch nur in Fälle involvierten Journalist*innen wird gelistet und erhält einen »Glaubwürdigkeits-Score«, der in die Bewertung etwaiger Quellen zukünftiger Fälle einfließt.

Dies ist der offene Versuch, Gerichtsbarkeit neu zu entwerfen und auf Basis einer »KI« einem technokratischen Autoritarismus den Vorzug vor einer demokratisch verfassten Gesellschaft zu geben. Derartig produzierte »Wahrheit« entzieht sich ganz praktisch (per Konstruktion) ihrer Dekonstruierbarkeit: Durch die Entkontextualisierung des Lernmaterials der »KI« ist der Entscheidungsprozess maximal undurchsichtig und für eine politische Bewertung unzugänglich. Niemand kann den Einfluss eines spezifischen Belegs an der finalen Entscheidung bemessen. Verantwortlichkeit wird vermeintlich neutral und unideologisch vernebelt. Dabei steckt die Ideologie sowohl im technikzentrierten Lösungsansatz einer Technologiegläubigkeit an sich wie in dessen spezifischer Ausgestaltung mittels »KI«, also einer intransparenten, stochastisch nicht-deterministischen und einer nicht mehr regelbasierten und nicht-reproduzierbaren Entscheidung.

Blicken wir erneut zurück auf die plumpen orwellschen Lügenkonstrukte von Trump und Co.: Selbst hochskalierende Produktion automatisierter Desinformation, die sich zunehmend voraussetzungslos im Netz lancieren lässt, ist lediglich eine modernisierte und diversifizierte Form der klassischen Lüge, die weiterhin um den Rang der Wahrheit buhlt. Damit kann eine kritische Öffentlichkeit umgehen. Hingegen stellt die Normalisierung und enorme Ausweitung der Anwendungsbereiche von generativen »KI«-Sprachmodellen als Bullshit-Generatoren und insbesondere als Dekontextualisierer die deutlich weitergehende Bedrohung für den politischen Aushandlungsprozess dar. Nicht der Ausnahmefall der orchestrierten Lüge, sondern der Normalzustand eines »KI«-verstärkten Perspektivismus ist die eigentliche Erosion politischer Öffentlichkeit: Meinungen werden dem Faktum gleichwertig erklärt und Fakten zur Meinungssache herabgestuft.

Dieser Perspektivismus ist eine Art innere Fragmentierung einer Gesellschaft, die an grundlegender Kohäsion verliert – das geschieht unscheinbar und leise. Der drohende Zerfall in ein Nebeneinander vieler, atomisierter Individual-Wahrheiten zersetzt die Basis für kollektive, gemeinwohlorientierte Prozesse und macht eine derartig desorientierte Gesellschaft anfälliger für autoritäre Konzepte. Das kann einer progressiven Linken nicht egal sein und daher benötigen wir eine klare, ablehnend-widerständige Haltung gegenüber der Entwicklung und Nutzung von »KI«-Sprachmodellen – aus ökologischer Verantwortung ohnehin, aber eben auch aus gemeinwohlorientierter Perspektive.

Guido Arnold ist Physiker und arbeitet am Duisburger Institut für Sprach- und Sozialforschung (DISS) unter anderem zum Thema Künstliche Intelligenz und Technologiekritik. Der Beitrag erschien zuerst in einer längeren Version im DISS-Journal, Nr. 51, im Juli 2026.