Im Januar 2024 klingelte in New Hampshire bei Tausenden Wählerinnen und Wählern das Telefon. Die Stimme von Joe Biden bat sie, bei der Vorwahl zu Hause zu bleiben. Die Stimme war synthetisch, der Anruf eine Auftragsarbeit, die Produktionskosten lagen im einstelligen Dollarbereich. Vier Monate zuvor, zwei Tage vor der Parlamentswahl in der Slowakei, kursierte eine Tonaufnahme, in der der Oppositionsführer angeblich Wahlmanipulation bespricht. Sie war gefälscht, fiel aber in die Wahlruhe, in der niemand mehr öffentlich widersprechen durfte. Und vor der Bundestagswahl 2025 verbreitete ein russland-nahes Netzwerk, das Sicherheitsforscher als Storm-1516 führen, erfundene Vorwürfe gegen Spitzenkandidaten mehrerer Parteien: als Videos mit Scheinzeugen, über geklonte Nachrichtenseiten, angeschoben von Konten, die aussahen wie Nachbarn.

Die Frage ist nicht mehr, ob künstliche Intelligenz in der politischen Auseinandersetzung ankommt. Sie ist da. Die Frage ist, für wen sie arbeitet.

Die Industrialisierung der Meinung

Eine Troll-Armee war lange ein Bürojob. In St. Petersburg saßen Menschen in Schichten und schrieben Kommentare, jeder mit Quote. Das Modell hatte eine natürliche Grenze: Menschen kosten Geld, Menschen werden müde, Menschen machen dieselben Rechtschreibfehler in zwanzig Konten.

Sprachmodelle heben diese Grenze auf. Was sich seit 2023 dokumentieren lässt, ist die Industrialisierung dieses Handwerks. Im Mai 2024 legte OpenAI offen, dass fünf verdeckte Einflussoperationen aus Russland, China, Iran und Israel die eigenen Modelle genutzt hatten: für Kommentare in mehreren Sprachen, für Artikel auf Scheinportalen, für Übersetzungen, sogar zum Debuggen der Bot-Software. Die Kampagne „Doppelgänger“ betreibt seit 2022 Klone von Spiegel, Bild, Le Monde und anderen, mit gefälschten Artikeln unter echtem Layout. Meta, Microsoft und Google veröffentlichen inzwischen vierteljährlich, welche Netzwerke sie abgeschaltet haben. Die Listen werden nicht kürzer.

Vier Dinge haben sich verändert, und jedes für sich wäre schon ein Problem:

  • Der Preis pro Kommentar geht gegen null. Ein Modell schreibt tausend Varianten desselben Arguments in tausend Tonlagen, mit lokalen Redewendungen, mit passenden Tippfehlern. Die Rechtschreibfehler, an denen man Bots früher erkannte, gibt es nicht mehr.
  • Persönlichkeiten werden konsistent. Ein Sockenpuppen-Konto hat heute eine Biografie, eine Meinung zu Fußball und einen Tonfall, der über Monate gehalten wird. Das war früher der teuerste Teil.
  • Stimmen und Gesichter sind reproduzierbar. Audio ist billiger als Video und wirkt genauso; die slowakische Aufnahme reichte. Und es gibt die zweite Seite derselben Münze, die Juristen die „Lügendividende“ nennen: Wer bei einer echten Aufnahme erwischt wird, sagt jetzt „Deepfake“, und ein Teil des Publikums glaubt es.
  • Das Ziel ist nicht mehr Überzeugung, sondern Erschöpfung. Die RAND Corporation hat das russische Modell 2016 als „Firehose of Falsehood“ beschrieben: hohe Frequenz, viele Kanäle, keine Rücksicht auf Widersprüche. Es geht nicht darum, dass man das Falsche glaubt. Es reicht, wenn man nichts mehr glaubt.

Warum das bei Populismus besonders gut funktioniert

Man muss keine Partei nennen, um das Muster zu beschreiben. Populistische Kommunikation lebt von wenigen Elementen: einer einfachen Behauptung, einem klaren Gegner, einer Erzählung von Verrat. Genau das lässt sich maschinell hervorragend skalieren. Nuance ist teuer zu erzeugen und verkauft sich schlecht; Empörung ist billig und wird von jedem Empfehlungsalgorithmus belohnt, weil sie Reaktionen erzeugt. Die Plattform muss dafür nicht böswillig sein. Sie muss nur Aufmerksamkeit messen.

Dazu kommt eine alte Asymmetrie, die der Informatiker Alberto Brandolini in einem Satz zusammengefasst hat: Die Energie, die es braucht, um Unsinn zu widerlegen, ist um eine Größenordnung größer als die, ihn zu produzieren. KI hat diese Asymmetrie dramatisch verschärft. Auf der einen Seite kostet die Behauptung Bruchteile eines Cents. Auf der anderen Seite steht eine Redakteurin, die für einen Faktencheck eine Stunde Quellen liest.

In Deutschland ist das längst zu beobachten. Die Partei mit der größten TikTok-Reichweite ist seit 2024 die AfD, nicht, weil sie die besten Argumente hätte, sondern weil sie das Format verstanden hat: kurze Clips, ein Gegner, ein Gefühl. Rechtsextreme Netzwerke, teils mit Unterstützung aus dem Ausland, liefern dazu die Masse: Kommentare, Reposts, Memes, „Zufallsfunde“, die alle auf dasselbe Narrativ einzahlen. Aus einem Dutzend Menschen wird so das Bild einer Bewegung. Und aus dem Bild einer Bewegung wird, irgendwann, eine.

Was nicht hilft

Es gibt drei Reflexe, die verständlich und wirkungslos sind.

Panik. Wer jede Debatte für gesteuert hält, hat die Arbeit der Trolle für sie erledigt. Ihr Ziel ist das Misstrauen in alles, auch in das, was echt ist.

Erkennungssoftware. Detektoren für KI-Texte liefern in der Praxis so viele falsche Treffer, dass sie in Schulen und Redaktionen mehr Schaden anrichten als Nutzen. Wer sich auf sie verlässt, verdächtigt am Ende Menschen, die nur gut schreiben.

Löschen allein. Content-Moderation ist notwendig und bleibt ein Wettlauf, den die Plattformen strukturell verlieren, weil die andere Seite schneller produziert, als irgendjemand prüfen kann. Der Digital Services Act der EU zwingt die großen Plattformen inzwischen, Risiken für Wahlen zu bewerten, und die Kommission hat Verfahren eröffnet. Das ist richtig. Es ist nur nicht die Lösung, sondern die Untergrenze.

Wie KI für die Demokratie arbeiten kann

Die entscheidende Beobachtung ist, dass dieselbe Technik, die Behaupten billig gemacht hat, auch Nachprüfen billig machen kann. Nicht von allein. Aber wenn man ihr die richtige Aufgabe gibt.

1. Prüfen skalieren, nicht Behaupten

Ein Sprachmodell kann ein 200-seitiges Protokoll lesen, jede Tatsachenbehauptung herausziehen, für jede eine Recherche anstoßen und die Quellen auflisten. Das kann es geduldiger als jeder Mensch. Was es nicht bekommen darf, ist das letzte Wort: Die Bewertung bleibt bei Menschen, jede Quelle steht sichtbar am Ergebnis, und wer eine fehlende oder falsche Quelle findet, bekommt eine öffentliche Korrektur. So wird aus einer Stunde pro Faktencheck eine Viertelstunde, und aus fünf geprüften Behauptungen pro Woche werden fünfzig.

2. Vollständigkeit statt Ausschnitt

Desinformation lebt vom Ausschnitt: dem einen Satz ohne den Halbsatz davor. Der wirksamste Gegenentwurf ist nicht der bessere Ausschnitt, sondern das Ganze, lesbar gemacht. Wenn jede Rede einer Parlamentssitzung mit Kontext, Abstimmung und Zwischenrufen zugänglich ist, verliert das aus dem Zusammenhang gerissene Zitat seine Kraft. Man kann nachschauen. Das konnte man früher auch, theoretisch. Praktisch las das Protokoll niemand.

3. Gleiche Kriterien für alle, im Code nachlesbar

Wer KI zur Bewertung politischer Aussagen einsetzt, muss die Frage nach der eigenen Parteilichkeit beantworten können, und zwar mit etwas Besserem als „vertraut uns“. Die Antwort ist eine veröffentlichte Methodik: identische Kriterien für alle Fraktionen, keine einzige parteispezifische Regel in Prompts oder Code, Bewertungsstufen mit Definition, und das Urteil „nicht belegbar“ als eigene Kategorie, damit aus einer Lücke keine Lüge wird. Die Verteilung der Ergebnisse erzählt dann die Geschichte, nicht eine Vorentscheidung.

4. Deliberation statt Lautstärke

Es gibt Werkzeuge, die den Empfehlungsalgorithmus umdrehen. Pol.is, in Taiwan seit 2015 für Gesetzgebungsverfahren im Einsatz, belohnt nicht die Aussage mit den meisten Reaktionen, sondern die, der Menschen aus verschiedenen Lagern zustimmen. Community Notes auf X funktioniert nach demselben Prinzip: Eine Anmerkung wird erst sichtbar, wenn Nutzer sie hilfreich finden, die sonst unterschiedlich abstimmen. Und 2024 zeigte eine Studie von Google DeepMind in Science, dass ein Sprachmodell als Moderator Gruppen mit gegensätzlichen Positionen zu gemeinsamen Aussagen führen kann, die die Beteiligten den Formulierungen menschlicher Mediatoren vorzogen. Das ist noch keine Demokratie. Aber es ist ein Beweis, dass die Maschine auch Brücken bauen kann, wenn man sie darauf optimiert.

5. Herkunft nachweisen

Gegen Deepfakes hilft weniger die Erkennung des Falschen als der Nachweis des Echten: kryptografische Herkunftsnachweise für Bilder, Audio und Video, wie sie der Standard C2PA beschreibt, und Kennzeichnungspflichten für synthetische Inhalte, wie sie Artikel 50 der KI-Verordnung der EU seit August 2026 vorschreibt. Beides ist unvollständig und beides ist umgehbar. Aber es verschiebt die Beweislast dorthin, wo sie hingehört.

6. Offene Daten, offene Methode

Wer Faktenchecks unter freier Lizenz veröffentlicht, mit offener API, macht sie zu einem Rohstoff, den andere weiterverwenden können: Redaktionen, Schulen, Forschende, andere Werkzeuge. Geschlossene Wahrheit skaliert nicht. Offene schon.

Was wir daraus gemacht haben

Diese sechs Punkte sind kein Manifest. Sie sind die Bauanleitung für Bundestakt, ein Projekt, an dem wir seit Anfang 2026 arbeiten. Bundestakt liest jedes Plenarprotokoll des Deutschen Bundestages vollständig, mit einem Sprachmodell, das eine Million Token Kontext hat und deshalb nichts kürzen muss. Es erklärt jede Sitzung verständlich, prüft jedes Zitat gegen das Original, zieht die prüfwürdigsten Behauptungen aller Fraktionen heraus und recherchiert sie gegen Primärquellen. Kein Ergebnis geht ohne redaktionelle Freigabe online. Die Methodik steht öffentlich auf der Seite, die Daten stehen unter CC BY 4.0.

Stand September 2026 sind das 14 Sitzungen, 1.702 ausgewertete Reden und 138 geprüfte Behauptungen. Das ist klein gegen die Menge dessen, was täglich behauptet wird. Aber es ist ein funktionierender Beweis, dass die Rechnung aufgeht: Nachprüfen kann billig werden.

Über KI wird zu Recht kritisch geredet. Wir wollten zeigen, was sie leistet, wenn man ihr die richtige Aufgabe gibt: ein Dokument ganz lesen, das sonst niemand liest, und jede Behauptung darin mit einer Quelle versehen. Die Maschine liest. Der Mensch entscheidet. Und wer einen Fehler findet, bekommt eine öffentliche Korrektur.

bundestakt.de methodik faktenchecks

Quellen und Weiterlesen

  • OpenAI: „Disrupting deceptive uses of AI by covert influence operations“, Mai 2024. openai.com
  • EU DisinfoLab: Recherchen zur Kampagne „Doppelgänger“, seit 2022. disinfo.eu
  • Christopher Paul, Miriam Matthews: „The Russian ‚Firehose of Falsehood‘ Propaganda Model“, RAND Corporation, 2016. rand.org
  • Robert Chesney, Danielle Citron: „Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security“, California Law Review, 2019; darin der Begriff der „liar’s dividend“.
  • Michael Henry Tessler u. a.: „AI can help humans find common ground in democratic deliberation“, Science, Oktober 2024. science.org
  • Pol.is und vTaiwan: offene Werkzeuge für Deliberation. pol.is, vtaiwan.tw
  • Coalition for Content Provenance and Authenticity: der Standard C2PA. c2pa.org
  • Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 50: Transparenzpflichten für KI-Systeme. artificialintelligenceact.eu
  • Correctiv: Faktenchecks und Recherchen zu Desinformationskampagnen vor der Bundestagswahl 2025. correctiv.org
  • Bundeszentrale für politische Bildung: Dossiers zu Desinformation und Populismus. bpb.de