Ein faszinierendes Versprechen

Früher lasen wir einen Zeitungsartikel und fragten uns: Überzeugt mich das? Heute genügt ein Klick – und eine KI erklärt uns, ob der Artikel ausgewogen, manipulativ oder journalistisch hochwertig ist. Eine neue Plattform verspricht, Medienbeiträge mithilfe künstlicher Intelligenz zu analysieren:

Decipher

Ein spannender Ansatz. Und einer, der mich nachdenklich gemacht hat. Oder anders: Bei der Plattform habe ich ein erhebliches Störgefühl – und das vielleicht gerade, weil ich selbst intensiver Nutzer von KI-Werkzeugen bin.


Was ist Decipher?

Decipher versteht sich nicht als Nachrichtenportal, sondern als KI-gestütztes Werkzeug zur Analyse journalistischer Texte. Man kopiert Texte, Videos und beliebige journalistische Inhalte hinein oder gibt eine URL an, und die KI bewertet ihn unter verschiedenen Gesichtspunkten.

Decipher will, so die Selbstdarstellung zusammengefasst, Menschen dabei unterstützen, journalistische Beiträge kritischer zu lesen, indem diese dann KI-gesteuert anhand verschiedener Kriterien einordnet werden. Dabei werden unter anderem analysiert:

  • sprachliche Qualität
  • Argumentationsstruktur
  • Überzeugungsstrategien
  • emotionale Sprache
  • mögliche Manipulationstechniken
  • rhetorische Mittel
  • Plausibilität und Konsistenz der Argumentation

Der Slogan lautet sinngemäß: “Journalistische Qualität und Persuasionsanalyse – durch KI.”

Hinter Decipher steht Marius Krüger, der bereits die Democracy-App entwickelt hat.


Wie Decipher funktioniert

Kurz zusammengefasst funktioniert Decipher ungefähr so:

  1. Ein journalistischer Beitrag wird eingelesen: Das kann ein Zeitungsartikel (es reicht sogar ein Foto des Artikels), ein Online-Beitrag, ein Video oder ein Podcast sein. Zunächst wird der Inhalt in Text umgewandelt bzw. transkribiert.
  2. Der Inhalt wird in einzelne Analyseebenen zerlegt - die Kriterien hatte ich oben aufgelistet.
  3. Die Analyse erfolgt anhand definierter journalistischer Kriterien: Nach Angaben von Decipher soll die KI nicht einfach eine Meinung äußern, sondern den Beitrag anhand journalistischer Standards bewerten und nachvollziehbar begründen.
  4. Die Ergebnisse werden strukturiert dargestellt: Der Nutzer erhält keine bloße Zusammenfassung, sondern eine Einordnung mit Hinweisen darauf, wo der Beitrag besonders ausgewogen, emotional, einseitig oder argumentativ problematisch erscheint.

Wichtig ist dabei eine Einschränkung: Decipher kann nicht selbst feststellen, wie die Wirklichkeit tatsächlich ist. Es analysiert einen Medienbeitrag anhand bestimmter Kriterien. Ob diese Kriterien sinnvoll gewählt sind und wie neutral ihre Anwendung erfolgt, ist wiederum eine Frage, die der Nutzer kritisch hinterfragen sollte. Und genau an dieser Stelle beginnt die eigentliche Debatte über die Rolle solcher Systeme.


Die gute Idee

Auf den ersten Blick erscheint der Ansatz von Decipher durchaus überzeugend. Die meisten von uns lesen Nachrichten nicht wie Medienwissenschaftler oder Journalisten. Wir nehmen Inhalte auf, bilden uns eine Meinung und hinterfragen dabei oft nicht, wie diese Meinung eigentlich zustande gekommen ist.

Dabei beeinflusst uns die Art der Darstellung häufig stärker als der eigentliche Inhalt. Welche Begriffe verwendet werden, welche Informationen betont oder weggelassen werden, welche Bilder gezeigt werden oder welche Reihenfolge die Argumente haben – all das prägt unsere Wahrnehmung, ohne dass wir es bewusst bemerken.

Genau hier setzt Decipher an. Die Plattform versucht mithilfe künstlicher Intelligenz sprachliche Muster, Framing, emotionale Zuspitzungen und Argumentationsstrukturen sichtbar zu machen. Sie macht den Leser auf Aspekte aufmerksam, die beim normalen Lesen leicht übersehen werden.

Das ist grundsätzlich ein sinnvoller Gedanke. Denn wer Manipulation erkennen möchte, muss sie zunächst einmal wahrnehmen.

Tatsächlich nutzen wir ähnliche Hilfsmittel schon seit Langem. Rechtschreibprogramme weisen auf Fehler hin, Navigationssysteme helfen bei der Orientierung und Bildbearbeitungsprogramme erkennen automatisch Motive, Gesichter oder Himmel und schlagen passende Bearbeitungen vor. Warum sollte eine KI also nicht auch dabei helfen, journalistische Texte genauer zu analysieren?

Und genau hier beginnt mein Unbehagen. Nicht, weil eine KI Texte analysiert. Sondern weil sie zunehmend beginnt, Urteile vorzubereiten, die wir früher selbst gefällt haben.


Und genau hier beginnt mein Unbehagen

Decipher hat mich nachdenklich gemacht. Nicht, weil ich die Plattform grundsätzlich für eine schlechte Idee halte. Im Gegenteil: Die technische Umsetzung ist spannend und der Nutzen durchaus nachvollziehbar.

Mein Unbehagen beginnt an einer anderen Stelle: Künstliche Intelligenz hat uns zunächst dabei geholfen, Informationen schneller zu finden. Später hat sie begonnen, sie zusammenzufassen und verständlicher aufzubereiten. Heute erklärt sie Texte, beantwortet Fragen und fasst ganze Bücher in wenigen Absätzen zusammen.

Mit Plattformen wie Decipher geht sie jedoch einen Schritt weiter: Sie hilft uns nicht mehr nur dabei, Informationen zu verarbeiten. Sie beginnt, sie für uns einzuordnen und zu bewerten. Genau an dieser Stelle verändert sich etwas Grundlegendes. Die Frage lautet nicht mehr: Was steht in diesem Artikel? Sondern: Wie soll ich diesen Artikel verstehen?

Informationen zu suchen ist eine technische Aufgabe. Informationen zu verstehen ist bereits eine geistige Leistung. Ein politisches Urteil aus diesen Informationen zu bilden, gehört zu den anspruchsvollsten Fähigkeiten eines mündigen Menschen. Die Frage ist deshalb nicht, ob KI uns dabei helfen kann. Die Frage ist, welchen Teil dieser Aufgabe wir bereit sind, an sie abzugeben.


Urteilskraft ist keine Information

Informationen kann man speichern. Wissen kann man vermitteln. Urteilskraft dagegen lässt sich weder herunterladen noch automatisieren. Sie entsteht nicht dadurch, dass wir möglichst viele Informationen besitzen. Sie entsteht dadurch, dass wir lernen, mit ihnen umzugehen.

Wir vergleichen unterschiedliche Quellen. Wir wägen Argumente gegeneinander ab. Wir erkennen Widersprüche. Manchmal irren wir uns. Manchmal ändern wir unsere Meinung. Und manchmal halten wir die Unsicherheit aus, weil wir merken, dass eine einfache Antwort der Komplexität eines Themas nicht gerecht wird. Genau dieser Prozess macht politische Urteilsfähigkeit aus.

Eine KI kann uns dabei unterstützen. Sie kann Zusammenhänge aufzeigen, Gegenargumente nennen oder auf Widersprüche hinweisen. Sie kann Informationen ordnen und strukturieren. Was sie uns jedoch nicht abnehmen kann, ist der eigentliche Erkenntnisprozess. Denn politische Urteilsbildung besteht nicht darin, möglichst schnell zu einer Antwort zu gelangen. Sie besteht darin, den Weg zu dieser Antwort selbst gegangen zu sein. Wer diesen Weg nicht mehr geht, besitzt am Ende vielleicht eine Meinung. Ob es aber noch die eigene ist, wird zunehmend schwer zu beantworten sein.

Wir überschätzen häufig den Wert des Ergebnisses und unterschätzen den Wert des Weges (siehe auch mein Verweis auf die Analogfotografie). Dabei verändert nicht die Antwort den Menschen, sondern der Denkprozess, der zu ihr geführt hat. Und: Streng genommen geht es gar nicht um die Automatisierung der politischen Urteilsfähigkeit. Es geht um die Automatisierung des politischen Denkprozesses. Urteile sind nur das Endprodukt. Was verloren zu gehen droht, ist der Weg dorthin. Und genau dieser Weg macht einen mündigen Bürger aus.


Die Illusion technischer Objektivität

Es gibt noch einen zweiten Aspekt, der mich beschäftigt:

Wir neigen dazu, technischen Systemen mehr Objektivität zuzuschreiben als Menschen. Ein Satz wie „Die KI hat festgestellt …“ wirkt auf viele überzeugender als „Ich glaube …“ oder „Meiner Einschätzung nach …“. Vielleicht liegt das daran, dass Maschinen keine Gefühle haben. Vielleicht auch daran, dass wir Berechnungen intuitiv mit Neutralität verbinden. Was aus einem Computer kommt, muss doch irgendwie objektiver sein als die Meinung eines einzelnen Menschen – so denken viele. Doch genau das ist eine Illusion.

Eine KI trifft ihre Bewertungen nicht im luftleeren Raum. Hinter jeder Analyse stehen Annahmen und Entscheidungen, die von Menschen getroffen wurden: Welche Quellen gelten als vertrauenswürdig? Welche journalistischen Standards werden zugrunde gelegt? Wie wird Framing definiert? Wann beginnt Manipulation? Welche Informationen gelten als relevant und welche als verzichtbar?

Auf all diese Fragen gibt es keine naturwissenschaftlich eindeutigen Antworten. Es sind Bewertungen – und jede Bewertung beruht auf bestimmten Vorstellungen darüber, wie guter Journalismus aussehen sollte. Das bedeutet nicht, dass die Ergebnisse einer KI wertlos wären. Im Gegenteil: Sie können ausgesprochen hilfreich sein.

Man sollte jedoch nicht den Fehler machen, einer KI mehr Neutralität zuzuschreiben, als sie tatsächlich besitzen kann. Hinter jedem Algorithmus stehen Menschen – mit ihren Erfahrungen, ihren Überzeugungen und ihren Entscheidungen.

Eine KI ist niemals voraussetzungslos. Ihre Antworten entstehen aus Trainingsdaten, Gewichtungen, Sicherheitsregeln und Bewertungskriterien – allesamt Entscheidungen, die letztlich von Menschen getroffen wurden.


Der Bias der KI – und unser eigener

„Bias“ ist ein Begriff aus dem Englischen und bedeutet wörtlich so viel wie Verzerrung, Voreingenommenheit oder Schieflage. Gemeint ist damit die Tendenz, Informationen nicht völlig neutral zu verarbeiten, sondern sie – bewusst oder unbewusst – aus einer bestimmten Perspektive zu betrachten. Bei einer KI kann ein solcher Bias beispielsweise dadurch entstehen, mit welchen Daten sie trainiert wurde, welche Quellen sie bevorzugt oder nach welchen Kriterien ihre Antworten bewertet werden.

Fast alle diskutieren über den Bias der künstlichen Intelligenz: Kann eine KI überhaupt neutral sein? Übernimmt sie den gesellschaftlichen Konsens? Welche Quellen nutzt sie? Welche politischen Positionen bevorzugt sie?

Das sind berechtigte Fragen. Erstaunlich ist jedoch, dass kaum jemand eine andere Frage stellt: Mit welchem Bias lese eigentlich ich selbst einen politischen Artikel?

Denn wir alle bringen unsere Erfahrungen, Überzeugungen und Erwartungen mit. Niemand liest eine Nachricht völlig unvoreingenommen. Jeder von uns hält bestimmte Quellen für glaubwürdiger als andere. Jeder reagiert auf bestimmte Begriffe sensibler als auf andere. Und jeder neigt dazu, Informationen eher zu akzeptieren, wenn sie das eigene Weltbild bestätigen.

Vielleicht besteht die eigentliche Gefahr deshalb gar nicht darin, dass eine KI voreingenommen ist. Vielleicht besteht sie darin, dass wir ihre Einschätzung nur dann akzeptieren, wenn sie unsere eigene bestätigt. Dann benutzen wir künstliche Intelligenz nicht, um kritischer zu denken. Sondern um unsere bereits gefasste Meinung mit technischer Autorität auszustatten.

Wer einer KI nur dann vertraut, wenn sie die eigene Weltanschauung bestätigt, sucht keinen Erkenntnisgewinn. Er sucht einen digitalen Zeugen. Oder anders:

Der größte Bias einer KI ist oft der Bias ihres Nutzers.


Decipher ist nicht das Problem

Je länger ich über Decipher nachgedacht habe, desto mehr wurde mir klar: Während ich diesen Artikel schrieb, wurde mir klar, dass Decipher gar nicht mein eigentliches Thema ist. Decipher ist lediglich ein Beispiel für eine Entwicklung, die längst begonnen hat:

Wir lassen uns von KI Nachrichten zusammenfassen. Wir bitten sie, Bücher zu erklären oder wissenschaftliche Studien einzuordnen. Sie vergleicht Wahlprogramme, fasst Gerichtsentscheidungen zusammen, ordnet Quellen nach ihrer Glaubwürdigkeit und beantwortet Fragen zu nahezu jedem denkbaren Thema.

Jede einzelne dieser Anwendungen erscheint sinnvoll. Sie spart Zeit, erleichtert den Zugang zu komplexen Informationen und hilft dabei, den Überblick zu behalten. Problematisch wird diese Entwicklung nicht durch einen einzelnen Anwendungsfall. Sie verändert sich schleichend.

Aus einer Suchmaschine wird ein Assistent. Aus einem Assistenten wird ein Berater. Und aus einem Berater kann leicht eine Autorität werden. Genau dieser Übergang verdient unsere Aufmerksamkeit. Denn je häufiger wir uns auf die Einordnung einer KI verlassen, desto seltener üben wir selbst die Fähigkeit, Informationen zu vergleichen, Widersprüche auszuhalten und eigene Schlüsse zu ziehen.

Vielleicht verändert künstliche Intelligenz nicht in erster Linie die Antworten, die wir erhalten. Vielleicht verändert sie die Fragen, die wir uns überhaupt noch selbst stellen.


Die eigentliche Frage

Die Diskussion über Decipher wird häufig auf eine technische Frage reduziert: Kann künstliche Intelligenz politische Texte zuverlässig analysieren?

Das ist eine interessante Frage. Aber sie ist aus meiner Sicht nicht die wichtigste. Die eigentliche Frage lautet: Was geschieht mit einer Demokratie, wenn immer weniger Menschen politische Texte selbst analysieren und stattdessen auf die Einordnung einer KI vertrauen?

Eine Demokratie lebt nicht nur von freien Wahlen und einer freien Presse. Sie lebt auch von Bürgern, die bereit und in der Lage sind, sich selbst ein Urteil zu bilden. Dazu bedarf es Information. Aber es braucht beim informierten Bürger keine externe Einordnung – schon gar nicht von einer KI. Einordnen muss der Bürger schon selbst können.

Natürlich wird niemand erwarten, dass jeder Zeitungsartikel bis ins letzte Detail geprüft wird. Auch bisher haben wir Experten vertraut: Journalisten, Wissenschaftlern, Gerichten oder Behörden. Vertrauen gehört zu einer komplexen Gesellschaft dazu. Doch Vertrauen ist etwas anderes als Delegation.

Es macht einen Unterschied, ob ich mich nach eigener Auseinandersetzung von einer KI auf einen übersehenen Aspekt hinweisen lasse oder ob ich ihre Bewertung an die Stelle meiner eigenen Auseinandersetzung setze. Vielleicht ist das die eigentliche Herausforderung im Zeitalter der künstlichen Intelligenz: Sie so zu nutzen, dass sie unsere Urteilskraft erweitert, ohne sie zu (z)ersetzen.


Schluss

Vielleicht werden künstliche Intelligenzen eines Tages politische Texte besser analysieren als die meisten von uns. Vielleicht erkennen sie Manipulation, Framing oder logische Widersprüche schneller und zuverlässiger als jeder Mensch. Das wäre ein beeindruckender technischer Fortschritt.

Die entscheidende Frage ist jedoch eine andere: Nicht, was künstliche Intelligenz künftig kann. Sondern, was wir dann selbst noch können. Denn eine Demokratie lebt nicht nur von gut informierten Bürgern. Sie lebt von Menschen, die bereit sind, Informationen zu hinterfragen, unterschiedliche Positionen gegeneinander abzuwägen und Verantwortung für ihr eigenes Urteil zu übernehmen.

Vielleicht liegt die eigentliche Aufgabe künstlicher Intelligenz deshalb gar nicht darin, für uns zu urteilen. Vielleicht sollte sie uns vielmehr dazu anregen, besser selbst zu urteilen.

Vielleicht ist das die beste Form künstlicher Intelligenz: Nicht diejenige, die für uns urteilt, sondern diejenige, die uns dazu bringt, selbst bessere Fragen zu stellen.