Symbolbild (Foto: Marco Verch, CCNULL, CC-BY 2.0)

Das wahre Problem der Desinformation

Von Tim Hayward , veröffentlicht am: 3. August 2024, Kategorien: Medien & Technik

Dieser Text wurde zuerst am 04.06.2024 auf www.propagandainfocus.com unter der URL <https://propagandainfocus.com/the-real-problem-of-disinformation/> veröffentlicht. Lizenz: Tim Hayward, Propaganda in Focus, CC BY-NC-ND 4.0

Laut der britischen Regierung, die eine spezielle Einheit zur Bekämpfung von Desinformation eingerichtet hat [1], besteht die „Gefahr, dass feindliche Akteure Online-Desinformation nutzen, um unsere demokratischen Werte und Grundsätze zu untergraben“ [2]. Das US-Ministerium für Innere Sicherheit hat Desinformation zu einer Bedrohung für kritische Infrastrukturen hochgestuft. Überall im Westen, allen voran in der Europäischen Union [3], werden neue Gesetze mit weitreichenden Bestimmungen gegen Online-Desinformation erlassen. Akademische Kommentatoren haben nicht lange gezögert, die Botschaft aufzugreifen: „Die Bedrohung, die Desinformation für eine gesunde demokratische Praxis darstellt“, so Freelon und Wells [4], hat sie zum „bestimmenden politischen Kommunikationsthema unserer Zeit“ gemacht.

Aber es gibt ein grundlegendes Problem mit dieser offiziellen Sichtweise: Die Kriterien zur Identifizierung angeblicher Fälle von Desinformation sind widersprüchlich. Diejenigen, die den „Kampf“ dagegen anführen, sind sich dessen sogar bewusst, wie aus dem E-Mail-Austausch zwischen US-Beauftragten für Cybersicherheit hervorgeht (hier auf S. 15 [5]). Aber das hat ihre Entschlossenheit weiterzumachen nicht beeinträchtigt – selbst wenn das bedeutet, die Rechte der Bürgerinnen und Bürger nach dem ersten Verfassungszusatz zu verletzen [6].

Dies, so möchte ich argumentieren, ist das eigentliche Problem der Desinformation: Nicht nur, dass der Begriff auf widersprüchliche Weise verwendet wird, sondern dass er als vermeintliche Rechtfertigung für die Unterdrückung von Informationen oder Ideen dient – welche von Regierungen und den mächtigen Gruppen, die sie beeinflussen, als unbequem empfunden werden.

Um dieses Problem zu erhellen, möchte ich im Folgenden einige Kernpunkte aus meinem akademischen Artikel „Das Problem der Desinformation: Ein kritischer Ansatz“ aufzeigen [7, 8] (öffentlich zugänglich in „Social Epistemology“ 2024).

1

Der Begriff „Desinformation“ wird auf unterschiedliche Weise verwendet. Obwohl er ein Problem benennt, gibt es unterschiedliche Ansichten über die Art des Problems. Ein Problem zweiter Ordnung besteht also darin, dass keine Einigkeit darüber besteht, was „das“ Problem der Desinformation eigentlich ist. Auf der Grundlage akademischer Abhandlungen über „Desinformation“, die eine begriffliche Verwirrung beinhalten, werden politische Maßnahmen mit weitreichenden Auswirkungen vorgeschlagen. Das bedeutet, dass man nicht davon ausgehen sollte, dass die darin enthaltenen Ratschläge fundiert sind.

Besonders besorgniserregend sind jene Arbeiten, die vorgeben, zur Bekämpfung von Desinformation beizutragen. Denn Maßnahmen, die vorgeschlagen werden, um eines der als Desinformation bezeichneten Probleme zu bekämpfen, können potenziell zu anderen Problemen führen, die sich aus unterschiedlichen Perspektiven ergeben können. Der Effekt könnte für die Gesellschaft schädlich sein.

Eine weitere Folge ist, dass ein Gefühl der Willkür in das öffentliche Bewusstsein eindringt und der Eindruck entsteht, dass der Begriff oft nur verwendet wird, um Ideen zu diskreditieren, die der Anwender missbilligt [9]. Leider ist dieser Eindruck, wie wir sehen werden, nicht falsch.

Das Grundproblem besteht darin, dass die „Experten für Desinformation“ die Kategorie zwar prinzipiell von Fehl- und Malinformation unterscheiden, diese dreiteilige analytische Einteilung in der Praxis aber nicht konsequent angewendet wird. Theoretisch bezieht sich der Begriff Desinformation auf Informationen, die falsch und schädlich sind – im Gegensatz zu Fehlinformationen (falsch, aber harmlos) und Malinformationen (schädlich, aber wahr); in der Praxis wird diese Unterscheidung jedoch nicht immer eingehalten. So wird der Begriff auch auf vermeintliche Fälle von „Desinformation“ angewendet, die weder falsch noch schädlich sind.

Studien, die sich mit der Frage befassen, wie Desinformation am besten bekämpft werden kann, sind in der akademischen Literatur mittlerweile vorherrschend – eine Google Scholar-Suche nach „Bekämpfung von Desinformation“ ergibt 1.520 Einträge, während „Identifizierung von Desinformation“ nur 388 und „Analyse von Desinformation“ nur 38 Einträge liefert. Dies deutet auf das mangelnde Interesse daran hin, wie man bestimmte Fälle von Desinformation zuverlässig erkennen kann. Befürworter des kämpferischen Ansatzes geben Ratschläge, wie man bestimmte vermeintliche Fälle von „Desinformation“ bekämpfen kann, ohne sicherzustellen, dass sie tatsächlich dieser Beschreibung entsprechen.

Screenshot: EU-Kommission, erstellt am 24.7.2024 – 12:43:25, https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_de

Im Gegensatz zum kämpferischen Ansatz erkennt ein kritischer Ansatz – wie er hier vertreten wird – die Notwendigkeit an, drei verschiedene Untersuchungsaufgaben durchzuführen. Dadurch kann festgestellt werden, ob überhaupt ein Fall von Desinformation vorliegt, bevor der Versuch erfolgt, Ratschläge zu formulieren, was dagegen zu tun sei: Eine erkenntnistheoretische Untersuchung bestimmt, ob eine kommunizierte Behauptung falsch ist; eine Verhaltensuntersuchung bestimmt, ob die Kommunikation koordiniert ist; und eine Sicherheitsuntersuchung bestimmt, ob die Kommunikation der Behauptung schädlich ist.

In der wissenschaftlichen Literatur wird in der Regel davon ausgegangen, dass Desinformation nur in einer oder manchmal in zwei der drei genannten Formen ein Problem darstellt. In einem Teil der Literatur wird der Begriff für alle Informationen verwendet, die irreführend sind – wie z. B. falsche Tatsachen – und wird daher austauschbar mit dem Begriff „Fehlinformation“ verwendet. Diese Formulierung des Problems ermöglicht eine klare Fokussierung auf das Kriterium der propositionalen Unwahrheit und hat daher den Vorteil, dass sie klar definiert ist; sie lässt jedoch das außer Acht, was aus einer anderen Perspektive den entscheidenden Unterschied zwischen Desinformation und Fehlinformation ausmacht, nämlich die Täuschungsabsicht. Aus dieser zweiten Perspektive würden unschuldige Fehler nicht als Desinformation gelten. Das eigentliche Problem der Desinformation wäre vielmehr in Fällen trügerischer strategischer Kommunikation zu suchen, wie sie sich beispielsweise in „koordiniertem, inauthentischem Verhalten“ in den sozialen Medien manifestieren kann. Diese können funktionieren, ohne notwendigerweise falsche Informationen zu verbreiten, sondern stattdessen durch selektive Darstellung und Auslassung von Wahrheiten. Eine dritte Sichtweise des Problems der Desinformation konzentriert sich nicht in erster Linie auf fehlerhafte Informationen oder koordinierte Täuschungsabsichten, sondern darauf, wie die Verbreitung bestimmter Ideen schädliche Auswirkungen auf das Gefüge der Gesellschaft oder ihrer Institutionen haben kann. Diese Besorgnis ist der Hauptgrund für das derzeitige wachsende Interesse am Thema Desinformation und die Finanzierung von Forschungsarbeiten zu diesem Thema. Ein damit verbundenes Problem besteht jedoch darin, dass – wenn bestimmte Ideen schädliche Auswirkungen haben können – dies aus anderen Gründen als ihrer Falschheit geschehen kann. Diese Erkenntnis hat dazu geführt, dass der Begriff „Malinformation“ geprägt wurde, um Ideen zu bezeichnen, die zwar wahr sein mögen, deren Verbreitung aber schädliche Auswirkungen haben soll.

Diejenigen, die sich mit schädlichen Ideen befassen, unterscheiden jedoch in der Praxis nicht unbedingt klar zwischen Desinformation und Fehlinformation, da Fragen der Wahrheit und Falschheit nicht ihr Hauptanliegen sind.

In der akademischen Literatur wie auch in der öffentlichen Debatte dient der Begriff „Desinformation“ daher als eine Art Überbegriff, der verschiedene Formen der Kommunikation umfasst, die falsch und/oder selektiv wahr und/oder schädlich sein können, je nachdem, welche Merkmale als kennzeichnend für sie angenommen werden. Dementsprechend variiert auch die Art des Problems, auf das er hinweist: als falsche Information ist er ein epistemisches Problem; als Täuschungsstrategie ist er ein Problem der inakzeptablen Aktivitäten einer koordinierten Agentur; als störende Ideen ist er eine Bedrohung für die Sicherheit, Legitimität oder ein anderes öffentliches Gut einer sozialen oder politischen Ordnung. Jedes dieser Probleme kann in einer bestimmten Situation auftreten, ohne dass eines oder beide der anderen notwendigerweise vorhanden sind. Das bedeutet, dass verschiedene Untersuchungen, die auf den drei unterschiedlichen Konzepten beruhen, nicht immer übereinstimmen würden, ob, wo oder wann ein Desinformations-Problem aufgetreten ist.

2

Trotz dieser Reihe von widersprüchlichen Konzeptualisierungen ist es im Prinzip möglich, eine schlüssige Charakterisierung der Desinformation vorzunehmen. Dazu muss man sich an die Art von Fällen erinnern, in denen er vor seiner jüngsten Popularisierung verwendet wurde. Die aus der Welt der Spionageabwehr [10] stammende Operation „Mincemeat“ [11] aus dem Zweiten Weltkrieg (die auch Gegenstand eines Films aus dem Jahr 2021 war [12]) ist ein gutes Beispiel dafür. Im Jahr 1943 lieferten die Briten den Deutschen irreführende Informationen über die Invasionspläne der Alliierten: Indem sie gefälschte Dokumente in einer Aktentasche deponierten, die an eine Leiche in Offiziersuniform gekettet war, welche an der spanischen Küste angespült wurde. Die Dokumente wurden, wie erhofft, an die Deutschen weitergegeben, die – da sie sie für echt hielten – ihre Verteidigungstruppen abzogen, wodurch während der Invasion zahlreiche alliierte Menschenleben verschont blieben. Bei dieser erfolgreichen Täuschung handelte es sich um einen gezielten Versuch, beim Feind eine falsche und für ihn schädliche Überzeugung zu erwecken. Sie passt also genau in alle drei Bereiche – Erkenntnis, Verhalten und Sicherheit.

Der Kontext dieser Illustration unterscheidet sich natürlich deutlich von dem zeitgenössischer Anliegen – was darauf hinweist, dass es dem heutigen Sprachgebrauch an vergleichbarer Schärfe mangelt. Im Falle des Krieges lassen sich Desinformationen klar identifizieren: Es besteht kein Zweifel, wer von wem über was oder wie getäuscht wurde. Außerdem handelt es sich um eine erklärte Kriegssituation. In zeitgenössischen Diskussionen über Desinformation wird oft von einem „Informationskrieg“ gesprochen, doch handelt es sich nicht um einen erklärten Krieg mit einem erklärten Feind. Die Bürger wissen vielleicht nicht genau, wo ihre Loyalität liegen soll oder warum Fragen der Wahrheit und der Unwahrheit überhaupt als Fragen der Loyalität und nicht der Erkenntnistheorie betrachtet werden sollten. Diejenigen, die Fehlinformationen „bekämpfen“ wollen, mögen behaupten, dass sie dies zum Wohle ihrer Mitbürger tun. Aber wenn wir Bürger uns nicht bewusst sind, dass wir uns in einem Krieg mit einem definierten Feind befinden, kann diese Behauptung ziemlich verwirrend sein und wir haben Grund, sie mit Vorsicht zu genießen.

Unter den heutigen Umständen hat der Begriff der Desinformation also eine erhebliche Aufweichung erfahren. Er kann unter diesen verschiedenen Umständen immer noch sinnvoll angewendet werden, aber nur in Fällen, in denen alle drei Bedingungen für eine eindeutige Identifizierung erfüllt sind.

Der auf Major William Martin ausgestellte Ersatzausweis, mit dem der Leichnam ausgestattet wurde, 1943. (Bild: Ewen Montagu Team, Wikimedia Commons, Gemeinfrei)

3

Unter den heutigen Umständen ist es schwer, Fälle zu finden, in denen alle drei Bedingungen unumstritten erfüllt sind. Denn während es relativ einfach sein mag, Fälle von vorsätzlicher Täuschung zu identifizieren, bei denen nicht nur reine Unwahrheiten, sondern auch Lügen durch Weglassen und selektive Wahrheiten eingesetzt werden, ist die Bewertung des Schadens eine andere Frage. Was als Schaden gilt und schwerwiegend genug ist, um Beachtung zu finden, hängt davon ab, welche Grundvoraussetzungen für das Wohlbefinden angenommen werden. Man sollte meinen, dass solche Fragen in einer Demokratie ein wichtiges Thema der öffentlichen Debatte sein sollten. Doch stattdessen wird Sicherheitsbedenken Vorrang vor der Sorge um die Wahrheit eingeräumt.

Wie zu Beginn dieses Artikels erwähnt, propagieren Regierungen, Journalisten und sogar Wissenschaftler die Idee, Desinformation sei eine herausragende Bedrohung unserer Zeit.

Die Tatsache, dass die Menschen weniger von Desinformation beeinflusst werden, als von denjenigen angenommen wird, die Alarm schlagen [13], wird selten anerkannt;

ebenso wenig wie die Tatsache, dass angebliche Bedrohungen wie die „russische Desinformation“, die von vielen Autoren als paradigmatisch angesehen werden (eine Google Scholar-Suche in der akademischen Literatur seit 2016 nach „russischer Desinformation“ ergab 3.460 Artikel), vernachlässigbare Auswirkungen haben [14] – selbst wenn sie nicht direkt fiktiv sind [15]. Die Wirkung dieser Warnungen vor den Gefahren der Desinformation hat jedoch Einfluss auf die Öffentlichkeit. Und dieser Einfluss wird von westlichen Staaten politisch angestrebt, unter anderem durch ihre Sicherheitsdienste, die eine zentrale Rolle bei der Darstellung von Desinformation als Sicherheitsbedrohung spielen. In Großbritannien zum Beispiel haben sich die jeweiligen Leiter von MI5, MI6, GCHQ (Government Communications Headquarters, Anm. d. Red.) und der 77. Brigade der britischen Armee ausdrücklich zu Teilnehmern an einem „Informationskrieg“ erklärt. [16] In den USA verfügt das Ministerium für Heimatschutz – das ursprünglich zur Koordinierung des Krieges gegen den Terrorismus geschaffen wurde – heute über eine Agentur für Cybersicherheit und Infrastruktursicherheit (CISA), deren Direktorin, Jen Easterly, behauptet, dass „die kritischste Infrastruktur unsere kognitive Infrastruktur ist“ [17]. Sie richtete einen speziellen Unterausschuss ein, der über Fehlinformation, Desinformation und Malinformation (Misinformation, Disinformation, Malinformation, kurz MDM, Anm. d. Red.) berät. [18] Den Vorsitz des MDM, dem auch Alex Stamos von der Universität Stanford angehörte, übernahm die Akademikerin Kate Starbird von der Universität Washington.

Inzwischen hat sich herausgestellt, dass dieser „Rat“ nicht nur auf einer fehlerhaften Analyse beruhte, sondern auch so angewandt wurde, dass die grundlegenden verfassungsrechtlichen Garantien zum Schutz der Redefreiheit untergraben wurden. Ein berüchtigtes Beispiel dafür ist die „Election Integrity Partnership“ (EIP) [19], die von Starbird und Stamos im Vorfeld der Präsidentschaftswahlen 2020 auf Veranlassung des CISA gegründet wurde – angeblich, um „unsere Wahlen gegen diejenigen zu verteidigen, die versuchen, sie durch Ausnutzung von Schwachstellen im Online-Informationsumfeld zu untergraben“. Sie konzentrierte sich insbesondere auf unbestätigte Informationen über Wahlunregelmäßigkeiten, da diese als Bedrohung für die Institutionen der Demokratie angesehen wurden. Freiwillige Studenten der University of Washington und der Stanford University hatten die Aufgabe, Beiträge in den sozialen Medien zu markieren, die sie als Desinformation einstuften, damit die Plattformen Maßnahmen ergreifen konnten – wie z. B. die Entschärfung oder Unterdrückung dieser Beiträge. Laut EIP-Direktor Stamos bestand ihr Ziel darin, „in der Lage zu sein, Desinformationen zu finden, diese schnell zu melden und dann mit ihnen zusammenzuarbeiten, um sie zu entfernen“ (Hines v. Stamos para. 40 [20]). Bei den fraglichen Beiträgen handelte es sich auffallend oft um Gespräche zwischen US-Bürgern. [21] Diese Überwachung und Zensur inländischer Akteure – unter Verletzung des Schutzes durch den Ersten Verfassungszusatz der USA [22] – markierte eine Abkehr von dem ursprünglichen Verständnis von Desinformation als Sicherheitsbedrohung durch feindliche ausländische Akteure.

Eine weitere Verschiebung war insbesondere beim Nachfolger von EIP, dem „Virality Project“ (VP) [23], zu beobachten. Dessen Hauptaufgabe bestand darin, Beiträge, die die Sicherheit, Wirksamkeit oder Notwendigkeit der COVID-19-Impfstoffe in Frage stellten, für die Plattform zu kennzeichnen. Wie das EIP überwachte auch dieses Projekt die inländische Kommunikation (und wurde in ähnlicher Weise vor US-Gerichten angefochten [24]), doch während das EIP noch mit der stillschweigenden Annahme arbeitete, dass eine bestimmte feindliche – wenn auch nicht unbedingt ausländische – Organisation zumindest einige der Nachrichten koordinieren könnte, da erkennbare politische Interessen auf dem Spiel standen, betrachtete das VP die Desinformation selbst als den Feind. Das Team hat keinen feindlichen Auftraggeber – der die vermeintliche Desinformations-Operation leitet – identifiziert oder auch nur auf einen solchen hingedeutet:

Sie erklärten, sie seien besorgt über eine „hochgradig vernetzte und koordinierte Anti-Impf-Gemeinschaft“ [25], aber sie haben keinen bestimmten Auftraggeber als Orchestrator oder Lenker dieser Operation angegeben, weder im Inland noch im Ausland. Sie behaupteten auch nicht, dass die „Anti-Impf-Gemeinschaft“ feindliche Absichten habe. Das, womit sie sich beschäftigten, könnte also eher als Fehlinformation und nicht als Desinformation bezeichnet werden, wenn man den oben beschriebenen Rahmen zugrunde legt.

Siegel der Agentur für Cybersicherheit und Infrastruktursicherheit, 30.4.2020. (Bild: Cybersecurity and Infrastructure Security Agency, Wikimedia Commons, CC-PD-Mark)

Nur waren – und das ist eine entscheidende dritte Abweichung vom paradigmatischen Fall der Desinformation – die von der VP gekennzeichneten Informationen keineswegs immer falsch. Diese epistemische Unzuverlässigkeit des Vorgangs war eine vorhersehbare Folge der Tatsache, dass weder die Studenten der Informatik und der Internationalen Beziehungen, die die Kennzeichnung vornahmen, noch die „Desinformations-Experten“, die ihnen sekundierten, irgendwelche Fachkenntnisse in Fragen der öffentlichen Gesundheit oder der Immunologie vorweisen konnten. Die EIP/VP-Projektleiterin Isabella Garcia-Camargo, eine ehemalige CISA-Praktikantin, gab sogar offen zu, dass „es wirklich unklar ist, mit wem wir eigentlich zusammenarbeiten sollen, um die Gegenargumente zu liefern“ [26]. Ihr Studententeam fällte jedoch vorschnelle Urteile, die zur Zensur und Stigmatisierung weltweit bekannter Epidemiologen wie Jay Bhattacharya, Sunetra Gupta und Martin Kulldorff führten – eine Angelegenheit, die sich ihren Weg durch die US-Gerichte gebahnt hat und derzeit vor dem Obersten Gerichtshof der USA verhandelt wird [27]. Denn es gibt reichlich Beweise dafür, dass das „Virality Project“ Mitteilungen von wirklich fachkundigen Forschern, die einfach nur von den orthodoxen Ansichten abwichen, die von staatlichen Sicherheitsbehörden wie dem CISA als maßgebend anerkannt wurden, als „Desinformation“ bezeichnete. Mit anderen Worten, die politische Autorität hat hier die epistemische Autorität als Grundlage für die Identifizierung von Desinformation abgelöst. Dies steht im diametralen Gegensatz zur Situation im ursprünglichen und paradigmatischen Fall der Desinformation, wo die politische Autorität des Staates dazu diente, die höchstmögliche epistemische Sorgfalt zu ermöglichen.

Aus der Dokumentation, die dank FOIA-Anträgen (FOIA = Freedom of Information Act, Anm. d. Red.) und Vorladungen jetzt verfügbar ist, gewinnt man den Eindruck, dass das Ziel heutiger Maßnahmen gegen Desinformation nicht so sehr darin besteht, zu verhindern, dass die Menschen in die Irre geführt werden, sondern vielmehr darin, sie davor zu bewahren, durch nicht autorisierte Erzählungen beeinflusst zu werden. Es wird davon ausgegangen, dass bestimmte unzulässige Darstellungen – wie die der „Impfgegner“ im Fall der VP – schädlich sind, selbst wenn sie nicht unwahr sind.

Dieser Artikel ist nicht der richtige Ort, um sich zum Inhalt solcher Annahmen zu äußern. Aber der begriffliche Punkt, der hervorzuheben ist, besteht darin, dass es in solchen Fällen nicht um Täuschung geht, sondern um etwas, das ganz klar als Malinformation bezeichnet wird. Diese klare Unterscheidung wurde innerhalb des US-Ministeriums für Innere Sicherheit erkannt. In privaten Gesprächen innerhalb des MDM-Unterausschusses des CISA wurde das Thema nämlich vor der Veröffentlichung des Berichts angesprochen, in dem daraufhin alle Verweise auf MDM in MD, d. h. ohne Malinformation, geändert wurden (siehe meine frühere Diskussion [28]). Wie Starbird jedoch feststellte, änderte dies nichts an der Tatsache, dass Malinformationen nach wie vor in ihren Zuständigkeitsbereich fielen.

Wir sehen also, dass einige derjenigen, deren Hauptanliegen die Bekämpfung von Desinformation ist, die als Bedrohung für die Gesellschaft dargestellt wird, mit einer Interpretation des Begriffs arbeiten, die radikal von derjenigen abweicht, die im ursprünglichen Kontext seiner Verwendung angenommen wurde. Wurde Desinformation früher als eine von einem feindlichen ausländischen Agenten verdeckt durchgeführte Täuschungspraxis angesehen, so wird sie heute als eine dargestellt, die von einheimischen Bürgern in der Öffentlichkeit durchgeführt wird – ohne dass eine Täuschungsabsicht besteht und sogar, ohne dass überhaupt eine Täuschung vorliegt. In Kriegszeiten wäre die in diesem Zusammenhang kritisierte Praxis – insofern sie Malinformation beinhaltet – als Propaganda bezeichnet worden.

Insbesondere wurde Malinformation in der Propaganda verwendet, die von einem bestimmten Zweig der militärischen Operationen produziert wurde. So verfügte das US-Militär über eine Abteilung für Moral-Operationen [29] nach dem Vorbild der britischen „Political Warfare Executive“ [30], deren Ziel nicht so sehr darin bestand, die gegnerische Führung zu täuschen, sondern deren Bürger und Fußsoldaten zu demoralisieren.

In jeder Konfliktsituation ist es wichtig zu wissen, wer wirklich auf der eigenen Seite steht. Im aktuellen Krieg gegen Desinformation ist dies alles andere als klar. Die Bemühungen zur „Bekämpfung“ von Desinformation können eine größere Bedrohung für die demokratischen Institutionen der Gesellschaft darstellen als die Desinformation selbst. Die Bedrohung, die Desinformation für die Legitimität oder Sicherheit demokratischer Institutionen darstellt, wird in einer Literatur überbewertet, die der „Bekämpfung“ von Mitteilungen Vorrang einräumt, deren Inhalt nicht als epistemisch unzuverlässig erwiesen ist, sondern einfach im Widerspruch zu den „Mainstream-Wahrheiten“ steht. Ein gut funktionierendes demokratisches System sollte nicht nur in der Lage sein, abweichende Meinungen zuzulassen, sondern sogar von ihnen profitieren.

4

Ein weit verbreiteter Verdacht auf Desinformation könnte, so das hier vorgetragene Argument, symptomatisch für eine Gesellschaft sein, die nicht der Beschreibung einer gut funktionierenden Demokratie entspricht. Moralische Panik über „Desinformation“ erscheint dann als eine Reaktion auf das Symptom, die sich nicht dem eigentlichen Problem stellt. Insofern Beschwerden sich auf die Untergrabung des Vertrauens in die Institutionen konzentrieren, sind sie fehlgeleitet, wenn sie davon ausgehen, dass das Problem bei den Menschen liegt – deren Vertrauen geschwunden ist und die sich von abweichenden Ansichten über die Unzuverlässigkeit der Institutionen haben beeinflussen lassen. Solche fehlgeleiteten Beschwerden laufen auf eine Mystifizierung des Problems hinaus. Wenn das Vertrauen in Institutionen schwindet, liegt die Lösung nicht in einer strategischen Kommunikation, die darauf abzielt, das Vertrauen der Bevölkerung zu stärken. Die Lösung besteht darin, die Institutionen so umzugestalten, dass sie des Vertrauens würdiger werden.

Quellen:

[1] Britische Regierung Website „Counter-Disinformation Unit – open source information collection and analysis: privacy notice“, am 16.3.2023: <https://www.gov.uk/government/publications/counter-disinformation-unit-open-source-information-collection-and-analysis-privacy-notice/counter-disinformation-unit-open-source-information-collection-and-analysis-privacy-notice>
[2] Britsche Regierung Website „Online Harms White Paper: Full government response to the consultation“, am 15.12.2020: <https://www.gov.uk/government/consultations/online-harms-white-paper/outcome/online-harms-white-paper-full-government-response>
[3] Associated Press (AP) Nachrichtenagentur, Kelvin Chan „Europe’s sweeping rules for tech giants have kicked in. Here’s how they work“, am 25.8.2023: <https://apnews.com/article/digital-services-act-social-media-regulation-europe-26d76cc4785df1153669258766cc6387>
[4] Taylor & Francis Verlagsgruppe, Deen Freelon und Chris Wells „Disinformation as Political Communication“, am 14.2.2020: <https://www.tandfonline.com/doi/full/10.1080/10584609.2020.1723755>
[5] Justizausschuss des US-Repräsentantenhauses „THE WEAPONIZATION OF CISA: HOW A “CYBERSECURITY” AGENCY COLLUDED WITH BIG TECH AND “DISINFORMATION” PARTNERS TO CENSOR AMERICANS“, am 26.6.2023:
<https://judiciary.house.gov/sites/evo-subsites/republicans-judiciary.house.gov/files/evo-media-document/cisa-staff-report6-26-23.pdf>
[6] Washingtonpost, Cat Zakrzewski „Appeals court limits cyberdefense agency’s contacts with tech companies“, am 3.10.2023: <https://www.washingtonpost.com/technology/2023/10/03/cisa-5thcircuit-election-injunction/>
[7] Taylor & Francis Verlagsgruppe (hier: über DOI Verweissystem), Tim Hayward „The Problem of Disinformation: A Critical Approach“, am 16.8.2024: <https://doi.org/10.1080/02691728.2024.2346127>
[8] siehe [7]: <https://www.tandfonne.com/doi/full/10.1080/02691728.2024.2346127>
[9] Tablet Magazin, Jacob Siegel „A Guide to Understanding the Hoax of the Century“, am 29.3.2023: <https://www.tabletmag.com/sections/news/articles/guide-understanding-hoax-century-thirteen-ways-looking-disinformation>
[10] JSTOR Online-Blibliothek, Paul W. Blackstock „The Tukhachevsky Affair“, im April 1969: <https://www.jstor.org/stable/127506>
[11] benmacintyre.com Blog, Ben Macintyre „Operation Mincemeat: The True Spy Story That Changed the Course of World War II“, am 1.9.2010: <https://benmacintyre.com/blog/book/operation-mincemeat/>
[12] IMBd Internet-Filmdatenbank, Michelle Ashford und Ben Macintyre „Die Täuschung“, in 2021:  <https://www.imdb.com/title/tt1879016/>
[13] Akademisches Bloggen – LSE, Daniel Williams „The focus on misinformation leads to a profound misunderstanding of why people believe and act on bad information“, am 5.9.2022: <https://blogs.lse.ac.uk/impactofsocialsciences/2022/09/05/the-focus-on-misinformation-leads-to-a-profound-misunderstanding-of-why-people-believe-and-act-on-bad-information/>
[14] Nature Communications Fachzeitschrift (hier: über DOI Verweissystem), Gregory Eady, Tom Paskhalis u. A. „Exposure to the Russian Internet Research Agency foreign influence campaign on Twitter in the 2016 US election and its relationship to attitudes and voting behavior“, am 9.1.2023: <https://doi.org/10.1038/s41467-022-35576-9>
[15] Columbia Journalism Review (CJR) Magazin, Jeff Gerth „The press versus the president, part one“, am 30.1.2023: <https://www.cjr.org/special_report/trumped-up-press-versus-president-part-1.php>
[16] IFKG Institut für Kritische Gesellschaftsforschung (hier: über DOI Verweissystem), Tim Hayward „Intelligence Agencies’ Communications with the Public“, am 2.8.2023:  <https://cdoi.org/1.2/065/000027>
[17] The Intercept Enthüllungs-Website,  Ken Klippenstein und Lee Fang „
Truth Cops – Leaked Documents Outline DHS’s Plans to Police Disinformation“, am 31.10.2022:
<https://theintercept.com/2022/10/31/social-media-disinformation-dhs/>
[18] Center for an Informed Public Universität Washington, Kate Starbird „Addressing falsehoods and the manipulated narrative of House Judiciary Committee Majority document: “The Weaponization of CISA: How a ‘Cybersecurity’ Agency Colluded With Big Tech and ‘Disinformation’ Partners to Censor Americans”“, am 23.8.2023: <https://www.cip.uw.edu/2023/08/23/starbird-house-judiciary-committee-report/>
[19] Election Integrity Partnership  überparteiliche Koalition Website: <https://www.eipartnership.net/>
[20] DocumentCloud All-in-One-Plattform „IN THE UNITED STATES DISTRICT COURTFOR THE WESTERN DISTRICT OF LOUISIANAMONROE DIVISION“, am 2.5.2023: <https://s3.documentcloud.org/documents/23854123/show_multidocs5.pdf>
[21] Generalstaatsanwaltschaft von Missouri „STATE OF MISSOURI, ET AL. CASE NO. 3:22-CV-01213VERSUS JUDGE TERRY A. DOUGHTYJOSEPH R. BIDEN JR., ET AL. MAG. JUDGE KAYLA D. MCCLUSKY“, am 4.7.2023: <https://ago.mo.gov/wp-content/uploads/missouri-v-biden-ruling.pdf>
[22] Justizausschuss des US-Repräsentantenhauses „THE WEAPONIZATION OF “DISINFORMATION” PSEUDO-EXPERTS AND BUREAUCRATS: HOW THE FEDERAL GOVERNMENT PARTNERED WITH UNIVERSITIES TO CENSOR AMERICANS’ POLITICAL SPEECH“, am 6.11.2023: <https://judiciary.house.gov/sites/evo-subsites/republicans-judiciary.house.gov/files/evo-media-document/EIP_Jira_Ticket_Staff_Report_11-6-23_Clean.pdf>
[23] SDR-Dienste Stanford Digital Repository „Memes, Magnets and Microchips: Narrative dynamics around COVID-19 vaccines“, am 24.2.2022: <https://purl.stanford.edu/mx395xj8490>
[24] Newsweek, Jay Bhattacharya & Joe Grogan „The Biden Administration Is Waging War on the First Amendment“, am 18.10.2023: <https://www.newsweek.com/biden-administration-waging-war-first-amendment-opinion-1835463>
[25] Virality Poject Koalition von Forschungsorganisationen, Matt Masterson, Alex Zaheer u. A. „Rumor Control: a Framework for Countering Vaccine Misinformation“, am 4.5.2024: <https://www.viralityproject.org/policy-analysis/rumor-control>
[26] YouTube, RSA Conference „Hot Topics in Misinformation: Election 2020, COVID 19, and More“, am 20.7.2021: <https://youtu.be/J3ryTUZK6TA?feature=shared&t=957>
[27] SCOTUSblog juristischer Blog, Nate Mowry „Missouri Solicitor General Josh Divine on government influence on social media“, am 18.3.2024: <https://www.scotusblog.com/2024/03/missouri-solicitor-general-josh-devine-on-government-influence-on-social-media/>
[28] Propaganda In Focus Anaysen, Tim Hayward „Academic Complicity in the Censorship Industry: The Case of Kate Starbird“, am 11.10.2023: <https://propagandainfocus.com/academic-complicity-in-the-censorship-industry-the-case-of-kate-starbird/>
[29] CIA “Morale Operations Field Manuel – Strategic Services”, am 27.12.2006: <https://www.cia.gov/readingroom/docs/CIA-RDP89-01258R000100010002-4.pdf>
[30] Leverhulme Trust Stiftung, Dr. James Smith „The Political Warfare Executive, covert propaganda, and British culture“, in 2018: <https://www.leverhulme.ac.uk/research-project-grants/political-warfare-executive-covert-propaganda-and-british-culture>

Das wahre Problem der Desinformation

Von Tim Hayward , veröffentlicht am: 3. August 2024, Kategorien: Medien & Technik

Dieser Text wurde zuerst am 04.06.2024 auf www.propagandainfocus.com unter der URL <https://propagandainfocus.com/the-real-problem-of-disinformation/> veröffentlicht. Lizenz: Tim Hayward, Propaganda in Focus, CC BY-NC-ND 4.0

Symbolbild (Foto: Marco Verch, CCNULL, CC-BY 2.0)

Laut der britischen Regierung, die eine spezielle Einheit zur Bekämpfung von Desinformation eingerichtet hat [1], besteht die „Gefahr, dass feindliche Akteure Online-Desinformation nutzen, um unsere demokratischen Werte und Grundsätze zu untergraben“ [2]. Das US-Ministerium für Innere Sicherheit hat Desinformation zu einer Bedrohung für kritische Infrastrukturen hochgestuft. Überall im Westen, allen voran in der Europäischen Union [3], werden neue Gesetze mit weitreichenden Bestimmungen gegen Online-Desinformation erlassen. Akademische Kommentatoren haben nicht lange gezögert, die Botschaft aufzugreifen: „Die Bedrohung, die Desinformation für eine gesunde demokratische Praxis darstellt“, so Freelon und Wells [4], hat sie zum „bestimmenden politischen Kommunikationsthema unserer Zeit“ gemacht.

Aber es gibt ein grundlegendes Problem mit dieser offiziellen Sichtweise: Die Kriterien zur Identifizierung angeblicher Fälle von Desinformation sind widersprüchlich. Diejenigen, die den „Kampf“ dagegen anführen, sind sich dessen sogar bewusst, wie aus dem E-Mail-Austausch zwischen US-Beauftragten für Cybersicherheit hervorgeht (hier auf S. 15 [5]). Aber das hat ihre Entschlossenheit weiterzumachen nicht beeinträchtigt – selbst wenn das bedeutet, die Rechte der Bürgerinnen und Bürger nach dem ersten Verfassungszusatz zu verletzen [6].

Dies, so möchte ich argumentieren, ist das eigentliche Problem der Desinformation: Nicht nur, dass der Begriff auf widersprüchliche Weise verwendet wird, sondern dass er als vermeintliche Rechtfertigung für die Unterdrückung von Informationen oder Ideen dient – welche von Regierungen und den mächtigen Gruppen, die sie beeinflussen, als unbequem empfunden werden.

Um dieses Problem zu erhellen, möchte ich im Folgenden einige Kernpunkte aus meinem akademischen Artikel „Das Problem der Desinformation: Ein kritischer Ansatz“ aufzeigen [7, 8] (öffentlich zugänglich in „Social Epistemology“ 2024).

1

Der Begriff „Desinformation“ wird auf unterschiedliche Weise verwendet. Obwohl er ein Problem benennt, gibt es unterschiedliche Ansichten über die Art des Problems. Ein Problem zweiter Ordnung besteht also darin, dass keine Einigkeit darüber besteht, was „das“ Problem der Desinformation eigentlich ist. Auf der Grundlage akademischer Abhandlungen über „Desinformation“, die eine begriffliche Verwirrung beinhalten, werden politische Maßnahmen mit weitreichenden Auswirkungen vorgeschlagen. Das bedeutet, dass man nicht davon ausgehen sollte, dass die darin enthaltenen Ratschläge fundiert sind.

Besonders besorgniserregend sind jene Arbeiten, die vorgeben, zur Bekämpfung von Desinformation beizutragen. Denn Maßnahmen, die vorgeschlagen werden, um eines der als Desinformation bezeichneten Probleme zu bekämpfen, können potenziell zu anderen Problemen führen, die sich aus unterschiedlichen Perspektiven ergeben können. Der Effekt könnte für die Gesellschaft schädlich sein.

Eine weitere Folge ist, dass ein Gefühl der Willkür in das öffentliche Bewusstsein eindringt und der Eindruck entsteht, dass der Begriff oft nur verwendet wird, um Ideen zu diskreditieren, die der Anwender missbilligt [9]. Leider ist dieser Eindruck, wie wir sehen werden, nicht falsch.

Das Grundproblem besteht darin, dass die „Experten für Desinformation“ die Kategorie zwar prinzipiell von Fehl- und Malinformation unterscheiden, diese dreiteilige analytische Einteilung in der Praxis aber nicht konsequent angewendet wird. Theoretisch bezieht sich der Begriff Desinformation auf Informationen, die falsch und schädlich sind – im Gegensatz zu Fehlinformationen (falsch, aber harmlos) und Malinformationen (schädlich, aber wahr); in der Praxis wird diese Unterscheidung jedoch nicht immer eingehalten. So wird der Begriff auch auf vermeintliche Fälle von „Desinformation“ angewendet, die weder falsch noch schädlich sind.

Studien, die sich mit der Frage befassen, wie Desinformation am besten bekämpft werden kann, sind in der akademischen Literatur mittlerweile vorherrschend – eine Google Scholar-Suche nach „Bekämpfung von Desinformation“ ergibt 1.520 Einträge, während „Identifizierung von Desinformation“ nur 388 und „Analyse von Desinformation“ nur 38 Einträge liefert. Dies deutet auf das mangelnde Interesse daran hin, wie man bestimmte Fälle von Desinformation zuverlässig erkennen kann. Befürworter des kämpferischen Ansatzes geben Ratschläge, wie man bestimmte vermeintliche Fälle von „Desinformation“ bekämpfen kann, ohne sicherzustellen, dass sie tatsächlich dieser Beschreibung entsprechen.

Screenshot: EU-Kommission, erstellt am 24.7.2024 – 12:43:25, https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_de

Im Gegensatz zum kämpferischen Ansatz erkennt ein kritischer Ansatz – wie er hier vertreten wird – die Notwendigkeit an, drei verschiedene Untersuchungsaufgaben durchzuführen. Dadurch kann festgestellt werden, ob überhaupt ein Fall von Desinformation vorliegt, bevor der Versuch erfolgt, Ratschläge zu formulieren, was dagegen zu tun sei: Eine erkenntnistheoretische Untersuchung bestimmt, ob eine kommunizierte Behauptung falsch ist; eine Verhaltensuntersuchung bestimmt, ob die Kommunikation koordiniert ist; und eine Sicherheitsuntersuchung bestimmt, ob die Kommunikation der Behauptung schädlich ist.

In der wissenschaftlichen Literatur wird in der Regel davon ausgegangen, dass Desinformation nur in einer oder manchmal in zwei der drei genannten Formen ein Problem darstellt. In einem Teil der Literatur wird der Begriff für alle Informationen verwendet, die irreführend sind – wie z. B. falsche Tatsachen – und wird daher austauschbar mit dem Begriff „Fehlinformation“ verwendet. Diese Formulierung des Problems ermöglicht eine klare Fokussierung auf das Kriterium der propositionalen Unwahrheit und hat daher den Vorteil, dass sie klar definiert ist; sie lässt jedoch das außer Acht, was aus einer anderen Perspektive den entscheidenden Unterschied zwischen Desinformation und Fehlinformation ausmacht, nämlich die Täuschungsabsicht. Aus dieser zweiten Perspektive würden unschuldige Fehler nicht als Desinformation gelten. Das eigentliche Problem der Desinformation wäre vielmehr in Fällen trügerischer strategischer Kommunikation zu suchen, wie sie sich beispielsweise in „koordiniertem, inauthentischem Verhalten“ in den sozialen Medien manifestieren kann. Diese können funktionieren, ohne notwendigerweise falsche Informationen zu verbreiten, sondern stattdessen durch selektive Darstellung und Auslassung von Wahrheiten. Eine dritte Sichtweise des Problems der Desinformation konzentriert sich nicht in erster Linie auf fehlerhafte Informationen oder koordinierte Täuschungsabsichten, sondern darauf, wie die Verbreitung bestimmter Ideen schädliche Auswirkungen auf das Gefüge der Gesellschaft oder ihrer Institutionen haben kann. Diese Besorgnis ist der Hauptgrund für das derzeitige wachsende Interesse am Thema Desinformation und die Finanzierung von Forschungsarbeiten zu diesem Thema. Ein damit verbundenes Problem besteht jedoch darin, dass – wenn bestimmte Ideen schädliche Auswirkungen haben können – dies aus anderen Gründen als ihrer Falschheit geschehen kann. Diese Erkenntnis hat dazu geführt, dass der Begriff „Malinformation“ geprägt wurde, um Ideen zu bezeichnen, die zwar wahr sein mögen, deren Verbreitung aber schädliche Auswirkungen haben soll.

Diejenigen, die sich mit schädlichen Ideen befassen, unterscheiden jedoch in der Praxis nicht unbedingt klar zwischen Desinformation und Fehlinformation, da Fragen der Wahrheit und Falschheit nicht ihr Hauptanliegen sind.

In der akademischen Literatur wie auch in der öffentlichen Debatte dient der Begriff „Desinformation“ daher als eine Art Überbegriff, der verschiedene Formen der Kommunikation umfasst, die falsch und/oder selektiv wahr und/oder schädlich sein können, je nachdem, welche Merkmale als kennzeichnend für sie angenommen werden. Dementsprechend variiert auch die Art des Problems, auf das er hinweist: als falsche Information ist er ein epistemisches Problem; als Täuschungsstrategie ist er ein Problem der inakzeptablen Aktivitäten einer koordinierten Agentur; als störende Ideen ist er eine Bedrohung für die Sicherheit, Legitimität oder ein anderes öffentliches Gut einer sozialen oder politischen Ordnung. Jedes dieser Probleme kann in einer bestimmten Situation auftreten, ohne dass eines oder beide der anderen notwendigerweise vorhanden sind. Das bedeutet, dass verschiedene Untersuchungen, die auf den drei unterschiedlichen Konzepten beruhen, nicht immer übereinstimmen würden, ob, wo oder wann ein Desinformations-Problem aufgetreten ist.

2

Trotz dieser Reihe von widersprüchlichen Konzeptualisierungen ist es im Prinzip möglich, eine schlüssige Charakterisierung der Desinformation vorzunehmen. Dazu muss man sich an die Art von Fällen erinnern, in denen er vor seiner jüngsten Popularisierung verwendet wurde. Die aus der Welt der Spionageabwehr [10] stammende Operation „Mincemeat“ [11] aus dem Zweiten Weltkrieg (die auch Gegenstand eines Films aus dem Jahr 2021 war [12]) ist ein gutes Beispiel dafür. Im Jahr 1943 lieferten die Briten den Deutschen irreführende Informationen über die Invasionspläne der Alliierten: Indem sie gefälschte Dokumente in einer Aktentasche deponierten, die an eine Leiche in Offiziersuniform gekettet war, welche an der spanischen Küste angespült wurde. Die Dokumente wurden, wie erhofft, an die Deutschen weitergegeben, die – da sie sie für echt hielten – ihre Verteidigungstruppen abzogen, wodurch während der Invasion zahlreiche alliierte Menschenleben verschont blieben. Bei dieser erfolgreichen Täuschung handelte es sich um einen gezielten Versuch, beim Feind eine falsche und für ihn schädliche Überzeugung zu erwecken. Sie passt also genau in alle drei Bereiche – Erkenntnis, Verhalten und Sicherheit.

Der Kontext dieser Illustration unterscheidet sich natürlich deutlich von dem zeitgenössischer Anliegen – was darauf hinweist, dass es dem heutigen Sprachgebrauch an vergleichbarer Schärfe mangelt. Im Falle des Krieges lassen sich Desinformationen klar identifizieren: Es besteht kein Zweifel, wer von wem über was oder wie getäuscht wurde. Außerdem handelt es sich um eine erklärte Kriegssituation. In zeitgenössischen Diskussionen über Desinformation wird oft von einem „Informationskrieg“ gesprochen, doch handelt es sich nicht um einen erklärten Krieg mit einem erklärten Feind. Die Bürger wissen vielleicht nicht genau, wo ihre Loyalität liegen soll oder warum Fragen der Wahrheit und der Unwahrheit überhaupt als Fragen der Loyalität und nicht der Erkenntnistheorie betrachtet werden sollten. Diejenigen, die Fehlinformationen „bekämpfen“ wollen, mögen behaupten, dass sie dies zum Wohle ihrer Mitbürger tun. Aber wenn wir Bürger uns nicht bewusst sind, dass wir uns in einem Krieg mit einem definierten Feind befinden, kann diese Behauptung ziemlich verwirrend sein und wir haben Grund, sie mit Vorsicht zu genießen.

Unter den heutigen Umständen hat der Begriff der Desinformation also eine erhebliche Aufweichung erfahren. Er kann unter diesen verschiedenen Umständen immer noch sinnvoll angewendet werden, aber nur in Fällen, in denen alle drei Bedingungen für eine eindeutige Identifizierung erfüllt sind.

Der auf Major William Martin ausgestellte Ersatzausweis, mit dem der Leichnam ausgestattet wurde, 1943. (Bild: Ewen Montagu Team, Wikimedia Commons, Gemeinfrei)

3

Unter den heutigen Umständen ist es schwer, Fälle zu finden, in denen alle drei Bedingungen unumstritten erfüllt sind. Denn während es relativ einfach sein mag, Fälle von vorsätzlicher Täuschung zu identifizieren, bei denen nicht nur reine Unwahrheiten, sondern auch Lügen durch Weglassen und selektive Wahrheiten eingesetzt werden, ist die Bewertung des Schadens eine andere Frage. Was als Schaden gilt und schwerwiegend genug ist, um Beachtung zu finden, hängt davon ab, welche Grundvoraussetzungen für das Wohlbefinden angenommen werden. Man sollte meinen, dass solche Fragen in einer Demokratie ein wichtiges Thema der öffentlichen Debatte sein sollten. Doch stattdessen wird Sicherheitsbedenken Vorrang vor der Sorge um die Wahrheit eingeräumt.

Wie zu Beginn dieses Artikels erwähnt, propagieren Regierungen, Journalisten und sogar Wissenschaftler die Idee, Desinformation sei eine herausragende Bedrohung unserer Zeit.

Die Tatsache, dass die Menschen weniger von Desinformation beeinflusst werden, als von denjenigen angenommen wird, die Alarm schlagen [13], wird selten anerkannt;

ebenso wenig wie die Tatsache, dass angebliche Bedrohungen wie die „russische Desinformation“, die von vielen Autoren als paradigmatisch angesehen werden (eine Google Scholar-Suche in der akademischen Literatur seit 2016 nach „russischer Desinformation“ ergab 3.460 Artikel), vernachlässigbare Auswirkungen haben [14] – selbst wenn sie nicht direkt fiktiv sind [15]. Die Wirkung dieser Warnungen vor den Gefahren der Desinformation hat jedoch Einfluss auf die Öffentlichkeit. Und dieser Einfluss wird von westlichen Staaten politisch angestrebt, unter anderem durch ihre Sicherheitsdienste, die eine zentrale Rolle bei der Darstellung von Desinformation als Sicherheitsbedrohung spielen. In Großbritannien zum Beispiel haben sich die jeweiligen Leiter von MI5, MI6, GCHQ (Government Communications Headquarters, Anm. d. Red.) und der 77. Brigade der britischen Armee ausdrücklich zu Teilnehmern an einem „Informationskrieg“ erklärt. [16] In den USA verfügt das Ministerium für Heimatschutz – das ursprünglich zur Koordinierung des Krieges gegen den Terrorismus geschaffen wurde – heute über eine Agentur für Cybersicherheit und Infrastruktursicherheit (CISA), deren Direktorin, Jen Easterly, behauptet, dass „die kritischste Infrastruktur unsere kognitive Infrastruktur ist“ [17]. Sie richtete einen speziellen Unterausschuss ein, der über Fehlinformation, Desinformation und Malinformation (Misinformation, Disinformation, Malinformation, kurz MDM, Anm. d. Red.) berät. [18] Den Vorsitz des MDM, dem auch Alex Stamos von der Universität Stanford angehörte, übernahm die Akademikerin Kate Starbird von der Universität Washington.

Inzwischen hat sich herausgestellt, dass dieser „Rat“ nicht nur auf einer fehlerhaften Analyse beruhte, sondern auch so angewandt wurde, dass die grundlegenden verfassungsrechtlichen Garantien zum Schutz der Redefreiheit untergraben wurden. Ein berüchtigtes Beispiel dafür ist die „Election Integrity Partnership“ (EIP) [19], die von Starbird und Stamos im Vorfeld der Präsidentschaftswahlen 2020 auf Veranlassung des CISA gegründet wurde – angeblich, um „unsere Wahlen gegen diejenigen zu verteidigen, die versuchen, sie durch Ausnutzung von Schwachstellen im Online-Informationsumfeld zu untergraben“. Sie konzentrierte sich insbesondere auf unbestätigte Informationen über Wahlunregelmäßigkeiten, da diese als Bedrohung für die Institutionen der Demokratie angesehen wurden. Freiwillige Studenten der University of Washington und der Stanford University hatten die Aufgabe, Beiträge in den sozialen Medien zu markieren, die sie als Desinformation einstuften, damit die Plattformen Maßnahmen ergreifen konnten – wie z. B. die Entschärfung oder Unterdrückung dieser Beiträge. Laut EIP-Direktor Stamos bestand ihr Ziel darin, „in der Lage zu sein, Desinformationen zu finden, diese schnell zu melden und dann mit ihnen zusammenzuarbeiten, um sie zu entfernen“ (Hines v. Stamos para. 40 [20]). Bei den fraglichen Beiträgen handelte es sich auffallend oft um Gespräche zwischen US-Bürgern. [21] Diese Überwachung und Zensur inländischer Akteure – unter Verletzung des Schutzes durch den Ersten Verfassungszusatz der USA [22] – markierte eine Abkehr von dem ursprünglichen Verständnis von Desinformation als Sicherheitsbedrohung durch feindliche ausländische Akteure.

Eine weitere Verschiebung war insbesondere beim Nachfolger von EIP, dem „Virality Project“ (VP) [23], zu beobachten. Dessen Hauptaufgabe bestand darin, Beiträge, die die Sicherheit, Wirksamkeit oder Notwendigkeit der COVID-19-Impfstoffe in Frage stellten, für die Plattform zu kennzeichnen. Wie das EIP überwachte auch dieses Projekt die inländische Kommunikation (und wurde in ähnlicher Weise vor US-Gerichten angefochten [24]), doch während das EIP noch mit der stillschweigenden Annahme arbeitete, dass eine bestimmte feindliche – wenn auch nicht unbedingt ausländische – Organisation zumindest einige der Nachrichten koordinieren könnte, da erkennbare politische Interessen auf dem Spiel standen, betrachtete das VP die Desinformation selbst als den Feind. Das Team hat keinen feindlichen Auftraggeber – der die vermeintliche Desinformations-Operation leitet – identifiziert oder auch nur auf einen solchen hingedeutet:

Sie erklärten, sie seien besorgt über eine „hochgradig vernetzte und koordinierte Anti-Impf-Gemeinschaft“ [25], aber sie haben keinen bestimmten Auftraggeber als Orchestrator oder Lenker dieser Operation angegeben, weder im Inland noch im Ausland. Sie behaupteten auch nicht, dass die „Anti-Impf-Gemeinschaft“ feindliche Absichten habe. Das, womit sie sich beschäftigten, könnte also eher als Fehlinformation und nicht als Desinformation bezeichnet werden, wenn man den oben beschriebenen Rahmen zugrunde legt.

Siegel der Agentur für Cybersicherheit und Infrastruktursicherheit, 30.4.2020. (Bild: Cybersecurity and Infrastructure Security Agency, Wikimedia Commons, CC-PD-Mark)

Nur waren – und das ist eine entscheidende dritte Abweichung vom paradigmatischen Fall der Desinformation – die von der VP gekennzeichneten Informationen keineswegs immer falsch. Diese epistemische Unzuverlässigkeit des Vorgangs war eine vorhersehbare Folge der Tatsache, dass weder die Studenten der Informatik und der Internationalen Beziehungen, die die Kennzeichnung vornahmen, noch die „Desinformations-Experten“, die ihnen sekundierten, irgendwelche Fachkenntnisse in Fragen der öffentlichen Gesundheit oder der Immunologie vorweisen konnten. Die EIP/VP-Projektleiterin Isabella Garcia-Camargo, eine ehemalige CISA-Praktikantin, gab sogar offen zu, dass „es wirklich unklar ist, mit wem wir eigentlich zusammenarbeiten sollen, um die Gegenargumente zu liefern“ [26]. Ihr Studententeam fällte jedoch vorschnelle Urteile, die zur Zensur und Stigmatisierung weltweit bekannter Epidemiologen wie Jay Bhattacharya, Sunetra Gupta und Martin Kulldorff führten – eine Angelegenheit, die sich ihren Weg durch die US-Gerichte gebahnt hat und derzeit vor dem Obersten Gerichtshof der USA verhandelt wird [27]. Denn es gibt reichlich Beweise dafür, dass das „Virality Project“ Mitteilungen von wirklich fachkundigen Forschern, die einfach nur von den orthodoxen Ansichten abwichen, die von staatlichen Sicherheitsbehörden wie dem CISA als maßgebend anerkannt wurden, als „Desinformation“ bezeichnete. Mit anderen Worten, die politische Autorität hat hier die epistemische Autorität als Grundlage für die Identifizierung von Desinformation abgelöst. Dies steht im diametralen Gegensatz zur Situation im ursprünglichen und paradigmatischen Fall der Desinformation, wo die politische Autorität des Staates dazu diente, die höchstmögliche epistemische Sorgfalt zu ermöglichen.

Aus der Dokumentation, die dank FOIA-Anträgen (FOIA = Freedom of Information Act, Anm. d. Red.) und Vorladungen jetzt verfügbar ist, gewinnt man den Eindruck, dass das Ziel heutiger Maßnahmen gegen Desinformation nicht so sehr darin besteht, zu verhindern, dass die Menschen in die Irre geführt werden, sondern vielmehr darin, sie davor zu bewahren, durch nicht autorisierte Erzählungen beeinflusst zu werden. Es wird davon ausgegangen, dass bestimmte unzulässige Darstellungen – wie die der „Impfgegner“ im Fall der VP – schädlich sind, selbst wenn sie nicht unwahr sind.

Dieser Artikel ist nicht der richtige Ort, um sich zum Inhalt solcher Annahmen zu äußern. Aber der begriffliche Punkt, der hervorzuheben ist, besteht darin, dass es in solchen Fällen nicht um Täuschung geht, sondern um etwas, das ganz klar als Malinformation bezeichnet wird. Diese klare Unterscheidung wurde innerhalb des US-Ministeriums für Innere Sicherheit erkannt. In privaten Gesprächen innerhalb des MDM-Unterausschusses des CISA wurde das Thema nämlich vor der Veröffentlichung des Berichts angesprochen, in dem daraufhin alle Verweise auf MDM in MD, d. h. ohne Malinformation, geändert wurden (siehe meine frühere Diskussion [28]). Wie Starbird jedoch feststellte, änderte dies nichts an der Tatsache, dass Malinformationen nach wie vor in ihren Zuständigkeitsbereich fielen.

Wir sehen also, dass einige derjenigen, deren Hauptanliegen die Bekämpfung von Desinformation ist, die als Bedrohung für die Gesellschaft dargestellt wird, mit einer Interpretation des Begriffs arbeiten, die radikal von derjenigen abweicht, die im ursprünglichen Kontext seiner Verwendung angenommen wurde. Wurde Desinformation früher als eine von einem feindlichen ausländischen Agenten verdeckt durchgeführte Täuschungspraxis angesehen, so wird sie heute als eine dargestellt, die von einheimischen Bürgern in der Öffentlichkeit durchgeführt wird – ohne dass eine Täuschungsabsicht besteht und sogar, ohne dass überhaupt eine Täuschung vorliegt. In Kriegszeiten wäre die in diesem Zusammenhang kritisierte Praxis – insofern sie Malinformation beinhaltet – als Propaganda bezeichnet worden.

Insbesondere wurde Malinformation in der Propaganda verwendet, die von einem bestimmten Zweig der militärischen Operationen produziert wurde. So verfügte das US-Militär über eine Abteilung für Moral-Operationen [29] nach dem Vorbild der britischen „Political Warfare Executive“ [30], deren Ziel nicht so sehr darin bestand, die gegnerische Führung zu täuschen, sondern deren Bürger und Fußsoldaten zu demoralisieren.

In jeder Konfliktsituation ist es wichtig zu wissen, wer wirklich auf der eigenen Seite steht. Im aktuellen Krieg gegen Desinformation ist dies alles andere als klar. Die Bemühungen zur „Bekämpfung“ von Desinformation können eine größere Bedrohung für die demokratischen Institutionen der Gesellschaft darstellen als die Desinformation selbst. Die Bedrohung, die Desinformation für die Legitimität oder Sicherheit demokratischer Institutionen darstellt, wird in einer Literatur überbewertet, die der „Bekämpfung“ von Mitteilungen Vorrang einräumt, deren Inhalt nicht als epistemisch unzuverlässig erwiesen ist, sondern einfach im Widerspruch zu den „Mainstream-Wahrheiten“ steht. Ein gut funktionierendes demokratisches System sollte nicht nur in der Lage sein, abweichende Meinungen zuzulassen, sondern sogar von ihnen profitieren.

4

Ein weit verbreiteter Verdacht auf Desinformation könnte, so das hier vorgetragene Argument, symptomatisch für eine Gesellschaft sein, die nicht der Beschreibung einer gut funktionierenden Demokratie entspricht. Moralische Panik über „Desinformation“ erscheint dann als eine Reaktion auf das Symptom, die sich nicht dem eigentlichen Problem stellt. Insofern Beschwerden sich auf die Untergrabung des Vertrauens in die Institutionen konzentrieren, sind sie fehlgeleitet, wenn sie davon ausgehen, dass das Problem bei den Menschen liegt – deren Vertrauen geschwunden ist und die sich von abweichenden Ansichten über die Unzuverlässigkeit der Institutionen haben beeinflussen lassen. Solche fehlgeleiteten Beschwerden laufen auf eine Mystifizierung des Problems hinaus. Wenn das Vertrauen in Institutionen schwindet, liegt die Lösung nicht in einer strategischen Kommunikation, die darauf abzielt, das Vertrauen der Bevölkerung zu stärken. Die Lösung besteht darin, die Institutionen so umzugestalten, dass sie des Vertrauens würdiger werden.

Quellen:

[1] Britische Regierung Website „Counter-Disinformation Unit – open source information collection and analysis: privacy notice“, am 16.3.2023: <https://www.gov.uk/government/publications/counter-disinformation-unit-open-source-information-collection-and-analysis-privacy-notice/counter-disinformation-unit-open-source-information-collection-and-analysis-privacy-notice>
[2] Britsche Regierung Website „Online Harms White Paper: Full government response to the consultation“, am 15.12.2020: <https://www.gov.uk/government/consultations/online-harms-white-paper/outcome/online-harms-white-paper-full-government-response>
[3] Associated Press (AP) Nachrichtenagentur, Kelvin Chan „Europe’s sweeping rules for tech giants have kicked in. Here’s how they work“, am 25.8.2023: <https://apnews.com/article/digital-services-act-social-media-regulation-europe-26d76cc4785df1153669258766cc6387>
[4] Taylor & Francis Verlagsgruppe, Deen Freelon und Chris Wells „Disinformation as Political Communication“, am 14.2.2020: <https://www.tandfonline.com/doi/full/10.1080/10584609.2020.1723755>
[5] Justizausschuss des US-Repräsentantenhauses „THE WEAPONIZATION OF CISA: HOW A “CYBERSECURITY” AGENCY COLLUDED WITH BIG TECH AND “DISINFORMATION” PARTNERS TO CENSOR AMERICANS“, am 26.6.2023:
<https://judiciary.house.gov/sites/evo-subsites/republicans-judiciary.house.gov/files/evo-media-document/cisa-staff-report6-26-23.pdf>
[6] Washingtonpost, Cat Zakrzewski „Appeals court limits cyberdefense agency’s contacts with tech companies“, am 3.10.2023: <https://www.washingtonpost.com/technology/2023/10/03/cisa-5thcircuit-election-injunction/>
[7] Taylor & Francis Verlagsgruppe (hier: über DOI Verweissystem), Tim Hayward „The Problem of Disinformation: A Critical Approach“, am 16.8.2024: <https://doi.org/10.1080/02691728.2024.2346127>
[8] siehe [7]: <https://www.tandfonne.com/doi/full/10.1080/02691728.2024.2346127>
[9] Tablet Magazin, Jacob Siegel „A Guide to Understanding the Hoax of the Century“, am 29.3.2023: <https://www.tabletmag.com/sections/news/articles/guide-understanding-hoax-century-thirteen-ways-looking-disinformation>
[10] JSTOR Online-Blibliothek, Paul W. Blackstock „The Tukhachevsky Affair“, im April 1969: <https://www.jstor.org/stable/127506>
[11] benmacintyre.com Blog, Ben Macintyre „Operation Mincemeat: The True Spy Story That Changed the Course of World War II“, am 1.9.2010: <https://benmacintyre.com/blog/book/operation-mincemeat/>
[12] IMBd Internet-Filmdatenbank, Michelle Ashford und Ben Macintyre „Die Täuschung“, in 2021:  <https://www.imdb.com/title/tt1879016/>
[13] Akademisches Bloggen – LSE, Daniel Williams „The focus on misinformation leads to a profound misunderstanding of why people believe and act on bad information“, am 5.9.2022: <https://blogs.lse.ac.uk/impactofsocialsciences/2022/09/05/the-focus-on-misinformation-leads-to-a-profound-misunderstanding-of-why-people-believe-and-act-on-bad-information/>
[14] Nature Communications Fachzeitschrift (hier: über DOI Verweissystem), Gregory Eady, Tom Paskhalis u. A. „Exposure to the Russian Internet Research Agency foreign influence campaign on Twitter in the 2016 US election and its relationship to attitudes and voting behavior“, am 9.1.2023: <https://doi.org/10.1038/s41467-022-35576-9>
[15] Columbia Journalism Review (CJR) Magazin, Jeff Gerth „The press versus the president, part one“, am 30.1.2023: <https://www.cjr.org/special_report/trumped-up-press-versus-president-part-1.php>
[16] IFKG Institut für Kritische Gesellschaftsforschung (hier: über DOI Verweissystem), Tim Hayward „Intelligence Agencies’ Communications with the Public“, am 2.8.2023:  <https://cdoi.org/1.2/065/000027>
[17] The Intercept Enthüllungs-Website,  Ken Klippenstein und Lee Fang „
Truth Cops – Leaked Documents Outline DHS’s Plans to Police Disinformation“, am 31.10.2022:
<https://theintercept.com/2022/10/31/social-media-disinformation-dhs/>
[18] Center for an Informed Public Universität Washington, Kate Starbird „Addressing falsehoods and the manipulated narrative of House Judiciary Committee Majority document: “The Weaponization of CISA: How a ‘Cybersecurity’ Agency Colluded With Big Tech and ‘Disinformation’ Partners to Censor Americans”“, am 23.8.2023: <https://www.cip.uw.edu/2023/08/23/starbird-house-judiciary-committee-report/>
[19] Election Integrity Partnership  überparteiliche Koalition Website: <https://www.eipartnership.net/>
[20] DocumentCloud All-in-One-Plattform „IN THE UNITED STATES DISTRICT COURTFOR THE WESTERN DISTRICT OF LOUISIANAMONROE DIVISION“, am 2.5.2023: <https://s3.documentcloud.org/documents/23854123/show_multidocs5.pdf>
[21] Generalstaatsanwaltschaft von Missouri „STATE OF MISSOURI, ET AL. CASE NO. 3:22-CV-01213VERSUS JUDGE TERRY A. DOUGHTYJOSEPH R. BIDEN JR., ET AL. MAG. JUDGE KAYLA D. MCCLUSKY“, am 4.7.2023: <https://ago.mo.gov/wp-content/uploads/missouri-v-biden-ruling.pdf>
[22] Justizausschuss des US-Repräsentantenhauses „THE WEAPONIZATION OF “DISINFORMATION” PSEUDO-EXPERTS AND BUREAUCRATS: HOW THE FEDERAL GOVERNMENT PARTNERED WITH UNIVERSITIES TO CENSOR AMERICANS’ POLITICAL SPEECH“, am 6.11.2023: <https://judiciary.house.gov/sites/evo-subsites/republicans-judiciary.house.gov/files/evo-media-document/EIP_Jira_Ticket_Staff_Report_11-6-23_Clean.pdf>
[23] SDR-Dienste Stanford Digital Repository „Memes, Magnets and Microchips: Narrative dynamics around COVID-19 vaccines“, am 24.2.2022: <https://purl.stanford.edu/mx395xj8490>
[24] Newsweek, Jay Bhattacharya & Joe Grogan „The Biden Administration Is Waging War on the First Amendment“, am 18.10.2023: <https://www.newsweek.com/biden-administration-waging-war-first-amendment-opinion-1835463>
[25] Virality Poject Koalition von Forschungsorganisationen, Matt Masterson, Alex Zaheer u. A. „Rumor Control: a Framework for Countering Vaccine Misinformation“, am 4.5.2024: <https://www.viralityproject.org/policy-analysis/rumor-control>
[26] YouTube, RSA Conference „Hot Topics in Misinformation: Election 2020, COVID 19, and More“, am 20.7.2021: <https://youtu.be/J3ryTUZK6TA?feature=shared&t=957>
[27] SCOTUSblog juristischer Blog, Nate Mowry „Missouri Solicitor General Josh Divine on government influence on social media“, am 18.3.2024: <https://www.scotusblog.com/2024/03/missouri-solicitor-general-josh-devine-on-government-influence-on-social-media/>
[28] Propaganda In Focus Anaysen, Tim Hayward „Academic Complicity in the Censorship Industry: The Case of Kate Starbird“, am 11.10.2023: <https://propagandainfocus.com/academic-complicity-in-the-censorship-industry-the-case-of-kate-starbird/>
[29] CIA “Morale Operations Field Manuel – Strategic Services”, am 27.12.2006: <https://www.cia.gov/readingroom/docs/CIA-RDP89-01258R000100010002-4.pdf>
[30] Leverhulme Trust Stiftung, Dr. James Smith „The Political Warfare Executive, covert propaganda, and British culture“, in 2018: <https://www.leverhulme.ac.uk/research-project-grants/political-warfare-executive-covert-propaganda-and-british-culture>