BEHIND CLOSED CURTAINS - Desinformation auf Messengerdiensten Ann Cathrin Riedel - Friedrich-Naumann ...
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
BEHIND
CLOSED
CURTAINS
Desinformation auf Messengerdiensten
Ann Cathrin Riedel
ANALYSE
Impressum Herausgeber Friedrich-Naumann-Stiftung für die Freiheit Karl-Marx-Straße 2 14482 Potsdam-Babelsberg /freiheit.org /FriedrichNaumannStiftungFreiheit /FNFreiheit Autorin Ann Cathrin Riedel Redaktion Referat Globale Themen, Fachbereich Internationales, Friedrich-Naumann-Stiftung für die Freiheit Kontakt Telefon +49 30 220126-34 Fax +49 30 690881-02 E-Mail service@freiheit.org Stand Juli 2020 Bildnachweis: (S. 13) facebook.com/alternativefuerde (S. 27) naulicrea/envato elements (S. 30) Hendrik Wieduwilt Hinweis zur Nutzung dieser Publikation Diese Publikation ist ein Informationsangebot der Friedrich-Naumann-Stiftung für die Freiheit. Die Publikation ist kostenlos erhältlich und nicht zum Verkauf bestimmt. Sie darf nicht von Parteien oder von Wahlhelfern während eines Wahlkampfes zum Zwecke der Wahlwerbung verwendet werden (Bundestags-, Landtags- und Kommunalwahlen sowie Wahlen zum Europäischen Parlament). Lizenz Creative Commons (CC BY-NC-ND 4.0)
Inhalt Einleitung 5 Sich der Komplexität bewusst werden – Begriffsdefinitionen 6 Die drei Typen der Information Disorder 6 Die drei Elemente der Information Disorder 6 Die drei Phasen der Information Disorder 7 Medienkonsum und psychologische Effekte 8 Bilder zur einprägsamen Verbreitung von Desinformationen 10 Messengerdienste – Ein Überblick 11 Umgang und Erfahrungen mit Desinformationen auf Messengern in der Welt: Ein Blick nach Deutschland, Indien und Brasilien 12 Case Study Deutschland 12 Infrastruktur 12 Nachrichtenkonsum 12 Desinformationen bei Wahlen in Deutschland 12 Messenger in der politischen Kommunikation 14 Case Study Indien 15 Infrastruktur 15 Nachrichtenkonsum 16 Falsch- und Desinformation in Indien 17 Gründe für das Teilen von Falsch- und Desinformationen 18 Case Study Brasilien 19 Infrastruktur 19 Nachrichtenkonsum 19 Präsidentschaftswahlen 2018 20 Policy Empfehlungen 22 1. Probleme korrekt benennen, die Komplexität der Problematik anerkennen 22 2. Verantwortung von Politik und Diplomatie 22 3. Verantwortung von Plattformen und Technikgestaltung 23 4. Richtige Regulierung 24 5. Journalismus 24 6. Resiliente Gesellschaften 25 Glossar 26 Literaturverzeichnis 28 Autorin 30
DESINFORMATION AUF MESSENGERDIENSTEN 4
Executive Summary
Desinformationen, gerne auch „Fake News„ genannt, nen Land genutzt wird, dann schadet das nicht nur dem
wurden in Deutschland vor allem im Zuge von Wahl- eigenen demokratischen Diskurs. Es verhindert auch,
kämpfen – sei es zur Bundestagswahl 2017 oder zur dass die Brisanz und die (teils schleichende) Zerstö-
Europawahl 2019 – diskutiert und als Bedrohung wahr- rungskraft von strategischer Desinformation als solche
genommen. Dabei sah man sie häufig als ein externes deutlich wird. Es reicht dabei nicht, nur diese Typen der
Problem an, möglichen Akteuren im Inland wurde kaum Information richtig zu benennen. Die komplexe „Infor-
Aufmerksamkeit geschenkt. Social-Media-Plattformen mation Disorder„ in der wir uns gerade befinden verlangt
wie Facebook, Twitter und YouTube wurden aufgefor- vielmehr, dass wir sowohl die Elemente, als auch die
dert, Maßnahmen gegen Desinformationen zu ergreifen. Phasen einer Information, beziehungsweise die Wege
Das seit Anfang 2020 grassierende neuartige Coronavi- ihrer Verbreitung betrachten.
rus offenbarte nun, was vielen zumindest
in Deutschland wenig bewusst war: „Desinformation Sowohl Indien als auch Brasilien hatten
Desinformationen gibt es zum einen bereits mit immensen Problemen durch
auch im nicht-politischen Bereich – und
ist ein gesamtgesell- die Verbreitung von Desinformationen
zwar in erschreckend großem Ausmaß. schaftliches Problem.“ auf Messengern, insbesondere Whats-
Zum anderen werden sie zunehmend App, zu kämpfen. In Indien hat der Mes-
über Messenger wie WhatsApp und Telegram verbreitet. senger einen entscheidenden Anteil an der Verbreitung
So waren es in Deutschland zwei Sprachnachrichten, die von Nachrichten, die unter anderem zu Mob-Gewalt
über WhatsApp viral gingen und Desinformationen über und Lynchmorden führten und führen. In Brasilien
das Virus verbreiteten. Diese Sprachnachrichten wurden nutzten Präsident Jair Bolsonaro und seine Anhänger-
so intensiv verbreitet, dass die Bundesregierung schließ- schaft WhatsApp, um Botschaften zu verbreiten, Des-
lich selbst Gegenmaßnahmen einleitete. Aber dieses informationen in Umlauf zu bringen, politische Gegner
Problem betrifft nicht nur Deutschland: Die Weltgesund- zu diskreditieren und Kritiker mundtot zu machen.
heitsorganisation spricht von einer „Infodemie„ bezüglich Facebook, der Konzern, dem WhatsApp gehört, hat
Corona und auch die Social-Media-Plattformen haben bereits auf die Vorkommnisse in beiden Ländern re-
weitreichende Maßnahmen ergriffen, um Falsch- und agiert und technische Änderungen an dem Messenger
Desinformationen im Zusammenhang mit dem neuarti- vorgenommen, die der Verbreitung von Desinformation
gen Coronavirus schnellstmöglich zu entfernen. Einhalt gebieten sollen. Mit mäßigem Erfolg.
Das vorliegende Papier entstand während der Anfänge Es ist essentiell zu erkennen, dass ausschließlich
der Pandemie. Es wird sich deswegen nicht auf die technologiefokussierte Lösungsstrategien nicht
aktuellen Geschehnisse und Erkenntnisse beziehen. erfolgsversprechend sind. Für dieses Papier wurden
Stattdessen versucht es aufzuzeigen, welche Erkennt- mehrere Studien ausgewertet die zeigen, dass Mes-
nisse wir bisher zur Verbreitung von Desinformation mit sengerdienste die Verbreitung von Desinformationen
Messengern haben und nimmt neben Deutschland auch zwar leichter machen und verstärken. Eine Lösung des
Indien und Brasilien in den Blick. Zwei Länder, die bereits Problems muss allerdings die Komplexität der Infor-
erheblich mit der Problematik zu kämpfen hatten. mationsverbreitung in den Blick nehmen. So zeigen
die Fallbeispiele der einzelnen Länder, dass vor allem
Es ist wichtig, die richtigen, trennscharfen Begriffe zu mangelndes Vertrauen in den Staat, beziehungsweise
verwenden: Nicht nur um die Problematik, sondern auch in die Regierung, einen wichtigen Faktor für die Weiter-
die jeweiligen Intentionen benennen und beurteilen zu verbreitung von Desinformation darstellt. Eine ebenso
können. Der Begriff „Fake News„ kann daher kein geeig- große Rolle spielen zunehmender Nationalismus und
neter Begriff für diesen Diskurs sein. Denn es kann sich Begleiterscheinungen wie Rassismus, Sexismus und
bei den Informationen, um die es im Folgenden gehen Antisemitismus. Sinkendes Vertrauen in Journalismus
soll, sowohl um falsche Information („fake„), als auch ist ein zusätzliches Problem.
um Des-Information handeln. Dabei ist zu unterschei-
den, dass eine falsche Information immer vorkommen Die Infodemie rund um das neuartige Coronavirus ver-
kann. Meist, weil schlecht recherchiert wurde, oder deutlicht die Brisanz des Themas. Es wird dringend Zeit
ein Missverständnis vorliegt. Hinter der Verbreitung für einen umfassenden und differenzierten Diskurs rund
falscher Informationen liegt aber nicht automatisch um die beschriebene Problematik: Es reicht nicht, wenn
ein böswilliger Gedanke. Anders bei Des-Informationen, wir ausschließlich über Social-Media-Plattformen spre-
die gezielt diffamieren, Gesellschaften destabilisieren chen, Desinformation nur als Problem im Zusammen-
oder Zwietracht säen sollen. Wenn nun der Begriff hang mit Politik und Wahlkampf sehen und das Problem
„Fake News„ sowohl zur Diskreditierung der unliebsa- vornehmlich als eine äußere Bedrohung wahrnehmen.
men Aussage des politischen Gegners, als auch für die Um eine Lösung für das Problem zu finden, brauchen
„Informationskampagne„ eines anderen Staats im eige- wir zuallererst einen breiten gesellschaftlichen Diskurs.DESINFORMATION AUF MESSENGERDIENSTEN 5
Die Bekämpfung von Desinformation ist eine gesamt- vertrauenswürdigen Quellen an prominenter Stelle, wie
gesellschaftliche Aufgabe, die von vielen angegangen es einige Plattformen während der Corona-Pandemie
werden muss und nicht alleinig an Plattformbetreiber bereits tun.
ausgelagert werden darf.
4. Falsch- und Desinformation sind meist nicht strafbar.
Dieses Papier liefert sechs Empfehlungen, die Grund- Regulierung muss daher in anderen Bereichen ansetzen.
lage für politische Entscheidungen und Basis für einen Dabei sollte nicht die Frage nach viel oder wenig Regu-
weiteren Diskurs bieten sollten: lierung gestellt werden, sondern wie gute Regulierung
aussehen kann und welche Bereiche sinnvoll zu regulieren
1. Klare und korrekte Begriffe sind die Grundlage jegli- wären. Durchsetzung von Datenschutzrecht und eine
cher Maßnahmen zur Problemlösung. Der leider weit Reformierung und Durchsetzung des Kartellrechts können
verbreitete Begriff „Fake News„ ist gerade nicht klar Stellschrauben sein. Tatsache ist aber auch, dass es für
definiert – und somit ungeeignet für die Diskussion. eine gute Regulierung eine bessere Forschung als Grund-
Auch das Differenzieren und Benennen von Formaten lage braucht. Zur Bereitstellung der entsprechenden Daten
der Falsch- und Desinformation, ihre Verbreitungswege kann eine regulatorische Maßnahme sinnvoll sein.
und die Intentionen einzelner Akteure sind wichtige
Bestandteile, die bislang zu kurz kommen. 5. Das Vertrauen in Medien sinkt weltweit. Nicht nur die
Digitalisierung stellt die Medienbranche vor immense
2. In der Außenpolitik muss mehr Augenmerk auf die Herausforderungen. Auch die abnehmende Pressefrei-
Bekämpfung von Desinformation gelegt werden: Wenn heit stellt ein ernst zu nehmendes Problem dar. Es müs-
Missstände dadurch entstehen, dass Regierungen die sen dringend tragende Finanzierungsmodelle gefunden
Auswirkungen von Desinformationen tolerieren oder för- werden, die vor allem den Lokaljournalismus stärken.
dern, dann sollte das auch international verurteilt werden. Zudem muss ein Umgang mit Desinformation gefunden
Es ist wichtig, dass bei der Schaffung einer globalen In- werden, der nicht unbeabsichtigt zu deren Weiterver-
ternet Governance die Bekämpfung von Desinformation breitung beiträgt.
mitgedacht wird: Dabei muss die Politik stärker Platt-
formbetreiber in die Verantwortung nehmen. Sowohl bei 6. Desinformation ist ein gesamtgesellschaftliches
gesetzlicher Regulierung, als auch bei Selbstregulierung Problem. Eine Bundeszentrale für digitale Bildung kann
gilt es, auf die Einhaltung der Menschenrechte zu achten. entsprechende Informationen für Schulen bereitstellen
und Weiterbildungsprogramme für alle anbieten. Ein
3. Desinformation-by-Design: Messenger müssen wichtiger Baustein für die Bekämpfung, beziehungswei-
überprüfen, inwieweit sie mittels Technikgestaltung der se den Umgang mit ihr, sind mündige Bürgerinnen und
Verbreitung von Desinformationen Einhalt gebieten und Bürger, die um die Problematik, die Verbreitungswege
für mehr Transparenz und Nachvollziehbarkeit sorgen und die Intention hinter Desinformation wissen. Dass
können. Einschränkungen bei der massenweisen Menschen für Desinformation empfänglich sind, hat
Weiterleitung von Nachrichten sind ein guter Anfang. wenig mit dem allgemeinen Bildungsniveau zu tun. Den-
Ebenso wie die Bereitstellung von Informationen von noch ist Weiterbildung in jedem Alter essentiell.
Einleitung
Desinformation ist kein neues Phänomen, das erst Tagesordnung geschafft: Es wird heftig diskutiert,
mit der Digitalisierung aufkam. Vielmehr wurden was Desinformation innerhalb von Gesellschaften
Desinformationen wohl schon immer eingesetzt, um anrichtet, aber auch welche Gefahr von außerhalb
politischen Gegnern zu schaden, Gesellschaften zu durch einen sogenannten Information Warfare droht.
destabilisieren und Regime zu legitimieren. Neu ist, Dass Messenger zur Verbreitung von Desinformation
dass sich Desinformationen dank der Digitalisierung und Verschwörungserzählungen genutzt werden, ist
mit rasanter Geschwindigkeit verbreiten. Alle können in Deutschland noch recht unbekannt. Erst durch das
potenzielle Absender – vor allem auch ungewollt – von Bekanntwerden von Netzwerken Rechtsextremer auf
Desinformationen sein können. Sinkendes Vertrauen diesen Plattformen und zusätzlich durch das Corona-
in staatliche Akteure und Medien, sowie eine Disrupti- virus kommt das Thema Desinformation auf Messen-
on der gesamten Medienlandschaft und schnellere, gern langsam in der deutschen Öffentlichkeit an.
einfachere und günstigere Zugänge zu Smartphones
und zum Internet unterstützen die Entwicklungen Desinformation muss in seiner Vielfältigkeit näher
weltweit. Desinformation und die Bedrohung, die durch betrachtet werden. Denn das Thema ist für die inne-
sie ausgeht, haben es mittlerweile auf die politische re Sicherheit, aber auch für den gesellschaftlichenDESINFORMATION AUF MESSENGERDIENSTEN 6
Zusammenhalt und Frieden von enormer Bedeutung. Nutzerinnen und Nutzer weltweit. Nicht nur die Art,
Viel zu oft wird vergessen, dass gerade im nicht-poli- wie wir kommunizieren, ändert sich rasant, sondern
tischen Bereich verbreitete Desinformation ein hohes auch, wie wir Medien und Nachrichten konsumie-
Risiko birgt: Rund um das Coronavirus ist Anfang 2020 ren. Die Zeitung vom Küchentisch, das gemeinsame
weltweit eine große Menge an Desinformation im Um- Nachrichten schauen am Abend, das Telefonge-
lauf. Von falschen Studien, angeblichen Selbsttests und spräch – all das verlagert sich in nicht mehr von
wirkungslosen Präventionsmaßnahmen ist alles dabei. außen wahrnehmbares Kommunizieren und Konsu-
Die Weltgesundheitsorganisation spricht daher von mieren. Damit müssen wir als Gesellschaft(en) lernen
einer Infodemie. Diese Infodemie birgt ein erhebliches umzugehen. Welche Erfahrungen und Erkenntnisse
1
Gesundheitsrisiko für alle Menschen. haben wir weltweit mit Desinformation via Messen-
ger? Wie komplex ist dieses Phänomen und wird der
2022 werden drei Milliarden Menschen Messenger- Komplexität bisher in der öffentlichen Diskussion
2
dienste weltweit nutzen. Viele davon werden keine ausreichend Rechnung getragen? Welche Ansätze
dem digitalen Zeitalter angemessene Medienkompe- können zu einer aufgeklärteren, resilienteren Gesell-
tenz besitzen oder gar Analphabeten sein. Das gilt für schaft beitragen?
Sich der Komplexität bewusst werden –
Begriffsdefinitionen
Im Zusammenhang mit „Desinformation” wird sehr auch Satire fallen, wenn sie vom Interpreten nicht als
häufig der Begriff „Fake News” verwendet. Dieser soll solche erkannt wird, sondern im Glauben, dass es
hier vermieden werden, da er zum einen nur äußerst sich um wahre Tatsachen handelt, verbreitet wird.
ungenügend beschreiben kann, welche diversen Arten
der Informationen verbreitet werden, die zu falschen J „Dis-Information” (Desinformation): Eine Information,
oder manipulativen Informationen führen. Der Begriff die falsch ist und erstellt wurde, um einer Person,
„Fake News” wird weltweit vornehmlich von Politikerin- einer Gruppe, einer Organisation oder einem Staat
nen und Politikern eingesetzt, um die Berichterstattung Schaden zuzufügen. Dazu kann auch gehören, dass
von Nachrichtenorganisationen zu diskreditieren. Er wahre Informationen falsch kontextualisiert werden,
wird genutzt, um die freie Presse zu umgehen und zu um bewusst Schaden zu verursachen.
unterminieren und sollte daher nicht für einen Diskurs
über Desinformationen genutzt werden. J „Mal-Information” (hierunter fällt zum Beispiel
sogenanntes Doxing): Eine Information, die richtig
Um die Wirkung von Desinformation verstehen und ist, aber genutzt wird, um Schaden anzurichten.
besprechen zu können, müssen nicht nur die Arten Beispielsweise das Veröffentlichen privater Chats.
3
der Informationen in dieser „Information Disorder„
(zu Deutsch: „Informationsstörung„) definiert werden,
Quelle: nach „Information Disorder„, Wardle und Derakhshan
sondern auch ihre Phasen und Elemente. In Anlehnung Information Disorder
an die umfangreiche Arbeit von Dr. Claire Wardle und
4
Hossein Derakhshan, soll das Framework hier vorge-
stellt werden:
FALSCH SCHÄDLICH
Die drei Typen der Information Disorder Falsch- Desinformation Mal-
information Falscher Kontext, information
Falsche Betrügerische Inhalte, Leaks,
Unter dem Begriff „Fake News” werden häufig drei Zusammen- Manipulierte Inhalte, Belästigung,
Typen der Information Disorder subsumiert. Zu unter- hänge, irre-
führender Inhalt
Fabrizierte Inhalte Hassrede
scheiden sind:
J „Mis-Information” (Falschinformation): Eine Infor-
mation, die zwar falsch ist, aber nicht mit der Intention
erstellt wurde, Schaden anzurichten. Hier unter kann
1 3
Vgl. Richtel 2020. Vgl. Wardle 2019.
2 4
Vgl. Statista 2019b. Vgl. Wardle and Derakhshan 2017.DESINFORMATION AUF MESSENGERDIENSTEN 7
Die drei Elemente der Information Disorder J Die Distribution: Die Veröffentlichung oder
Verbreitung der Information.
J Der Agent: Wer hat die Information kreiert,
produziert und/oder distribuiert und was war die Wardle und Derakhshan machen darauf aufmerksam,
Motivation dahinter? Er kann sowohl das „Master- dass es wichtig ist zu berücksichtigen, dass der
mind„ hinter einer Desinformationskampagne sein, Agent, der die Information erstellt, häufig jemand völ-
als auch ein Unterstützer einer Kampagne, der die lig anderes ist, als der Agent, der die Information dis-
Desinformation verbreitet. Ebenso ist eine Personal- tribuiert. So ist die Motivation eines „Masterminds”,
union möglich. Auch Menschen, die eine Desinfor- der zum Beispiel die staatlich finanzierte Desinfor-
mation unwissentlich verbreiten, weil sie sie für mationskampagne kreiert, eine völlig andere als die
wahr halten, sind ein „Agent„ bei der Verbreitung. eines „Trolls”, der die Desinformation im Netz verbrei-
Die Rolle des Agenten kann sich unter mehreren tet. Einmal produzierte Informationen können zudem
Personen aufteilen. verändert und damit neu produziert werden. Auch die
Wege der Distribution können sich darauf aufbauend
J Die Nachricht: Was für ein Format hat die verändern. Damit verändern sich auch die Agenten,
Information? Welche Charakteristika hat sie? ebenso wie die Interpretationen des Empfängers.
Die Erstellung und Verbreitung von Desinformation
J Der Interpret: Wie wurde die Nachricht bei der ist also ein komplexer Prozess, der in der Regel nicht
Person, die sie empfangen hat interpretiert? Wie als ein abschließender Prozess zu betrachten ist und
wurde darauf, wenn überhaupt, reagiert? in dem Rollen und Funktionen eindeutig zugeordnet
werden können. Ebenso gehören in diesen Prozess
alle, die eigentlich keine Desinformation absichtlich
Die drei Phasen der Information Disorder teilen wollen, sie aber dennoch verbreiten, zum Bei-
spiel zum debunking oder um den Gegner lächerlich
J Die Kreation: Erstellung der Information. zu machen. Wardle und Derakhshan haben dies am
Beispiel der vermeintlichen Unterstützung Donald
J Die Produktion: Überführung der Information in Trumps durch Papst Franziskus im Präsidentschafts-
ein Nachrichten-Produkt. wahlkampf 2016 verdeutlicht:
Beispiel der vermeintlichen Unterstützung Donald Trumps
durch Papst Franziskus im Präsidentschaftswahlkampf 2016
Kreation Produktion Distribution
Ein Artikel Der Artikel wird auf der Webseite Der Artikel wird von
wird von „WTOE5 News” publiziert, die Teil jemanden, der für diese
einer nicht- eines Netzwerks von 43 Seiten fabricated-news-Web-
identifizierten mit fabricated news ist, auf denen seiten tätig ist, auf
Person zusammen über 750 Artikel veröf- Facebook geteilt.
konzipiert. fentlich wurden.
Quelle: nach „Information Disorder„, Wardle und Derakhshan
Re-Produktion
Der Artikel wird von Personen, die im Zusammenhang mit
dem Netzwerk der fabricated-news-Webseiten stehen, weiter
geteilt um die Reichweite zu erhöhen und über das Werbe-
netzwerk dahinter Geld zu verdienen.
Der Artikel wird von Trump-Unterstützern auf Facebook geteilt.
Der Artikel wird von Gruppierungen geteilt, die ein Interesse
an einem Wahlsieg Trumps haben (z.B. wird die Reichweite
durch russische Troll-Netzwerke erhöht).
Der Artikel wird von Clinton-Unterstützern geteilt, um zu zeigen,
wie einfach Trump-Unterstützer getäuscht werden können.DESINFORMATION AUF MESSENGERDIENSTEN 8
Sich diese Komplexität vor Augen zu führen ist wichtig, ist einigen Agenten, die eine Desinformation verbrei-
um das Phänomen Desinformation besser verstehen ten, nicht bewusst, dass sie dies tun: Sie verbreiten
zu können und Ansätze für Lösungen zu finden. Falsch- etwas, weil sie den Inhalt für wahr halten, nicht, weil sie
und Desinformationen werden von manchen Menschen bewusst manipulieren wollen. Hier liegt die Intention zur
verbreitet, weil sie diese witzig finden. Sie vergessen Manipulation beim Ersteller der Nachricht.
dabei aber, dass die Empfänger, also die Interpreten, Um die (unbewussten) Beweggründe für die Verbrei-
diesen „Humor” eventuell nicht verstehen und die tung von Desinformationen zu verstehen, müssen der
Falsch- beziehungsweise Desinformation für eine Medienkonsum und die psychologischen Effekte bei der
Tatsache halten und empört weiterverbreiten. Ebenso Verbreitung von Informationen betrachtet werden.
Medienkonsum und psychologische Effekte
Der Konsum von Nachrichten und Medien war lange durch bezahlte Anzeigen, welche Nutzerinnen und Nut-
Zeit ein deutlich gesellschaftlicheres Ereignis als heute; zer einen Inhalt zu sehen bekommen sollen und welche
es gab eine gemeinsame Realität („shared reality”): nicht: Man kann beispielsweise nach Geschlecht, Wohn-
Nachrichten wurden (gemeinsam) vor dem Fernseher ort, Alter oder politischer Einstellung selektieren, um nur
konsumiert und gegebenenfalls besprochen. Zeitungen wenige Beispiele der möglichen Zielgruppendefinition
und Radio verbreiteten (und verbreiten) Informationen, zu nennen. Zwar gibt es mittlerweile die Möglichkeit
die zwar unterschiedliche Nuancen haben konnten, aber beispielsweise auf Facebook einzusehen, welche Anzei-
diese Informationen konnten und können nicht lediglich gen der Betreiber einer Seite geschaltet hat. Um dies zu
einem kleinen geschlossenen Kreis vorgehalten werden. erfahren, muss man allerdings zum einen wissen, dass
Wer eine Zeitung kauft, kann lesen was drin steht, wer ein solches Targeting stattfindet, zum anderen muss die
einen bestimmten Radiosender einstellt, wird hören, Transparenzseite proaktiv gesucht und besucht werden.
was dort gesendet wird. Dieses Vorhalten von Infor- Durch die schnelle Verbreitung von Informationen, deren
mationen ist heute zum Beispiel durch sogenanntes schiere Masse und die Möglichkeit, spezielle Zielgrup-
Targeting von Inhalten auf sozialen Netzwerken wie pen mit einer Information über die sozialen Netzwerke
Facebook oder Twitter möglich. Die Betreiber einer Seite zu versorgen, verringert sich die „gemeinsame Realität”
oder eines Accounts können definieren, vornehmlich einer Gesellschaft erheblich.
Nachrichtenkonsum über Messengerdienste
WhatsApp
Facebook Messenger
15% 16%
Quelle: Reuters Digital News Report 2019
53% 52% 6%
23%
0
Brasilien Indien Deutschland
Mehrfachnennung war möglichDESINFORMATION AUF MESSENGERDIENSTEN 9
Social Media und Messaging
Wöchentliche Nutzung allgemein
75%
64%
60%
45% 45%
37%
32%
30%
21%
15% 12%
0%
2014 2015 2016 2017 2018 2019
Wöchentliche Nutzung für Nachrichtenkonsum
75%
Veränderung des
Facebook-Algorithmus
60%
45%
36%
30% 16%
10%
Quelle: Reuters Digital News Report 2019
9%
15%
8%
3%
0%
2014 2015 2016 2017 2018 2019
Befragt wurden Menschen in Australien (ab 2015) Brasilien, Dänemark, Deutschland, Finnland, Frankreich, Großbritannien,
Irland (ab 2015), Italien, Japan, Spanien und USA.
Genauso bedeutsam sind kommunikationspsycho- unsere Zugehörigkeit. Soziale Plattformen verstärken
logische Aspekte in diesem Zusammenhang: Der diese Mechanismen.
Wissenschaftler James Carey ist der Meinung, dass
wir die rituelle Bedeutung von Kommunikation näher Der Soziologe Michel Maffesoli legte bereits 1996 in
betrachten müssen, denn diese sei mehr als der bloße seinem Buch „The Time of the Tribes” dar, dass man die
Austausch von Informationen zwischen Personen. vielen verschiedenen kleinen und temporären Gruppen
Kommunikation spiele eine fundamentale Rolle für das berücksichtigen muss, in denen ein Mensch über den
5
Kreieren von gemeinsamen Vorstellungen : Die Arten Tag verteilt Mitglied ist, um sein oder ihr Verhalten zu
von Informationen, die Menschen konsumieren, und verstehen. Wardle und Derakhshan argumentieren, dass
die Art und Weise, wie sie diese interpretieren, werden er damit genau beschrieb, wie sich Nutzerinnen und
signifikant davon beeinflusst, wie man sich selbst Nutzer heute auch online verhalten und warum sie wel-
wahrnimmt und welchen gesellschaftlichen Gruppen che Informationen posten oder teilen. Diese „Stammes-
man sich zugehörig fühlt. Gerade durch das Liken und mentalität” erkläre auch, warum so viele Social-Media-
Kommentieren, sowie – insbesondere in Messengern – Nutzerinnen und -Nutzer Falsch- und Desinformationen
Teilen von Inhalten, verdeutlichen wir unserem Umfeld teilen, obwohl sie Zweifel an der Richtigkeit der
5
Vgl. Carey, J. (1989), Communication as Culture: Essays on Media and Society, London: Routledge. p.16 nach Wardle and Derakhshan 2017.DESINFORMATION AUF MESSENGERDIENSTEN 10
Information haben: Sie würden damit vor allem ihre Konfrontation mit Fakten korrigiert werden können. Wardle
Zugehörigkeit zu einer Gruppe verdeutlichen und unter und Derakhshan gehen daher davon aus, dass die Verbrei-
Beweis stellen wollen. tung von qualitativ hochwertigen Informationen nicht die
Lösung sein kann: Fakten sprechen die Ratio an, Desinfor-
Erschwerend kommt hinzu, dass Falsch- und Desin- mation triggert Emotionen – und Fakten und Emotionen
formationen oftmals Gefühle wie zum Beispiel Überle- werden im Hirn unterschiedlich verarbeitet. Eine mögliche
genheit, Wut oder Angst ansprechen. Das führt dazu, Lösung: Gleiches mit Gleichem bekämpfen - also über die
dass solche Nachrichten sehr viel eher weiterverbreitet soziale Akzeptanz in der jeweiligen Gruppe. Es müssen
werden. Ein gemeinsames emotionales Erleben (wie zum also folgerichtig Mechanismen gefunden werden, die das
Beispiel gemeinsame Abscheu, gemeinsame Empörung) Verbreiten von Falsch- und Desinformation vor der eigenen
erhöht das Zusammengehörigkeitsgefühl innerhalb einer sozialen Gruppe äußerst peinlich erscheinen lassen.
Gruppe. Das erklärt auch, weshalb emotionsgeladene
Inhalte auf allen sozialen Plattformen besonders gerne Auch Alexander Ritzmann weist darauf hin, dass wir
geliked und geteilt werden. Desinformation hat zudem eher unserer eigenen Gruppe glauben und dass dieses
häufig das Ziel gesellschaftliche Spaltungen zu fördern: „Stammesdenken”, das Zugehörigkeitsgefühl zu einer
Es geht dabei um ein „wir gegen die” – sei es bei poli- Gruppe – das kann von einer Religion, politischen Partei
tischen Kontrahenten oder zur Verstärkung von ethni- bis hin zu einem Fußballclub alles sein – ausschlagge-
schen, religiösen oder ökonomischen Konflikten. bend dafür ist, was wir glauben, beziehungsweise für
wahr halten, und was nicht. Desinformationen sprechen
Nicht nur die Geschwindigkeit, mit der solche Desinforma- außerdem häufig tief verankerte Wertvorstellungen an,
tion verbreitet wird, ist ein Problem. Sogenanntes Fact- 6
die nicht mit Fakten überwunden werden können: Wer
Checking kann hier erst sehr spät reagieren. Es ist fraglich beispielsweise glaubt, dass einzelne Nationen besser
ob Versenderinnen oder Versender von Falsch- bzw. sind als andere, dass Männer über Frauen stehen oder
Desinformation – insbesondere die, die diese unbewusst dass Abtreibungen verboten werden sollten, wird sich
verbreitet haben – zeitnah oder überhaupt die Fakten und nicht einfach mit Fakten überzeugen lassen und seine
damit die Korrektur erhalten. Es ist außerdem zu bezwei- Meinung ändern. Der Prozess zu einer Änderung der
feln, ob auf Emotionen basierende Einstellungen durch die Wertvorstellung ist langwierig und komplex.
Bilder zur einprägsamen Verbreitung
von Desinformationen
Selten wird im Rahmen von Desinformation über die versehen waren, die einem bestimmten politischen
Form der Information gesprochen. Das ist aber wichtig, Lager zuzuordnen waren. Ebenso populär waren
um gegen Desinformation – eventuell auch automatisiert offizielle Dokumente und Nachrichten, die aus dem
– vorzugehen, sondern auch um beurteilen zu können, Zusammenhang gerissen wurden, sowie Screenshots
wie schnell und nachhaltig Desinformation beeinflussen von digitalen Konversationen, die teilweise echt,
kann. In der Diskussion wird häufig antizipiert, dass es sich teilweise gefälscht waren. Memes waren kaum in den
vornehmlich um Text beziehungsweise Links zu längeren übermittelten Daten zu finden. Comprova geht davon
Texten („Nachrichten”, beziehungsweise fabricated news) aus, dass sie nicht als ernst empfunden wurden und
7
mit Desinformation handelt. Bisherige Untersuchungen daher nicht zur Prüfung übermittelt wurden, obwohl
zeichnen ein anderes Bild: Memes gerade durch „Humor” propagandistische
8
Botschaften vermitteln. Die (unbewusste) Vermitt-
In Brasilien hat sich das Projekt Comprova – ein lung propagandistischer Botschaften durch Memes
Zusammenschluss von Newsrooms und Journalis- geschieht, indem der politische Gegner lächerlich ge-
tinnen und Journalisten – vor den letzten Präsident- macht wird, rassistische, sexistische, antisemitische
schaftswahlen intensiv mit Informationen, die über etc. Stereotype aufgegriffen werden und als „witzig„
Messenger versendet wurden, auseinandergesetzt. dargestellt werden. Ebenso mittels falscher Zitate,
Comprova hat Falsch- und Desinformationen de- die auf Memes abgebildeten Personen in den Mund
bunkt, beziehungsweise Informationen verifiziert gelegt werden. Videos waren das am zweithäufigsten
und dabei auch die Formate der Nachrichten analy- übermittelte Format an Comprova, den kleinsten Teil
9
siert: Ein Großteil waren Bilder, die mit Nachrichten machten Sprachnachrichten aus.
6 8
Vgl. Ritzmann 2018. Vgl. Ascott 2020.
7 9
Vgl. Wardle et al. 2019. Vgl. Wardle et al. 2019.DESINFORMATION AUF MESSENGERDIENSTEN 11
Texte können theoretisch schnell von Texterkennungssoft- dann teilweise von der Trump-Kampagne aufgegriffen
ware erkannt werden, um so markiert oder gar gelöscht und in weitaus breiter bekannte und genutzte sozia-
11
zu werden. Links zu Webseiten bieten noch die Hoffnung, le Netzwerke überführt. Dadurch, dass Facebooks
10
dass eine Überprüfung der Webseite Nutzerinnen und Algorithmus im Newsfeed Bilder und Videos gegenüber
Nutzer erkennen lässt, dass es sich hier um Desinformati- Links (beispielsweise zu Nachrichtenartikeln) bevorzugt,
onen handelt. Bei Bildern, Videos und Sprachnachrichten finden solche Memes oder andere Bilder und Videos
ist dies jedoch schwierig bis unmöglich. Noch schwieriger über dieses Netzwerk eine deutlich größere Reichweite.
wird das Ganze bei manipulierten Ton- oder Videoaufnah- Diese Memes können aus dem Newsfeed über den
men, sogenannten „Deep Fakes”. Facebook Messenger sowie als Link oder Screenshot
auch über andere Messenger wie WhatsApp weiterver-
Schon in den 70er und 80er Jahren des vergangenen breitet werden.
Jahrhunderts wurde anhand von Fotografie und TV-Sen-
dungen gezeigt, dass Menschen Bilder fundamental First Draft, eine Nichtregierungsorganisation, hat wäh-
anders wahrnehmen als Text: Das Gehirn kann Bilder rend der Wahlen in Frankreich und Großbritannien 2017
deutlich schneller verarbeiten. Unsere Fähigkeiten, In- Projekte unterstützt, die sich mit dem Debunken von
halte kritisch zu hinterfragen, sind bei (Bewegt-) Bildern Desinformationen beschäftigt haben. Auch hier wurde
deutlich geringer; Memes werden beispielsweise eher festgestellt, dass (Bewegt-)Bilder mit Abstand den größ-
als humoristisch, denn als politisch motiviert, bezie- ten Anteil an der am meisten geteilten Desinformation
hungsweise manipulativ wahrgenommen. Im US-Wahl- ausmachten und am schwersten zu widerlegen waren –
kampf 2016 spielten Memes eine große Rolle: Auf darunter Infografiken und Memes. „News”-Webseiten mit
Webseiten wie 4Chan wurden beispielsweise Memes fabrizierten, also komplett frei erfundenen „Nachrichten”,
gegen Hillary Clinton getestet und die, die die beste Re- wie sie während der US-Wahl 2016 zu sehen waren, gab
sonanz zeigten, wurden dann auf Reddit im Pro-Trump es während der Wahlkämpfe in Frankreich und Großbri-
12
Forum „The_Donald” veröffentlicht. Von dort wurden sie tannien hingegen nicht.
Messengerdienste – Ein Überblick
Messengerdienste haben im vergangenen Jahrzehnt
rasant an Beliebtheit und damit Nutzerinnen und Die größten Social Networks und
Nutzer dazu gewonnen. Blickt man auf alle Plattfor- Messenger (im Januar 2020)
men, also soziale Netzwerke wie Facebook und Twit-
ter, und Messenger zusammen, dann ist WhatsApp Monatliche aktiv Nutzende in Millionen
nach Facebook und YouTube die weltweit drittgrößte
Plattform und der am weitesten verbreitete Mes-
senger. Dicht gefolgt vom Facebook Messenger und Facebook 2.449
WeChat, das vornehmlich in China genutzt wird, aber YouTube 2.000
auch in anderen Ländern immer beliebter wird. Auch WhatsApp 1.600
soziale Netzwerke wie Instagram haben die Mög- Facebook Messenger 1.300
lichkeit private Nachrichten zu versenden. Facebook, Weixin/WeChat 1.151
zu dem neben WhatsApp auch Instagram gehört, Instagram 1.000
versucht auf all seinen Plattformen Menschen in pri- Douyin/Tik Tok 800
vate(re) Kommunikation zu drängen. Damit gibt das QQ 731
Unternehmen vor, den Rufen nach mehr Privatheit QZone 517
Folge zu leisten, verwechselt dabei aber „private” Sina Weibo 497
mit „privacy”, also Themen des Datenschutzes, für Reddit 430
die es bislang häufig in der Kritik stand. Zudem
Snapchat 382
kann sich Facebook durch diese „privaten”, teils
Twitter 340
auch verschlüsselten Räume aus der Verantwor-
Pinterest 322
Quelle: statista
tung bezüglich Desinformationen und Hate Speech
Kuaishou 316
ziehen, da sie aufgrund eben dieser Verschlüsselung
nicht mehr die Inhalte einsehen und damit dagegen
13
vorgehen können.
10 11
Beispielsweise, ob es ein Impressum und einen Autoren oder eine Mehr zu diesem Thema u.a. bei Moore 2018.
12
Autorin des Textes gibt, was die Webseite ansonsten für Informationen Vgl. Wardle and Derakhshan 2017.
13
publiziert etc. Vgl. Moshavi 2020.DESINFORMATION AUF MESSENGERDIENSTEN 12
Der Messenger Telegram hat, laut zuletzt 2018 ver- Signal und Wire sind standardmäßig Ende-zu-Ende ver-
öffentlichten Zahlen, 200 Millionen Nutzerinnen und schlüsselt. Telegram und Facebook Messenger bieten
14
Nutzer weltweit. Der Schweizer Messenger Threema eine Verschlüsselung an, die aber aktiv durch einen
15
fünf Millionen (Stand 2018). Zu den Messengern „geheimen Chat” ausgewählt werden muss. Discord,
Signal und Wire sind keine Zahlen bekannt. Der Messen- WeChat und die Direktnachrichtenfunktion von Ins-
gerdienst Discord, der besonders bei Gamern beliebt ist, tagram und Snapchat haben keine Ende-zu-Ende-Ver-
16
verzeichnet 250 Millionen Nutzeraccounts weltweit. schlüsselung und könnten daher von den Plattformen
Nachrichten bei den Messengern WhatsApp, Threema, und Dritten leicht eingesehen werden.
Umgang und Erfahrungen mit Desinforma-
tionen auf Messengern in der Welt: Ein Blick
nach Deutschland, Indien und Brasilien
Case Study Deutschland Euro) ca. 0,5 % des Nettohaushalteinkommens. Die
Durchdringung mit Smartphones liegt in Deutschland
21
Infrastruktur allerdings nur bei 79 %.
Um die Auswirkungen und die Verbreitung von
Desinformationen über Messenger weltweit besser Nachrichtenkonsum
verstehen und vergleichen zu können, muss auch Die Deutschen nutzen zunehmend das Smartphone
betrachtet werden, wie die Breitband- und Mobilnetz- als primäres Gerät für den Zugang zu Online-Nach-
versorgung in den einzelnen Ländern ist. Ebenso richten, es liegt aber mit 55 % noch knapp hinter dem
wie die Märkte aussehen und welche Kosten für Computer mit 56 %. Das Vertrauen in Medien liegt im
die Internetnutzung entstehen. Deutschland muss weltweiten Vergleich in Deutschland im oberen Drit-
sich zwar immer wieder vorhalten lassen, dass es tel. 47 % vertrauen den Medien allgemein. Der „Fall
22
im Mobilfunknetz sehr viele weiße Flecken gibt und Relotius”, ein Reporter des Magazins „Der Spiegel”,
gerade der 4G-Ausbau in ländlichen Gebieten nur der seine Reportagen erfand, war aber – laut dem
17 Reuters Digital News Report 2019 – ein Aspekt, der
ungenügend ist und Kosten für mobile Daten im
18 das Vertrauen im Vergleich zum Vorjahr um drei Pro-
europäischen Vergleich mit am höchsten sind.
Dennoch sind die Kosten für mobile Daten gemessen zentpunkte sinken ließ. Insbesondere die Nachrichten
am durchschnittlichen Nettohaushaltseinkommen im des Öffentlich-Rechtlichen Rundfunks im Fernsehen
internationalen Vergleich sehr gering. Knapp 50 % der genießen unter den Deutschen das höchste Vertrau-
Deutschen geben monatlich unter 30 Euro für ihren en, wobei die Tagesschau der ARD vor der Sendung
19 „ZDF heute„ liegt. Direkt danach folgen Regional- und
Mobilfunkvertrag aus (23,08 % unter 20 Euro). Bei
einem durchschnittlichen Nettohaushaltseinkommen Lokalzeitungen. Überregionale Zeitungen wie die Süd-
20 deutsche Zeitung, die Frankfurter Allgemeine Zeitung,
von 3.661 Euro sind das (bei zugrunde gelegten 20
oder Wochenmagazine wie Focus und Der Spiegel
folgen erst auf den weiteren Plätzen.
Nachrichtenkonsum (Deutschland)
Das Vertrauen in Nachrichten, die über Social Media
Quelle: Reuters Digital News Report 2019
konsumiert werden, ist dagegen unter den Deutschen
Print 34% eher gering. Nur 16 % vertrauen den Nachrichten, die
sie hierüber bekommen. 27 % vertrauen allerdings
Nachrichten, die sie über eine Suchmaschine finden.
Online-Quellen inkl. Social Media 68% Schaut man sich an, über welche sozialen Plattfor-
men Nachrichten konsumiert werden, dann liegt
Tablet Facebook mit 22 % ganz oben. YouTube konnte vier
TV 72%
Prozentpunkte zum Vorjahr hinzugewinnen und liegt
mit 19 % auf Platz zwei und auch WhatsApp konnte
0% 40% 80% sich um zwei Prozentpunkte steigern und liegt auf
Platz drei mit 16 %. Facebook Messenger ist für den
14 18 22
Vgl. Statista 2018. Vgl. Verivox 2018. Vgl. Yuhas 2018.
15 19
Vgl. Statista 2020. Vgl. Statista 2018a.
16 20
Vgl. Black 2019. Vgl. Statistisches Bundesamt 2020.
17 21
Vgl. Balser 2019. Vgl. Initiative D21 2020.DESINFORMATION AUF MESSENGERDIENSTEN 13
Facebook-Posting der AfD vom 16.07.2017
Konsum von Nachrichten in Deutschland mit 4 % eher der Sängerlaub, Miriam Meier und Wolf-Dieter Rühl
26
irrelevant. 22 % der Deutschen geben laut dem Reu- angesehen. Mit einer umfassenden Studie konnten
ters Report an, Nachrichten über soziale Plattformen sie aufzeigen, dass auf den sozialen Netzwerken in
23
zu teilen und nur 14 % kommentieren diese. Deutschland durchaus Falsch- und Desinformationen
verbreitet wurden. Dies waren eher keine „fabrizierten
Desinformationen bei Wahlen in Deutschland Nachrichten”, sondern vornehmlich Fälle, in denen
Aufgrund der diversen Desinformationen im US-Wahl- wahre Aussagen in falschen Kontext gesetzt wurden,
kampf – sowohl von inländischen, als auch von beziehungsweise Aussagen unvollständig wiedergege-
ausländischen Akteuren – bestand auch in Deutschland ben wurden. Durch die Studie konnte aufzeigt werden,
im Vorfeld der Bundestagswahl 2017 die Befürchtung, dass durchaus auch etablierte Medien an der Verbrei-
dass die Wahlen beeinflusst werden. Das deutsche tung dieser Falsch- und Desinformationen beteiligt wa-
Netzwerkdurchsetzungsgesetz (NetzDG), das zum Ok- ren. Bei einem Fall war die Deutsche Presse Agentur
tober 2018 in Kraft trat (also nach den Bundestagswah- (dpa) sogar der Auslöser für eine Falschinformation,
len), sollte anfänglich auch auf „Fake News” abzielen, die sich rasant verbreitete: Die dpa hatte im Falle von
wie in den einleitenden Worten zum Referentenent- mehreren Vorfällen auf dem Schorndorfer Volksfest
24
wurf beschrieben. Dieser Begriff wurde aber schnell Informationen aus einer Presseerklärung der Polizei
wieder gestrichen, da klar wurde, dass ein Gesetz nur falsch übernommen. Aus der Polizeimeldung, dass
auf rechtswidrige Inhalte abziehen kann und sowohl sich 1.000 Jugendliche mit größtenteils Migrations-
Falschnachrichten als auch Desinformationen zumeist hintergrund im Schlosspark versammelt hatten, wurde
nicht rechtswidrig sind. Ebenso gab es vor der Wahl bei der dpa die Meldung: „In der Nacht zum Sonntag
Anhörungen im Bundestag zum Thema „Social Bots”, versammelten sich laut Polizei bis zu 1000 junge
da vermutet wurde, dass automatisierte Accounts, die Leute im Schlosspark der Stadt und randalierten. ‘Bei
vorgeben, ein Mensch zu sein, die Wahlen manipulieren einem großen Teil handelte es sich wohl um Personen
27
könnten. Das Büro für Technikfolgenabschätzung beim mit Migrationshintergrund’.„ Diese Meldung der dpa
Deutschen Bundestag kam zu der Erkenntnis, dass wurde von den Redaktionen ungeprüft übernommen
25
„Social Bots” keine Bedrohung darstellen. und verbreitete sich so vornehmlich über die Stuttgar-
ter Nachrichten, Welt und den SWR (jeweils online). Die
Ob und wie Desinformationen im Vorfeld der Bundes- Alternative für Deutschland (AfD) griff diese Meldung
tagswahl 2017 verbreitet wurden, haben sich Alexan- auf und nutzte sie für ihre politischen Zwecke.
23 26
Vgl. Newman et al. 2019. Vgl. Sängerlaub, Meier, and Rühl 2018.
24 27
Vgl. Bundesministerium der Justiz und für Verbraucherschutz 2017. zitiert nach ebd.
25
Vgl. Kind et al. 2017.DESINFORMATION AUF MESSENGERDIENSTEN 14
29
Die Studie zeigte, dass es keine größeren Desinforma- aufzurufen. Darüber, dass im großen Stil Falsch-
tionen, insbesondere keine Desinformationskampag- oder Desinformation über Messenger während des
nen vor der Wahl gab. Die Reichweiten der untersuch- Wahlkampfs versendet wurde, liegen keine Informa-
ten Fallbeispiele seien überschaubar gewesen, solange tionen vor. Ebenfalls wurde in Deutschland bislang
nicht etablierte Medien an der Verbreitung beteiligt noch nicht ausführlich untersucht, wie die Deutschen
gewesen waren. Das Autorenteam kam außerdem Gruppen auf Messengern verwenden. Der Reuters
zum Ergebnis, dass die meisten verbreiteten Falsch- Digital News Report 2019 betrachtet im Kapitel über
und Desinformationen mit dem Thema „Flüchtlinge” Gruppen Deutschland beispielsweise gar nicht in
und „Migranten” zu tun hatten und vornehmlich von Bezug auf den Nachrichtenkonsum auf Messengern.
der AfD aufgegriffen wurden. Deren Wählerinnen und Auch im Länderbericht zu Deutschland finden Grup-
Wähler konsumieren ihre „Nachrichten” aufgrund von pen keinerlei Beachtung. Es ist daher anzunehmen,
mangelndem Vertrauen in etablierte Medien vornehm- dass (große) Gruppen, insbesondere solche mit Men-
lich über Social Media und über rechtspopulistische schen, die einem nicht bekannt sind, sowohl für die
Portale wie beispielsweise die Epoch Times. Die Studie politische Kommunikation als auch für den Nachrich-
konnte ebenfalls durch eine Befragung tenkonsum in Deutschland in der Breite
von Wählerinnen und Wählern zeigen, bislang weniger relevant sind.
dass diese Falsch- und Desinformatio-
„Durch die Verbrei-
nen vor allem deshalb glaubten, weil sie tung über Messenger Die (steigende) Bedeutung von Gruppen
in ihr Weltbild passen. werden rechtsradi- auf Messengern zeigt sich bei einem
kale Inhalte Teil der Blick auf deren Nutzung durch Rechts-
Der Journalist Karsten Schmehl zeig- alltäglichen Kommu- radikale. Dieses Phänomen hat bei-
te durch eine umfassende Recherche spielsweise die Amadeu-Antonio-Stif-
während des Bundestagswahlkampfes,
nikation und dadurch tung genauer untersucht.30 Durch
dass „manipulative” Kampagnen auf normalisiert.“ rechtsradikale Terroranschläge in Halle
Twitter nicht durch (Social) Bots, sondern und Hanau fanden diese Netzwerke auf
durch koordinierte Aktionen von Menschen, sogenannten Messengern, die auch gerne „Dark Social” genannt
28
„Trollen” durchgeführt wurden . So twitterten zum im werden, auch in der Presse mehr Beachtung.
Fernsehen gesendeten „Kanzlerduell” mehrere hundert
Menschen, die dem rechten Spektrum zuzuordnen sind, Eine der bekanntesten und größten deutschsprachi-
sowohl unter dem Hashtag #Kanzlerduell, als auch #Ver- gen Gruppen Rechtsradikaler, die sich auf Telegram
räterduell. Zuvor hatten sie in 4Chan-Foren zahlreiche findet, ist die Gruppe des Frontmanns der Identitären
Memes entwickelt, mit denen sie die Bundestagswahl Bewegung, Martin Sellner. Er wurde auf Facebook und
beeinflussen wollten. Die eigentliche Aktion wurde über Instagram gesperrt und wechselte daher zu diesem
den Messenger Discord organisiert und koordiniert, Messenger. Auch, weil aus dem Umfeld der US-ame-
wobei unter anderem auf Tweets der einzelnen Trolle auf rikanischen Neo-Nazi-Webseite „Daily Stormer” dazu
ihren zahlreichen Twitter-Accounts hingewiesen wurde. aufgerufen wurde, auf diesen Messengerdienst zu
Die Idee war, dass andere diese sowohl liken als auch wechseln. Während auf WhatsApp Gruppen auf maxi-
retweeten sollten, um damit die Reichweite zu steigern mal 256 Mitglieder beschränkt sind, können diese bei
und den Hashtag #Verräterduell in Deutschland unter die Telegram bis zu 200.000 Menschen umfassen. Kanäle
Twitter-Trends zu bringen, was ihnen aber nicht gelang. auf Telegram wiederum können von unendlich vielen
Stattdessen wurde beschlossen, sich wieder auf Aktio- Menschen abonniert werden. Zwar gibt Telegram, das
nen bei YouTube zu konzentrieren. seinen Unternehmenssitz von Russland nach Dubai
verlagerte, an, dass es im Falle einer richterlichen
Messenger in der politischen Kommunikation Anordnung IP-Adressen und Telefonnummern von
Die Messengerisierung der Kommunikation, wie der Accounts herausgeben würde. Der Messenger scheint
Politikberater Martin Fuchs es beschreibt, ist in der poli- dennoch aktuell für die Verbreitung von rechtsradi-
tischen Kommunikation noch ein Randphänomen. Zwar kalen Inhalten am attraktivsten (ähnliches gilt für
wurden bei der Bundestagswahl 2017 Messenger wie islamistische Inhalte), vermutlich vor allem, um all
WhatsApp von Parteien genutzt, allerdings lag der Fokus diejenigen zu erreichen, die sich nicht auf Boards wie
der Kommunikation auf den klassischen Plattformen 4Chan bewegen. Die Verbreitung rechtsradikaler Inhal-
wie Facebook und Twitter und Instagram. Die beiden te über diesen Messenger wird so Teil der alltäglichen
Volksparteien, CDU und SPD, betrieben beide eigene Kommunikation und dadurch normalisiert.
Kanäle auf Messengern. Diese waren vornehmlich an die
eigenen Parteimitglieder gerichtet, um sie mit aktuellen Der Telegram-Kanal von Martin Sellner hatte laut
Informationen zu versorgen. Am Wahltag riefen Parteien Studie der Amadeu-Antonio-Stiftung im September
dazu auf, Freunde und Familie über WhatsApp – teils 2019 39.000 Abonnentinnen und Abonnenten. Über
mit vorgefertigten Botschaften – zum Wählen gehen den Kanal verbreitet er vor allem Links zu seinen
28
Vgl. Schmehl 2017.
29
Vgl. Voigt and Seidenglanz 2017.
30
Vgl. Dittrich et al. 2020.DESINFORMATION AUF MESSENGERDIENSTEN 15
Untersuchte Telegram-Kanäle und -Gruppen Rechtsradikaler in Deutschland
Größenaufteilung der Größenaufteilung der
ausgewerteten Telegram-Kanäle ausgewerteten Telegram-Gruppen
2
(Gesamt 197) (Gesamt 38)
6 16 4
14
Quelle: https://www.amadeu-antonio-stiftung.de/wp-content/
4
13
uploads/2020/01/Monitoring_2020_web.pdf (Seite 17)
62
56
17
41
< 100 5.000 - 9.999 < 100 300 - 1.000
100 - 499 10.000 - 30.000 100 - 299 > 1.000
500 - 999 > 30.000
1.000 - 4.999
YouTube-Videos, Memes, oder andere Videos und gen Alphabetisierungsrate (Frauen 66 %, Männer 82 %,
31
fordert dazu auf, lokale Gruppen zu gründen, um sich Stand 2018). Die Möglichkeit, über einen Messenger
zu vernetzen. Telegram bietet die Möglichkeit, sich wie WhatsApp sowohl Bilddateien als auch Sprachnach-
Nutzerinnen und Nutzer in der Umgebung anzeigen zu richten zu verschicken, hat für viele Menschen neue
lassen und zu Gruppen hinzuzufügen. Das heißt, es ist Möglichkeiten der Kommunikation geschaffen. Auch die
nicht notwendig, die Telefonnummer einer Person zu sinkenden Preise für Datenvolumen haben dazu beige-
haben, um sie – wie bei WhatsApp notwendig – in eine tragen, dass es leichter wurde, diese Formate zu nutzen.
Gruppe hinzuzufügen. Rechtsradikale machen sich
diese Funktion laut der Studie besonders zu nutze. Seit 2003 steigt in Indien die Nutzung von Mobiltele-
fonen, seit 2013 insbesondere die von Smartphones.
Die Amadeu-Antonio-Stiftung schaute sich 197 Die Nutzung des mobilen Internets war aufgrund
Telegram Kanäle und 38 Gruppen Rechtsradikaler des Telekommarktes und hoher Kosten für Lizenzen
an. Anhand der dort verbreiteten und untersuchten für die 3G- und 4G-Frequenzen teuer. Zudem kon-
Inhalte konnten sie zeigen, dass diese Gruppen und zentrierte sich der Ausbau des Netzes auf urbane
Kanäle vornehmlich als News-Aggregatoren genutzt Gegenden. Der ländliche Raum ist auch heute oft
werden, aber auch als Raum für die Community von nur mit 2G ausgestattet, was für Textnachrichten
YouTubern. Die Vernetzung von Rechtsradikalen auf ausreichend ist. 2016 trat der Anbieter Jio in den Te-
diesem Messenger sei ein essentieller Beweggrund lekommarkt ein, der zum größten Privatunternehmen
zur Nutzung dieser Gruppen und Kanäle, da diese dort Indiens, Reliance Industries, gehört. Die Verbreitung
einen „Rückzugsort„ zum Austausch haben. Auch das von Jio-Telefonen in Indien wurde durch zahlreiche
rechtsextreme Prepper Netzwerk „Nord-/Ost-/Süd-/ wettbewerbsverzerrende Maßnahmen, die durch die
Westkreuz„ und „Revolution Chemnitz„ organisierten Regierung wohlwollend ignoriert wurden, vorange-
sich hier und planten Anschläge. trieben: Für knapp ein Jahr war es Jio ab Ende 2016
erlaubt, kostenlose Telefonanrufe und unbegrenztes
Datenvolumen anzubieten. Das führte sowohl zu
Case Study Indien einer Restrukturierung des Telekommarktes als auch
zu niedrigeren Preisen für mobiles Datenvolumen.
Infrastruktur In Folge dessen bewegt sich in Indien der Telekom-
Um das Ausmaß der Verbreitung von Falsch- und Des- markt zu einem Oligopol hin, da die anderen Anbie-
information und deren Implikationen auf die analoge ter nicht die finanziellen Ressourcen wie Reliance
Welt in Indien zu verstehen, muss man wissen, warum Industries haben, Verluste zu machen, wie sie durch
und wie es dazu kam, dass WhatsApp dort so weit Angebote wie Jio zustande kamen. Neben dem deut-
verbreitet ist. Indien ist ein Land mit einer relativ gerin- lich günstiger gewordenen Datenvolumen sind auch
31
Vgl. Statista 2019a.DESINFORMATION AUF MESSENGERDIENSTEN 16
die Kosten für Smartphones in den vergangenen (49 %) äußern Bedenken, dass das öffentliche Äußern
32
zehn Jahren um 16 % gesunken. der eigenen politischen Meinung Familie und Freun-
de anders über sie denken lässt. 50 % haben diese
Nachrichtenkonsum Bedenken gegenüber der Meinung von Kollegen und
Indien ist ein mobile-first Markt – gerade auch bei Bekannten, und gar 55 % befürchten, dass ihre öffent-
Nachrichten. Das heißt, dass das hauptsächlich liche Meinungsäußerung zu Problemen mit Behörden
genutzte Gerät ein mobiles Endgerät, vornehmlich ein führen kann.
Smartphone, ist und nicht ein Laptop oder stationärer
Computer, wie es in vielen westlichen Ländern noch Das Vertrauen in Nachrichten ist sehr gering, wie die
der Fall ist. Grafik deutlich zeigt. Besonders frappant zeigt sich das
mangelnde Vertrauen bei den Menschen, die sich kei-
50 % der von Reuters Befragten teilen und/oder nem politischen Spektrum oder Partei zugehörig fühlen:
kommentieren (33 %) Nachrichten – vornehmlich auf 57 % der Befragten fragen sich, ob die Nachrichten, die
Facebook oder über WhatsApp. Fast genauso viele sie erhalten, echt oder manipuliert sind.
Meistgenutzte Plattformen für Nachrichtenkonsum (Indien)
82%
80%
60%
52% 52%
40%
26%
18%
20%
0%
Mehrfachnennung war möglich
Vertrauen in Nachrichten
Nachrichten allgemein sind vertrauenswürdig 36%
persönlich konsumierte Nachrichten sind vertrauenswürdig 39%
Nachrichten in Suchmaschinen sind vertrauenswürdig 45%
Reuters Digital News Report 2019
Nachrichten in Sozialen Medien sind vertrauenswürdig 34%
0% 25% 50%
Mehrfachnennung war möglich
32
Vgl. Banaji and Bhat 2019.
33
Vgl. Aneez et al. 2019.DESINFORMATION AUF MESSENGERDIENSTEN 17
Meistgenutzte Endgeräte für Nachrichtenkonsum
80%
68
60%
Quelle: Reuters Digital News Report 2019
48
45
40% 42 42 43 41
39 Computer
36
Smartphone
20% Tablet
17
3 11 3 10
0% 7
IND USA TUR BRA GER
Dr. Shakuntala Banaji und Ram Bhat haben die Ver- Ein weiterer Faktor, der das Aufkommen und die Verbrei-
breitung von Desinformation auf WhatsApp in Indien tung von Desinformationen in Indien begünstigt, sind
analysiert und dabei auch die nicht-englischsprachige Internetshutdowns, also das bewusste und zielgerich-
33
Bevölkerung befragt. In Indien führten Falsch- und tete Abschalten des Internets durch die Regierung. Dies
Desinformation bereits zu körperlichen Übergriffen, geschieht meist mit der (vorgegebenen) Intention, der
Vergewaltigungen und (Lynch-)Morden. Die beiden Verbreitung von Falsch- und Desinformation entgegen
Forscher und ihr Team haben die Verbreitung und wirken zu wollen. Stattdessen passiert das Gegenteil:
Auswirkungen von Falsch- und Desinformation Der begrenzte Zugang zu Nachrichten begünstigt die
besonders unter soziologischen und politischen As- Verbreitung von Falsch- und Desinformation. Die ein-
pekten untersucht. Dabei stellten sie zum einen fest, fachste Maßnahme gegen Desinformation – eine kurze
dass die Nutzung von WhatsApp und die Verbreitung Plausibilitätsprüfung der Information mit Hilfe einer
von Inhalten über WhatsApp gegendert sind. Das Suchmaschine – ist in diesem Fall nicht mehr möglich.
heißt, dass es einen erheblichen Unterschied zwi- Indien ist eines der führenden Länder bei Internetshut-
schen den Geschlechtern gibt in Bezug auf Zugang downs. Im Jahr 2019 wurde das Internet ganze 121
zu Smartphones, auf die Möglichkeit, diese privat Mal abgeschaltet, das zweitplatzierte Venezuela bringt
zu nutzen, auf Medienkompetenz und auch auf die 34
es lediglich auf zwölf Shutdowns im selben Zeitraum.
verfügbaren Ressourcen zur Nutzung – von Strom bis Unter den 121 Abschaltungen befindet sich auch der
Datenvolumen. Frauen sind in Indien von physischer längste jemals gemessene Shutdown der Welt: 213 Tage.
und virtueller Gewalt überproportional bedroht – noch
stärker, wenn sie einer Minderheit angehören, wie den Falsch- und Desinformation in Indien
Muslimen, Christen, Dalit oder Adivasi. Die Verbreitung von Falsch- und Desinformation wird
auch in Indien dazu genutzt, bestimmte Gruppen zu
Ebenso hat das Autorenteam herausgefunden, wer diskreditieren. Hier sind insbesondere die Gruppen
am ehesten dazu neigt, Falsch- und Desinformation betroffen, die für Gerechtigkeit, Gleichheit und für de-
sowie Hassnachrichten zu verbreiten: männliche Hin- mokratische Prozesse kämpfen. Falsch- und Desinfor-
dus jungen oder mittleren Alters, die technologisch mation wird außerdem zur Normalisierung und Legiti-
versiert sind und einer der oberen oder mittleren Kas- mierung von Diskriminierungen genutzt, ebenso wie zur
ten angehören. Und es sind am ehesten diese Men- Machtzementierung der gesellschaftlich dominanten
schen, die Gruppen auf WhatsApp erstellen und admi- Gruppen. Ein Zusammenhang zwischen dem Aufkom-
nistrieren, über die dann Falsch- und Desinformation men von Mob-Gewalt gegen Minderheiten in Indien und
verbreitet werden. Andersrum, so die Forscher, ist die WhatsApp ist erkennbar.
Wahrscheinlichkeit deutlich geringer, dass jemand der
einer niedrigen Kaste angehört, Dalit oder Muslim ist 86 % der Opfer von Mob-Gewalt sind Männer, und
und/oder weiblich und/oder im ländlichen Raum lebt, Attacken durch Mobs fanden hauptsächlich in Bun-
sowie technisch eher weniger versiert ist, eine solche desstaaten statt, in denen die hindunationalistische
Gruppe gründet und administriert. Bharatiya Janata Party (BJP) an der Macht ist.
33
Vgl. Banaji and Bhat 2019.
34
Vgl. Mohan 2020.Sie können auch lesen
