Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19- Desinformation - Institute for ...
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19- Desinformation Aoife Gallagher, Mackenzie Hart und Ciarán O’Connor
Copyright © Institute for Strategic Dialogue (2021). Das Institute for Strategic Dialogue (gGmbH) ist beim Amtsgericht Berlin-Charlottenburg registriert (HRB 207 328B). Die Geschäftsführerin ist Huberta von Voss. Die Anschrift lautet: Postfach 80647, 10006 Berlin. Alle Rechte vorbehalten. www.isdglobal.org
Inhaltsverzeichnis Wichtige Tendenzen 2 Einleitung 3 Was ist die World Doctors Alliance? 5 Methodik 6 Faktencheck-Analyse 6 Sprachenspezifische Datensätze 6 Einschränkungen 7 Analyse 8 Präsenz in sozialen Medien 8 Internationales Publikum 9 Analyse des Narrativs 10 Faktenchecks und Inhaltskennzeichnung 11 Auswirkung 14 Diskussion 16 Desinformationsanbieter produzieren Inhalte in so großen Mengen, dass es für Faktenprüfer fast unmöglich ist, Behauptungen oder Beiträge einzeln zu entlarven 16 Facebooks Faktencheck-Programm weist in anderen Sprachen als Englisch erhebliche Defizite auf 17 Facebook scheitert an der Aufdeckung und Kennzeichnung in allen Fällen der als falsch eingestuften Beiträge 18 Zusätzliche Informationen, die von Faktenprüfern zur Verfügung gestellt wurden, um Kontext zu behaupteten überhöhten Todesraten bereitzustellen, werden von Facebook nicht verwendet 20 Fazit 22 Anhang 25 Wer sind die Mitglieder der World Doctors Alliance? 25 Beispiele für Richtlinienverstöße 26 Antworten von Mitgliedern der World Doctors Alliance 27 Liste der Faktencheck-Organisationen 28
2 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
Wichtige Tendenzen
• Trotz detaillierter Richtlinien zu Falsch- und • Organisationen, die zum Faktencheck-Programm
Desinformationen und Zusagen, diese von Facebook gehören, haben seit dem Beginn
durchzusetzen, gehen Social-Media-Plattformen der Pandemie 189 Mal falsche Behauptungen der
oft nicht und in der Regel unzureichend gegen World Doctors Alliance entlarvt. Trotz dieses sehr
prominente Gruppen und Einzelpersonen vor, die aufwändigen Faktenchecks ergreift Facebook keine
falsche Behauptungen über COVID-19 und Impfstoffe entscheidenden Maßnahmen gegen die Gruppe oder
im Internet verbreiten. ihre Mitglieder.
• Die Forschenden des ISD haben eine Fallstudie am • Zum Faktencheck-Programm von Facebook gehören
Beispiel der sog. World Doctors Alliance erstellt,1 Organisationen aus 115 Ländern. In den nicht-
einer Gruppe, die problematische, falsche und englischen Sprachen scheint es jedoch erhebliche
konspirative Behauptungen über COVID-19 und Defizite zu geben. Das ISD stellte fest, dass die
Impfstoffe verbreitet hat. ISD stellte fest, dass Faktencheck-Kennzeichen in den vier untersuchten
78 % der 1,2 Millionen Follower der Gruppe auf den Sprachen lediglich in geringem Maße angewandt
etablierten Plattformen wie Facebook, Instagram, wurden, wobei der Anteil für Beiträge auf Deutsch,
YouTube, Twitter und TikTok zu finden sind, die diese Spanisch und Arabisch unter dem für englische
Art von Inhalten angeblich verbieten. Beiträge lag. Mit Content, der Kennzeichen für den
Faktencheck enthält, wird immer noch zehntausend-
• Den Facebook-Seiten der World Doctors Alliance
und manchmal hunderttausendfach interagiert.
folgen mehr als 550.000 Nutzer. Zwischen Januar
2020 und Juli 2021 war ein Anstieg der Mitgliedschaft • Facebook scheint offensichtlich nicht in der Lage
von 13.215 % zu verzeichnen. Von diesen Facebook- zu sein, alle Versionen der von Faktenprüfern als
Seiten gepostete Videos wurden mehr als 21,1 falsch eingestuften Beiträge zu erkennen und zu
Millionen Mal aufgerufen. kennzeichnen, obwohl das Unternehmen behauptet,
eine KI-Technologie zu besitzen, mit der dies „mit
• Auf diesen Seiten wurden seit Januar 2020 insgesamt
sehr hoher Präzision“ möglich sein soll.
5,77 Millionen Interaktionen gezählt, wobei diese
Zahl in den ersten sechs Monaten des Jahres • Mitglieder der World Doctors Alliance produzieren
gegenüber den vorhergehenden sechs Monaten um sehr große Mengen Content. Facebooks
85 % gestiegen ist. Konzept der Einzelprüfung der Fakten stellt eine
große Herausforderung für die Faktenprüfer
• Posts auf Facebook, in denen die World Doctors
dar und ermöglicht den Verbreiter*nnen von
Alliance oder ihre Mitglieder erwähnt werden,
Desinformationen, weiterhin falsche Behauptungen
wurden mehr als drei Millionen Mal aufgerufen und
ohne viel Gegenwind zu verbreiten.
sind in mindestens 46 Sprachen auf der Plattform
präsent. • Wenn wahrheitsgemäße Informationen (z. B.
höhere Zahlungen für COVID-19-Patienten an
• ISD stellte fest, dass große Teile – in den meisten
Krankenhäuser) zur Verbreitung eines falschen
Fällen die Mehrheit – des auf Facebook aufgerufenen
Narratives über die Pandemie (bspw. Manipulation
Contents, in dem die World Doctors Alliance oder ihre
von Fall- und Sterbezahlen) verwendet werden,
Mitglieder erwähnt werden, in Englisch, Spanisch,
kennzeichnet Facebook diese Posts nicht
Deutsch und Arabisch verfasst waren und falsche,
ausreichend mit zusätzlichem, von Faktenprüfern
irreführende oder konspirative Behauptungen
bereitgestelltem Kontext.
in Verbindung mit COVID-19 und Impfstoffen
enthielten.
Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation 3
Einleitung
Die Delta-Variante von COVID-19 ist weltweit auf dem Gruppen, Seiten und Accounts auf der Plattform zu
Vormarsch und zu niedrige Impfraten2 erhöhen den löschen, die den Menschen von einer Impfung
Druck auf das Gesundheitssystem immer weiter. Daher abraten, unabhängig davon, ob der Content wahr
beleuchtet dieser Bericht die Rolle, die Social-Media- oder falsch ist.11
Plattformen bei der Verbreitung von gefährlichen
und falschen Informationen über die Pandemie und Trotz dieser Versprechen und Bemühungen12 gibt
Impfungen spielen. es auf den Tech-Plattformen viele Gruppen und
Einzelpersonen, die sich mit den von ihnen erstellten
Immer wieder werden Geschichten von Menschen und geteilten Desinformationen über COVID-19 und
bekannt, die schwer an COVID-193 erkrankt sind, Impfstoffe eine große Anhängerschaft aufbauen
teilweise sogar im Sterben4 liegen und bedauern, konnten. Einige dieser Personen waren bereits vor der
dass sie sich nicht gegen die Krankheit impfen Pandemie jahrelang problemlos auf den etablierten
ließen, als sich ihnen die Gelegenheit dazu bot. In Plattformen aktiv und haben aus der Verbreitung
einer Reihe dieser Geschichten wird die Rolle der falscher und gefährlicher Informationen ein lukratives
sozialen Medien bei der Ablehnung der Impfung Geschäft gemacht.13,14 Mit dem Aufkommen von
ausdrücklich erwähnt.5,6 Untersuchungen von COVID-19 bot sich diesen Personen die Möglichkeit,
Universitäten und Medienkanälen lassen ebenfalls die Ängste und Unsicherheiten in Verbindung mit
darauf schließen, das Desinformationen auf etablierten dem Virus als Mittel zum Erreichen eines breiteren
Plattformen zu einer zögerlichen Haltung gegenüber Publikums zu nutzen.
Impfstoffen7 und zu einer Zunahme des Glaubens an
Verschwörungsmythen beigetragen haben.8 Das ISD führte eine Analyse der Präsenz der als World
Doctors Alliance bekannten Gruppe auf Facebook
Der Umfang der Community-Richtlinien und durch, mit der die Lücke in der Durchsetzung der
-Maßnahmen für den Umgang mit Desinformationen Unternehmensrichtlinie nachgewiesen werden
über COVID-19 und Impfstoffen ist von Plattform zu soll. Viele der 12 wichtigsten Mitglieder der Gruppe
Plattform sehr unterschiedlich. Die Richtlinien von – Mediziner aus sieben verschiedenen Ländern
TikTok enthalten beispielsweise keine spezifischen – konnten seit Beginn der Pandemie ein großes
verbotenen Behauptungen. Stattdessen heißt es internationales Online-Publikum aufbauen. Mitglieder
dort, dass „Inhalte [verboten werden], die falsch oder der Alliance haben wiederholt Informationen über
irreführend sind, einschließlich Falschinformationen COVID-19 und Impfstoffe verbreitet, die in direktem
im Zusammenhang mit COVID-19, Impfstoffen und Widerspruch zu den Leitlinien der Regierung und
Desinformation zu Impfungen im weiteren Sinne“.9 dem Verständnis von COVID-19 in der breiteren
YouTube kündigte inzwischen an, gegen Impfungen wissenschaftlichen Gemeinschaft stehen.15 Obwohl
gerichteten Content zu verbieten. Die Plattform verbot die Richtlinien vieler Social-Media-Plattformen auf
bisher allerdings lediglich Inhalte, die den Aussagen der verbindlichen, staatlichen Vorgaben beruhen, konnten
lokalen Gesundheitsbehörden oder den Empfehlungen die Mitglieder der World Doctors Alliance diese
der World Health Organisation widersprachen. Richtlinien immer wieder verletzen, ohne dass es zu
einer Reaktion kam.
Die Community-Standards von Facebook beschreiben
die Art der Inhalte in Verbindung mit COVID-19 Ein weiteres Tool in Facebooks Werkzeugkasten zur
und Impfstoffen detailliert, die das Unternehmen Inhaltsmoderation ist das Faktencheck-Programm.
nach eigener Aussage von der Plattform entfernt.10 Das Unternehmen erklärt, dass es im Rahmen seines
Diese Inhalte umfassen Behauptungen, die „die Programmes mit 80 verschiedenen Organisationen
Existenz oder Schwere der Pandemie leugnen“ oder in mehr als 60 Sprachen weltweit zusammenarbeitet,
„falsche Behauptungen in Bezug auf die Sicherheit, um falsche Informationen auf der Plattform zu
Wirksamkeit, Inhaltsstoffe, Entwicklung, Existenz identifizieren.16 Faktenprüfer jedoch haben keine
oder Verschwörungen im Zusammenhang mit dem Möglichkeit, Inhalte von Facebook zu entfernen. Sie
Impfstoff“ verbreiten. Im Mai 2021 erklärte Facebook, helfen lediglich dabei, falsche Inhalte zu erkennen,
4 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
zu überprüfen und zu bewerten. Facebook erklärt, Plattform, Impfzögerlichkeit in Kommentarabschnitten
dass dann die Reichweite dieser Inhalte reduziert wird zu erkennen, „auf Englisch schlecht und anderweitig
und Personen, die den Inhalt zuvor geteilt haben, praktisch nicht vorhanden“ ist.
benachrichtigt und Warnhinweise angebracht werden,
die auf einen Faktencheck-Artikel zu den aufgestellten Diese jüngsten Enthüllungen bestätigen die
Behauptungen verweisen.17 Behauptungen der Facebook-Whistleblowerin Sophie
Zhang, die im Jahr 2020 von „mangelndem Willen
Frühere Untersuchungen des ISD über COVID- der Führungsspitze, demokratische Prozesse in
19-Desinformation in irischen18 und arabischen kleineren Ländern zu schützen“21sprach. Vor diesem
Facebook-Communitys19 haben gezeigt, dass Inhalte Hintergrund untersucht dieser Bericht, ob diese
der World Doctors Alliance und ihrer Mitglieder in Ressourcenungleichheit auch im Faktencheck-
einer Vielzahl von Sprachen und Kontexten existieren. Programm vorhanden ist, und ob das Programm
In diesem Bericht wird die Art der von der World erfolgreich verhindern kann, dass den Nutzern falsche
Doctors Alliance in vier Sprachen - Englisch, Deutsch, Inhalte angezeigt werden.
Spanisch und Arabisch - verbreiteten Behauptungen
detailliert untersucht, unter Einbeziehung der Rolle Schließlich untersucht dieser Bericht die Art und
des Faktencheck-Programms von Facebook bei der Weise, wie die Behauptungen der Mitglieder der World
Bereitstellung von sachlichen Informationen für Doctors Alliance online verbreitet werden. Allein auf
Personen, die auf ihre Beiträge stoßen. Facebook hat die Gruppe, deren Mitglieder vor der
Pandemie größtenteils relativ unbekannt waren,
Facebook ist dafür bekannt, in den USA vorrangig ihre Anhängerschaft seit Januar 2020 um 13.215 %
Ressourcen zur Überprüfung problematischer vergrößert. Dieses Publikum interagiert zunehmend mit
Inhalte einzusetzen, während es diese Aufgabe in dem Content, was sich insbesondere bei Videoinhalten
anderen Ländern vernachlässigt. Kürzlich hat eine feststellen lässt, in denen mit der Alliance verbundenen
interne Untersuchung von Facebook, die dem Wall Personen zu sehen sind. Für diese Untersuchung wurde
Street Journal vorlag, ergeben, dass nur 13 % der ein Mixed-Method-Ansatz gewählt. Mit ihm konnte
Stunden, die Mitarbeiter und Auftragnehmer von die Reichweite erfasst werden, das Publikum der von
Facebook damit verbrachten, falsche und irreführende diesem Netzwerk verbreiteten falschen Inhalte, sowie
Informationen aufzuspüren, auf Inhalte außerhalb die möglichen Auswirkungen der problematischen und
der USA entfielen.20 In dieser internen Untersuchung falschen Behauptungen über COVID-19 und Impfstoffe,
wurde zudem festgestellt, dass die Fähigkeit der die in diesen Gemeinschaften Resonanz finden.
Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation 5
Was ist die World Doctors Alliance?
Die World Doctors Alliance beschreibt sich selbst als Einige der von Mitgliedern der World Doctors Alliance
„unabhängiger, gemeinnütziger Zusammenschluss von aufgestellten Behauptungen28 sind uneinheitlich
Ärzten, Krankenschwestern, medizinischen Fachkräften und widersprechen sich. So behauptete Dr. Andrew
und Personal auf der ganzen Welt, die sich im Zuge des Kaufman, dass das COVID-19-Virus nicht existiert,29
Covid-19-Kapitels zusammengeschlossen haben. Ziel ist während Dr. Dolores Cahill seine Existenz zwar einräumt,
es, Erfahrungen auszutauschen und alle Abriegelungen aber seine Gefährlichkeit herunterspielt.30 Dr. Elke
und damit zusammenhängenden schädlichen De Klerk erklärte, dass PCR-Tests „nasale Impfungen“
Maßnahmen zu beenden und die universelle sind,31 Dr. Dolores Cahill vertrat hingegen, dass die
Gesundheitsdeterminierung [sic] des psychischen und Tests Influenza, aber nicht COVID-19 nachweisen.32
physischen Wohlergehens für die gesamte Menschheit Eine Reihe der Mitglieder, darunter Dr. Vernon
wiederherzustellen“.22 Coleman,33 Dr. Mohammad Adil34 und Dr. Elke De Klerk,35
verbreiteten übergreifende Verschwörungstheorien.
Auf ihrer Website nennt die Allianz 12 wichtige Sie behaupten, die gesamte Pandemie sei ein „Betrug“
Mitglieder aus sieben verschiedenen Ländern:23 Irland, oder „Schwindel“ gewesen, der von Regierungen,
Großbritannien, die Vereinigten Staaten, Deutschland, Gesundheitsbehörden und den Medien verübt worden
die Niederlande, Schweden und Belgien. Einige sei, die sich als Teil eines finsteren Komplotts dazu
Mitglieder sind zu führenden Stimmen innerhalb abgesprochen hätten, Ängste zu verbreiten und
der COVID-Leugner- und Impfskeptiker-Bewegung den Menschen ihre Freiheiten zu nehmen. Weitere
geworden und nutzen ihre Qualifikationen, um Einzelheiten zu den von den Mitgliedern der World
Behauptungen einen Anschein von Glaubwürdigkeit Doctors Alliance verbreiteten Behauptungen befinden
zu geben, die sich als falsch und häufig als gefährlich sich im Anhang.
erwiesen haben.
Die World Doctors Alliance ist Teil einer übergreifenden
Organisation namens World Freedom Alliance, die
Ende 2020 von Dr. Dolores Cahill und Dr. Heiko
Schöning sowie dem dänischen Finanzmanager Mads
Palsvig gegründet wurde. Dr. Cahill, Dr. Schöning und
Palsvig fungieren als Präsidentin, Vizepräsident und
Schatzmeister der Organisation. Weitere Partner der
World Freedom Alliance sind die Impfgegner-Seite
von Robert F. Kennedy Jr., Children‘s Health Defense
und das New Earth Project, eine Initiative, die darauf
abzielt, eine neue Art Gesellschaft zu schaffen,
indem sie die Menschen ermutigt, „ihr souveränes
Geburtsrecht zurückzufordern“.24 Mitarbeiter des
New Earth Project sind prominente Verfechter von
5G-Verschwörungstheorien25 und arbeiteten bereits mit
Verschwörungstheoretikern wie Alex Jones26 und David
Icke27 zusammen.
6 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
Methodik
Faktencheck-Analyse Sprachenspezifische Datensätze
Das Forschungsteam des ISD hat alle Mithilfe der CrowdTangle-API38 suchte das ISD nach
Mitgliedsorganisationen des externen Faktencheck- Facebook-Beiträgen öffentlicher Gruppen und Seiten,
Netzwerks von Facebook ermittelt und in einer Liste in denen die World Doctors Alliance oder ihre Mitglieder
zusammengefasst, mit der die Faktenchecks in Bezug zwischen dem 1. Januar 2020 und dem 13. Juni 2021
auf die World Doctors Alliance überprüft werden.36 erwähnt wurden. Unsere Analyse ergab für diesen
Diese Organisationen sind vom überparteilichen Zeitraum insgesamt 89.315 Facebook-Posts. Mit dem
International Fact-Checking Network (IFCN) zertifiziert vom ISD entwickelten, internen Datenanalysetool
und arbeiten mit Facebook bei der Identifizierung, „Method 52“ konnte die Sprache der einzelnen
Überprüfung und Einstufung von Falschinformationen Beiträge, in denen die World Doctors Alliance erwähnt
auf dessen Plattformen zusammen. Das Ergebnis wird, bestimmt und Inhalte in 46 verschiedenen
war eine Liste von 109 Websites37 in 115 Ländern. Die Sprachen gefunden werden.
Liste der analysierten Organisationen befindet sich
im Anhang. Anschließend wurde mit verschiedenen Das ISD entschied sich für die Analyse von Inhalten auf
Google-Suchfunktionen nach Artikeln auf den Websites Englisch, Spanisch und Deutsch - den drei Sprachen,
der Organisationen gesucht, die sich auf die World in denen die World Doctors Alliance am häufigsten
Doctors Alliance oder ihre Mitglieder beziehen. Dazu diskutiert wurde. Die Forscher analysierten zudem
verwendete das ISD Google-Suchen wie beispielsweise Beiträge in arabischer Sprache, nachdem bei früheren
„site:thejournal.ie „World Doctors Alliance“. Untersuchungen des ISD Unstimmigkeiten bei der
Faktenüberprüfung auf Arabisch festgestellt worden
Bei Medien, die Inhalte in nicht-indoeuropäischen waren.39
Sprachen wie bspw. Arabisch veröffentlichen,
verwendeten die Forschenden übersetzte Versionen Nach der Aufteilung der Beiträge in vier verschiedene
der relevanten Schlüsselwörter und Suchbegriffe, um Datensätze – einer pro Sprache – ermittelten
die lokalen Sprachen zu berücksichtigen. die Analysten die 50 populärsten Posts jeder
Sprache, indem sie alle Interaktionen (Likes, Shares,
Das ISD hat alle von diesen Organisationen Kommentare und Reaktionen) zusammenrechneten
veröffentlichten Faktencheck-Artikel und eine Rangfolge nach der höchsten Anzahl
zusammengestellt, in denen die World Doctors Alliance, Interaktionen aufstellten. Diese vier Datensätze mit
die World Freedom Alliance oder ihre Mitglieder je 50 Beiträgen auf Englisch, Spanisch, Deutsch und
erwähnt werden. Anschließend wurden die einzelnen Arabisch bildeten die Grundlage für die Sprachanalyse.
Artikel kodiert, um festzustellen:
Jeder Beitrag aus der Gruppe der 50 populärsten
• welches Mitglied der World Doctors Alliance Posts wurde anschließend kodiert, um Folgendes zu
erwähnt wurde bestimmen:
• die Sprache des Artikels
• Beinhaltung problematischer Behauptungen.
• der zu prüfende Inhalt/das zu prüfende Video Als problematisch wurden Behauptungen
eingestuft, die falsche, irreführende oder
Im Zuge dieses Prozesses entfernte das ISD verschwörerische Informationen enthielten, die in
zudem eine Reihe falsch-positiver Ergebnisse. den Facebook-Richtlinien aufgeführt waren, oder
Dazu gehören Ergebnisse, die aufgrund einer Informationen, die den Empfehlungen führender
Suchmaschinenoptimierung irrtümlich eingeschlossen Gesundheitsbehörden widersprachen;
wurden, oder Inhalte von Faktencheck-Organisationen,
• Art der problematischen Behauptungen im Post;40
die die World Doctors Alliance oder ein Mitglied in
einem Artikel erwähnten, aber nicht auf sie eingingen. • Kennzeichnung von Beiträgen mit problematischen
Behauptungen für den Faktencheck. Wenn ein
Beitrag keine problematischen Angaben enthielt,
wurde er als nichtzutreffend kodiert;
Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation 7
• Auswertung der Inhalte auf zuvohrige Überprüfung • Behauptungen in Verbindung mit Pseudo-
durch Faktencheck-Partner von Facebook auf deren Rechtsberatung
Richtigkeit; Beispiele: „Ihre unveräußerlichen Rechte/das
bürgerliche Recht bedeuten, dass Sie sich nicht an
• Erwähnung bestimmter Mitglieder der World
Lockdown-Maßnahmen halten müssen“
Doctors Alliance im Post;
• Behauptungen, die COVID-19-Beschränkungen
• Art des Beitrags (Text, eingebettetes Video,
mit Völkermord/Krieg vergleichen
verlinktes Video, verlinkter Artikel oder Bild);
Beispiele: Vergleiche mit dem Holocaust/
• Anzahl der Aufrufe von eingebetteten Videos. Nationalsozialismus
Bei der Kodierung für problematische Informationen
Einschränkungen
der Beiträge wurden die Behauptungen in sieben
Aufgrund der Art der Analyse und der Notwendigkeit,
Kategorien aufgeschlüsselt:
die maximale Anzahl problematischer Behauptungen
in jedem Beitrag auf fünf zu begrenzen, ist diese
• Behauptungen über die Letalität oder Ausbreitung
Untersuchung gewissen Einschränkungen
von COVID-19
unterworfen. Die Anzahl der festgestellten und
Beispiele: „COVID-19 wurde nicht isoliert“, „COVID-19
analysierten Behauptungen entspricht nicht der
ist weniger/genauso tödlich wie die Grippe“
Gesamtzahl der problematischen Behauptungen in
• Behauptungen über COVID-19, die im allen analysierten Posts. Es ist davon auszugehen, dass
Widerspruch zu Ratschlägen von Regierungen/ die tatsächliche Anzahl problematischer Behauptungen
Gesundheitsbehörden stehen in den Beiträgen wesentlich höher ist, da einige
Beispiele: „Die WHO änderte ihre Beiträge aus zweiminütigen bis vierstündigen Videos
Pandemieanweisungen am Tag der Amtseinführung, bestehen.
um die Fallzahlen unter Biden zu senken“, „Masken
funktionieren nicht/sind gefährlich“, „COVID- Facebook erklärt, dass die Verbreitung von Inhalten, die
Sterblichkeitsraten sind aufgrund der CDC-Anleitung sich als falsch herausstellen, eingeschränkt wird, damit
ungenau/aufgeblasen“. sie weniger Menschen angezeigt werden. Das hieße,
• Behauptungen über Tests und Behandlungen dass Beiträge mit überprüften Fakten, die als solche
Beispiele: „Hydroxychloroquine, Vitamine und Zink gekennzeichnet sind, weniger Interaktionen auf der
können COVID-19 heilen“, „PCR-Tests haben eine Plattform erhalten. Dies hängt jedoch auch davon ab,
hohe Rate falsch-positiver Ergebnisse“ ob der Beitrag bevor oder nachdem er viral geht, mit
einer Faktencheck-Kennzeichnung versehen wird.
• Behauptungen in Bezug auf Impfstoffe
Beispiele: „COVID-19-Impfstoffe verursachen Vor diesem Hintergrund wurde diese Analyse
Unfruchtbarkeit/verändern Gene/lösen durchgeführt, mit der festgestellt werden soll, welche
Zytokinstürme aus“, „Impfstoffe werden zu einem Art Beiträge trotz des Faktenchecks immer noch hohes
Massensterben führen“ Feedback erhalten und welche Beiträge überhaupt
• Behauptungen im Zusammenhang mit der nicht überprüft werden.
Verbreitung von „Betrugsdemie“- oder
„Plandemie“-Verschwörungstheorien41
Beispiele: „COVID-19 ist ein Plan zur Tötung älterer
Menschen“, „die Todeszahlen werden absichtlich
manipuliert“, „die Medien lügen, weil sie in den Plan
eingeweiht sind“, „5G ist mit COVID-19 verbunden“.
8 Schlechter
Ill Advice A Rat:
CaseEine
Study
Fallstudie
in Facebook’s
über das
Failure
Versagen
to Tackle
vonCOVID-19
Facebook Disinformation
bei der Bekämpfung von ärztlicher COVID-19-Desinformation
Analyse
Präsenz in sozialen Medien Die Analyse44 der mit der World Freedom Alliance,
Die Forscher des ISD stellten Listen der Accounts- der World Doctors Alliance und ihren Mitgliedern
zusammen, die unter dem Namen der World Freedom verbundenen Accounts auf den in Tabelle 1
Alliance, der World Doctors Alliance und ihrer Mitglieder aufgeführten Plattformen ergab:
auf fünf etablierten und drei alternativen Plattformen
gepostet wurden. Obwohl viele Mitglieder Accounts • Facebook: Insgesamt 553.669 Follower verteilen
auf mehreren Plattformen/Sites haben, nutzen sich auf 6 Seiten. Dr. Scott Jensen verzeichnet mit
die einzelnen Mitglieder die Online-Plattformen 394.857 Followern seiner verifizierten Seite die
unterschiedlich. Einige Accounts, z. B. auf Instagram meisten Anhänger. Accounts unter dem Namen
oder Twitter, werden nur selten genutzt und verzeichnen World Freedom Alliance und Dr. Vernon Coleman
daher nur geringe Followerzahlen. Die meisten Follower wurden bereits zuvor identifiziert und verbuchten
der Alliance-Mitglieder finden sich auf Facebook, gefolgt 35.918 bzw. 8.855 Follower, waren aber zum
von YouTube. Beide Plattformen haben in den letzten Zeitpunkt der Veröffentlichung bereits gelöscht.
Monaten strengere Maßnahmen gegen die Verbreitung
• Twitter: Acht Profile verzeichnen insgesamt
von Inhalten von Impfstoffgegnern angekündigt.42,43
75.407 Follower.
Es ist klar, dass die World Doctors Alliance seit März • Instagram: Fünf mit dem Netzwerk verbundene
2020 von ihrer Präsenz auf etablierten Plattformen Instagram-Accounts wurden von 26.043
abhängig war, um ihre Botschaften zu verbreiten. Sie Nutzern abonniert.
erreichte 951.351 der insgesamt 1.225.382 Follower • YouTube: Acht Accounts weisen insgesamt 296.139
(78 %) auf den etablierten Plattformen (Facebook, Abonnenten auf. Die Videos dieser Accounts wurden
Twitter, Instagram, YouTube, TikTok). mehr als 8,8 Millionen Mal aufgerufen. Dr. Vernon
Tabelle 1: Übersicht über die Online-Präsenz und die Follower-Zahlen der World Freedom Alliance,
der World Doctors Alliance und ihrer Mitglieder, Zeitraum: 01.01.2020–13.06.2021
Brand
Facebook Twitter Instagram YouTube TikTok Telegram NewTube Odysee Gesamt
World Freedom Alliance 3,364 2,998 8,470 5 20,261 9 349 35,456
World Doctors Alliance 851 122,784 3,389 127,024
Dr Dolores Cahill 128,942 9,418 6,240 57 584 11,589 156,830
Dr Mohammad Adil 1,006 27 189 620 1,842
Dr Zac Cox 795 795
Dr Andrew Kaufman 22,170 1,270 1,641 59,700 18 84,799
Dr Heiko Schöning 6,663 6,663
Dr Heinrich Fiechtner 4,873 1,887 1,253 13 28,618 36,644
Dr Scott Jensen 394,857 59,200 19,300 3,460 476,817
Dr Elke De Klerk 0
Dr Mikael Nordfors 1,821 28 4,020 5,869
Dr Hilde De Smet 213 1,060 1,096 2,369
Dr Vernon Coleman 213,000 8,696 66,584 1,993 290,273
Dr Johan Denis 1 1
Total 553,669 75,407 26,043 296,139 93 188,702 82,987 2,342 1,225,382Schlechter Rat: Eine Fallstudie über das Versagen
Eine Fallstudie
von Facebook
über Facebooks
bei der Bekämpfung
Versagen COVID-19-Desinformation
von ärztlicher COVID-19-Desinformation
zu bekämpfen 9
Coleman ist mit 213.000 Abonnenten und mehr als Anteil in deutscher Sprache deutlich geringer (48 %).
6,2 Millionen Videoaufrufen der Spitzenreiter auf Das könnte auf eine große Anzahl von Beiträgen in
YouTube. deutscher Sprache zurückzuführen zu sein, in denen
Mitglieder der World Doctors Alliance erwähnt werden
• TikTok: Vier Accounts folgen 93 Personen mit
und für Proteste und Kundgebungen geworben wird,
insgesamt 2.865 Aufrufen.
sowie auf eine Reihe von Beiträgen im Zusammenhang
• Telegram: Sieben Kanäle verzeichnen insgesamt mit dem Ausscheiden von Dr. Heinrich Fiechtner aus
188.702 Abonnenten. dem Landtag von Baden-Württemberg. Bei den anderen
• Brand New Tube: Sieben Accounts mit insgesamt Beiträgen, die keine problematischen Behauptungen
82.987 Followern. enthielten, handelte es sich entweder um Beiträge
von Faktenprüfern, die falsche Informationen über
• Odysee: Zwei Accounts mit insgesamt 2.342 Mitglieder der World Doctors Alliance entlarvten, oder
Followern. um Beiträge, die zum Zeitpunkt der Analyse bereits
Internationales Publikum entfernt worden waren.
Das ISD wählte die World Doctors Alliance und ihre Abbildung 1: Die zehn häufigsten Sprachen in den
Mitglieder auf Facebook für die weitere Untersuchung Beiträgen der World Doctors Alliance auf Facebook,
aus, da sie über ein großes Publikum verfügen Zeitraum: 01.01.2020–13.06.2021
und Facebook mehrfach erklärt hat, falsche und
Sprache Posts
irreführende Inhalte über COVID-19 zu moderieren.
Zunächst untersuchte das ISD, wie sich die 89.315 Englisch 57,179
Beiträge, die mit der oben beschriebenen Methode Spanisch 8,422
ermittelt wurden, international verbreiten konnten.
Dabei fand es Inhalte in 46 verschiedenen Sprachen Deutsch 3,911
(siehe Abbildung 1). Niederländisch 3,359
Französisch 1,930
Eine Analyse der 50 populärsten Posts (siehe Tabelle
2) in englischer, spanischer, arabischer und deutscher Rumänisch 1,789
Sprache ergab, dass ein erheblicher Teil davon Ungarisch 1,339
Behauptungen enthielt, die unter die im Abschnitt
über die Methodik beschriebenen Kategorien Schwedisch 1,282
problematischer Informationen fallen. Während bei Italienisch 1,118
über 70 % der Beiträge in englischer, spanischer
Arabisch 1,111
und arabischer Sprache festgestellt wurde, dass sie
problematische Behauptungen enthielten, war ihr Posts 0 30,000 60,000
Tabelle 2: Analyse der 50 populärsten Posts in Englisch, Spanisch, Arabisch und Deutsch
Englisch Spanisch Arabisch Deutsch
Problematische Behauptungen
beinhaltende Posts 37 (74 %) 44 (88 %) 41 (82 %) 24 (48 %)
Interaktion bei Beiträgen mit
problematischen Behauptungen 689,220 167,611 58,764 65,965
Videoaufrufe zu
problematischen Beiträgen 17,784,000 2,321,600 2,416,286 480,100
Meistgenannte WDA-Mitglieder
(Anzahl der Beiträge) Dr. Scott Jensen (26) Dr. Dolores Cahill (19) Dr. Vernon Coleman (32) Dr. Heinrich Fiechtner (38)
Dr. Dolores Cahill (22) Dr. Scott Jensen (11) Dr. Andrew Kaufman (13) Dr. Dolores Cahill (7)
Dr. Andrew Kaufman (10)10 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
In Bezug auf die in diesen Posts erwähnten Mitglieder englischer Sprache geführten Interviews mit Mitgliedern
der Alliance stellten die Forschenden des ISD fest, der World Doctors Alliance, die jedoch mit Untertiteln
dass Dr. Scott Jensen und Dr. Dolores Cahill in den versehen waren oder synchronisiert wurden, erzielten
englischsprachigen Beiträgen am häufigsten erwähnt mit die höchste Anzahl Interaktionen in allen Sprachen.
wurden, während Dr. Heinrich Fiechtner in den
deutschsprachigen Beiträgen an der Spitze lag. Die Analyse des Narrativs
Popularität von Dr. Dolores Cahill, Dr. Scott Jensen Das ISD kodierte die Untergruppe der 50 populärsten
und Dr. Andrew Kaufman in spanischsprachigen Posts, die problematische Informationen enthielten,
Beiträgen könnte auf die Verbindungen innerhalb der um festzustellen, welche spezifischen Narrative in
breiteren internationalen COVID-Skeptikerbewegung der Zielgruppe der World Doctors Alliance und ihren
zurückzuführen sein. Dr. Heiko Schoning beispielsweise Mitgliedern auf Facebook verbreitet waren.
ist Gründungsmitglied der deutschen Gruppe „Doctors
for the Truth“, und sprach bei der Gründung der Wie aus Tabelle 3 hervorgeht, waren die verbreitetsten
gleichnamigen spanischen Gruppe (Médicos por la Behauptungen der Mitglieder verschwörerischer
Verdad) im Juli 2020.45 Sowohl Dr. Schoning als auch Dr. Natur und implizierten eine Art übergreifenden
Cahill sprachen auf einer Veranstaltung zur „Weltfreiheit“, „Masterplan“, an dem Weltregierungen, Medien
die im Juni 2021 in Spanien stattfand.46 Die Popularität und Gesundheitsbehörden beteiligt seien. Dieser
von Dr. Vernon Coleman in der arabischsprachigen Inhalt war in allen vier Sprachen weit verbreitet
Community zeigt zudem, wie leicht Inhalte übersetzt und bildete einen Kernbestandteil der mit der
und für ein Publikum in verschiedenen Weltregionen Alliance verbundenen Desinformationen über
zugänglich gemacht werden können. COVID-19 und Impfstoffe. Diese Narrative ergänzen
spezifischere falsche Behauptungen, da sie einen
Die Beiträge, die in den englischen, spanischen, Rechtfertigungsmechanismus liefern, der erklärt,
arabischen und deutschen Datensätzen als warum Regierungen, Medien und Gesundheitsbehörden
problematisch eingestuft wurden, erreichten insgesamt solche Maßnahmen vorantreiben.
981.560 Interaktionen (Likes, Kommentare, Shares und
Reaktionen), wobei die in diesen Beiträgen eingebetteten So wird beispielsweise die Behauptung, dass PCR-
Videos 23.001.986 Mal aufgerufen wurden. Videos der in Tests eine hohe Zahl falsch-positiver Ergebnisse
Tabelle 3: Die fünf häufigsten Behauptungen in den untersuchten Sprachen, geordnet nach ihrer Bedeutung in den
50 populärsten Posts
Englisch Spanisch Arabisch Deutsch
1 Hydroxychloroquin/Vit. C/ Masken sind nicht notwendig/ COVID ist nicht tödlicher PCR-Tests sind ungenau
Zink können COVID heilen funktionieren nicht/ als die saisonale Grippe
sind gefährlich
2 COVID Sterblichkeitsraten COVID ist eine „Betrugsdemie“ COVID ist eine „Betrugsdemie“ Vergleich von COVID mit
sind ungenau/aufgrund der oder „Plandemie“ oder „Plandemie“ den Holocaust/National-
CDC-Leitlinien aufgebauscht sozialismus/Genozid
3 COVID ist eine „Betrugsdemie“ Lockdowns sind unnötig/ Hydroxychloroquin/Vit. C/ COVID-19 is a “scamdemic”
oder „Plandemie“ töten mehr Menschen Zink können COVID heilen or “plandemic”
4
COVID ist eine saisonale Hydroxychloroquine/Vit C/ Die Medien sind Teil des Plans mRNA-Impfstoffe werden in
Erkrankung Zink können COVID heilen und belügen Sie den kommen Jahren zahl-
reiche Todesopfer fordern
5 Die Medien sind Teil des Plans Der Grippe-Impfstoff enthält COVID wird zum Töten COVID ist nicht so gefährlich
und belügen Sie das Coronavirus älterer Menschen verwendet wie man uns sagtSchlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation 11
liefern, mit der Vorstellung erklärt, dass es einen Plan spielen mit dem Misstrauen gegenüber Behörden und
gäbe, um die Fallzahlen in die Höhe zu treiben und die Institutionen und bieten eine überzeugende Erklärung
Menschen in „Angst“ zu versetzen. Die angebliche für schwierige Ereignisse in der Welt.
„Ignoranz“ von Heilmitteln und Behandlungen durch
die Gesundheitsbehörden, wird damit erklärt, dass Faktenchecks und Inhaltskennzeichnung
die Pandemie ein Komplott von Big Pharma sei, um Facebook hat eine Reihe Konzepte, mit denen
mit Impfstoffen Geld zu verdienen. Diese Narrative die Reichweite und die Auswirkungen von
Desinformationen und Fehlinformationen auf der
Abbildung 2: Verteilung der Sprachen in den 189 Faktencheck- Plattform begrenzt werden sollen. Ein Ansatz ist das
Artikeln, in denen die World Doctors Alliance oder ihre Faktencheck-Programm durch Dritte, das laut ISD-
Mitglieder erwähnt werden Analyse 109 Faktencheck-Websites umfasst, die in 115
Sprache Anzahl der Artikel
Ländern weltweit betrieben werden. Entscheidend ist,
dass diese Partnerorganisationen nicht die Aufgabe
Englisch 61 haben, Facebook-Inhalte zu entfernen, sondern
Spanisch 26 vielmehr Faktenchecks und korrekte Informationen zu
bestimmten Geschichten und Inhalten bereitzustellen,
Serbo-Kroatisch 16
die auf Facebook zu verschiedenen Themenbereichen
Deutsch 13 erscheinen, darunter COVID-19 und Impfungen. Einige
Russisch 11 von ihnen, wie z. B. AFP, decken mehrere Sprachen
und mehrere Regionen ab. Die Analyse des ISD ergab
Indonesisch 8 insgesamt 189 Artikel von externen Faktencheck-
Portugiesisch 8 Partnern auf Facebook, in denen die World Doctors
Alliance oder ihre Mitglieder in 24 verschiedenen
Französisch 5
Sprachen erwähnt wurden (siehe Abbildung 2).
Polnisch 5
Türkisch 5 Wie bereits angemerkt, wurden die meisten Inhalte
im Zusammenhang mit der World Doctors Alliance
Niederländisch 4
in Beiträgen in englischer, spanischer und deutscher
Georgisch 4 Sprache gefunden. Diese drei Sprachen wurden auch
Griechisch 4
in den vier wichtigsten Sprachen der Faktencheck-
Artikel über die Alliance und ihre Mitglieder festgestellt
Litauisch 3 (siehe Abbildung 2). Offenbar weisen die Möglichkeiten
Arabisch 2 des Faktencheck-Programms größere Defizite auf, wenn
es darauf geht, ein Publikum in seltener verwendeten
Indonesisch 2
Sprachen zu erreichen. So wurden beispielsweise
Norwegisch 2 mehr als 5.528 Beiträge, in denen die World Doctors
Ukrainisch 2 Alliance erwähnt wurde, in rumänischer, ungarischer,
schwedischer oder italienischer Sprache identifiziert,
Tschechisch 1 obwohl die Analyse des ISD in diesen Sprachen keine
Flämisch 1 Faktencheck-Artikel zu dieser Organisation ergab (siehe
Tabelle 4).
Gujarati 1
Haussa 1
Japanisch 1
Lettisch 1
Slowakisch 1
Posts 0 50 10012 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
Posts, in denen die World Doctors Alliance oder ihre
Tabelle 4: Anzahl der gefundenen Faktencheck-Artikel in Mitglieder in englischer, spanischer, arabischer und
den zehn häufigsten Sprachen deutscher Sprache erwähnt wurden, nur in geringem
Anzahl der Umfang verwendet wurden, obwohl diese Beiträge
Sprache Anzahl der Posts Faktenchecks problematische Behauptungen enthielten.
Englisch 57,179 61
Laut Facebook wird die Verbreitung eines Beitrags,
Spanisch 8,422 26 der falsche Informationen enthält und eine
Deutsch 3,911 13
Inhaltskennzeichnung erhält, auf der Plattform
reduziert, sodass weniger Menschen den Beitrag
Niederländisch 3,359 4 sehen.48 Die Analyse des ISD ergab jedoch, dass
Französisch 1,930 5 Beiträge, die mit einem Faktencheck-Kennzeichen
versehen waren, sowohl auf Englisch als auch
Rumänisch 1,789 0
auf Spanisch, eine höhere durchschnittliche
Ungarisch 1,339 0 Interaktionsrate pro Post aufwiesen als Posts ohne
Schwedisch 1,282 0 Faktencheck-Kennzeichen (siehe Tabelle 5). Die
Beiträge mit Faktencheck-Kennzeichen verzeichneten
Italienisch 1,118 0 insgesamt 135.641 Interaktionen (Likes, Kommentare,
Arabisch 1,111 2 Shares und Reaktionen), die eingebetteten Videos
wurden 1.455.000 Mal aufgerufen.
In den meisten Fällen versieht Facebook einen Die hohen Interaktionsraten bei einigen überprüften
Beitrag nach der Überprüfung durch einen Posts könnten zudem auf den Zeitpunkt des
Partner mit einer Kennzeichnung, die den Lesern Faktenchecks und der Kennzeichnung zurückzuführen
den Zugang zu zusätzlichen oder alternativen sein. Wenn ein Beitrag für einen Faktencheck
Informationen ermöglicht.47 Das ISD stellte fest, ausgewählt wurde, nachdem bereits Interaktionen
dass diese Kennzeichen in den 50 populärsten in erheblichem Umfang stattgefunden haben,
Tabelle 5: Analyse der Posts mit Faktencheck-Kennzeichen für die 50 populärsten Posts
Englisch Spanisch Arabisch Deutsch
Problematische Posts mit 5 (13 %) 2 (4.5 %) 1 (2.4 %) 2 (8.3 %)
Faktencheck-Kennzeichen
Interaktion bei Posts mit Fakten- 122,091 10,075 517 2,958
check-Kennzeichen insgesamt
Durchschnittliche Interaktion bei 24,418 5,075 517 1,479
Posts mit Faktencheck-Kennzeichen
Interaktion bei Posts ohne 567,129 157,536 58,247 63,007
Faktencheck-Kennzeichen insgesamt
Durchschnittliche Interaktion bei Posts 17,722 3,750 1,456 2,863
ohne Faktencheck-Kennzeichen
Videoaufrufe bei problematischen Posts 1,349,000 106,000 - -
mit Faktencheck-Kennzeichen insgesamt
Videoaufrufe bei problematischen Posts 16,435,000 2,215,600 2,416,286 480,100
ohne Faktencheck-Kennzeichen insgesamtSchlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation 13 kann der Großteil dieser Interaktionen vor der World Doctors Alliance zu sehen ist. Diese Beiträge Faktencheck-Kennzeichnung erfolgt sein. Ohne weitere wurden häufig mit allgemeinen Bildunterschriften Informationen über den Prozess und den Zeitpunkt geteilt, die die World Doctors Alliance oder die in der Faktencheck-Kennzeichnung auf Facebook kann den Videos zu sehenden Mitglieder nicht erwähnen. nicht festgestellt werden, ob die Kennzeichnung die Sie wurden daher bei der vom ISD durchgeführten Interaktionen mit dem Post allgemein beeinflusst. Schlüsselwortanalyse möglicherweise nicht erfasst. Abbildung 3 veranschaulicht die Verteilung der Erwähnungen der World Doctors Alliance oder ihrer Mitglieder in Facebook-Posts im Vergleich zu Faktencheck-Artikeln. Sie zeigt, dass die Aufmerksamkeit, die Faktencheck-Partner einigen Mitgliedern widmen, in keinem Verhältnis zu deren Online-Popularität steht. Dr. Scott Jensen zum Beispiel ist das am zweithäufigsten genannte Mitglied der World Doctors Alliance auf Facebook, wird aber nur in 11 Faktencheck-Artikeln erwähnt. Dr. Elke De Klerk hingegen erscheint zwar häufig in Faktencheck-Artikeln, nicht aber in Facebook-Posts. Diese Anomalie könnte darauf zurückzuführen sein, dass sich die Faktencheck- Artikel, in denen Dr. De Klerk erwähnt wird, meist auf ihre Äußerungen in zwei bestimmten Videos beziehen, in denen sie gemeinsam mit anderen Mitgliedern der Abbildung 3: Verteilung der Mitglieder der World Doctors Alliance oder ihrer Mitglieder in Facebook-Posts gegenüber Faktencheck-Artikeln Mitglieder Facebook Posts Mitglieder Faktenchecks Dr. Dolores Cahill 24,060 Dr. Dolores Cahill 75 Dr. Scott Jensen 17,434 Dr. Scott Jensen 11 Dr. Vernon Coleman 14,342 Dr. Vernon Coleman 22 World Doctors Alliance/ World Doctors Alliance/ World Freedom Alliance 10,546 World Freedom Alliance 21 Dr. AnDr.ew Kaufman 9,659 Dr. AnDr.ew Kaufman 19 Dr. Heinrich Fiechtner 2,533 Dr. Heinrich Fiechtner 0 Dr. Hilde De Smet 1,152 Dr. Hilde De Smet 2 Dr. Elke De Klerk 862 Dr. Elke De Klerk 22 Dr. Mohammad Adil 787 Dr. Heiko Schoning 13 Dr. Heiko Schoning 783 Dr. Mohammad Adil 2 Dr. Mikael Nordfors 742 Dr. Mikael Nordfors 0 Dr. Zac Cox 595 Dr. Zac Cox 0 Dr. Johan Denis 413 Dr. Johan Denis 2 Posts 0 15,000 30,000 Checks 0 50 100
14 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
Auswirkung Abbildung 4: Einige Mitglieder der World Doctors Alliance
Die ISD-Forscher untersuchten die Reichweite und haben ihre Fangemeinde auf Facebook seit Beginn der
Pandemie deutlich vergrößert
den Einfluss der Gruppe auf Facebook zwischen Januar
2020 und Juli 2021. Unter Verwendung von Daten
30,000
von CrowdTangle zur Untersuchung von sieben mit
dem Netzwerk verbundenen Seiten49 stellte das ISD
Folgendes fest:
• Die Zahl der Nutzer, die diesen Seiten folgten, stieg
18,000
von 3.456 Anfang Januar 2020 auf 460.179 am 01. Juli
Followers
2021, was einem Anstieg von 13.215 % entspricht.
• Fünf der sieben Seiten wurden nach dem Beginn der
Pandemie erstellt, nur zwei (Dr. Dolores Cahill und Dr.
Scott Jensen) existierten bereits vor Januar 2020. 6,000
• Über diese Accounts wurden seit dem 01. Januar
2020 insgesamt 1.580 Beiträge veröffentlicht und 01. Jan 20 01. Apr 20 01. Jul 20 01. Okt 20 01. Jan 21 01. Apr 21
damit 5,77 Millionen Interaktionen erzeugt.
—
Dr. Dolores Cahill
• Die von den Seiten geposteten Videos (einschließlich —
Dr. Scott Jensen
— Dr. Mohammad Adil
Live- und eingebetteter Videos) stellten 68 % der 5,7 — Dr. Heinrich Fiechtner
Millionen Interaktionen dar und wurden insgesamt — Dr. Mikael Nordfors
über 21,1 Millionen Mal aufgerufen. — Dr. Vernon Coleman
— World Freedom Alliance
• Zwischen dem 01. Januar 2020 und dem 01. Juli 2021
betrug die Anzahl Interaktionen mit diesen Seiten Abbildung 5: Interaktionen auf Beiträgen von Seiten, die mit
durchschnittlich 299.100 pro Monat. In den letzten der World Doctors Alliance verbunden sind, mit einem Anstieg
der durchschnittlichen Interaktionen in den ersten sechs
sechs Monaten, d. h. Februar bis Juli 2021, erfolgten
Monaten des Jahres 2021
jedoch durchschnittlich 679.157 Interaktionen pro
Monat, was weit über dem Gesamtdurchschnitt liegt.
800,000
Neben dem Wachstum dieses Publikums und seiner
verstärkten Beschäftigung mit den Inhalten der World
Doctors Alliance, hat das ISD die Popularität ihrer
Interaktionen insgesamt
Mitglieder im Verlauf der COVID-19-Pandemie bewertet. 480,000
Mit der CrowdTangle-API zur Suche nach Facebook-
Posts von öffentlichen Gruppen und Seiten, die diese
Personen zwischen dem 01. Januar 2020 und dem
13. Juni 2021 erwähnten, ermittelte das ISD 89.315
Facebook-Posts, die insgesamt 3.562.400 Interaktionen 160,000
ausgelöst hatten.50
01. Jan 20 01. Apr 20 01. Jul 20 01. Okt 20 01. Jan 21 01. Apr 21Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation 15
Abbildung 6 Anzahl der Facebook-Beiträge, in denen die World Das am häufigsten erwähnte Mitglied der World
Doctors Alliance erwähnt wird im Laufe der Zeit Doctors Alliance war Dr. Dolores Cahill, die in 24.060
Posts auf der Plattform genannt wurde. Es folgten Dr.
800 Scott Jensen mit 17.434 Posts und Dr. Vernon Coleman
mit 14.342 Posts. Insgesamt wurde festgestellt, dass
Mitglieder mit namentlich bezeichneten Accounts auf
Facebook häufiger erwähnt werden. Obwohl nur 332
von 89.315 Beiträgen von mit der World Doctors Alliance
Anzahl der Posts
480
verbundenen Seiten stammen, deutet die große
Anzahl von Erwähnungen dieser Mitglieder auf der
Plattform darauf hin, dass sie eine breitere Präsenz und
Reputation über die auf ihren eigenen Seiten/Accounts
produzierten Inhalte hinaus aufgebaut haben.
160
01. Jan 20 01. Apr 20 01. Jul 20 01. Okt 20 01. Jan 21 01. Apr 21
Abbildung 7 Anzahl der Facebook-Posts, in denen einzelne
Mitglieder der World Doctors Alliance erwähnt werden
Mitglieder Posts
Dr. Dolores Cahill 24,060
Dr. Scott Jensen 17,434
Dr. Vernon Coleman 14,342
Dr. AnDr.ew Kaufman 9,659
Dr. Heinrich Fiechtner 2,533
Dr. Hilde De Smet 1,152
Dr. Elke De Klerk 862
Dr. Mohammad Adil 787
Dr. Heiko Schoning 783
Dr. Mikael Nordfors 742
Dr. Zac Cox 595
Dr. Johan Denis 413
Posts 0 12,500 25,00016 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
Diskussion
Desinformationsanbieter produzieren Inhalte in
so großen Mengen, dass es für Faktenprüfer fast Abbildung 8: Zwei Facebook-Posts, in denen die
unmöglich ist, Behauptungen oder Beiträge einzeln entlarvten Behauptungen von Dr. Dolores Cahill über
PCR-Tests erörtert werden, einer mit und einer ohne
zu entlarven.
Faktencheck. Hinweis: Der Beitrag wurde aus dem
Deutschen übersetzt.
Laut Dr. Vernon Colemans BrandNewTube-Konto51
veröffentlichte er seit Beginn der Pandemie 128 Videos
zu COVID-19, die jeweils zwischen drei und 23 Minuten
lang waren. Die ISD-Analyse ergab, dass Dr. Coleman
in 22 Faktencheck-Artikeln erwähnt wurde, die in
demselben Zeitraum in acht Sprachen veröffentlicht
wurden. In mindestens 10 dieser Artikel werden jedoch
dasselbe Video und dieselben Behauptungen entkräftet,
während Dutzende anderer Videos keiner Faktenprüfung
unterzogen wurden. Infolgedessen enthielt keiner der 30
problematischen Beiträge, in denen Dr. Coleman erwähnt
wurde, ein Faktencheck-Kennzeichen.
Dieser Trend wiederholt sich auch bei anderen
Mitgliedern der World Doctors Alliance. Laut den
Statistiken von CrowdTangle postete Dr. Dolores Cahill
zwischen dem 01. März 2020 und dem 01. August 2021
149 Mal auf ihrer Facebook-Seite. Dr. Cahill ist das bei
weitem am häufigsten überprüfte Mitglied der World
Doctors Alliance und wurde seit Beginn der Pandemie in
75 Faktencheck-Artikeln erwähnt. Wie bei Dr. Coleman
entlarven jedoch viele dieser Faktenchecks dieselben
Behauptungen oder Videos in mehreren Artikeln und
Sprachen. Nur ein kleiner Teil der problematischen
Beiträge, in denen Dr. Cahill in der ISD-Analyse vorkommt,
wurde mit einer Inhaltskennzeichnung versehen (siehe
Abbildung 8).
Die individuelle Überprüfung von Beiträgen oder
Videos ist unmöglich, wenn die zu überprüfenden
Personen (und ihr Publikum) weiterhin in hohem Tempo
auf Facebook oder anderen Plattformen posten. Die
Herausforderung wird noch dadurch verschärft, dass
dieselben Behauptungen oder leichte Abwandlungen
davon an anderer Stelle und in anderen Sprachen endlos
wiederholt werden.Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation 17
Facebooks Faktencheck-Programm weist in anderen
Sprachen als Englisch erhebliche Defizite auf Abbildung 9: Beispiel für ein Video mit Dr. Andrew
Kaufman, dessen englische und spanische Fassung
überprüft wurde, aber in den arabischsprachigen
Dr. Vernon Coleman war das meistgenannte Mitglied der
Ergebnissen ohne Faktencheck-Kennzeichen erschien
World Doctors Alliance in arabischsprachigen Beiträgen,
jedoch fand der ISD keine Belege dafür, dass seine
Behauptungen in dieser Sprache auf ihre Richtigkeit
überprüft worden waren. Von den 26 in Arabisch
verfassten Posts, in denen Dr. Coleman erwähnt wurde
und die problematische Behauptungen enthielten,
zeigten 14 dasselbe Video von Dr. Coleman, das im März
2020 aufgenommen und mit arabischen Untertiteln
versehen wurde. Diese 14 Beiträge wurden insgesamt
über 1,4 Millionen Mal aufgerufen.
In dem fraglichen Video legt Dr. Coleman dar, was
seiner Meinung nach die „versteckte Agenda“ hinter
der Pandemie ist, und erklärt, warum er glaubt, dass
die Regierungen und die Medien in Bezug auf COVID-19
lügen. Nachdem er die Schwere der Erkrankung
heruntergespielt, schließt er mit der Unterstellung,
COVID-19 sei Teil einer finsteren Verschwörung von
Regierungen in aller Welt, die ältere Bevölkerung
auszumerzen, weil „sie in wirtschaftlicher Hinsicht zu
einem globalen Problem geworden ist“.
Diese Behauptungen sind in den Community-Standards
von Facebook als auf der Plattform verboten aufgeführt.
Dennoch ging das Video in arabischsprachigen
Communitys viral und gehörte nicht zu den Inhalten, die
von Facebooks Faktencheck-Programm geprüft wurden.
In ähnlicher Weise wurde ein Video eines Interviews
mit Dr. Andrew Kaufman von Reuters sowohl die
englische52 als auch die spanische Fassung53 überprüft.
In diesem führt er neben einer Vielzahl anderer
falscher Behauptungen an, dass diejenigen, die
Impfstoffe verabreichen und befürworten, „Gene in
uns einspritzen“ und „uns zu genetisch veränderten
Organismen machen“ wollen. Trotzdem erschien das
Video zweimal ohne Faktencheck-Kennzeichen54,55
in den Top-50 der vom ISD analysierten arabischen
Beiträge mit mehr als 40.000 Aufrufen (siehe
Abbildung 9).18 Schlechter Rat: Eine Fallstudie über das Versagen von Facebook bei der Bekämpfung von ärztlicher COVID-19-Desinformation
Facebook scheitert an der Aufdeckung und In einem Fall wurde ein Video mit Dr. Vernon Coleman,
Kennzeichnung der als falsch eingestuften Beiträge das ursprünglich von Lead Stories57 überprüft worden
in den allermeistern Fällen war, von einer spanischsprachigen Verschwörungsseite
mit über 47.000 Anhängern, jetzt mit spanischem
Während Desinformationsanbieter Inhalte in einem Titel und Audiountertiteln,58 direkt auf Facebook
enormen Tempo produzieren, machen auch die hochgeladen. Diese spanische Kopie des Videos von Dr.
Geschwindigkeit, mit der sich die Inhalte verbreiten, und Coleman hatte zum Zeitpunkt, an dem dieser Artikel
die unendlichen Möglichkeiten, sie auszuschneiden, verfasst wurde, mehr als 3.900 Aufrufe und war mit
zu bearbeiten und weiterzugeben, die Aufdeckung keinem Faktencheck-Kennzeichen versehen.
aller Instanzen mit problematischen Inhalten zu einer
besonderen Herausforderung. Facebook gibt an, Ein weiteres Beispiel dafür ist das wiederholte
KI-Technologien wie SimSearchNet und ObjectDNA zu Erscheinen eines Interviews, das Dr. Dolores Cahill im
verwenden und zur Aufdeckung von Inhaltsvarianten Mai 2020 Del Bigtree von The Highwire gab. Das Video
„mit einem sehr hohen Präzisionsgrad“ einzusetzen.56 wurde von vier verschiedenen Faktenprüfern sowohl
Die Analyse des ISD zeigt jedoch, dass Videos, die kaum auf Spanisch59 als auch auf Englisch60, 61, 62 geprüft.
bearbeitet und lokal auf die Plattform hochgeladen Dennoch erschienen Ausschnitte des Interviews im
wurden, immer noch nicht von den Kennzeichnungs- spanischen Datensatz des ISD viermal in Form von
und Moderationsbestrebungen des Unternehmens eingebetteten Videos, die auf Facebook hochgeladen
erfasst werden. wurden und insgesamt 465.000 Aufrufe verzeichneten.
Keiner dieser Posts enthielt einen Hinweis auf einen
Abbildung 10: Oben: Das Video von Vernon Coleman Faktencheck (siehe Abbildung 11).
erscheint ohne Faktencheck-Kennzeichen,
Unten: Faktencheck-Artikel von Lead Stories Ein weiteres Beispiel hierfür ist in Abbildung 12 zu
sehen. Ein von Dr. Scott Jensen am 17. Februar 2021
veröffentlichtes Video wurde von der Associated
Press63 überprüft und für falsch befunden. In diesem
behauptet er, die WHO habe ihre Richtlinie am Tag der
Amtseinführung [Joe Bidens] geändert, um die Zahl
der falsch-positiven COVID-19-Fälle zu reduzieren.
Das Video wurde mit einem Faktencheck-Kennzeichen
versehen.
Abbildung 11: Ein eingebetteter Ausschnitt aus einem
Interview mit Dr. Dolores Cahill ohne Faktencheck-
Kennzeichen trotz mehrfacher ÜberprüfungSie können auch lesen
