Das Online-Ökosystem rechtsextremer Akteure - Jakob Guhl, Julia Ebner und Jan Rau - ISD
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Das Online-Ökosystem
rechtsextremer
Akteure
Jakob Guhl, Julia Ebner und Jan Rau
gefördert von
Danksagungen Wir analysieren außerdem die Rolle alternativer
Medien bei der Verbreitung rechtsextremer Inhalte.
Dieser Report wurde von der Dabei setzen wir das sogenannte „Hate Observatory“
Robert Bosch Stiftung gefördert. ein, eine von ISD mit dem MIT Media Lab (Massachusetts
Institute of Technology, USA) entwickelte Datenbank
Der Report wurde mithilfe der Unterstützung und nutzen MITs Software Media Cloud, um Häufigkeit
von Celia Gomez, Hannah Winter, Zoe Fourel und Art der Berichterstattung über rechtsextreme
und Amalia Schliemann verfasst. Themen in Mainstream- und alternativen Medien
zu vergleichen. Darüber hinaus empfiehlt dieser
Bericht Tech-Firmen, der Politik, der Zivilgesellschaft
Über diesen Report und Forschern geeignete Maßnahmen, um der
extremen Rechten online entgegenzutreten.
Dieser Report präsentiert die Ergebnisse eines
Forschungsprojekts der Digital Analysis Unit am
ISD (Institute for Strategic Dialogue) über das Biografien der Verfasser
alternative Online-Ökosystem rechtsextremer
Akteure, einschließlich alternativer Social Media- Jakob Guhl
Plattformen und alternativer Medien. Diese Platt Jakob Guhl ist Koordinator am ISD und arbeitet
formen erreichen ein globales Publikum, der Report dort hauptsächlich im Bereich digitale Forschung.
widmet sich aber spezifisch den deutschsprachigen Guhl ist Co-Autor von Forschungsberichten
und auf Deutschland fokussierten Communities über die reziproke Radikalisierung zwischen
und Kanälen innerhalb dieses Ökosystems. Rechtsextremisten und Islamisten, über koor
dinierte Trollkampagnen, Hassrede und Desin
Auf Grundlage der digitalen ethnografischen Forschung formationskampagnen im Vorfeld von Wahlen.
des ISD in Dutzenden von Foren und Kanälen sowie der Er hat Artikel für das Journal for Deradicalisation
Nutzung moderner Technologien wie Machine Learning und Demokratie gegen Menschenfeindlichkeit
und Natural Language Processing (NLP) bietet dieser verfasst und ist Co-Autor eines Essays für einen
Report einen Überblick über Größe und ideologische Sammelband des Münchner Residenztheaters über
Ausrichtung der rechtsextremen Communities auf die Ursprünge der aktuellen politischen Wut.
diesen Plattformen sowie die Beweggründe für die
Mitgliedschaft in diesen Zusammenschlüssen und gibt
eine Einschätzung zu der Frage, ob die Sperrung der
Accounts rechtsextremer Gruppen auf Mainstream-
Plattformen dazu führt, dass deren Anhänger lediglich
auf „alternative“ Plattformen abgedrängt werden.
© ISD, 2020
London Washington DC Beirut Toronto
This material is offered free of charge for personal and
non-commercial use, provided the source is acknowledged.
For commercial or any other use, prior written permission must
be obtained from ISD.
In no case may this material be altered, sold or rented. ISD
does not generally take positions on policy issues. The views
expressed in this publication are those of the authors and
do not necessarily reflect the views of the organisation.
Designed by forster.co.uk. Typeset by Janina Neumann Design.
Julia Ebner Herausgegeben von Jon Birdwell
Julia Ebner ist Forscherin am ISD und spezialisiert auf Jonathan Birdwell ist ISD’s Deputy Director Policy
Rechtsextremismus, reziproke Radikalisierung und & Research. Er leitet die politische Arbeit und die
europäische Initiativen zur Terrorismusprävention. Netzwerke des ISD sowie die Arbeit des Think & Do
Ebner ist die Autorin von Wut. Was Islamisten und Tanks zur Bildungspolitik. Birdwell beaufsichtigt
Rechtsextreme mit uns machen und Radikalisie die Forschungs- und Primärdatensätze des ISD
rungsmaschinen. Wie Extremisten die neuen sowie die Evaluation der Programme und ist
Technologien nutzen und uns manipulieren sowie Herausgeber aller schriftlichen Veröffentlichungen
verschiedener peer-reviewter Artikel, Buchkapitel und des ISD. Aktuell konzentriert er sich auf den
Policy Briefings. Aufbauend auf ihrer Forschung berät Ausbau der Partnerschaften des Instituts sowie auf
Ebner parlamentarische Arbeitsgruppen und Tech- Analysetechnologie und -fähigkeiten im Netz, um ein
Firmen, spricht auf internationalen Konferenzen und aktuelles Verständnis extremistischer Propaganda
führt Workshops in Schulen und Universitäten durch. und Rekrutierungstaktiken zu schaffen und um ISDs
Online-Kampagnen und One-to-One-Interventionen
Jan Rau im Internet auszuwerten. Bevor er an das Londoner
Jan Rau ist Teil des Teams für Digital Research Institut kam, war Birdwell Programmleiter bei dem
and Policy am ISD. Seine Arbeit erforscht, wie das britischen parteiübergreifenden Think Tank Demos,
Internet Medienöffentlichkeit formt und verändert. wo er mehr als 40 Forschungsberichte zu Themen wie
Dabei beschäftigt er sich unter anderem mit dem islamistischen (The Edge of Violence, 2010) und
digitalen Echokammern und Gegenöffentlichkeiten, rechtsextremen (The New Face of Digital Populism,
der Manipulation von öffentlicher Meinung im 2011) gewalttätigen Extremismus veröffentlicht hat.
Internet und rechten Bewegungen im Netz. Birdwell hat ebenfalls zahlreiche Schriften zu Themen
Rau ist der Autor eines akademischen Aufsatzes wie Bildung (The Forgotten Half, 2011), soziales und
über Echokammern im Internet und hat an emotionales Lernen (Character Nation, 2015), soziale
verschiedenen Forschungsberichten mitgewirkt. Maßnahmen und Haltungen der Jugend gegenüber
Bevor er an das ISD kam, war er am GESIS – Leibniz- Politik (Tune In, Turn Out, 2014), digitale Politik und
Institut für Sozialwissenschaften (Deutschland), Marketing (Like, Share, Vote, 2014), Vertrauen in
der Universität Princeton (USA) und dem Oxford Regierungen (Trust in Practice, 2010) sowie Religion
Internet Institute (Großbritannien) tätig. und Integration (Rising to the Top, 2015) veröffentlicht.
Henry Tuck – Co-Autor der
Empfehlungen des Berichts
Henry Tuck leitet das Forschungsprogramm des ISD
und dessen politikzentrierte Arbeit zur Bekämpfung
von Online-Risiken in Zusammenarbeit mit einer Reihe
wichtiger Stakeholder. Er berät führende Regierungen,
internationale Organisationen und große Tech-Firmen
des Privatsektors. Seit er 2013 an das ISD kam, hat er
eine Reihe von Bildungs- und Counter-Narrative-
Programmen des ISD geleitet und Untersuchungen
zu Auslandskämpfern, Deradikalisierung
und Rechtsextremismus durchgeführt.
4 Das Online-Ökosystem Rechtsextremer Akteure
Inhaltsverzeichnis
Glossar 5
Executive Summary 7
Einführung 16
1. Ergebnisse 20
1.1 Wahl der Plattformen 20
1.2 Die Größe der rechtsextremen Online-Communities 22
1.3 Beweggründe für die Teilnahme an den Plattformen:
Ergebnisse von Gab, 4chan und Discord 24
1.4 Themen in den rechtsextremen Communities
auf alternativen Plattformen 27
1.5 Fallstudie 1: Ideologien: Erkenntnisse aus einer Umfrage
auf einem Alt-Right Discord-Server 34
1.6 Fallstudie 2: Analyse von antisemitischen Inhalten auf 4chan 38
1.7 Reichweite rechtsextremer Gruppierungen und Influencer
auf Mainstream- und alternativen Plattformen 40
1.8 Das Zusammenspiel zwischen alternativen und Mainstream-Medien 44
2. Schlussfolgerungen 47
3. Empfehlungen 49
3.1 Illegale Inhalte und Aktivitäten im Internet 49
3.2 Legale, aber möglicherweise extremistische oder
abwertende Inhalte und Aktivitäten im Internet 50
3.3 Zivilgesellschaft 52
3.4 Forschung 54
Literaturverzeichnis 55
Anhänge 60
Das Online-Ökosystem Rechtsextremer Akteure 5
Glossar
Alternative Plattformen Ökosysteme und Netzwerke
Sogenannte „alternative Plattformen“ werden von In diesem Bericht bezeichnen wir das zunehmend
Gruppen und Einzelpersonen genutzt, die sich aufgrund komplexe und vielschichtige Netz aus Plattformen
ihrer politischen Ansichten auf den großen Social Media- und Anwendungen, das von rechtsextremen
Plattformen nicht mehr willkommen fühlen. Zu den Akteuren genutzt wird, als Online-Ökosystem.
alternativen Plattformen gehören 1. solche, die speziell Wir unterscheiden zwischen „Netzwerken“ von
für extremistische Zwecke gegründet wurden, 2. solche, Nutzern, die auf einer oder mehreren Plattformen
die wegen ihres weitreichenden Verständnisses von agieren können, und „Ökosystemen“, die aus
Meinungsfreiheit eine große Bandbreite politischer mehreren miteinander verbundenen Plattformen
Positionen (auch hasserfüllte und extremistische) unterschiedlicher Zielsetzung bestehen.
tolerieren, und 3. solche, die für ganz andere und
unpolitische Zwecke (etwa Onlinespiele) eingerichtet Rechtsextremismus
wurden. Grundsätzlich nutzt eine große Bandbreite an Dem Rechtsextremismusexperten Cas Mudde folgend
radikalen oder extremistischen Bewegungen alternative definieren wir Rechtsextremismus als Gruppen und
Plattformen, die von diesen Bewegungen als weniger Individuen, die mindestens drei der folgenden fünf
feindlich gegenüber den eigenen Standpunkten und Merkmale aufweisen: Nationalismus, Rassismus,
Positionen wahrgenommen werden. Der Schwerpunkt Fremdenfeindlichkeit, Demokratiefeindlichkeit
dieses Reports liegt auf alternativen Plattformen, die oder Befürwortung eines starken Staates.3
von den rechtsextremen Akteuren genutzt werden.
Der von Mudde im Englischen verwendete Begriff
Alternative Medien (Alt-Media) far-right umfasst sowohl rechtsradikale als auch
Wir definieren Alt-Medien nach Heft et al. (2019) als rechtsextreme Akteure. Laut Mudde glauben so
Medienangebote, die sich selbst als „Alternative“ und wohl rechtsradikale als auch rechtsextreme Akteure,
„Korrektiv eines wahrgenommenen Mainstreams dass „Ungleichheiten zwischen Menschen natürlich
in Politik und Medien“ definieren. Der Schwerpunkt und positiv“ sind, haben aber unterschiedliche
dieses Berichts liegt zwar auf rechtspopulistischen Einstellungen zur Demokratie.4 Rechtsradikale lehnen
alternativen Medien, alternative Medienkanäle zwar bestimmte Aspekte einer liberalen Demokratie
können aber grundsätzlich auch andere politische (z. B. Minderheitenrechte, unabhängige Institutionen)
Standpunkte zum Ausdruck bringen.1 ab, sind aber nicht prinzipiell gegen die Demokratie,
sondern favorisieren eine Mehrheitsdemokratie unter
Muslimfeindlich Führung der Eigengruppe, mit der sie sich identifizieren.
Als muslimfeindlich definieren wir Gruppen und Rechtsextreme Akteure hingegen lehnen die Demokratie
Personen, die eine negative Wahrnehmung des als Regierungsform prinzipiell ab und favorisieren statt
Islam und/oder von Muslimen haben, mit der dessen eine autoritäre Herrschaft.5 Für diesen Bericht
die Diskriminierung und/oder Ausgrenzung haben wir sowohl rechtsradikale als auch rechtsextreme
von Muslimen gerechtfertigt wird. Akteure untersucht. Dieser Forschungsbericht befasst sich
daher nicht nur mit Neonazigruppen, die der Demokratie
Antisemitismus feindlich gegenüberstehen, sondern mit dem gesamten
Wir verwenden die Antisemitismusdefinition der Spektrum rechtsradikaler und rechtsextremer Akteure,
International Holocaust Remembrance Alliance: darunter auch mit Gruppen wie Patriotische Europäer
„Antisemitismus ist eine bestimmte Wahrnehmung von gegen die Islamisierung des Abendlandes (PEGIDA).
Juden, die sich als Hass gegenüber Juden ausdrücken
kann. Der Antisemitismus richtet sich in Wort und Tat
gegen jüdische oder nicht-jüdische Einzelpersonen
und / oder deren Eigentum sowie gegen jüdische
Gemeindeinstitutionen und religiöse Einrichtungen.“26 Das Online-Ökosystem Rechtsextremer Akteure
Identitäre Bewegung Reddit
Eine europaweite, ethnonationalistische Bewegung, Die Website Reddit ist ein News-Aggregator mit
die auf die Bewahrung der ethnokulturellen Diskussionsforen und ermöglicht die Bewertung
Identität Europas ausgerichtet und von der von Webinhalten. Bestimmte Subreddits wie „r/
intellektuellen rechten Bewegung Nouvelle Droite The_Donald“, das inzwischen wegen Anstiftung zur
(Neue Rechte) in Frankreich inspiriert ist. Gewalt gesperrt worden ist, sind Sammelpunkte für
Alt-Right-Nutzer geworden, um nicht nur für Donald
4chan Trump Stimmung zu machen, sondern auch seine
4chan wurde ursprünglich zum Teilen von Anime- politischen Gegner zu belästigen und einzuschüchtern.
Bildern gegründet, ist aber seit den frühen 2010er Jahren
zu einem wichtigen Sammelpunkt rechtsextremer Telegram
Nutzer geworden, insbesondere auf dem Board /pol/. Ein vom VK-Gründer (siehe unten) Pavel Durov begrün
deter Messenger, der eine sichere Kommunikation
8chan ohne Beobachtung durch Regierungen ermöglichen
Dieses Forum wurde gegründet, nachdem 4chan soll. Telegram wird sowohl von Islamisten als auch
Diskussionen über die „Gamergate“ Kontroverse von Rechtsextremen genutzt.
verboten hatte, während der auf Videospieljourna
listinnen abzielende Belästigungskampagnen auf VK
4chan koordiniert wurden. 8chan sollte im Gegensatz Russische Social Media-Plattform von Pavel Durov,
dazu eine Plattform bieten, auf der auch solch der zum Verkauf seiner Anteile an dem Unternehmen
kontroverse Themen diskutiert werden können. an kremltreue Konzerne und Geschäftsleute
gedrängt wurde, nachdem er sich während der
BitChute regierungskritischen Proteste in Russland 2011
Dieses Videoportal wurde gegründet, um geweigert hatte, Seiten von Aktivisten zu schließen.
Inhalte von Produzenten zu veröffentlichen,
deren Videos auf größeren Videoportalen Voat
wie etwa YouTube blockiert wurden. Ein Forum, das Nachrichten aggregiert und den
Mitgliedern seiner Community eine Plattform
Discord bietet, auf der diese ohne Einschränkungen
Eine Gaming-App, die von rechtsextremen Gruppen dazu multimediale Inhalte einstellen können.
genutzt worden ist, Trolling-Kampagnen zu koordinieren.
Gab
Eine Social Media-Plattform, die als „Meinungsfreiheit“-
Alternative zu Facebook und Twitter eingerichtet wurde
und rechtsextreme Nutzer angezogen hat.
Minds
Mit diesem sozialen Netzwerk sollte mithilfe von
Crowdfunding und Kryptowährungen ein dezentra
lisiertes soziales Netzwerk geschaffen werden, das Wert
auf die Privatsphäre seiner Nutzer legt. Da es Inhalte
und Äußerungen kaum moderiert, wird es auch von
Rechtsextremen genutzt.Das Online-Ökosystem Rechtsextremer Akteure 7
Executive Summary
Am 8. Oktober 2019 griff ein 28 Jahre alter Mann Auf diesen Plattformen werden rechtsextreme
mit selbstgebauten Waffen eine Synagoge und einen Terroristen verherrlicht. Darüber hinaus spielen
Döner-Imbiss in Halle an und tötete zwei Menschen. sie eine erhebliche Rolle bei der Verbreitung von
Der Attentäter übertrug die Tat als Livestream und Desinformation, der koordinierten Belästigung von
stellte ein „Manifest“ ins Internet. Als Hauptziel gab Politikerinnen sowie der Organisation von sogenannten
er die Tötung von Juden an, die er für Feminismus Meme-Kampagnen, mit denen Wahlen und politische
und „Masseneinwanderung“ verantwortlich machte. Debatten beeinflusst werden sollen.6 Die Forschung
Er stellte sich selbst als „Anon“ (anonym) vor, des in London ansässigen globalen Think Tanks ISD
ein Verweis auf sogenannte Imageboard-Websites im Rahmen der Bundestagswahl, der bayerischen
wie 4chan und 8chan. In Folge der Tat machten Landtagswahl und der Europawahlen hat gezeigt,
Nutzer auf 4chan zynische Witze darüber, ob der wie sich diese Gruppen insbesondere zur Unterstützung
Angriff ähnlichen Anschlägen wie in Pittsburgh, der rechtspopulistischen Alternative für Deutschland
San Diego und El Paso in den USA sowie im neusee (AfD) miteinander abgestimmt haben.7
ländischen Christchurch gerecht geworden sei.
Bei jedem dieser Angriffe wurde festgestellt, Neben diesen alternativen Social Media-Plattformen
dass die Täter tief in rechtsextreme Online- existiert online eine umfangreiche rechtspopulistische
Subkulturen eingetaucht waren. Medienlandschaft, die sich gegen die sogenannten
Mainstream-Medien wendet und diese aktiv diskreditiert.
Seit einigen Jahren stehen extremistische und Viele dieser Webseiten präsentieren sich als alternative
terroristische Gruppen auf Mainstream-Plattformen „Nachrichtenquellen“ und verstärken die Reichweite
wie Facebook, Twitter und YouTube im Mittelpunkt der rechtsextremer, einwanderungsfeindlicher und anti-
Aufmerksamkeit, aber die jüngsten Gewalttaten müssen pluralistischer Narrative durch sensationalistische
unseren Blick auf die rechtsextremen Online-Subkulturen „Clickbait“ Artikel.
lenken. Alternative Plattformen wie 4chan und Gab,
Messenger-Dienste wie Telegram und Gaming-Apps wie Man kann davon ausgehen, dass dieses toxische
Discord bilden ein Biotop, in dem sich Rechtsextreme rechtsextreme Informations- und Kommunikations
vernetzen, radikalisieren, inspirieren und Aktionen ökosystem den Boden für den rechtsextremen
planen und zwar bislang weitgehend im Schatten von Terrorismus bereitet, der in den letzten fünf Jahren
Strafverfolgung und Gesetzen. um 320 % zugenommen hat. Es versorgt gleichzeitig
diejenigen, die die Demokratie unterminieren wollen,
Seit Juni 2017 verpflichtet das Netzwerkdurchsetzungs mit einem sicheren Rückzugsraum oder auch „Safe
gesetz (NetzDG) große Social Media-Unternehmen in Space“ und fungiert als Pipeline radikalisierender Inhalte.
Deutschland dazu, illegale Inhalte von ihren Plattformen Immer mehr politische Entscheidungsträger fragen
zügig und umfänglich zu entfernen. Seither sind zurecht, was auf gesetzgeberischer Ebene zu tun ist.
alternative Plattformen für rechtsextreme Akteure Um diesen Entwicklungen entgegen zu wirken, muss
immer wichtiger geworden. Bei diesen Akteuren jedoch mehr über diese Communities bekannt werden.
handelt es sich sowohl um muslimfeindliche deutsche
Bewegungen wie PEGIDA, ethnonationalistische Um auf diese Fragen einzugehen, hat die Digital
Gruppen wie die in ganz Europa wachsende Identitäre Analysis Unit des ISD eines der bislang umfassendsten
Bewegung (IB) sowie internationale rechtsterroristische Forschungsprojekte zu dem Online-Ökosystem
Gruppen wie die Atomwaffen Division (AWD), die ihren rechtsextremer Akteure in Deutschland durchgeführt.
Ursprung in den USA nahm und sich für einen
apokalyptischen Rassenkrieg einsetzt.8 Das Online-Ökosystem Rechtsextremer Akteure
Während diese Plattformen ein globales Publikum Wir analysieren außerdem die Rolle alternativer
erreichen, widmet sich der Report konkret den Medien bei der Verbreitung rechtsextremer Konzepte.
deutschsprachigen und auf Deutschland fokussierten Dabei nutzen wir die Partnerschaft des ISD mit dem
Communities innerhalb dieses Ökosystems. Als eine MIT Media Lab sowie dessen Software Media Cloud,
der ersten Regierungen hat die deutsche Regierung der weltweit größten Datenbank von Onlinemedien
Gesetze ausgearbeitet, welche die großen Social (über 1,4 Milliarden Artikel aus über 60.000 Quellen),
Media-Unternehmen dazu zwingen sollen, illegale um die Häufigkeit und Art der Berichterstattung über
Hassrede von ihren Plattformen zu entfernen. rechtsextreme Themen in Mainstream- und alternativen
Mit dem 2017 beschlossenen NetzDG drohen Social Medien zu vergleichen.
Media-Unternehmen hohe Bußgelder, wenn sie
gesetzeswidrige Inhalte nicht innerhalb von 24 Auf Grundlage unserer Forschungsergebnisse
Stunden entfernen. Es ist vielfach kritisiert worden, empfehlen wir Tech-Firmen, der Politik, der Zivil
das NetzDG schränke die Meinungsfreiheit ein. gesellschaft und Forschern eine Reihe von Maßnahmen,
Zudem wurde spekuliert, dass das Gesetz wirkungslos um die weitere Radikalisierung von Nutzern dieser
bleibe, weil es sich lediglich auf die Entfernung von Plattformen einzudämmen und der Unterminierung
Inhalten konzentriere. Des Weiteren monieren Kritiker, demokratischer Prozesse entgegenzuwirken.
dass extremistische Gruppen auf geschlossenere,
alternative Plattformen abgedrängt würden, denen Zentrale Ergebnisse
das Gesetz gegenwärtig nicht die gleichen rechtlichen
Pflichten auferlegt. – D
as ISD hat auf zehn alternativen Plattformen
379 rechtsextreme und rechtspopulistische
Alternative Plattformen stellen Regulierungsansätze Kanäle identifiziert.
vor erhebliche Herausforderungen. Einigen dieser Zu den alternativen Plattformen mit rechtsextremen
Plattformen fehlt es an Ressourcen, um extremistische Communities gehören: der Messenger-Dienst
Inhalte wirksam zu beobachten und zu moderieren, Telegram (129 Kanäle), das russische soziale
während andere libertäre Ansichten zum Thema Netzwerk VK (115 Gruppen), das Videoportal Bitchute
Meinungsfreiheit vertreten und deshalb nicht gewillt sind, (79 Kanäle) sowie die sozialen Netzwerke Gab (38
gegen die entsprechenden Communities vorzugehen. Kanäle), Reddit (8 Gruppen), Minds (5 Communities)
und Voat (5 Communities). Eine Analyse der
Auf Grundlage der digitalen ethnografischen Forschung Community-Standards dieser Plattformen zeigt,
des ISD in dutzenden Foren und Chatgruppen sowie dass sie sich in zwei Gruppen unterteilen lassen.
Methoden, die auf Machine Learning und Natural Zunächst die Plattformen, die für unpolitische
Language Processing basieren, geben wir mit diesem Zwecke (etwa Gaming) konzipiert, aber von
Report einen qualitativen und quantitativen Einblick in rechtsextremen Communities zweckentfremdet
rechtsextreme Communities auf alternativen Plattformen. worden sind. Dann diejenigen, die auf libertären
Idealen basieren und die Präsenz rechtsextremer
Wir präsentieren Daten, die aus nutzergenerierten Communities auf der Grundlage der Meinungs
Umfragen auf diesen Plattformen erhoben wurden, freiheit verteidigen. Es konnte nicht in jedem
und decken die Motivationen und ideologischen Fall die Anzahl der Gruppenmitglieder bestimmt
Ansichten derer auf, die in diesen Gruppen aktiv werden. werden, aber unsere Analyse deutet darauf hin, dass
Mithilfe von Method 52, einem Softwareprogramm für 15.000 bis 50.000 deutschsprachige Personen mit
die Analyse und Klassifizierung von unstrukturiertem rechtsextremen Ansichten diese Plattformen nutzen
Text, haben wir einen Algorithmus darauf trainiert, und dort in unterschiedlichem Ausmaß aktiv sind.
antisemitische Narrative zu identifizieren.8Das Online-Ökosystem Rechtsextremer Akteure 9
Der meistgenutzte Kanal hatte mehr als 40.000 Insgesamt haben wir 31 Communities und Gruppen
Follower, über deren konkreten Ansichten es identifiziert, die zur AfD gehören. Fast alle davon,
allerdings bislang keine qualitative Analyse gibt. nämlich 29, befinden sich auf dem russischen
Wir haben zwar einige Plattformen gefunden, die sozialen Netzwerk VK. Die Hauptseite der AfD
von rechtspopulistischen Influencern eingerichtet auf dieser Plattform ist aber seit 2015 nicht mehr
wurden, etwa die Videoportale FreiHoch3 und aktiv, während die größte noch vor Kurzem aktive
Prometheus, diese jedoch aufgrund der zu geringen Gruppe der AfD lediglich 414 Follower hatte.
Nutzerzahlen nicht in die Analysen einbezogen.
– A
uf den verschiedenen Plattformen gab es im
– D
ie rechtsextremen Kanäle und Gruppen zeigen Hinblick auf die Motivationen der Nutzer deutliche
eine ideologische Bandbreite auf. Die meisten Unterschiede bei den Gründen, rechtsextremen
Kanäle stehen muslimfeindlichen Akteuren und Communities beizutreten, die von dem Bedürfnis
Neonazis nahe, die größte Reichweite haben aber nach politischem und sozialem Wandel bis hin zum
offenbar „identitäre“ Gruppen. Wunsch, „Spaß zu haben“, reichten.
Von den 379 Gruppen und Kanälen, die wir identi Auf der Grundlage nutzergenerierter Umfragen
fiziert haben, konzentrieren sich 104 auf die mit insgesamt mehr als 800 Antworten lässt sich
Ablehnung von Islam und Muslimen, Einwanderung sagen, dass die Hauptmotivationen für die Nutzer
und Flüchtlingen. Ganze 92 Kanäle unterstützen von Gab deren Sorge um die Meinungsfreiheit
offen den Nationalsozialismus. Wir haben 35 Kanäle und Ressentiments gegenüber Linken (54 %) sind.
und Gruppen ermittelt, die mit identitären und Ein möglicher Grund dafür ist, dass diese Plattform
ethnonationalistischen Gruppen verbunden sind. ihre Rolle als Meinungsfreiheit-Alternative zu den
117 Communities und Gruppen ließen sich nicht großen Social Media-Plattformen betont, denen
eindeutig einer einzigen Kategorie zuordnen, liberale oder linke politische Voreingenommenheit
sondern posten eine Mischung aus Inhalten der vorgeworfen wird.
oben beschriebenen Kategorien. Dabei entspricht
eine größere Anzahl von Kanälen nicht der Hass gegenüber Minderheiten und der Wunsch
größten Reichweite. So hat beispielsweise der nach Unterhaltung (46 % bzw. 22 %) spielen unter
größte identitäre Kanal mehr als 35.000 Follower, den Mitgliedern des /pol/ Boards auf 4chan eine
wohingegen der größte muslimfeindliche Kanal erhebliche Rolle und spiegeln die anarchische
„nur“ 18.000 Follower aufweist und der größte Kultur und den grenzüberschreitenden Humor
Neonazi-Kanal in etwa 10.000 Nutzer verzeichnet. der Plattform wider. Die Motivationen der in der
Discord-Gruppe Reconquista Germanica aktiven
– D
ie rechtspopulistische Alternative für Nutzer liegen hingegen im Wunsch nach politischer
Deutschland (AfD) hat eine überschaubare, Veränderung und der Suche nach Gemeinschaft und
teilweise inaktive Präsenz auf alternativen Zugehörigkeit (39 % bzw. 41 %). Dies könnte an der
Social Media-Plattformen. Ideologie der untersuchten Gruppe liegen, aber auch
Neben rechtsextremistischen Gruppen wollten an der Plattformarchitektur von Discord, die den
wir auch Kanäle und Gruppen ermitteln, die mit Aufbau eng verbundener Communities ermöglicht.
der rechtspopulistischen AfD verbunden sind.
In früheren Forschungsergebnissen hat das ISD
im Zusammenhang mit Wahlen in Deutschland
festgestellt, dass rechtsextreme Kanäle auf
alternativen Plattformen in einem erheblichen
Ausmaß für die AfD mobilisiert haben.910 Das Online-Ökosystem Rechtsextremer Akteure
– I nnerhalb unserer Stichprobe waren Einwan Zwar riefen die analysierten Inhalte mehrheitlich
derung, das angeblich gesetzeswidrige Verhalten nicht zur Gewalt auf, aber die unverhältnismäßig
von Migranten und Angriffe auf (zumeist linke) große Menge an Inhalten, die Einwanderung generell
politische Gegner auf den meisten Plattformen negativ bewerten und ganze Bevölkerungsteile als
die häufigsten Themen. Bedrohung darstellen, erzeugt das Gefühl dringenden
Über alle Plattformen hinweg war Einwanderung Handlungsbedarfs zum vermeintlich notwendigen
das am meisten diskutierte Thema, besonders Schutz der Eigengruppe.10 Wie wir in den Manifesten
in den Gruppen auf Voat, Reddit und Gab. Zudem kon der letzten rechtsextremen Attentäter in Pittsburgh,
zentrierten sich die meisten Posts über Einwanderung Christchurch, Poway, El Paso und Halle gesehen haben,
(60 %) auf das „gesetzeswidrige“ Verhalten von können Theorien wie die vom „großen Austausch“
Flüchtlingen oder Migranten. 12 % beziehen sich (im Englischen „the great replacement“ genannt) zu
auf Verschwörungstheorien über einen vermuteten gewalttätigem Extremismus und Terrorismusführen,
demografischen Austausch der „europäischen auch ohne aktiv zur Gewalt aufzurufen.
Stammbevölkerung“ durch nichteuropäische
Einwanderer. Das zweithäufigste diskutierte Thema – D
er vom ISD trainierte Algorithmus zur
waren Angriffe auf politische Gegner. Entsprechende Klassifizierung antisemitischer Inhalte zeigt,
Posts machten auf allen Plattformen 13–20 % aus dass mehr als die Hälfte aller Posts über
und waren auf Telegram und Reddit am häufigsten. Juden in den Threads auf 4chan (56,9 %) klar
Inhalte über die vermeintliche Unterdrückung von antisemitische Narrative enthielt.
Rechtsextremen fanden sich auf Telegram zahlreicher Wir haben mithilfe der Method 52 Software einen
als auf anderen Plattformen. Algorithmus darauf trainiert, antisemitische Narrative
in den Kraut/pol/ Threads auf 4chan zu identifizieren.
Telegram scheint zur wichtigsten Bühne für Während abwertende Sprache und Beleidigungen auf
rechtsextreme Influencer und Gruppen geworden 4chan zwar weit verbreitet sind, haben wir konkret
zu sein, die von Accountsperrungen auf den großen nach antisemitischen Narrativen gesucht, die unter die
Social Media-Plattformen betroffen waren oder Antisemitismusdefinition der International Holocaust
solche befürchten. Interessanterweise wird die Remembrance Alliance fallen würden – auch wenn
Rolle des Islam und der Muslime in rechtsextremen manche dieser Posts keine expliziten antisemitischen
Inhalten auf Gab häufiger (12 %) als auf anderen Ausdrücke verwenden, können sie in Intention und
Plattformen erwähnt. Verschwörungstheorien waren Wirkung antisemitisch sein.
auf dem Videoportal Bitchute besonders zahlreich.
Der große Anteil solcher Narrative zeigt, dass Dis
– D
er Großteil der von uns analysierten Inhalte auf kussionen über Juden auf dem /pol/ Board oft
alternativen Plattformen rief nicht zur Gewalt auf einer grundlegend antisemitischen Haltung
und war nicht offensichtlich rechtswidrig. entsprechen und nicht „nur“ Resultat einer toxischen
In unserer Stichprobe von fast 1000 Posts, die für Diskussionskultur sind. Bestimmte Inhalte ließen
die thematische Analyse kodiert wurden, fanden mehrere Interpretationen zu. Bei einer konservativen
wir sieben Beiträge, die Gewalt befürworteten oder Schätzung lässt sich sagen, dass das Ausmaß an
Unterstützung für terroristische Gruppen zum antisemitischen Inhalten bei 56,9 Prozent liegt.
Ausdruck brachten, sowie Dutzende von Neonazi-
Kanälen. Die meisten gefundenen Inhalte verstoßen
aber wahrscheinlich nicht gegen das deutsche Recht.Das Online-Ökosystem Rechtsextremer Akteure 11
– U
nsere Forschung deutet darauf hin, dass die Um einschätzen zu können, ob rechtsextreme
Sperrung der Accounts rechtsextremer Gruppen Ideen von alternativen Medien zu Mainstream-
auf Mainstream-Plattformen ihre Reichweite Medien wandern, haben wir die Bedeutung
verringert und offenbar nicht zur direkten rechtsextremer Narrative in alternativen
Abwanderung ihrer Follower auf alternative Medien näher untersucht und herausgefunden,
Plattformen führt. welche Unterschiede gegenüber Mainstream-
Politische Entscheidungsträger und Forscher Medien bestehen. Unser Vergleich zwischen 17
diskutieren häufig über die Frage, ob das Sperren alternativen Medien und 13 Mainstream-Medien
der Accounts extremer Gruppen auf Mainstream- zeigt, dass am rechtsextremen Rand populäre
Plattformen zur Abwanderung ihrer Follower auf Konzepte wie etwa der „große Austausch“ und
„alternative“ oder verschlüsselte Plattformen führt. die „Islamisierung“ in alternativen Medienkanälen
Unsere Forschung deutet darauf hin, dass das Ausmaß viel häufiger erwähnt werden (in etwa 0,5–6,0 %
dieser Abwanderung begrenzt ist. Beispielsweise aller Beiträge). Im Gegensatz zur durchgehenden
haben wir festgestellt, dass eine Stichprobe von 25 Verwendung rechtsextremer Begriffe durch
Gruppen auf alternativen Plattformen nur knapp 10 alternative Medien werden diese Begriffe in
% der Gesamtzahl an Followern haben, die ihnen auf Mainstream-Medien vor allem in Reaktion auf
Mainstream-Plattformen folgen. Außerdem hatten konkrete Ereignisse kommentiert, wie etwa nach
die Gruppen, die auf Mainstream-Plattformen dem Attentat von Christchurch. Eine explorative
weiterhin präsent sind, mehr Follower auf alternativen Analyse der Verwendung dieser Konzepte in den
Plattformen als die Gruppen, deren Accounts auf Mainstream-Medien weist darauf hin, dass diese
Mainstream-Plattformen gesperrt wurden, aber auf die Begriffe nicht unkritisch oder in einer Art
alternativen Plattformen aktiv sind. Das deutet und Weise benutzt werden, die von den
darauf hin, dass die Präsenz auf mindestens einer alternativen Medien inspiriert oder beeinflusst
Mainstream-Plattform tatsächlich eher mehr wäre. Es ist zu beachten, dass alternative Medien
Menschen auf alternative Plattformen lenken könnte. sich normalerweise hauptsächlich auf politische
Dieses Ergebnis ist zwar nicht eindeutig, liefert aber Themen konzentrieren, während Mainstream-Medien
Indizien gegen das Argument, dass die Verbannung auch Rubriken wie Sport oder Kultur umfassen.
extremistischer Gruppen von Mainstream-Plattformen Deshalb sind direkte quantitative Vergleiche
zur massenhaften Abwanderung ihrer Follower auf zwischen den beiden nur eingeschränkt möglich.
alternative Plattformen führt. Stattdessen weisen
unsere Ergebnisse darauf hin, dass die Reichweite Empfehlungen
sinkt, wenn Gruppen von Mainstream-Plattformen
auf alternative Plattformen ausweichen müssen. Die Ergebnisse unserer Forschung weisen auf eine
Reihe zentraler Herausforderungen für politische
– D
ie Daten aus unserem „Hate Observatory“, Entscheidungsträger und Tech-Firmen hin. In den
das wir mit der Media Cloud Software des letzten Jahren wurden Fortschritte bei der Entfernung
Massachusetts Institute of Technology (MIT) gesetzeswidriger und terroristischer Inhalte von
eingerichtet haben, deuten darauf hin, Mainstream-Plattformen erzielt. Diese waren nicht
dass rechtsextreme Themen in alternativen zuletzt das Ergebnis des steigenden öffentlichen
Medien überproportional stark vertreten und politischen Drucks auf Plattformbetreiber.
sind. Beiträge zu diesen Konzepten sind in Indessen sind bisherige Maßnahmen weitgehend
Mainstream-Medien wesentlich seltener wirkungslos, wenn es um die Bekämpfung loser
und hauptsächlich im Zusammenhang mit rechtsextremer Online-Communities geht, die jenseits
bestimmten Ereignissen zu finden. von festen organisatorischen Strukturen operieren.12 Das Online-Ökosystem Rechtsextremer Akteure
Eine umfassende Moderation von Inhalten wird zudem in Illegale Inhalte und Aktivitäten im Internet
Hinblick auf alternative Plattformen entweder aufgrund
eines Mangels an Ressourcen oder aus ideologischer – M
ainstream-Plattformen, internationale Initia
Opposition schwierig umzusetzen sein. Die vielleicht tiven und Forschungsorganisationen sollten
größte Herausforderung besteht jedoch in der Frage, ihre Partnerschaften mit kleineren alternativen
wie mit der riesigen Menge an Online-Inhalten zu Plattformen stärken, damit diese terroristische
verfahren ist, die weder aktiv zu Gewalt aufrufen noch oder gewalttätige extremistische Inhalte besser
illegal sind, aber dennoch zu einer Atmosphäre beitragen bekämpfen können.
können, die Radikalisierung fördert. Die Moderation von rechtswidrigen Inhalten muss
auf alternativen Plattformen verbessert werden.
Die begrenzten, aber realen Risiken, die durch das Forschung und Tech-Unternehmen können eine
rechtsextreme Online-Ökosystem hinsichtlich wichtige Rolle bei der Schließung genuiner
gewalttätiger Radikalisierung und der Normalisierung Kapazitäts- und Ressourcenlücken spielen,
rechtsextremer Ideen bestehen, werfen eine Reihe die kleinere Plattformen möglicherweise haben.
von komplexen Fragen auf. Wenn es das Ziel ist, Für libertäre Plattformen, insbesondere solche,
die Reichweite rechtsextremer Akteure online die auf US-Recht basieren und sich nur an dieses
einzuschränken– wie würde Erfolg aussehen und halten, sowie für Plattformen, die von Sympathi
wie ließe er sich messen? Wie weit wollen wir in den santen rechtsextremer Ideologien geschaffen
digitalen Raum eintauchen, um Druck auf immer wurden, werden andere Strategien erforderlich sein.
kleinere Plattformen und rechtsextreme Communities
auszuüben? Wie kann ein Gleichgewicht zwischen
– A
ngesichts des zunehmend dezentralisierten
dem Schutz der grundlegenden und legitimen Rechte
Rechtsterrorismus jenseits fester organisa
auf Meinungsfreiheit und dem Schutz der Rechte
torischer Strukturen, der durch das Online-
derjenigen erzielt werden, die von rechtsextremen
Ökosystem rechtsextremer Akteure ermöglicht
Online-Nutzern und Communities gezielt belästigt
wird, müssen Regierungen und Entscheidungs
und angegriffen werden und zwar sowohl digital,
träger politische und rechtliche Ordnungsrahmen
wie auch im wirklichen Leben? Müssen wir uns damit
entwickeln, die nicht vollständig vom Verbot
abfinden, dass Extremismus und Hass wahrscheinlich
terroristischer oder gewalttätiger extremistischer
weiterhin in weniger sichtbaren, privaten oder verschlüs
Gruppen abhängig sind.
selten Bereichen des Internets existieren werden,
Die politischen Entscheidungsträger müssen die
solange wir uns auch für den Schutz des Rechts auf
sich verändernde Landschaft und den dynami
Privatsphäre einsetzen?
schen Entwicklungsprozess des rechtsextremen
Terrorismus erkennen und darauf reagieren.
Alle Maßnahmen zur Bekämpfung des Online-Ökosystems
Sie müssen international mit der Zivilgesellschaft
rechtsextremer Akteure sollten nicht nur im Hinblick
und der Forschung zusammenarbeiten, um gemein
auf ihre Wirksamkeit, sondern auch auf ihre Angemes
same Definitionen zu entwickeln, die der Bedrohung
senheit und Proportionalität, vor allem in Bezug auf
durch Rechtsterrorismus, der sich jenseits fester
ihre Auswirkungen auf Grundrechte beurteilt werden.
organisatorischer Strukturen manifestiert, gerecht
Dazu gehören Meinungsfreiheit, Religionsfreiheit,
werden. Da viele Plattformen sich in Bezug auf die
Pressefreiheit und Privatsphäre.
Rechtsdurchsetzung auf offizielle Verbotslisten von
Regierungen oder den Vereinten Nationen verlassen
Für den Umgang mit diesen Herausforderungen
(auf denen hauptsächlich islamistische Terrorgruppen
empfehlen wir eine Reihe von Maßnahmen für Politik,
zu finden sind), sollten demokratische Regierungen
Tech-Unternehmen, Zivilgesellschaft und Forschung.
und nicht Privatunternehmen dafür zuständig sein,
Die Empfehlungen werden im letzten Kapitel dieses
Reports ausführlich behandelt. Es folgt eine Zusam
menfassung unserer Empfehlungen.Das Online-Ökosystem Rechtsextremer Akteure 13
in Abstimmung mit Forschern und der Zivilgesell Legale, aber möglicherweise extremistische oder
schaft festzulegen, welche rechtsextremen Influencer abwertende Inhalte und Aktivitäten im Internet
oder Communities im Internet die erforderlichen
gesetzlichen Schwellenwerte überschreiten, damit
– N
eben der bestehenden Gesetzgebung zur
ihre Inhalte entfernt oder ihre Accounts gesperrt
Bekämpfung rechtswidriger Inhalte sollte die
werden können. Maßnahmen wie die „Hashing“-
deutsche Regierung proportionale, risikobasierte
Datenbank des Global Internet Forum to Counter
Regulierungsansätze (wie beispielsweise eine
Terrorism (GIFCT), die ein erneutes Hochladen von
Sorgfaltspflicht für Plattformbetreiber) prüfen,
einmal als terroristisch gekennzeichnetem Inhalt
um eine stärkere Ausrichtung auf die Sicherheit
verhindert, könnten dann mit einer umfassenderen
der Nutzer zu fördern.
und einheitlicheren Liste von Inhalten arbeiten,
Neben der Gesetzgebung zur Bekämpfung rechts
die von rechtsextremen Terrorgruppen oder
widriger Inhalte wie dem NetzDG müssen auch die
Terroristen stammen, bzw. diese unterstützen.
technologische Architektur und das Design bestimmter
Plattformprodukte berücksichtigt werden. Eine Vielzahl
– E
s ist von zentraler Bedeutung, die Unterstützung von Plattformen, die Aufmerksamkeit maximieren und
für die Opfer von Belästigung, Hassrede und Ver enge Netzwerke ähnlicher Inhalte oder gleichgesinnter
leumdung zu stärken und die Anwendung und Nutzer schaffen, kann auch unbeabsichtigt dazu
Durchsetzung der relevanten Gesetze in diesem dienen, legale, aber schädigende Inhalte zu verstärken,
Bereich zu gewährleisten. Nutzer im rechtsextremen Spektrum zu vernetzen
Digitale Aktivitäten oder Kampagnen, mit denen sowie koordinierte Belästigungen und Übergriffe zu
Personen des öffentlichen Lebens und Privat ermöglichen. Deshalb sind strukturelle Ansätze erfor
personen belästigt, eingeschüchtert und zum derlich, etwa das Modell der Sorgfaltspflicht für Platt
Schweigen gebracht werden sollen, gehören zu formbetreiber, das im britischen Online Harms White
den wichtigsten Taktiken rechtsextremer Akteure. Paper vorgeschlagen wird.11 Mithilfe der Sorgfaltspflicht
Diese Kampagnen, die häufig von rechtsextremen würde die Verantwortung für die Sicherheit der Nutzer
Communities auf alternativen Plattformen und deren Schutz vor voraussehbaren Risiken auf die
geplant und koordiniert werden, richten sich Plattformbetreiber übertragen. Dies könnte beispiels
überproportional häufig gegen Frauen und weise beinhalten, dass diese keine rechtsextremen
Minderheiten und können in Bezug auf politische Inhalte oder Kanäle mehr empfehlen. Eine Sorgfalts
Partizipation und freie Meinungsäußerung eine pflicht würde Anreize für Unternehmen schaffen,
erhebliche abschreckende Wirkung entfalten. ihre Plattformen und Produkte mit einem stärkeren
Um diese Versuche, politische Gegner aus dem Fokus auf die Sicherheit der Nutzer und die Reduzie
Online-Diskurs zu vertreiben, zu verhindern, rung von digitalen Risiken zu gestalten (ein Risiko wäre
müssen die bestehenden Gesetze zu Belästigung, der Missbrauch bestehender und neuer Technologien
Hassrede und Verleumdung im Internet angemessen durch Rechtsextreme).
durchgesetzt werden. Für Regierungen sollte es
von Vorrang sein, die Anwendung solcher Gesetze
im Internet zu evaluieren und dafür zu sorgen,
dass es weniger Hindernisse für ihre Durchsetzung
gibt. Im Zusammenhang mit den zunehmenden
Schmähungen und Angriffen auf Personen des
öffentlichen Lebens sowie Privatpersonen ist die
Schaffung und Stärkung einer Struktur für juristische
und psychosoziale Unterstützung für die Opfer von
entscheidender Bedeutung.14 Das Online-Ökosystem Rechtsextremer Akteure
– O
bwohl unsere Untersuchungen darauf Zivilgesellschaft
hinweisen, dass Accountsperrungen die
Reichweite rechtsextremer Influencer und – E
s sollten verschiedene proaktive, nicht regula
Gruppen begrenzen können und damit ihre torische Interventionen auf alternativen
Fähigkeit, ihre Ideen in den Mainstream des Plattformen erprobt und getestet werden.
politischen Diskurses zu drängen, limitieren, Diese müssen speziell auf die jeweilige Platt
müssen die möglichen unbeabsichtigten form zugeschnitten sein und die thematischen
Folgen solcher Maßnahmen noch weiter Interessen, die Subkultur der Plattform,
erforscht werden. die technischen Funktionen und das Ausmaß
Es fehlt nach wie vor an Belegen dafür, ob oder wie an möglichen Risiken und unbeabsichtigten
solche repressiven Maßnahmen die Wahrschein Folgen berücksichtigen.
lichkeit einer Radikalisierung von Influencern und Es ist von entscheidender Bedeutung, dass sich
ihren Anhängern beeinflussen. Außerdem sollten Nutzer durch verschiedene Online-Interventionen
die Auswirkungen von Accountsperrungen auf ein von rechtsextremen Ideologien und Aktivitäten
größeres Publikum jenseits rechtsextremer Akteure distanzieren. Ansätze wie One-to-One-Messaging
weiter untersucht werden. Und schließlich müsste zwischen radikalisierten Personen und qualifizierten
empirisch getestet werden, ob Accountsperrungen Interventionsanbietern sowie One-to-Many-
wie gewünscht dafür sorgen, dass ein Mainstream- Kommunikationsansätze sollten auf alternativen
Publikum den rechtsextremen Online-Communities Plattformen erprobt und getestet werden.
nicht mehr so stark ausgesetzt ist. In jedem Fall Diese Maßnahmen müssen auf spezifische
müssen solche repressiven Maßnahmen, die rechts Zielgruppen auf bestimmten Plattformen
extremen Akteuren die Verbreitung ihrer Ideen zugeschnitten werden. Dabei sind Architektur
erschweren sollen, sorgfältig mit dem Grundrecht und Funktionen der Plattformen sowie die
auf freie Meinungsäußerung abgewogen werden. typischen Diskussionskulturen in bestimmten
Communities zu berücksichtigen.
– W
enn Accounts gesperrt werden, müssen die
Plattformen ihre entsprechenden Entscheidungs – W
issenschaftler sollten das Potenzial von
prozesse einheitlich, begründbar und verständlich Frühwarnsystemen für zivilgesellschaftliche
kommunizieren und die Einspruchsmöglichkeiten Gruppen und sogenannte „weiche Ziele“
transparenter machen. erforschen, um durch eine Kombination aus
Plattformen, die Accounts rechtsextremer Monitoring und geeigneten Technologien
Influencer sperren, müssen die entsprechenden konkrete Drohungen zu erkennen, die von
Entscheidungen einheitlich, begründbar und Posts auf alternativen Plattformen ausgehen.
verständlich kommunizieren, insbesondere In Kombination mit ethnografischer Forschung
angesichts der steigenden Bedeutung sozialer können Machine-Learning-Technologien wie das
Medien für öffentliche Debatten. Außerdem sind Natural Language Processing (NLP) dabei helfen,
transparentere Prozesse für Nutzer nötig, die ihre von alternativen Plattformen stammende konkrete
Accountsperrung für ungerechtfertigt halten, Bedrohungen zu erkennen, insbesondere solche, die
damit sie die notwendigen Informationen haben, sich gegen bestimmte Personen oder „weiche Ziele“
um Einspruch gegen diese Entscheidung einlegen wie Gemeindezentren, religiöse Einrichtungen oder
zu können. Das ISD hat ein Rahmenwerk und spezi Aktivistengruppen richten.
fische technologische Transparenzanforderungen
für Beschwerden und Einsprüche vorgeschlagen,
die beim Aufbau der Rechenschaftspflicht helfen
und der Öffentlichkeit die Entscheidungen über eine
Inhaltsmoderation verständlicher machen.12Das Online-Ökosystem Rechtsextremer Akteure 15
Teilautomatisierte Analysen von Nutzerdaten Forschung
werfen zwar legitime Bedenken hinsichtlich
Datenschutz, Datenaustausch und Überwachung
– W
eitere plattformübergreifende Untersuchungen zu
auf, könnten aber bei sensibler Handhabung und
den Nutzungsweisen, Netzwerken, Zielgruppen und
mit geeigneten Verfahren und Schutzmaßnahmen
Subkulturen, die nicht nur innerhalb der einzelnen
die Risikoerkennung unterstützen und gefähr
Plattformen, sondern auch plattformübergreifend
deten Personen und Gruppen helfen, die von
existieren, sind erforderlich, um die notwendige
Rechtsextremen ins Visier genommen werden.
Evidenzbasis für die Entwicklung wirksamer
Gegenmaßnahmen zu schaffen.
– E
s sollten aktualisierte Schulungen für Angesichts der zunehmenden Dezentralisierung
Interventionsanbieter, Jugendsozialarbeiter, der Nutzer über verschiedene alternative Platt
Eltern, Lehrkräfte und Mitarbeiter anderer formen hinweg und der ständigen Weiterentwicklung
öffentlicher Einrichtungen angeboten werden, des rechtsextremen Online-Ökosystems ist eine
um deren Bewusstsein dafür zu schärfen, kontinuierliche plattformübergreifende Erforschung
dass die Teilnahme an rechtsextremen der Nutzungsweisen, Netzwerke, Zielgruppen
Communities auf alternativen Plattformen und Subkulturen dieser Plattformen unbedingt
ein erhöhtes Risiko für eine Radikalisierung erforderlich. Beispielsweise würde eine Analyse der
darstellen kann. Shortlinks, die auf den größeren Knotenpunkten
Nutzer in den analysierten Gruppen sind mit innerhalb des rechtsextremen Ökosystems (etwa auf
einer stetigen Flut von aggressiven Inhalten über Telegram, VK und 4chan‘s /pol/ Board) geteilt werden,
Migrantenkriminalität, Verschwörungstheorien helfen, besser zu verstehen, wohin die Nutzer von
und menschenfeindlichen Narrativen konfrontiert, dort gelenkt werden. Nur mit einer umfassenderen
die eine Atmosphäre schaffen, die zur Radikalisierung Kenntnis dieser digitalen Räume und der dort
beitragen kann. Deshalb müssen denjenigen, vertretenen rechtsextremen Communities können
die mit gefährdeten Personen arbeiten, Schulungen politische Entscheidungsträger proportionale
und aktuelle Informationen angeboten werden, und effektive Gegenmaßnahmen entwickeln.
durch welche sie die verschiedenen Plattformen und
Online-Communities besser verstehen lernen.16 Das Online-Ökosystem Rechtsextremer Akteure
Einführung
Seit Ende 2018 haben rechtsextreme Terroristen in Pittsburgh, Christchurch,
Poway, El Paso und Halle eine Reihe von Attentaten verübt. In all diesen Fällen
klagten die Attentäter über Einwanderung, Feminismus und Geburtenraten und
bezogen sich auf den sogenannten „großen Austausch“. Diese Verschwörungs
theorie stellt Einwanderung als politische Waffe dar, mit der angeblich die weiße
Mehrheitsbevölkerung durch nicht weiße Einwanderer ersetzt werden soll.13
Diese Attentate sind Teil eines zunehmenden Trends. Während soziale Medien in 27 % aller Fälle im START-
Rechtsextremer Terrorismus wird immer mehr zur Datensatz zwischen 2005 und 2010 eine primäre
Bedrohung. Laut den aktuellsten Zahlen des Global oder sekundäre Rolle spielten, stieg dieser Anteil
Terrorism Index ist die Zahl rechtsextremer und terror für den Zeitraum zwischen 2011 und 2016 auf 73 %.
istischer Vorfälle weltweit zwischen 2014 und 2019 In 17 % der Fälle im letzteren Zeitraum spielten sie
um 320 % gestiegen.14 Die oben genannte Serie von die primäre Rolle. Diese zunehmende Bedeutung
Attentaten hatte einen Faktor gemein: Alle Attentäter der sozialen Medien fällt mit der kürzeren Dauer der
nutzten alternative Plattformen wie 8chan oder den Radikalisierungsprozesse von Auslandskämpfern
Videospieldienst Twitch, um ihre Manifeste hochzu zusammen, was darauf hindeutet, dass soziale Medien
laden und (in den Fällen von Christchurch und Halle) die Radikalisierung beschleunigen können.17
Links zu den Livestreams ihrer Attentate zu posten.
Die Zunahme dieser gewalttätigen Angriffe hat zu In den letzten Jahren waren die Ideen neuer techni
berechtigten Fragen der Politik geführt, inwiefern diese kaffiner Bewegungen in einigen Fällen von rechts
alternativen Plattformen Radikalisierung begünstigen. extremen Terrorismus und rechtsextremer Gewalt
die Inspirationsquelle. Daher ist die Forderung,
Seit Jahren argumentieren Wissenschaftler, dass Online-Radikalisierung im Zusammenhang mit
das Internet und soziale Medien zwar Radikalisie rechtsextremen Bewegungen besser zu verstehen,
rungsprozesse beeinflussen, normalerweise aber noch dringlicher geworden. Insbesondere nach
nicht der einzige Faktor sind, sondern fast immer dem Attentat im neuseeländischen Christchurch,
durch persönliche Interaktionen mit anderen vor dem der Schütze ein 74-seitiges „Manifest“ mit
Extremisten ergänzt werden. So ergab eine Studie dem Titel „The Great Replacement“ („Der große
2013 zur Einschätzung der Rolle des Internets bei der Austausch“) auf dem Messaging-Board 8chan
Radikalisierung von 15 Personen, die wegen Straftaten hochgeladen hatte, das seine Taten rechtfertigen
im Zusammenhang mit islamistischem Terrorismus in sollte, ist die rechtsextreme Radikalisierung auf
britischen Gefängnissen saßen, dass das Internet durch solchen alternativen Plattformen weit über Exper
seine Echokammern für extremistische Ansichten zwar tenkreise in den Blick der Öffentlichkeit geraten.
die Anzahl der Gelegenheiten für eine Radikalisierung
erhöhte, diese Prozesse aber nicht beschleunigte und Terroristische Attentate und gewalttätige Radikalisie
auch nicht die Rolle der persönlichen Interaktionen rung sind aber nur eine der Herausforderungen im
in Radikalisierungsprozessen ersetzt hatte.15 Zusammenhang mit dem Ökosystem alternativer
Online-Plattformen, die von Rechtsextremen genutzt
Die Daten des National Consortium for the Study of werden. Seit 2015 nutzen rechtsextreme Gruppen
Terrorism and Responses to Terrorism (START)16 zu alternative Plattformen wie 4chan, Discord und Telegram,
Radikalisierungsprofilen in den USA zeigen hingegen, um Unterstützer zu rekrutieren, sie ideologisch zu
dass die Bedeutung von sozialen Medien zugenommen radikalisieren und zu mobilisieren, und um Online-
hat, obwohl sie nur in der Minderheit der Fälle die Kampagnen durchzuführen, die den politischen Diskurs in
Haupttriebkraft einer Radikalisierung waren. sozialen Medien und darüber hinaus beeinflussen sollen.Das Online-Ökosystem Rechtsextremer Akteure 17
Im Vorfeld der Bundestagswahl 2017 hat ein Netzwerk Gleichzeitig und als Reaktion auf den Druck von Regie
namens Reconquista Germanica mit fast 8.000 Mit rungen und der Öffentlichkeit haben die großen Tech-
gliedern systematisch versucht, Inhalte der rechts Firmen damit begonnen, verschiedene Gegenmaßnahmen
populistischen Alternative für Deutschland (AfD) zu gegen Desinformation und die extremistische Nutzung
verbreiten, und deren politische Gegner angegriffen.18 ihrer Plattformen umzusetzen. In den letzten Jahren
Inzwischen ist die Belästigung von hauptsächlich haben sie neue Richtlinien zu Hassrede durchgesetzt,
weiblichen Journalisten, Aktivisten und Politikern Extremisten von ihren Plattformen ausgeschlossen,
durch rechtsextreme Trolle im Internet zu einer Hunderttausende extremistischer Accounts oder
zentralen Taktik geworden, um politische Gegner “Fakeprofile“ deaktiviert, Werbebibliotheken für politische
einzuschüchtern und so zum Schweigen zu bringen Werbung eingeführt und Initiativen für Medienkompetenz
und aus dem digitalen Diskurs zu verdrängen.19 gestartet.23 Beispielsweise haben Facebook, Microsoft,
In einer Zeit, in der soziale Medien für die öffent Twitter und YouTube das Global Internet Forum to Counter
liche Debatte und demokratische Kultur enorm Terrorism (GIFCT) geschaffen, das eine mögliche Nutzung
wichtig geworden sind, zielen diese Kampagnen ihrer Plattformen durch Terroristen einschränken soll. Das
darauf ab, Debatten im Internet an sich zu reißen GIFCT hat eine Datenbank mit „gehashten“ Dateien erstellt,
und das „Overton-Fenster“ (das Spektrum akzep die als terroristischer Inhalt erkannt worden sind. Wenn
tabler politischer Positionen) zu verschieben, Benutzer versuchen, diese Inhalte erneut hochzuladen,
um so extremistische Ideen in den Mainstream können diese durch ihren digitalen Fußabdruck auto
des politischen Diskurses zu drängen. matisch identifiziert und gelöscht werden.24 Die Initiative
Tech Against Terrorism des Counter Terrorism Executive
Angesichts der gestiegenen extremistischen Nutzung Directorate der Vereinten Nationen erleichtert den
von Mainstream- und alternativen Plattformen sowie Austausch von Kapazitäten, Wissen und bewährten
der Sorgen bezüglich Online-Radikalisierung wird Praktiken innerhalb der Tech-Industrie und unterstützt
der Ruf nach einer Zurückdrängung dieser Entwick kleinere Plattformen, die nicht über die Fähigkeit verfügen,
lungen durch Regierungen und Tech-Plattformen effektiv auf gewalttätige und extremistische Inhalte auf
lauter. Das deutsche Netzwerkdurchsetzungsgesetz ihren Plattformen zu reagieren. Darüber hinaus haben die
(NetzDG)20 tund die von der britischen Regierung neuseeländische Premierministerin Jacinda Ardern und
geplante Regulierungsbehörde gegen Online- der französische Präsident Emmanuel Macron nach dem
Risiken21 sind Beispiele für Versuche, dem Einfluss Attentat von Christchurch den Christchurch Call initiiert,
von gesetzeswidrigen, extremistischen und schä eine nicht bindende Selbstverpflichtung von Regierungen
dlichen Inhentgegenzutreten. Auch in Frankreich und acht Tech-Firmen zur Durchführung „spezifischer
verabschiedete die Nationalversammlung im Juli 2019 und transparenter Maßnahmen“, um das Hochladen und
ein Gesetz gegen Online-Hass. In Übereinstimmung die Verbreitung von terroristischen Inhalten im Netz zu
mit dem deutschen NetzDG verlangt das Gesetz von verhindern.25 In diesem Zusammenhang ist interessant,
den Plattformen, „offensichtlich rechtswidrige“ Inhalte dass auch Infrastrukturanbieter aktiv geworden sind –
innerhalb von 24 Stunden nach deren Meldung durch Cloudflare etwa stellt 8chan seit den rechtsextremen
Nutzer zu entfernen. Andernfalls drohen Bußgelder terroristischen Angriffen in Christchurch, Poway und El
in Höhe von bis zu 4 % ihres weltweiten Umsatzes.22 Paso keinen technischen Support mehr zur Verfügung.26Sie können auch lesen
