Im Netz - Amnesty International
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
AMNESTY JOURNAL
MAGAZIN FÜR
MENSCHENRECHTE
01/22
JANUAR / FEBRUAR WWW.AMNESTY.DE/JOURNAL
Im Netz
Menschenrechte im digitalen Zeitalter
Spurensuche im bosnischen Wald Raubkunst in Museen
Dragana Vučetić und Ramiz Nukić sammeln Bénédicte Savoy ist die Seismografin
Beweise für den Genozid in Srebrenica des verlorenen Schatzes
INHALT Die großen
12 Unbekannten.
Algorithmen prägen
unseren Alltag und
bestimmen unseren
Blick auf die Welt. Sie
können Fortschritt
bewirken, aber auch
zu Gewalt führen. Nur
wenn wir ihre Wirkung
verstehen, können wir
unsere Rechte im digi-
TITEL: DIGITALE RECHTE talen Raum schützen.
Macht der Algorithmen: Sie sind überall 12
Gesichtserkennung: Reclaim Your Face!
Überwachungskapitalismus: Wie dich deine Daten verraten 18
16 Wie im Krimi.
In Pakistan wurden im 22
Jahr 2017 Menschen-
Online-Monopole: Regulierung von Internetplattformen 21 rechtsverteidiger_innen
digital angegriffen, um
Angriffe in Pakistan: Digitale Heuschrecken 22 ihre Arbeit zu überwa-
chen und ihnen zu
Empowerment in Nigeria: Hauptsache gut vernetzt 24 schaden. Amnesty do-
kumentierte den Fall.
Ethik im Internet: Ungewissheit, Diskriminierung
Ist er auch Stoff für eine
und geschützte Räume 26
Kriminalerzählung?
Allerdings.
POLITIK & GESELLSCHAFT
Genozid von Srebrenica: Unterwegs mit Spurensuchern 30
Mapuche in Chile: »Indigene Rechte und viel mehr« 34 44
Krimtataren: 16 Jahre Strafkolonie für nichts 38
Podcasts: Antirassismus auf die Ohren 42
Gesellschaftlicher Umbruch:
»Für den Einzelnen, durch den Einzelnen«. Amnesty erhielt den
Was Individualität und Identität verbindet 44 Friedensnobelpreis im Jahr 1977. Ein Jahr, das nach Ansicht von
Graphic Report: Niger – Kinder schützen! 46 Philipp Sarasin einen gesellschaftspolitischen Epochenwechsel
markiert. Was das eine mit dem anderen zu tun hat, erklärt
Diskriminierung von Kastenlosen: der Schweizer Historiker im Gespräch.
Ein unabänderlicher Status 50
Ausbeutung in Südkorea: Eine TV-Serie und die Realität 52
Webfehler im System.
KULTUR
56 Die Berliner Künstlerin
Marcela Moraga
thematisiert seit Jahren
Kunst gegen Ausbeutung in Südamerika: Viel Stoff 56 in ihren Arbeiten die
Ausbeutung von
Koloniale Raubkunst: Bénédicte Savoy forscht in Berlin 60
Rohstoffen in Südamerika
Fotoprojekt zu HIV: Bilder, die von einer Last befreien 62 und den Kampf indigener
Gemeinschaften gegen
Türkisch-israelischer Pop: Über Grenzen hinweg 64 die Zerstörung ihres
Lebensraums.
Geschichtsbild der Colonia Dignidad: Zwei Blicke zurück 66
Buch über »Drecksarbeit«: Die Kehrseite des Konsums 68
Film »Kabul Kinderheim«: Kino als Ort der Freiheit 70
Ein Tropfen Glück.
RUBRIKEN
Arabesk wird in der Türkei
ebenso wie in Israel gehört.
64
Was den Fans in beiden Län-
Panorama 04 Einsatz mit Erfolg 08 Spotlight: Klimakrise 36 dern nicht bewusst sein
Was tun 48 Porträt: Hayrigul Niyaz 54 Dranbleiben 55 dürfte: Die Künstler_innen
Rezensionen: Bücher 69 Rezensionen: Film & Musik 71 der orientalisch anmuten-
Briefe gegen das Vergessen 72 Aktiv für Amnesty 74 den Popmusik beeinflussen
Kolumne: Eine Sache noch 75 Impressum 75 sich gegenseitig –
politischen und kulturellen
Differenzen zum Trotz.
2 AMNESTY JOURNAL | 01/2022
16
EDITORIAL
GOLD, BRONZE
Bitte recht freundlich!
Sie stellen zahlreiche Gefahren
für die Menschenrechte dar:
UND VIEL NEUES
Fragen und Antworten zu biometrischen
Verfahren und zur Gesichtserkennung.
Zum zwölften Mal wurde der International Creative Media
Weitersuchen, Award (ICMA) vergeben, der zeitgenössisches Grafikdesign
weiterarbeiten.
Die forensische Anthro-
30 prämiert. Eingereicht wurden diesmal 406 Arbeiten aus 21
pologin Dragana Vučetić Ländern, und wieder einmal ist das Amnesty Journal unter
identifiziert im ost- den Preisträgern.
bosnischen Tuzla die
Toten von Srebrenica.
Mit Bronze ausgezeichnet wurde unsere
Der Überlebende Ramiz
Nukić sammelt in den Ausgabe 06/2020 zum Thema »Gutes selbst
Wäldern Knochen von gemacht – Engagement im Corona-Jahr«. Die
Ermordeten. Ihre Arbeit
Titelseite zeigte eine Werkzeugwand mit aller-
ist wichtig für die Aufklä-
rung des Genozids. lei Dingen, die man für humanitäre Hilfe und
Menschenrechtsaktivismus benötigt. Entstan-
den war die Ausgabe in Zusammenarbeit mit den Amnesty-
Raue Realität.
52 Die Netflix-Serie
»Squid Game« er-
Magazinen aus Österreich und der Schweiz. Der Glück-
wunsch geht also nicht nur an die Illustratorin Anna Gusella,
fährt international
sondern auch an Amnesty in unseren Nachbarländern!
enorme Resonanz.
Sie spiegelt die
Situation von Be-
Noch mehr freut uns die ICMA-Auszeichnung
schäftigten und in Gold für die Gestaltung unseres Schwer-
Gewerkschafte- punkts zum Thema Corona in der Ausgabe
r_innen in Süd-
02/2021. Lea Berndorfers Illustrationen beglei-
korea wider, wenn
auch überzeichnet. teten die Titelgeschichte »Gesundheit für alle
– Medizinische Versorgung ohne Privilegien«.
Ihr gilt diese Auszeichnung ebenso wie unserem Layouter
Heiko von Schrenk.
Seismografin des
verlorenen Schatzes. 60 Damit wir auch im nächsten Jahr wieder Preise abräumen
Die französische Wis-
senschaftlerin Béné- können, haben wir uns einige Neuerungen einfallen lassen.
dicte Savoy fordert die Aufmerksame Leser_innen werden in dieser Ausgabe neue
Rückgabe geraubter
Schrifttypen, neue journalistische Formate und auch die
kolonialer Kulturgüter
und eine transnationa- eine oder andere Umstellung entdecken. So sollen am An-
le Forschungszusam- fang des Heftes Fotos besser zur Geltung kommen und der
menarbeit mit den Generalsekretär von Amnesty International Deutschland,
Herkunftsländern.
Markus N. Beeko, hat ab sofort das letzte Wort. Oder, um es
in seinen Worten zu sagen: Er möchte »eine Sache noch«
anmerken. Wir sind gespannt, wie Ihnen die Neuerungen
gefallen, und wünschen ein schönes Jahr 2022.
Maik Söhler
Unser Titelbild ist verantwortlicher Redakteur
wurde gezeichnet des Amnesty Journals.
von Lennart Gäbel. Foto: Gordon Welters
Fotos oben: Stephen Shaver / Polaris / laif | Michal Fludra / NurPhoto / pa | imago images / UIG | Jasmin Brutus
Andreas Pein / laif | Noh Juhan / Netflix | Marcela Moraga | Peter Rigaud / laif | Esra Özdoğan AMNESTY JOURNAL | 01/2022 3
PANORAMA
BEI MINUSGRADEN AN
DER BELARUSSISCH-
POLNISCHEN GRENZE
Wochenlang spitzte sich die
humanitäre Lage an der Grenze
zwischen Belarus und Polen zu:
Bei eisigen Temperaturen
campierten dort im November
Männer, Frauen und Kinder in
provisorischen Lagern (Foto).
Viele von ihnen waren Kurd_in-
nen aus dem Nordirak. Polnische
Grenzbeamte gingen mit Gewalt,
Tränengas, Wasserwerfern und
illegalen Pushbacks gegen die
Flüchtlinge vor. Mehrere Men-
schen starben. Ende November
wurden die Lager geräumt.
Im Dezember hielten sich nach
Medienangaben noch mehr als
tausend Flüchtlinge in Belarus
auf. Die EU wirft Präsident
Alexander Lukaschenko vor, er
habe die Flüchtlinge mit einem
Touristenvisum einreisen lassen
und ihnen in Aussicht gestellt, sie
könnten von Belarus aus in die
EU gelangen, um auf diese
Weise Vergeltung für EU-Sank-
tionen zu üben. Amnesty kriti-
sierte sowohl die Misshandlung
und Instrumentalisierung von
Flüchtlingen durch Belarus als
auch die EU-Politik. »Einige Län-
der missbrauchen die Situation
als Vorwand, um den Schutz von
Asylsuchenden zu schwächen
und ihre migrationsfeindliche
Agenda durchzusetzen«, sagte
Franziska Vilmar, Fachreferentin
für Asyl von Amnesty Inter-
national in Deutschland.
Foto: Leonid Shcheglov / BelTA / AP / pa
4 AMNESTY JOURNAL | 01/2022
AMNESTY JOURNAL | 01/2022 5
KRITIK AN KATAR NIMMT ZU
Ein knappes Jahr vor dem Anpfiff der Fußball-Weltmeisterschaft in Katar wird auch in
Deutschland die Kritik an der Menschenrechtssituation in dem Golfstaat wieder lauter.
Auf der Jahreshauptversammlung des FC Bayern München kam es zu lautstarken Protesten
gegen das Katar-Sponsoring des deutschen Fußballklubs. Auch Amnesty International
kritisiert in einem neuen Bericht, dass Reformen in Katar nur unzureichend umgesetzt
werden und menschenrechtswidrige Praktiken fortbestehen. Amnesty fordert von Katar,
das Kafala-System vollständig abzuschaffen, das Arbeitgeber_innen unverhältnismäßig
weitreichende Befugnisse einräumt, und Arbeitsmigrant_innen (im Bild) besser zu schützen.
Katja Müller-Fahlbusch, Amnesty-Expertin für den Nahen Osten und Nordafrika, sagte:
»Jede_r Arbeitsmigrant_in hat ein Recht darauf, bei der Arbeit fair behandelt zu werden
und Gerechtigkeit und Entschädigung zu erhalten, wenn Rechte missachtet werden.«
Foto: Hamad I Mohammed / Reuters
Den vollständigen
Bericht finden
Sie hier:
6 AMNESTY JOURNAL | 01/2022
PUTSCHVERSUCH UND PROTEST IM SUDAN
Auch zwei Monate nach dem Putschversuch des Militärs brodelt es im Sudan. Ende
Oktober 2021 hatten Sicherheitskräfte in der Hauptstadt Khartum Premierminister
Abdalla Hamdok und zahlreiche weitere zivile Regierungsangehörige festgenommen.
Dem Putschversuch gingen Spannungen zwischen zivilen Mitgliedern und Armeevertretern
in der gemeinsamen Übergangsregierung voraus. Die Zivilbevölkerung setzte sich zur Wehr
(im Bild: Demonstrantinnen Ende Oktober in Khartum). Bei den Protesten gab es Tote und
Verletzte. Die Demonstrationen dauern an, obwohl die Militärs Hamdok Ende November
wieder als Premierminister einsetzten. Teile der Protestbewegung fordern eine Übergangs-
regierung ohne Militärbeteiligung. »Die sudanesische Bevölkerung hat das Recht auf fried-
lichen Protest, auf Freiheit und Sicherheit, auf ein faires Gerichtsverfahren und auf vieles
mehr, was das Militär nicht untergraben darf«, sagte Sarah Jackson, stellvertretende
Regionaldirektorin für Ostafrika von Amnesty International.
Foto: Marwan Ali / AP / pa
AMNESTY JOURNAL | 01/2022 7
EINSATZ MIT ERFOLG SCHWEIZ
Das Schweizer Parlament hat im Oktober eine
Weltweit beteiligen sich Tausende Menschen an den wichtige Entscheidung getroffen, was den Waf-
»Urgent Actions«, den »Briefen gegen das Vergessen« und fenexport betrifft. In Zukunft ist es verboten,
an Unterschriftenaktionen von Amnesty International. Dass dieser Waffen in Länder zu exportieren, die die Men-
Einsatz Folter verhindert, die Freilassung Gefangener bewirkt und schenrechte schwerwiegend und systematisch
Menschen vor unfairen Prozessen schützt, zeigt unsere Weltkarte. verletzen oder in einen Bürgerkrieg verwickelt
Siehe auch: www.amnesty.de/erfolge sind. Nach dem Ständerat, der bereits im Juni
aktiv geworden war, stimmte nun der National-
rat einer Regelung zu, die nicht wie bisher unter
Berufung auf eine Ausnahme umgangen wer-
den kann. Amnesty International hatte seit
vielen Jahren Regeln gefordert, die verhindern,
dass Schweizer Waffen an Staaten geliefert
werden können, die die Menschenrechte miss-
achten. Amnesty begrüßte die Entscheidung
und die damit geschaffene Basis für eine wirk-
samere Exportkontrolle.
KANADA
Ein kanadischer Richter hat am 17. November
2021 die Abschiebung von Mamadou Konaté
verhindert. Der Richter setzte die für den 19. No- SAUDI-ARABIEN
vember geplante Abschiebung aus – bis zum GUINEA Ali al-Nimr, der als Teenager festgenommen
Abschluss von Konatés Asylverfahren. Er kann Am 7. September wurde Oumar Sylla aus dem und nach einem unfairen Verfahren zum Tode
zunächst in Kanada bleiben, es besteht aber die Gefängnis freigelassen. Im Zuge des Militär- verurteilt worden war, kam am 27. Oktober 2021
Gefahr einer Abschiebung zu einem späteren putschs am 5. September 2021 hatten die neuen aus der Haft frei. Ali al-Nimr war 17 Jahre alt, als
Zeitpunkt. Konaté ist Bürger der Elfenbeinküste, Machthaber_innen die Generalstaatsanwalt- man ihn im Februar 2012 festnahm. Er gehört
lebt seit sechs Jahren in Kanada und arbeitete schaft angewiesen, seine Freilassung zu veran- der schiitischen Minderheit an und hatte für
dort während der Corona-Pandemie als Haus- lassen. Der Demokratieaktivist, auch bekannt gleiche Rechte und Freiheiten in Saudi-Arabien
meister in Gesundheitseinrichtungen. Er hatte als Foniké Mengué, war am 29. September 2020 demonstriert. Nach seiner Festnahme war er
sich am Arbeitsplatz mit Covid-19 infiziert. 2020 in der guineischen Hauptstadt Conakry festge- von Sicherheitsbeamten gefoltert und gezwun-
hatten die Regierungen Kanadas und der kana- nommen und inhaftiert worden, während er gen worden, ein »Geständnis« zu unterschrei-
dischen Provinz Quebec Programme gestartet, friedlich gegen die neuerliche Kandidatur des ben. Ein auf »Terrorismus« spezialisiertes
um Asylsuchenden, die während der Pandemie Präsidenten Alpha Condé für die bevorstehende Sonderstrafgericht verurteilte ihn im Mai 2014
im Gesundheitswesen arbeiteten, eine dauer- Wahl protestierte. Am 10. Juni 2021 verurteilte zum Tode. Im Rahmen einer weltweiten Kam-
hafte Aufenthaltsgenehmigung zu gewähren. ihn ein Gericht zu drei Jahren Gefängnis. In der pagne riefen Hunderttausende Unterstützer_in-
Mamadou Konaté bedankte sich bei Amnesty Haft verschlechterte sich sein Gesundheitszu- nen von Amnesty International die saudischen
für die Unterstützung. stand so stark, dass er mehrfach in ein Kranken- Behörden dazu auf, Al-Nimr freizulassen. Im
haus eingeliefert werden musste. Nach der Frei- Februar 2021 wandelte das Sonderstrafgericht
lassung dankte Oumar Sylla Amnesty Interna- das Todesurteil zunächst in eine zehnjährige
8 AMNESTY JOURNAL | 01/2022 tional für die Unterstützung. Haftstrafe um, nun folgte die Freilassung.
LIBANON BRIEFE GEGEN
Die syrischen Geflüchteten Ahmad Al Waked, DAS VERGESSEN – UPDATES
Tarek Al A’lo und Fares Al Zo’bi sind seit Oktober
frei. Die drei Männer waren im September am Mit den Briefen gegen das Vergessen (siehe Seite 72)
internationalen Flughafen von Beirut wegen können sich alle gegen Unrecht stark machen – allein
»illegaler Einreise« festgenommen worden zu Hause oder gemeinsam mit anderen. In jedem
und befanden sich seither ohne Kontakt zur Amnesty Journal rufen wir dazu auf, an Regierungen
Außenwelt in Haft. Zeitweise drohte ihnen die oder andere Verantwortliche zu schreiben und sich für
Abschiebung nach Syrien. Nachdem ein Men- Betroffene von Menschenrechtsverletzungen einzu-
schenrechtsanwalt und Amnesty International setzen. Was aus ihnen geworden ist, erfahren Sie hier.
anhaltend Druck auf die libanesischen Behör-
den ausgeübt hatten, erhielten Ahmad Al
Waked, Tarek Al A’lo und Fares Al Zo’bi ihre UKRAINE
Pässe zurück und können in einem Drittland In der Ukraine gibt es seit Juli eine
Asyl beantragen. Der Menschenrechtsanwalt Gesetzesänderung: Täter häuslicher
Foto: Amnesty Ukraine
bestätigte, dass die Arbeit von Amnesty zur Gewalt müssen nun Geldstrafen be-
Freilassung der Geflüchteten beigetragen und zahlen oder gemeinnützige Arbeit
sie vor der Abschiebung nach Syrien bewahrt verrichten. Bei einem wiederholten
habe. Verstoß verschärft sich die Strafe. Für
Angehörige von Militär und Polizei
galten bisher nur interne Disziplinarvorschriften, künftig
sind auch sie nach dem allgemeinen Verfahren für Ge-
walttaten haftbar. Amnesty bewertet die Gesetzesre-
form als großen Erfolg, über den sich auch Oksana
Mamchenko freuen dürfte. Sie und ihre Kinder waren
20 Jahre lang häuslicher Gewalt ausgesetzt; zudem
nahm der zuständige Polizeibeamte den Täter systema-
tisch in Schutz, sodass es lange nicht einmal zu einer
Anzeige kam. Erst als er mit eigenen Augen sah, wie ihr
Mann sie schlug, nahm der Polizist Oksana Mamchenko
ernst. Die Aktivistin setzt sich zusammen mit vielen an-
deren dafür ein, dass die Ukraine ein Land wird, in dem
Menschen frei von häuslicher Gewalt leben können.
(April 2021)
ALGERIEN
Der algerische Journalist Khaled
Drareni ist im März nach einem Jahr
Haft freigekommen. Die Anklage ge-
gen ihn wurde allerdings nicht fallen
INDONESIEN
Foto: privat
gelassen. Der Journalist war im März
Saiful Mahdi wurde am 13. Oktober freigelassen. 2020 bei einer Demonstration fest-
Der Hochschuldozent hatte eine WhatsApp- genommen und kurz darauf wegen
Nachricht gesendet, in der er das Prüfungsver- »Gefährdung der nationalen Einheit« und »illegaler
fahren einer Universität kritisiert hatte. Im April Versammlung« zu zwei Jahren Haft verurteilt worden.
2020 war er wegen »Verleumdung« zu einer Khaled Drareni wird allein wegen seiner journalisti-
Haftstrafe und einer Geldstrafe von zehn Millio- schen Arbeit verfolgt. 2019 hatte er über landesweite
nen Rupiah (umgerechnet etwa 600 Euro) ver- Proteste gegen die algerische Regierung und die Hirak-
urteilt worden, obwohl er nur sein Recht auf Bewegung berichtet, die sich für Freiheit und ein Ende
Meinungsfreiheit ausgeübt hatte. Nach einem der Repression im Land einsetzt. So geriet er ins Visier
Amnestiebeschluss im Oktober wurden alle der Behörden und wurde wiederholt inhaftiert. Amnes-
Anklagen gegen Mahdi fallen gelassen. Auch ty hatte sich im Rahmen des Briefmarathons und der
Syamsul und Samsir Bahri aus der Provinz Briefe gegen das Vergessen für Drarenis Freilassung
Nordsumatra droht keine Haft mehr. Ein Beru- eingesetzt. Unterstützer_innen verschickten zahlreiche
fungsgericht bestätigte im Oktober die Ent- E-Mails und Briefe. Amnesty fordert weiterhin, dass
scheidung einer unteren Instanz, sie lediglich alle Anklagen gegen ihn fallen gelassen werden.
auf Bewährung zu verurteilen. Die beiden Um- (Januar 2021)
weltaktivisten, bei denen es sich um Vater und
Sohn handelt, waren im Februar der Körper-
verletzung beschuldigt und in Gewahrsam ge-
nommen worden. Die Anschuldigungen waren
offenbar konstruiert und richteten sich gegen
ihr politisches Engagement. AMNESTY JOURNAL | 01/2022 9
TITEL Illustration: Lennart Gäbel 10 AMNESTY JOURNAL | 01/2022
Digitale Rechte
Gesichtserkennung und biometrische Verfahren
gefährden Grund- und Freiheitsrechte. Algorithmen
sorgen für systematische Diskriminierung und
institutionellen Rassismus. Unsere Daten werden längst
wie ein Rohstoff vermarktet. Willkommen im Netz
der personalisierten Werbung und der Überwachung,
wo sich Konzerne Monopole errichtet haben,
denen Mensch und Gesetz egal sind.
Und willkommen im Netz der Möglichkeiten,
wo schnellere Kommunikation, freies Wissen
und digitales Empowerment zu Hause sind.
Wo und wie auch immer wir uns im Netz bewegen,
starke digitale Rechte müssen dazugehören.
AMNESTY JOURNAL | 01/2022 1112 AMNESTY JOURNAL | 01/2022
DIGITALE RECHTE
MACHT DER ALGORITHMEN
Die großen
Unbekannten
Algorithmen prägen unseren Alltag und bestimmen unseren Blick auf die Welt.
Sie können Fortschritt bewirken, aber auch zu Gewalt führen. Nur wenn wir ihre
Wirkung verstehen, können wir unsere Rechte im digitalen Raum schützen.
Von Julia Lauter
S
ie bekommen einen Brief. Das Dabei wurde schon eine nicht-nieder- ditunwürdig bewertet werden oder dass
Finanzamt schreibt Ihnen, sie ländische Staatsbürgerschaft als Risiko- wir höhere Versicherungsprämien zahlen
hätten sich Geld vom Staat faktor gewertet. Den Beamt_innen, die müssen oder, wie in den Niederlanden, zu
erschlichen und müssten Zehn- die Profile sichteten, reichten schon kleins- Unrecht beschuldigt werden.
tausende Euro zurückzahlen. te Ungereimtheiten, um den Betroffenen
Am Anfang glauben Sie noch an ein Miss- die Zuschüsse zu streichen und Geld zu- »Astronomische Gewinne«
verständnis. Sie sind sich sicher, dass Sie rückzufordern. Eine algorithmische Ent- Beide Seiten – die personalisierte Nut-
nichts falsch gemacht haben. Aber nie- scheidung bewirkte institutionellen Ras- zung digitaler Dienste und die Preisgabe
mand glaubt Ihnen. Ihr Lohn wird ge- sismus und sorgte für einen politischen sensibler Daten – sind untrennbar mit-
pfändet. Sie müssen einen Kredit aufneh- Skandal. In der Folge trat im Januar 2021 einander verbunden. Algorithmische Ent-
men. Sie fallen in ein tiefes Loch, ver- die gesamte niederländische Regierung scheidungen durchdringen und prägen
nachlässigen den Haushalt und die zurück. unseren Alltag, ohne dass wir deren Me-
Erziehung Ihres Kindes. Ihnen wird das Der Vorfall in den Niederlanden ist chanismen nachvollziehen können. Nur
Sorgerecht entzogen. Sie sind am Ende. nur eines von vielen Beispielen dafür, die Firmen und Institutionen, die sie ent-
Und das alles, weil ein Algorithmus Sie wie unser Leben von halb- oder vollauto- wickeln und mit ihnen arbeiten, wissen,
fälschlicherweise als Sozialbetrüger_in matisierten Entscheidungen auf Grund- wie die Entscheidungen getroffen wer-
eingestuft hat. lage unserer persönlichen Daten ab- den, welche Faktoren eine Rolle spielen
Was wie der Beginn eines Science- hängt. Die meiste Zeit über wirken unse- und welche nicht. Algorithmen sind die
Fiction-Dramas klingt, geschah in den re Begegnungen mit algorithmischen großen Unbekannten in unserem Alltag.
Niederlanden: Zwischen 2013 und 2019 Entscheidungen unauffällig: In digitalen Und sie können eine Gefahr für unsere
wurden dort rund 20.000 Eltern bezich- Netzwerken bestimmen sie, welche Bei- Rechte sein.
tigt, den Staat um Zuschüsse zur Kinder- träge wir sehen. Sie entscheiden, welche »Ich bin Facebook beigetreten, weil
betreuung betrogen zu haben. Grund Ergebnisse Suchmaschinen anzeigen und ich glaubte, dass es das Potenzial hat, das
dafür war ein algorithmisches Entschei- welche Werbeangebote uns unterbreitet Beste in uns hervorzubringen. Aber ich
dungssystem, das Risikoprofile von An- werden. bin heute hier, weil ich glaube, dass die
tragsteller_innen anlegte. Dieses »Profiling«, bei dem personen- Produkte von Facebook Kindern schaden,
bezogene Daten automatisiert ausgewer- Spaltung schüren und unsere Demokratie
tet werden, kann dazu beitragen, dass uns schwächen.« Mit diesen Worten eröffnete
Algorithmen steuern und stapeln mit: genau jene Lampe zum Kauf vorgeschla-
Containerhafen in Qingdao, China, 2019. gen wird, die wir gerade suchen. Aber es
Foto: Stephen Shaver / Polaris / laif kann auch dazu führen, dass wir als kre- AMNESTY JOURNAL | 01/2022 13Frances Haugen im Oktober 2021 ihre
Aussage vor dem US-Senat.
Das führe dazu, dass die Plattform Ver-
ständnis und Entgegenkommen untergra-
»Wir brauchen
Die frühere Facebook-Managerin war be und damit die Grundlage der Demokra- Regulierungen für den
gekommen, um gegen ihren ehemaligen tie angreife. Facebook weist die Vorwürfe Einsatz von KI.«
Arbeitgeber auszusagen. »Das Unterneh- zurück. Der Konzern benannte sich kurz
men weiß, wie man Facebook und Insta- darauf in »Meta« um und stellte mit dem Merel Koning, Amnesty
gram sicherer machen kann, will aber die »Metaverse« eine Plattform für virtuelle
notwendigen Änderungen nicht vorneh- Realität vor, auf der Nutzer_innen als Ava-
men, weil es seine astronomischen Ge- tare interagieren können. Man könnte Daten gesammelt, gespeichert, geteilt
winne über die Menschen stellt.« Und das auch sagen: Statt Aufklärung bietet Face- und verwendet werden, zu schließen,
ist gefährlich, weil Plattformen wie Face- book eine alternative Wirklichkeit an. erklärte Bachelet. Das Risiko der Diskri-
book, Instagram und Twitter eine enorme minierung im Zusammenhang mit KI-
Informationsmacht haben. Selbstlernende Algorithmen Entscheidungen sei sehr real. Sie forderte
Die jüngsten Veröffentlichungen über Natürlich erzeugen digitale Plattformen ein Moratorium für den Einsatz besonders
Facebook zeichnen das Bild eines Unter- und ihre Algorithmen nicht nur Diskri- risikoreicher KI-Anwendungen.
nehmens, das um jeden Preis die Nut- minierung, Hass und Gewalt. In der An- Die Frage ist, wie das konkret ausse-
zer_innen auf seinen Plattformen halten wendung von Künstlicher Intelligenz (KI) hen könnte. Den meisten Nutzer_innen
will – und dafür die Sicherheit ganzer Ge- steckt auch ein großer Nutzen für die ist klar, dass der Reichtum und die Macht
sellschaften aufs Spiel setzt. In Myanmar Menschheit. Unter diesem nicht trenn- von Konzernen wie Facebook und Google
hatten Analysen bereits 2018 gezeigt, dass scharfen Begriff werden allgemein Profi- auf ihren persönlichen Daten basiert. Em-
Hassreden und Falschinformationen auf ling, automatisierte Entscheidungen und pörung gab es viel, aber kaum praktikable
Facebook mit Angriffen auf Angehörige Technologien des Maschinellen Lernens Gegenvorschläge. Doch nun kommt Be-
der Rohingya einhergingen: Die Inhalte zusammengefasst – Anwendungen also, wegung in die festgefahrene Situation.
der Plattform führten zu Gewalt in der bei denen Maschinen komplexe Kombi- Im Dezember 2020 stellte die EU-
realen Welt, Zehntausende Menschen nationsleistungen erbringen. Kommission ein Maßnahmenpaket vor,
starben bei der gewaltsamen Vertreibung, Selbstlernende Algorithmen lassen das den rechtlichen Rahmen für Online-
750.000 verloren ihre Heimat. PKWs automatisiert fahren oder überset- Plattformen und den Umgang mit Digi-
Auch in Sri Lanka und Indien verbrei- zen Texte in Sekundenschnelle. Man kann talkonzernen regeln sollte, den Digital
teten sich in den vergangenen Jahren mit ihnen Bilder und Videos aus Kriegs- Services Act und den Digital Markets Act.
gewaltverherrlichende und hasserfüllte gebieten auswerten und Rechtsverstöße Bei der Vorstellung verglich die zuständi-
Inhalte wie Lauffeuer. In Äthiopien, wo dokumentieren; Software hilft Medizi- ge Kommissionsvizepräsidentin Margre-
ein bewaffneter Konflikt zwischen der ner_innen bei der Verschreibung des pas- the Vestager das Vorhaben mit dem Auf-
Zentralregierung und der Tigray People’s senden Antibiotikums oder berät Land- stellen der ersten Ampel. Mit zunehmen-
Liberation Front ausgebrochen ist, führ- wirt_innen bei der Auswahl des Saatgutes dem »Verkehr« im digitalen Raum müsse
ten Falschmeldungen und Hassreden zu oder des optimalen Erntezeitpunktes. die Politik nun Ordnung ins Chaos brin-
ethnischer Gewalt mit vielen Toten. Während der Covid-Pandemie helfen gen.
Die Whistleblowerin Haugen bestätig- weltweit Kontaktverfolgungssysteme bei Zum einen sollen Plattformen wie
te in ihrer Aussage vor dem US-Senat und der Eindämmung der Gesundheitskrise, Facebook illegale Inhalte schneller lö-
zuletzt auch vor dem EU-Parlament, dass indem sie aus unterschiedlichen Daten schen, den Nutzer_innen die Möglichkeit
Facebook weiß, dass seine Darstellung digitale Netze erzeugen, die potenzielle für rechtlichen Einspruch geben, Wer-
von Inhalten gefährlich ist. Zwar versuche Infektionen erkennen und die Gesund- bung unmissverständlich kennzeichnen
das Netzwerk, problematische Inhalte von heitssysteme vor Überlastung schützten. sowie die Funktion ihrer Algorithmen
der Plattform zu entfernen. Doch ohne So hilfreich diese Systeme sind, sie zeigen verständlich machen. Zum anderen soll
durchschlagenden Erfolg, wie Haugen auch, warum diese Techniken, wenn die Vormachtstellung der Monopolisten
erklärte: »Die Algorithmen sind nicht ef- überhaupt, nur unter strengen Auflagen Google, Apple, Facebook, Amazon und
fektiv und filtern maximal zehn Prozent eingesetzt werden sollten. Denn sie grei- Microsoft fallen: Vorinstallierte Anwen-
der problematischen Beiträge heraus.« fen in unser Recht auf Privatsphäre, Ge- dungen und Programme sollen verboten
Zudem flössen 87 Prozent des Bud- sundheit, Bildung, Freizügigkeit, Ver- werden, die eigenen Dienste bei Suchab-
gets, das Facebook für die Klassifizierung sammlungs-, Vereinigungs- und Mei- fragen nicht mehr bevorzugt präsentiert
von Fehlinformationen aufwende, in den nungsfreiheit ein. und Daten verschiedener Portale eines
Schutz des US-Marktes, während nur 13 »Im besten Fall wird die digitale Revo- Anbieters nicht ohne Zustimmung der
Prozent für den Rest der Welt vorgesehen lution die Menschen befähigen, verbin- Nutzer_innen zusammengeführt werden
sind. Und das, obwohl die nordamerikani- den, informieren und Leben retten. Im dürfen.
schen Nutzer_innen nur zehn Prozent der schlimmsten Fall wird sie entmachten, So ambitioniert das Vorhaben ist, so
täglich aktiven Nutzer_innen des Online- trennen, fehlinformieren und Leben kos- wenig greifbar ist die Umsetzung bisher:
Netzwerks ausmachten. ten«, sagte Michelle Bachelet, UN-Hoch- Was genau sollen die Konzerne offenlegen
»Eine aggressive, hasserfüllte, kontro- kommissarin für Menschenrechte, bei müssen? Welche Behörden kontrollieren
verse politische Kampagne zu fahren, ist der Vorstellung ihres Berichts über Risi- die Regeln? Und: Was ändert es, wenn die
fünf- bis zehnmal billiger als eine, die mit ken der Künstlichen Intelligenz im Sep- Nutzer_innen zwar die Algorithmen der
Empathie und Mitgefühl zu tun hat«, sagte tember 2021. Angesichts des schnellen Plattformen kennen, es aber keine ver-
Frances Haugen vor dem EU-Parlament. und kontinuierlichen Wachstums der gleichbaren Alternativen gibt, die ihre
KI-Anwendungen sei es eine drängende Rechte besser schützen? Hören wir tat-
Menschenrechtsfrage, die immense Lücke sächlich auf zu »googeln«, wenn der Kon-
14 AMNESTY JOURNAL | 01/2022 in der Rechenschaftspflicht darüber, wie zern sein Geschäftsgebaren offenlegt oderProtest gegen Rassismus, der auf algorithmische Entscheidungssysteme
im Sozialsystem zurückgeht. Amsterdam, Mai 2021.
Foto: Romy Arroyo Fernandez / NurPhoto / pa
wird das nur ein weiteres Kästchen sein, die als besonders risikoträchtig klassifi- wie mit den erstellten Profilen umgegan-
das wir in Zukunft mit schlechtem Gewis- ziert werden, sollen zwar »hinreichend gen werden soll«, sagt Koning. »Dabei ist
sen vor der Nutzung wegklicken? transparent« entwickelt werden; was als doch eine der wichtigsten Säulen unserer
transparent gilt, bleibt aber schwammig. freien Gesellschaft, dass man nicht un-
Viele Leerstellen Auch können Designer_innen, Entwick- schuldig verurteilt wird.«
Im April 2021 schlug die EU-Kommission ler_innen und Nutzer_innen von KI-Sys- Was derzeit in Brüssel diskutiert
darüber hinaus den Artifical Intelligence temen weiterhin nicht für ihre Produkte wird, ist eine Chance – darauf, dass un-
Act (AIA) vor, der schädliche Folgen auto- zur Rechenschaft gezogen werden. Außer- sere Rechte in Zukunft nicht noch weiter
matisierter Entscheidungsalgorithmen dem enthält der Vorschlag kein Verbot von intransparenten technischen Anwen-
verhindern soll. Danach sollen KI-Anwen- des Einsatzes von selbstlernenden Algo- dungen beschnitten werden. Doch um
dungen nach den von ihnen ausgehen- rithmen im öffentlichen Sektor. sie nutzen zu können, müssen die Bür-
den Risiken klassifiziert und entspre- Besonders für die »präventive Verbre- ger_innen begreifen, was auf dem Spiel
chend stärker überwacht und reguliert chensbekämpfung« – wenn die Polizei steht. Nur wer sich die Einschränkungen
werden. Doch auch dieser Vorstoß habe auf Grundlage von Daten die Wahrschein- bewusst macht, wird dagegen seine
viele legale Leerstellen, erklärt Merel Ko- lichkeit errechnet, mit der Menschen die Stimme erheben und die politisch Ver-
ning vom Tech-Team von Amnesty Inter- nächsten Straftäter_innen oder ein Ort antwortlichen zum Handeln bewegen
national: »Es ist gut, dass die EU diese der nächste Tatort ist – sind in dem Vor- können. ◆
Rolle einnimmt. Wir brauchen dringend schlag großzügige Ausnahmen vermerkt,
Regulierungen für den Einsatz von Künst- wie Koning kritisiert. Diesen Artikel können Sie sich
licher Intelligenz«, sagt die Anwältin. Ihrer Meinung nach sollten diese in unserer Tablet-App vorlesen lassen:
»Doch leider sind die vorgeschlagenen staatlichen KI-Anwendungen strenger www.amnesty.de/app
Regeln nicht annähernd da, wo sie sein reguliert werden. »Die Programme, die in
sollten – es fehlt ihnen an Menschen- den Niederlanden und ganz Europa zur Amnesty-Bericht
rechtsgarantien.« präventiven Verbrechensbekämpfung zum Thema:
Auch der AIA-Vorschlag krankt daran, laufen, sind beängstigend. Sie werden
dass nicht klar ist, wer die Umsetzung sehr schnell eingeführt, es gibt keine Si-
überwacht und beaufsichtigt. KI-Systeme, cherheitsvorkehrungen und keine Regeln, AMNESTY JOURNAL | 01/2022 15DIGITALE RECHTE
GESICHTSERKENNUNG
Bitte recht
freundlich!
Sie stellen zahlreiche Gefah
ren für die Menschenrecht
Fragen und Antworten zu e dar:
biometrischen Verfahren
zur Gesichtserkennung . Vo und
n Ingrid Bausch-Gall
Wie funktioniert Gesichtserkennung? Was haben biometrische Verfahren und sie zu ihrer Teilnahme an einer Demons-
Gesichtserkennung dient meist zur Iden- Gesichtserkennung gemeinsam, was tration am 21. April für Alexej Nawalny
tifizierung von Personen. Anhand be- unterscheidet sie? befragt. Bei der Demonstration wurden
stimmter Merkmale des Gesichts kann Methoden der Gesichtserkennung ge- Teilnehmende gefilmt und diese Filme
eine Person ausgemacht werden. Dabei hören zur Erfassung und Auswertung anschließend mit Gesichtserkennungs-
wird ein Bild des Gesichts mit Bildern in biometrischer Daten. Zusätzlich zur methoden ausgewertet. So lässt sich sehr
einer Datenbank verglichen. So soll festge- Gesichtserkennung erfassen umfassen- schnell feststellen, wer wann wo war und
stellt werden, ob die Person bereits in der dere biometrische Methoden geometri- mit wem er oder sie gesprochen hat. Die
Datenbank erfasst ist. Die verwendeten sche Daten über Körperbau oder Bewe- Journalisten wurden als Teilnehmende
Datenbanken enthalten meist Millionen gungsmuster von Personen. Diese Metho- an der Demonstration identifiziert. Alle
von Gesichtsbildern, die entweder von den liefern exaktere Ergebnisse als die waren als Journalisten akkreditiert.
Melde- und Strafverfolgungsbehörden Gesichtserkennung und lassen sich auch Dennoch drohen ihnen nun Gefängnis-
stammen oder von Homepages, Facebook dann anwenden, wenn eine Person ver- strafen.
oder anderen öffentlich zugänglichen mummt ist oder das Gesicht wegdreht. Immer mehr Länder nutzen Gesichts-
Quellen kopiert wurden, zumeist ohne erkennung zur Überwachung des öffent-
Zustimmung der betreffenden Personen. Gibt es aktuelle Beispiele dafür, wo Ge- lichen Raums. Diese Technologie wird
Bereits die Erstellung der Datenbanken sichtserkennung angewandt wird? von der Polizei und von privaten Firmen
verletzt oft das Recht auf Privatsphäre. Am 27. April 2021 hat die Polizei in Mos- genutzt.
kau die Wohnungen der Journalisten
Alexej Korosteljow, Oleg Owcharenko Welche Gefahren drohen für
16 AMNESTY JOURNAL | 01/2022 und Alexander Rogoz aufgesucht und die Menschenrechte?nen zu überwachen. Zivilgesellschaftli-
ches Engagement wird in einem Land
In mehreren US-Städten
extrem erschwert, wenn die Regierung ist Gesichtserkennung
exakt weiß, wer wo ist und wer sich wann in der Polizeiarbeit
mit wem trifft. Die Methoden der Ge-
sichtserkennung sind fehleranfällig. verboten.
Wenn sie perfekt funktionierten, wären
sie in der Lage, ganze Gebiete zu überwa-
chen und die Identität von Hunderttau- im öffentlichen Raum ist nach Auffas-
senden Menschen gleichzeitig zu erfas- sung von Amnesty nicht verhältnismä-
sen. Dies wäre in allen Fällen menschen- ßig, da sie ohne einen Verdacht alle an-
rechtlich problematisch. Durch das Ge- wesenden Menschen erfasst und analy-
fühl, ständig überwacht zu werden, leiden siert. Amnesty fordert daher ein voll-
Freiheitsrechte, individuelle Entfaltung ständiges Verbot der Gesichtserkennung
und politische Teilhabe. zu Zwecken der Identifizierung. Um Dis-
kriminierung entgegenzuwirken und der
Behandelt Gesichtserkennung alle Vielfalt in der Gesellschaft gerecht zu
Gesichter gleich? werden, fordert Amnesty eine unabhän-
In Datenbanken werden besonders viele gige Überprüfung aller Algorithmen der
Gesichter weißer Männer aufgenommen, verwendeten Systeme sowie Entwickler-
deutlich weniger Gesichter von Frauen, teams, die die gesellschaftliche Vielfalt
Kindern und People of Colour. Da die widerspiegeln.
Algorithmen mit Methoden der Künst- Eine weitere Gefahr besteht in der
lichen Intelligenz und der Statistik arbei- Verbreitung von Technologie zur Ge-
ten, führt das zu einer deutlich höheren sichtserkennung. Europäische Unterneh-
Falscherkennungsrate bei diesen Perso- men konnten Gesichtserkennungs- und
nen. Sie werden in der Folge häufiger von andere Überwachungstechnologie ohne
der Polizei kontrolliert und verdächtigt. staatliche Exportkontrolle in Länder
Insbesondere schwarze Frauen sind da- verkaufen, in denen diese gegen mar-
von betroffen. Das ist eine eindeutige ginalisierte Bevölkerungsgruppen zum
Form der Diskriminierung. Einsatz kommt. Damit steigt das Risiko
Gesichter lassen sich zudem durch schwerer Menschenrechtsverletzungen.
bestimmte Schlüsselmerkmale wie Haut- Amnesty fordert ein grundsätzliches
farbe, ethnische Zugehörigkeit oder Verbot der Entwicklung, der Produktion,
Geschlecht gezielt erkennen. Vorurteile des Verkaufs und des Exports von Ge-
und strukturelle Ungleichheiten können sichtserkennungstechnologie zu Iden-
durch die Anwendung bestimmter Algo- tifizierungszwecken, das sowohl für
rithmen verstärkt werden, da die Systeme staatliche Institutionen als auch für
Per Kamera alles im Blick? von Menschen entwickelt und trainiert private Akteure gilt. Solange dieses Ver-
Gdansk, Polen, April 2020. werden. Auch dies führt zu Diskriminie- bot nicht wirksam ist, müssen Staaten
Foto: Michal Fludra / NurPhoto / pa rung. den Export solcher Technologien rigoros
verhindern. Unternehmen müssen da-
Mit Gesichtserkennung ist öffentlich rüber hinaus verpflichtet werden, vor
Gesichtserkennung kann auch für legiti- experimentiert worden. Mit welchem einem etwaigen Export im Rahmen ihrer
me Ziele eingesetzt werden, etwa um Ergebnis? menschenrechtlichen Sorgfaltspflichten
Straftäter_innen zu finden. In vielen Be- Experimente mit diesen Systemen haben umfassende Risikoanalysen durchzu-
reichen erfolgt jedoch eine anlasslose gezeigt, dass sie oft mangelhaft funktio- führen.
automatische Überwachung im öffent- nieren. Bei einem Test am Bahnhof Ber-
lichen Raum. Die überwachten Personen lin-Südkreuz wurde etwa jede 200. Per- Gibt es Erfolge beim Einsatz
wissen nicht, dass sie beobachtet werden. son fälschlich als polizeilich gesuchte gegen die Gesichtserkennung?
Wenn Gesichtserkennung bei Demonstra- Person identifiziert. Für Betroffene führt Ein kleiner Erfolg wurde inzwischen er-
tionen eingesetzt wird, ist es problemlos das zu Verdächtigungen und unangemes- reicht: Am 6. Oktober 2021 hat das EU-
möglich festzustellen, wer teilgenommen senen Kontrollen, für die Polizei zu einer Parlament dazu aufgerufen, biometrische
und mit wem sich die Person dort getrof- Überlastung. Daher wurde in den US- Massenüberwachung zu verbieten. ◆
fen hat. Dies kann dazu führen, dass sich amerikanischen Städten Boston, Portland
Menschen nicht mehr trauen, an Demons- und San Francisco der Einsatz von Ge- Ingrid Bausch-Gall ist in der Amnesty-Themen-
trationen teilzunehmen. Dies bezeichnet sichtserkennung in der Polizeiarbeit koordinationsgruppe Menschenrechte im
man als »chilling effect«, und er bedroht verboten. digitalen Zeitalter aktiv.
die Ausübung des Rechts auf Versamm-
lungs- und Vereinigungsfreiheit sowie die Was fordert Amnesty? https://amnesty-digital.de
Meinungsfreiheit. Amnesty International sieht in jeder an- https://reclaimyourface.eu
Gesichtserkennung kann von autori- lasslosen Massenüberwachung einen
tären Regierungen gezielt eingesetzt wer- massiven Eingriff in die Privatsphäre.
den, um Menschenrechtsverteidiger_in- Die Anwendung von Gesichtserkennung AMNESTY JOURNAL | 01/2022 17DIGITALE RECHTE
KÜNSTLICHE INTELLIGENZ
Wie dich deine
Daten verraten
Eine kleine Geschichte des Überwachungskapitalismus. Oder wie aus Daten
ein Rohstoff der Vermarktung wurde und wie sich das wieder ändern lässt.
Ein Essay von Uwe Oestermeier
D
ie US-Wirtschaftswissen- Dilemma. Sie hatten ihre Suchmaschine besser Googles Prognosen wurden, desto
schaftlerin Shoshana Zuboff gratis angeboten und deren Wachstum höher wurden die Einnahmen.
bezeichnet mit dem Begriff mit Verlusten erkauft. Nun drängten ner- Persönliche Daten wurden zu einer
»Überwachungskapita- vös gewordene Wagniskapitalgeber auf Art Goldstaub, dessen Abbau erst im in-
lismus« eine Spielart des ein tragfähiges Geschäftsmodell. 1998 dustriellen Maßstab wertvoll wird. Immer
Kapitalismus, der persönliche Daten zum hatten Page und Brin noch argumentiert, neue Rohstoffquellen wurden erschlos-
Rohstoff der Vermarktung macht. Dazu »dass werbefinanzierte Suchmaschinen sen, um festzustellen, was Menschen
gehören Daten über Produktvorlieben, von Natur aus auf die Werbetreibenden wann wie und wo machen. Werbefreie
Kaufverhalten, Bonität, Interessen, sexuel- und nicht auf die Bedürfnisse der Ver- Dienste wie Google Mail (2004) und Goo-
le Orientierung, politische Einstellungen, braucher ausgerichtet sein werden«. gle Maps (2005) lieferten umfassende
soziale Identität sowie intime Gesund- Page und Brin gaben dem Druck nach. Personenprofile. Eine Zeit lang konnte
heitsdaten, Suchanfragen und Kontakte. Am 23. Oktober 2000 erschien die erste Google sein Erfolgsrezept geheim halten,
Wo die digitale Sphäre mit dem physi- Anzeige auf Google. 2002 führte Google aber spätestens als Sheryl Sandberg 2007
kalischen Raum verschmilzt, kommen ein Bezahlmodell ein, wonach die Werbe- von Google zu Facebook wechselte, wan-
noch Orts-, Biometrie-, Kamera- und Sen- treibenden nur zahlen mussten, wenn die derte das Know-how auch zu dem 2004
sordaten in Fahrzeugen, Smartphones, Werbung auch angeklickt wurde (pay per von Mark Zuckerberg gegründeten Onli-
sogenannten Smart Cities und dem Inter- click). Dieses Bezahlmodell war ein wich- ne-Netzwerk. Das Netzwerk erfasste ne-
net der Dinge hinzu. tiger Wettbewerbsvorteil gegenüber der ben dem individuellen Verhalten auch
Ein Geflecht von privatwirtschaft- traditionellen Anzeigenwerbung und Verbindungen zwischen Menschen, wo-
lichen Plattformen, Händler_innen und wurde beispielsweise von der Werbefirma durch neue Formen gezielter Werbung
Werbefirmen nutzt diese Daten, um Milli- DoubleClick schon länger genutzt. angeboten werden konnten, etwa über
arden Menschen einer fast totalen Über- Page und Brin gingen einen entschei- Telefonnummern oder Menschen mit
wachung und einem ständigen Wettbe- denden Schritt weiter. Sie kombinierten ähnlichen Vorlieben.
werbs- und Bewertungsdruck zu unter- dieses Bezahlmodell erstmals mit Online- Die USA und ihre Verbündeten hatten
werfen. Die Geschichte dieser historisch Auktionen, die auf mathematischen Ver- nach 9/11 ebenfalls ein vitales Interesse
beispiellosen Wirtschaftsform lässt sich haltensvorhersagen beruhten. Google an den Daten. Sie sicherten sich den Zu-
grob in drei Phasen einteilen. versteigerte die Werbeplätze jedoch nicht gang über Gesetze, deren Reichweite und
einfach an die Meistbietenden. Stattdes-
Entstehung (2000–2007) sen wurden die besten Werbeplätze den
Als die Dotcom-Blase im März 2000 Firmen zugewiesen, deren Werbung den
platzte, standen die Google-Gründer größten Gewinn erwarten ließ, weil Nut- Viele Menschen
Larry Page und George Brin vor einem zer_innen darauf reagierten. Die un- scrollen pro Tag
scheinbare Formel »Profit = Preis pro
Klick mal Klickwahrscheinlichkeit« setzte
mehr als 170 Meter
18 AMNESTY JOURNAL | 01/2022 eine unerbittliche Marktlogik in Gang: Je auf ihren Handys.Illustration: Sebastien Thibault / agoodson.com
Ausmaß erst mit den Enthüllungen Ed- Der Wettbewerb um die begrenzte Algorithmus basiert seit 2011 auf Metho-
ward Snowdens im Jahr 2013 klar wurden. Ressource Aufmerksamkeit wurde immer den des maschinellen Lernens und zieht
härter. Ständig optimierte Algorithmen Zigtausende Faktoren in Betracht, um die
Entfesselung (2007–2016) und Funktionen brachten Nutzer_innen Nutzer_innen möglichst lange an die
Google und Facebook nutzten ihre stei- dazu, immer länger auf den jeweiligen Plattform zu binden.
genden Werbeeinnahmen, um innovative Plattformen zu bleiben, um mehr Wer- Das maschinelle Lernen erhöhte die
Firmen aufzukaufen. 2006 erwarb Google bung zu sehen und vor allem mehr Daten Datenmenge und die Nutzungszeiten
YouTube und 2007 DoubleClick. Double- zu liefern. Als besonders wirkungsvoll drastisch, wovon wiederum die Online-
Click hatte die gezielte Online-Werbung erwiesen sich zum Beispiel »Likes«, das Auktionen profitierten. Viele Menschen
perfektioniert, indem Nutzer_innen über endlose Scrollen durch Aufregerthemen verbringen täglich mehrere Stunden auf
Webseiten hinweg mit Cookies verfolgt und automatisch abgespielte personali- YouTube und Facebook-Diensten und
wurden. Damit legte Google den Grund- sierte Inhalte. scrollen pro Tag mehr als 170 Meter auf
stein für das sogenannte Real Time Bid- Durchbrüche im Bereich der Künst- ihren Handys. Google, Facebook und
ding, bei dem während des Ladens der lichen Intelligenz, die immer größere Amazon vereinen nach aktuellen Schät-
Webseiten unbemerkt in Millisekunden Datenmengen mit Methoden des maschi- zungen 90 Prozent des Wachstums aller
Werbeplätze an Dutzende von Bieter_in- nellen Lernens analysierten, wurden US-Online-Werbeausgaben auf sich.
nen versteigert werden. Auch Facebooks dabei zu einem wichtigen Wettbewerbs-
Kauf der Netzwerke Instagram (2012) und faktor. YouTube konnte nach eigenen An- Gegenbewegung (ab 2016)
WhatsApp (2014) folgte der Devise »Kau- gaben die Nutzungsdauer um 50 Prozent Der Wahlsieg Barack Obamas und der ara-
fen ist besser als konkurrieren«. Damit steigern, indem es 2012 seine Empfeh- bische Frühling wurden noch als positive
wurden gleichzeitig neue wichtige Daten- lungsalgorithmen umstellte. Statt der Auswirkungen von Online-Netzwerken
quellen zur Vernetzung von Personen wie Anzahl der Klicks wurde eine möglichst
Kontaktdaten und Telefonnummern er- hohe Verweildauer zur Zielgröße des
schlossen. Algorithmus. Auch Facebooks Newsfeed- AMNESTY JOURNAL | 01/2022 19Google, Facebook
und Twitter verstärkten
Desinformation
und Hass.
länger an anderen Werbeformen, die
nicht mehr direkt auf einzelne Personen
zugeschnitten sind. Mit der Zusammen-
fassung von Personen in bestimmte
Gruppen wollen sie ihr Geschäftsmodell
retten. An den Anreizstrukturen der Auf-
merksamkeitsökonomie würde sich da-
mit aber nicht viel ändern.
Die Kritik der Google-Gründer Page
und Brin an werbefinanzierten Geschäfts-
modellen erwies sich als erstaunlich weit-
Illustration: Sebastien Thibault / agoodson.com
sichtig. Heute stellt der Überwachungs-
kapitalismus Milliarden Menschen vor
das Dilemma, dass sie ihre Menschen-
rechte auf soziale und kulturelle Teilhabe
nur ausüben können, wenn sie Verletzun-
gen anderer Menschenrechte in Kauf
nehmen. Denn personalisierte Werbung
verletzt unsere Rechte auf Privatsphäre
und Nichtdiskriminierung.
In der Aufmerksamkeitsökonomie
untergraben algorithmisch verstärkte
Verschwörungstheorien, Desinformation
und Hassbotschaften die Meinungs- und
Pressefreiheit und die Informationssuche.
Plattformen wie Facebook sind in der
gefeiert. Doch mit dem Skandal um Cam- Smartphone einführte und damit eine Lage, Wahlen zu beeinflussen, um ihre
bridge Analytica veränderte sich die öf- umfassende Verfolgung ermöglichte. Als wirtschaftlichen Interessen durchzuset-
fentliche Wahrnehmung; Daten von Milli- Apple im Jahr 2021 erstmals den Benut- zen. Amnesty International hat deshalb
onen Nutzer_innen waren offensichtlich zer_innen die Gelegenheit gab, selbstbe- 2019 in einer umfassenden Dokumenta-
missbraucht worden. Journalistische Re- stimmt mit dieser Form des Trackings tion darauf hingewiesen, dass die Daten-
cherchen zeigten, dass die zielgenaue Da- umzugehen, lehnten 80 Prozent schlicht- giganten die Menschenrechte und die
tenanalyse von Donald Trump und den weg ab. Demokratie gefährden.
Brexiteers nicht nur genutzt wurde, um Auch in Politik und Gesellschaft for- Anders als Google und Facebook
Wähler_innen zu mobilisieren, sondern mierte sich die Gegenbewegung. Google glauben machen wollen, ist personali-
auch, um Fehlinformationen zu streuen und Facebook waren und sind Gegen- sierte Werbung nicht alternativlos. Die
und Gruppen gezielt vom Wählen abzu- stand zahlreicher Kartell- und Wettbe- Suchmaschine DuckDuckGo war von Be-
halten. Wissenschaftler_innen warnten, werbsklagen in den USA und der EU. Face- ginn an profitabel, obwohl sie nur mit
dass Google, Facebook und Twitter Des- book konnte bislang weder seine Pläne Werbung für Suchbegriffe arbeitet. Auch
informationen, Hass, Filterblasen, Echo- für eine digitale Währung noch ein Insta- das Bezahlmodell von WhatsApp hat vor
kammern und damit die Polarisierung gram für Kinder umsetzen. Google muss- der Übernahme durch Facebook gut
der Gesellschaft verstärken. te seine ambitionierten »Smartcity«-Plä- funktioniert.
Tim Cook, Chef des Konzerns Apple, ne in Toronto aufgeben. Die Gewinne Wenn man Internetsuche und ver-
nutzte die Gelegenheit, um Dienste des wurden nicht beeinträchtigt. Im Gegen- netzte Kommunikation als öffentliche
eigenen Unternehmens als datenschutz- teil: Als Facebook fünf Milliarden Dollar und gemeinnützige Infrastrukturen be-
freundliche Alternative zu präsentieren. Strafe wegen des Cambridge-Analytica- trachten würde, kämen zudem Steuer-
Er sprach von einem datenindustriellen Skandals zahlen musste, führte dies an bzw. Gebührenfinanzierung sowie Spen-
Komplex, der Gesellschaften zerstöre. der Börse zu einem Kursgewinn von zehn den-, Stiftungs- und Genossenschafts-
Was er dabei verschwieg: Google zahlt Milliarden Dollar. modelle infrage. All diese Alternativen
Apple bis heute Milliarden dafür, dass sind zum Scheitern verurteilt, solange
Google als Suchmaschine voreingestellt Die Zukunft ist offen die Gewinne der Datenkartelle deren
ist. Und es war Apple, das 2012 eine ein- Gegenwärtig sind in Europa und den USA Macht weiter zementieren. ◆
deutige Werbekennzeichnung für jedes eine Reihe von Gesetzen geplant, die die
Auswüchse des Überwachungskapitalis- Uwe Oestermeier ist in der Amnesty-Themen-
mus korrigieren sollen. Da dies absehbar koordinationsgruppe Menschenrechte im
20 AMNESTY JOURNAL | 01/2022 war, arbeiten Google und Facebook schon digitalen Zeitalter aktiv.DIGITALE RECHTE
ONLINE-MONOPOLE
Und jetzt:
Werbung! Und zwar
für Regulierung
Die Gesetzgebung der EU hat die großen Internetplattformen so lange
unreguliert wachsen lassen, bis sie zu mächtig werden konnten. Schluss damit!
Ein Kommentar von Lena Rohrbach
M
enschenfressende Pferde bei Facebook und Co.: Erst wenn die nal und andere NGOs sowie einige Abge-
zähmen, eine neunköpfige Bedrohungen der Menschenrechte ordnete des Europäischen Parlaments ein
Hydra ausschalten und ei- unübersehbar werden, wird mit einer konsequentes Verbot personalisierter
nen riesigen Rinderstall Regulierung begonnen. Werbung, die auf der umfassenden Über-
ausmisten – das waren die »Herkulesauf- Höchste Zeit also, den Plattformen wachung unseres Surfverhaltens beruht.
gaben«, die der gleichnamige griechische mit den derzeit verhandelten Gesetzen 98 Prozent des Facebook-Umsatzes speist
Held bewältigen musste, um in den Olymp Digital Services Act (DSA) und Digital sich aus Werbung, bei Google sind es
aufgenommen zu werden. An einer sol- Markets Act (DMA) klare Grenzen zu immerhin noch mehr als 80 Prozent. Um
chen Aufgabe versucht sich derzeit auch setzen. Der Digital Services Act soll bei- diese Werbung gezielt anzuzeigen, über-
die EU: Facebook und Google sollen ge- spielsweise den Umgang mit illegalen wachen die Plattformen das Verhalten der
zähmt, manipulierende Algorithmen Inhalten, personalisierter Werbung, Da- Nutzer_innen bei jedem Klick. Facebook
ausgeschaltet und übergriffige Geschäfts- tenschutz und algorithmischen Empfeh- müsste sich nach einer Änderung neue
praktiken der Internetplattformen »aus- lungssystemen regeln. Für die meisten Einnahmemodelle suchen – etwa kon-
gemistet« werden. dieser Herausforderungen gibt es leider textbasierte Werbung, also eine Anzeige
Im Vergleich zur Zähmung der Tech- kaum gute Vorbilder. So fehlt es in den für Katzenfutter neben einem Artikel
Giganten erscheinen die Aufgaben des USA weitgehend an landesweiten Regeln über Katzen.
mythologischen Herkules fast leicht. für Plattformen. Staaten wie China oder Ob die EU sich zu einem Verbot von
Denn die EU-Gesetzgebung hat die gro- Vietnam hingegen haben solche Dienste Überwachungswerbung durchringen
ßen Plattformen so lange unreguliert zwar gut im Griff – aber eben zu gut: Zen- kann, scheint derzeit leider fraglich. Doch
wachsen lassen, bis sie zu monopolisti- sur und die Verfolgung regierungskriti- der Schutz der Menschenrechte im digita-
schen Torhütern des Internets werden scher Nutzer_innen sind an der Tages- len Zeitalter ist nicht die Aufgabe der be-
konnten. Sie diktieren uns nun, unter ordnung. troffenen Internetnutzer_innen, die sich
welchen Online-Bedingungen wir unsere Die Aufgabe der EU ist deshalb zu- durch unverständliche und lange AGBs
Meinung ausdrücken und uns informie- gleich eine historische Chance. Europa und Datenschutzeinstellungen klicken
ren können. kann und muss im vielzitierten »System- müssen, sondern der Politik. Nachhaltige
Dass die technologische Entwicklung wettbewerb« einen neuen Weg gehen. Änderungen wird nur ein klares Verbot
die gesetzliche Regulierung überholt, ist DSA und DMA könnten dann auch inter- des Geschäftsmodells »Überwachungs-
im Zeitalter der Digitalisierung leider national zum Vorbild werden und eine werbung« bringen. Es kann den Zucker-
zum Normalzustand geworden. Ob bei Alternative zu Laissez-Faire-Kapitalismus bergs dieser Welt zugemutet werden, ihr
staatlicher Überwachung, Künstlicher oder autoritärer Kontrolle aufzeigen. Geld zukünftig auf eine Weise zu verdie-
Intelligenz in Waffensystemen oder eben Dafür muss sich die EU an den Men- nen, die die Menschenrechte nicht ver-
schenrechten orientieren, denn diese gel- letzt. ◆
ten online ebenso wie offline. Besonders
die Rechte auf Meinungs- und Informa- Lena Rohrbach ist Referentin für Menschen-
Europa kann und tionsfreiheit, Privatsphäre und der Schutz rechte im digitalen Zeitalter bei Amnesty
muss im vielzitierten vor Diskriminierung bedürfen gesetz- International in Deutschland.
licher Durchsetzung. Dafür braucht die
»Systemwettbewerb« EU eine Portion Optimismus und Mut.
einen neuen Weg gehen. So fordern etwa Amnesty Internatio- AMNESTY JOURNAL | 01/2022 21Sie können auch lesen
