Im Netz - Amnesty International
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
AMNESTY JOURNAL MAGAZIN FÜR MENSCHENRECHTE 01/22 JANUAR / FEBRUAR WWW.AMNESTY.DE/JOURNAL Im Netz Menschenrechte im digitalen Zeitalter Spurensuche im bosnischen Wald Raubkunst in Museen Dragana Vučetić und Ramiz Nukić sammeln Bénédicte Savoy ist die Seismografin Beweise für den Genozid in Srebrenica des verlorenen Schatzes
INHALT Die großen 12 Unbekannten. Algorithmen prägen unseren Alltag und bestimmen unseren Blick auf die Welt. Sie können Fortschritt bewirken, aber auch zu Gewalt führen. Nur wenn wir ihre Wirkung verstehen, können wir unsere Rechte im digi- TITEL: DIGITALE RECHTE talen Raum schützen. Macht der Algorithmen: Sie sind überall 12 Gesichtserkennung: Reclaim Your Face! Überwachungskapitalismus: Wie dich deine Daten verraten 18 16 Wie im Krimi. In Pakistan wurden im 22 Jahr 2017 Menschen- Online-Monopole: Regulierung von Internetplattformen 21 rechtsverteidiger_innen digital angegriffen, um Angriffe in Pakistan: Digitale Heuschrecken 22 ihre Arbeit zu überwa- chen und ihnen zu Empowerment in Nigeria: Hauptsache gut vernetzt 24 schaden. Amnesty do- kumentierte den Fall. Ethik im Internet: Ungewissheit, Diskriminierung Ist er auch Stoff für eine und geschützte Räume 26 Kriminalerzählung? Allerdings. POLITIK & GESELLSCHAFT Genozid von Srebrenica: Unterwegs mit Spurensuchern 30 Mapuche in Chile: »Indigene Rechte und viel mehr« 34 44 Krimtataren: 16 Jahre Strafkolonie für nichts 38 Podcasts: Antirassismus auf die Ohren 42 Gesellschaftlicher Umbruch: »Für den Einzelnen, durch den Einzelnen«. Amnesty erhielt den Was Individualität und Identität verbindet 44 Friedensnobelpreis im Jahr 1977. Ein Jahr, das nach Ansicht von Graphic Report: Niger – Kinder schützen! 46 Philipp Sarasin einen gesellschaftspolitischen Epochenwechsel markiert. Was das eine mit dem anderen zu tun hat, erklärt Diskriminierung von Kastenlosen: der Schweizer Historiker im Gespräch. Ein unabänderlicher Status 50 Ausbeutung in Südkorea: Eine TV-Serie und die Realität 52 Webfehler im System. KULTUR 56 Die Berliner Künstlerin Marcela Moraga thematisiert seit Jahren Kunst gegen Ausbeutung in Südamerika: Viel Stoff 56 in ihren Arbeiten die Ausbeutung von Koloniale Raubkunst: Bénédicte Savoy forscht in Berlin 60 Rohstoffen in Südamerika Fotoprojekt zu HIV: Bilder, die von einer Last befreien 62 und den Kampf indigener Gemeinschaften gegen Türkisch-israelischer Pop: Über Grenzen hinweg 64 die Zerstörung ihres Lebensraums. Geschichtsbild der Colonia Dignidad: Zwei Blicke zurück 66 Buch über »Drecksarbeit«: Die Kehrseite des Konsums 68 Film »Kabul Kinderheim«: Kino als Ort der Freiheit 70 Ein Tropfen Glück. RUBRIKEN Arabesk wird in der Türkei ebenso wie in Israel gehört. 64 Was den Fans in beiden Län- Panorama 04 Einsatz mit Erfolg 08 Spotlight: Klimakrise 36 dern nicht bewusst sein Was tun 48 Porträt: Hayrigul Niyaz 54 Dranbleiben 55 dürfte: Die Künstler_innen Rezensionen: Bücher 69 Rezensionen: Film & Musik 71 der orientalisch anmuten- Briefe gegen das Vergessen 72 Aktiv für Amnesty 74 den Popmusik beeinflussen Kolumne: Eine Sache noch 75 Impressum 75 sich gegenseitig – politischen und kulturellen Differenzen zum Trotz. 2 AMNESTY JOURNAL | 01/2022
16 EDITORIAL GOLD, BRONZE Bitte recht freundlich! Sie stellen zahlreiche Gefahren für die Menschenrechte dar: UND VIEL NEUES Fragen und Antworten zu biometrischen Verfahren und zur Gesichtserkennung. Zum zwölften Mal wurde der International Creative Media Weitersuchen, Award (ICMA) vergeben, der zeitgenössisches Grafikdesign weiterarbeiten. Die forensische Anthro- 30 prämiert. Eingereicht wurden diesmal 406 Arbeiten aus 21 pologin Dragana Vučetić Ländern, und wieder einmal ist das Amnesty Journal unter identifiziert im ost- den Preisträgern. bosnischen Tuzla die Toten von Srebrenica. Mit Bronze ausgezeichnet wurde unsere Der Überlebende Ramiz Nukić sammelt in den Ausgabe 06/2020 zum Thema »Gutes selbst Wäldern Knochen von gemacht – Engagement im Corona-Jahr«. Die Ermordeten. Ihre Arbeit Titelseite zeigte eine Werkzeugwand mit aller- ist wichtig für die Aufklä- rung des Genozids. lei Dingen, die man für humanitäre Hilfe und Menschenrechtsaktivismus benötigt. Entstan- den war die Ausgabe in Zusammenarbeit mit den Amnesty- Raue Realität. 52 Die Netflix-Serie »Squid Game« er- Magazinen aus Österreich und der Schweiz. Der Glück- wunsch geht also nicht nur an die Illustratorin Anna Gusella, fährt international sondern auch an Amnesty in unseren Nachbarländern! enorme Resonanz. Sie spiegelt die Situation von Be- Noch mehr freut uns die ICMA-Auszeichnung schäftigten und in Gold für die Gestaltung unseres Schwer- Gewerkschafte- punkts zum Thema Corona in der Ausgabe r_innen in Süd- 02/2021. Lea Berndorfers Illustrationen beglei- korea wider, wenn auch überzeichnet. teten die Titelgeschichte »Gesundheit für alle – Medizinische Versorgung ohne Privilegien«. Ihr gilt diese Auszeichnung ebenso wie unserem Layouter Heiko von Schrenk. Seismografin des verlorenen Schatzes. 60 Damit wir auch im nächsten Jahr wieder Preise abräumen Die französische Wis- senschaftlerin Béné- können, haben wir uns einige Neuerungen einfallen lassen. dicte Savoy fordert die Aufmerksame Leser_innen werden in dieser Ausgabe neue Rückgabe geraubter Schrifttypen, neue journalistische Formate und auch die kolonialer Kulturgüter und eine transnationa- eine oder andere Umstellung entdecken. So sollen am An- le Forschungszusam- fang des Heftes Fotos besser zur Geltung kommen und der menarbeit mit den Generalsekretär von Amnesty International Deutschland, Herkunftsländern. Markus N. Beeko, hat ab sofort das letzte Wort. Oder, um es in seinen Worten zu sagen: Er möchte »eine Sache noch« anmerken. Wir sind gespannt, wie Ihnen die Neuerungen gefallen, und wünschen ein schönes Jahr 2022. Maik Söhler Unser Titelbild ist verantwortlicher Redakteur wurde gezeichnet des Amnesty Journals. von Lennart Gäbel. Foto: Gordon Welters Fotos oben: Stephen Shaver / Polaris / laif | Michal Fludra / NurPhoto / pa | imago images / UIG | Jasmin Brutus Andreas Pein / laif | Noh Juhan / Netflix | Marcela Moraga | Peter Rigaud / laif | Esra Özdoğan AMNESTY JOURNAL | 01/2022 3
PANORAMA BEI MINUSGRADEN AN DER BELARUSSISCH- POLNISCHEN GRENZE Wochenlang spitzte sich die humanitäre Lage an der Grenze zwischen Belarus und Polen zu: Bei eisigen Temperaturen campierten dort im November Männer, Frauen und Kinder in provisorischen Lagern (Foto). Viele von ihnen waren Kurd_in- nen aus dem Nordirak. Polnische Grenzbeamte gingen mit Gewalt, Tränengas, Wasserwerfern und illegalen Pushbacks gegen die Flüchtlinge vor. Mehrere Men- schen starben. Ende November wurden die Lager geräumt. Im Dezember hielten sich nach Medienangaben noch mehr als tausend Flüchtlinge in Belarus auf. Die EU wirft Präsident Alexander Lukaschenko vor, er habe die Flüchtlinge mit einem Touristenvisum einreisen lassen und ihnen in Aussicht gestellt, sie könnten von Belarus aus in die EU gelangen, um auf diese Weise Vergeltung für EU-Sank- tionen zu üben. Amnesty kriti- sierte sowohl die Misshandlung und Instrumentalisierung von Flüchtlingen durch Belarus als auch die EU-Politik. »Einige Län- der missbrauchen die Situation als Vorwand, um den Schutz von Asylsuchenden zu schwächen und ihre migrationsfeindliche Agenda durchzusetzen«, sagte Franziska Vilmar, Fachreferentin für Asyl von Amnesty Inter- national in Deutschland. Foto: Leonid Shcheglov / BelTA / AP / pa 4 AMNESTY JOURNAL | 01/2022
KRITIK AN KATAR NIMMT ZU Ein knappes Jahr vor dem Anpfiff der Fußball-Weltmeisterschaft in Katar wird auch in Deutschland die Kritik an der Menschenrechtssituation in dem Golfstaat wieder lauter. Auf der Jahreshauptversammlung des FC Bayern München kam es zu lautstarken Protesten gegen das Katar-Sponsoring des deutschen Fußballklubs. Auch Amnesty International kritisiert in einem neuen Bericht, dass Reformen in Katar nur unzureichend umgesetzt werden und menschenrechtswidrige Praktiken fortbestehen. Amnesty fordert von Katar, das Kafala-System vollständig abzuschaffen, das Arbeitgeber_innen unverhältnismäßig weitreichende Befugnisse einräumt, und Arbeitsmigrant_innen (im Bild) besser zu schützen. Katja Müller-Fahlbusch, Amnesty-Expertin für den Nahen Osten und Nordafrika, sagte: »Jede_r Arbeitsmigrant_in hat ein Recht darauf, bei der Arbeit fair behandelt zu werden und Gerechtigkeit und Entschädigung zu erhalten, wenn Rechte missachtet werden.« Foto: Hamad I Mohammed / Reuters Den vollständigen Bericht finden Sie hier: 6 AMNESTY JOURNAL | 01/2022
PUTSCHVERSUCH UND PROTEST IM SUDAN Auch zwei Monate nach dem Putschversuch des Militärs brodelt es im Sudan. Ende Oktober 2021 hatten Sicherheitskräfte in der Hauptstadt Khartum Premierminister Abdalla Hamdok und zahlreiche weitere zivile Regierungsangehörige festgenommen. Dem Putschversuch gingen Spannungen zwischen zivilen Mitgliedern und Armeevertretern in der gemeinsamen Übergangsregierung voraus. Die Zivilbevölkerung setzte sich zur Wehr (im Bild: Demonstrantinnen Ende Oktober in Khartum). Bei den Protesten gab es Tote und Verletzte. Die Demonstrationen dauern an, obwohl die Militärs Hamdok Ende November wieder als Premierminister einsetzten. Teile der Protestbewegung fordern eine Übergangs- regierung ohne Militärbeteiligung. »Die sudanesische Bevölkerung hat das Recht auf fried- lichen Protest, auf Freiheit und Sicherheit, auf ein faires Gerichtsverfahren und auf vieles mehr, was das Militär nicht untergraben darf«, sagte Sarah Jackson, stellvertretende Regionaldirektorin für Ostafrika von Amnesty International. Foto: Marwan Ali / AP / pa AMNESTY JOURNAL | 01/2022 7
EINSATZ MIT ERFOLG SCHWEIZ Das Schweizer Parlament hat im Oktober eine Weltweit beteiligen sich Tausende Menschen an den wichtige Entscheidung getroffen, was den Waf- »Urgent Actions«, den »Briefen gegen das Vergessen« und fenexport betrifft. In Zukunft ist es verboten, an Unterschriftenaktionen von Amnesty International. Dass dieser Waffen in Länder zu exportieren, die die Men- Einsatz Folter verhindert, die Freilassung Gefangener bewirkt und schenrechte schwerwiegend und systematisch Menschen vor unfairen Prozessen schützt, zeigt unsere Weltkarte. verletzen oder in einen Bürgerkrieg verwickelt Siehe auch: www.amnesty.de/erfolge sind. Nach dem Ständerat, der bereits im Juni aktiv geworden war, stimmte nun der National- rat einer Regelung zu, die nicht wie bisher unter Berufung auf eine Ausnahme umgangen wer- den kann. Amnesty International hatte seit vielen Jahren Regeln gefordert, die verhindern, dass Schweizer Waffen an Staaten geliefert werden können, die die Menschenrechte miss- achten. Amnesty begrüßte die Entscheidung und die damit geschaffene Basis für eine wirk- samere Exportkontrolle. KANADA Ein kanadischer Richter hat am 17. November 2021 die Abschiebung von Mamadou Konaté verhindert. Der Richter setzte die für den 19. No- SAUDI-ARABIEN vember geplante Abschiebung aus – bis zum GUINEA Ali al-Nimr, der als Teenager festgenommen Abschluss von Konatés Asylverfahren. Er kann Am 7. September wurde Oumar Sylla aus dem und nach einem unfairen Verfahren zum Tode zunächst in Kanada bleiben, es besteht aber die Gefängnis freigelassen. Im Zuge des Militär- verurteilt worden war, kam am 27. Oktober 2021 Gefahr einer Abschiebung zu einem späteren putschs am 5. September 2021 hatten die neuen aus der Haft frei. Ali al-Nimr war 17 Jahre alt, als Zeitpunkt. Konaté ist Bürger der Elfenbeinküste, Machthaber_innen die Generalstaatsanwalt- man ihn im Februar 2012 festnahm. Er gehört lebt seit sechs Jahren in Kanada und arbeitete schaft angewiesen, seine Freilassung zu veran- der schiitischen Minderheit an und hatte für dort während der Corona-Pandemie als Haus- lassen. Der Demokratieaktivist, auch bekannt gleiche Rechte und Freiheiten in Saudi-Arabien meister in Gesundheitseinrichtungen. Er hatte als Foniké Mengué, war am 29. September 2020 demonstriert. Nach seiner Festnahme war er sich am Arbeitsplatz mit Covid-19 infiziert. 2020 in der guineischen Hauptstadt Conakry festge- von Sicherheitsbeamten gefoltert und gezwun- hatten die Regierungen Kanadas und der kana- nommen und inhaftiert worden, während er gen worden, ein »Geständnis« zu unterschrei- dischen Provinz Quebec Programme gestartet, friedlich gegen die neuerliche Kandidatur des ben. Ein auf »Terrorismus« spezialisiertes um Asylsuchenden, die während der Pandemie Präsidenten Alpha Condé für die bevorstehende Sonderstrafgericht verurteilte ihn im Mai 2014 im Gesundheitswesen arbeiteten, eine dauer- Wahl protestierte. Am 10. Juni 2021 verurteilte zum Tode. Im Rahmen einer weltweiten Kam- hafte Aufenthaltsgenehmigung zu gewähren. ihn ein Gericht zu drei Jahren Gefängnis. In der pagne riefen Hunderttausende Unterstützer_in- Mamadou Konaté bedankte sich bei Amnesty Haft verschlechterte sich sein Gesundheitszu- nen von Amnesty International die saudischen für die Unterstützung. stand so stark, dass er mehrfach in ein Kranken- Behörden dazu auf, Al-Nimr freizulassen. Im haus eingeliefert werden musste. Nach der Frei- Februar 2021 wandelte das Sonderstrafgericht lassung dankte Oumar Sylla Amnesty Interna- das Todesurteil zunächst in eine zehnjährige 8 AMNESTY JOURNAL | 01/2022 tional für die Unterstützung. Haftstrafe um, nun folgte die Freilassung.
LIBANON BRIEFE GEGEN Die syrischen Geflüchteten Ahmad Al Waked, DAS VERGESSEN – UPDATES Tarek Al A’lo und Fares Al Zo’bi sind seit Oktober frei. Die drei Männer waren im September am Mit den Briefen gegen das Vergessen (siehe Seite 72) internationalen Flughafen von Beirut wegen können sich alle gegen Unrecht stark machen – allein »illegaler Einreise« festgenommen worden zu Hause oder gemeinsam mit anderen. In jedem und befanden sich seither ohne Kontakt zur Amnesty Journal rufen wir dazu auf, an Regierungen Außenwelt in Haft. Zeitweise drohte ihnen die oder andere Verantwortliche zu schreiben und sich für Abschiebung nach Syrien. Nachdem ein Men- Betroffene von Menschenrechtsverletzungen einzu- schenrechtsanwalt und Amnesty International setzen. Was aus ihnen geworden ist, erfahren Sie hier. anhaltend Druck auf die libanesischen Behör- den ausgeübt hatten, erhielten Ahmad Al Waked, Tarek Al A’lo und Fares Al Zo’bi ihre UKRAINE Pässe zurück und können in einem Drittland In der Ukraine gibt es seit Juli eine Asyl beantragen. Der Menschenrechtsanwalt Gesetzesänderung: Täter häuslicher Foto: Amnesty Ukraine bestätigte, dass die Arbeit von Amnesty zur Gewalt müssen nun Geldstrafen be- Freilassung der Geflüchteten beigetragen und zahlen oder gemeinnützige Arbeit sie vor der Abschiebung nach Syrien bewahrt verrichten. Bei einem wiederholten habe. Verstoß verschärft sich die Strafe. Für Angehörige von Militär und Polizei galten bisher nur interne Disziplinarvorschriften, künftig sind auch sie nach dem allgemeinen Verfahren für Ge- walttaten haftbar. Amnesty bewertet die Gesetzesre- form als großen Erfolg, über den sich auch Oksana Mamchenko freuen dürfte. Sie und ihre Kinder waren 20 Jahre lang häuslicher Gewalt ausgesetzt; zudem nahm der zuständige Polizeibeamte den Täter systema- tisch in Schutz, sodass es lange nicht einmal zu einer Anzeige kam. Erst als er mit eigenen Augen sah, wie ihr Mann sie schlug, nahm der Polizist Oksana Mamchenko ernst. Die Aktivistin setzt sich zusammen mit vielen an- deren dafür ein, dass die Ukraine ein Land wird, in dem Menschen frei von häuslicher Gewalt leben können. (April 2021) ALGERIEN Der algerische Journalist Khaled Drareni ist im März nach einem Jahr Haft freigekommen. Die Anklage ge- gen ihn wurde allerdings nicht fallen INDONESIEN Foto: privat gelassen. Der Journalist war im März Saiful Mahdi wurde am 13. Oktober freigelassen. 2020 bei einer Demonstration fest- Der Hochschuldozent hatte eine WhatsApp- genommen und kurz darauf wegen Nachricht gesendet, in der er das Prüfungsver- »Gefährdung der nationalen Einheit« und »illegaler fahren einer Universität kritisiert hatte. Im April Versammlung« zu zwei Jahren Haft verurteilt worden. 2020 war er wegen »Verleumdung« zu einer Khaled Drareni wird allein wegen seiner journalisti- Haftstrafe und einer Geldstrafe von zehn Millio- schen Arbeit verfolgt. 2019 hatte er über landesweite nen Rupiah (umgerechnet etwa 600 Euro) ver- Proteste gegen die algerische Regierung und die Hirak- urteilt worden, obwohl er nur sein Recht auf Bewegung berichtet, die sich für Freiheit und ein Ende Meinungsfreiheit ausgeübt hatte. Nach einem der Repression im Land einsetzt. So geriet er ins Visier Amnestiebeschluss im Oktober wurden alle der Behörden und wurde wiederholt inhaftiert. Amnes- Anklagen gegen Mahdi fallen gelassen. Auch ty hatte sich im Rahmen des Briefmarathons und der Syamsul und Samsir Bahri aus der Provinz Briefe gegen das Vergessen für Drarenis Freilassung Nordsumatra droht keine Haft mehr. Ein Beru- eingesetzt. Unterstützer_innen verschickten zahlreiche fungsgericht bestätigte im Oktober die Ent- E-Mails und Briefe. Amnesty fordert weiterhin, dass scheidung einer unteren Instanz, sie lediglich alle Anklagen gegen ihn fallen gelassen werden. auf Bewährung zu verurteilen. Die beiden Um- (Januar 2021) weltaktivisten, bei denen es sich um Vater und Sohn handelt, waren im Februar der Körper- verletzung beschuldigt und in Gewahrsam ge- nommen worden. Die Anschuldigungen waren offenbar konstruiert und richteten sich gegen ihr politisches Engagement. AMNESTY JOURNAL | 01/2022 9
Digitale Rechte Gesichtserkennung und biometrische Verfahren gefährden Grund- und Freiheitsrechte. Algorithmen sorgen für systematische Diskriminierung und institutionellen Rassismus. Unsere Daten werden längst wie ein Rohstoff vermarktet. Willkommen im Netz der personalisierten Werbung und der Überwachung, wo sich Konzerne Monopole errichtet haben, denen Mensch und Gesetz egal sind. Und willkommen im Netz der Möglichkeiten, wo schnellere Kommunikation, freies Wissen und digitales Empowerment zu Hause sind. Wo und wie auch immer wir uns im Netz bewegen, starke digitale Rechte müssen dazugehören. AMNESTY JOURNAL | 01/2022 11
12 AMNESTY JOURNAL | 01/2022
DIGITALE RECHTE MACHT DER ALGORITHMEN Die großen Unbekannten Algorithmen prägen unseren Alltag und bestimmen unseren Blick auf die Welt. Sie können Fortschritt bewirken, aber auch zu Gewalt führen. Nur wenn wir ihre Wirkung verstehen, können wir unsere Rechte im digitalen Raum schützen. Von Julia Lauter S ie bekommen einen Brief. Das Dabei wurde schon eine nicht-nieder- ditunwürdig bewertet werden oder dass Finanzamt schreibt Ihnen, sie ländische Staatsbürgerschaft als Risiko- wir höhere Versicherungsprämien zahlen hätten sich Geld vom Staat faktor gewertet. Den Beamt_innen, die müssen oder, wie in den Niederlanden, zu erschlichen und müssten Zehn- die Profile sichteten, reichten schon kleins- Unrecht beschuldigt werden. tausende Euro zurückzahlen. te Ungereimtheiten, um den Betroffenen Am Anfang glauben Sie noch an ein Miss- die Zuschüsse zu streichen und Geld zu- »Astronomische Gewinne« verständnis. Sie sind sich sicher, dass Sie rückzufordern. Eine algorithmische Ent- Beide Seiten – die personalisierte Nut- nichts falsch gemacht haben. Aber nie- scheidung bewirkte institutionellen Ras- zung digitaler Dienste und die Preisgabe mand glaubt Ihnen. Ihr Lohn wird ge- sismus und sorgte für einen politischen sensibler Daten – sind untrennbar mit- pfändet. Sie müssen einen Kredit aufneh- Skandal. In der Folge trat im Januar 2021 einander verbunden. Algorithmische Ent- men. Sie fallen in ein tiefes Loch, ver- die gesamte niederländische Regierung scheidungen durchdringen und prägen nachlässigen den Haushalt und die zurück. unseren Alltag, ohne dass wir deren Me- Erziehung Ihres Kindes. Ihnen wird das Der Vorfall in den Niederlanden ist chanismen nachvollziehen können. Nur Sorgerecht entzogen. Sie sind am Ende. nur eines von vielen Beispielen dafür, die Firmen und Institutionen, die sie ent- Und das alles, weil ein Algorithmus Sie wie unser Leben von halb- oder vollauto- wickeln und mit ihnen arbeiten, wissen, fälschlicherweise als Sozialbetrüger_in matisierten Entscheidungen auf Grund- wie die Entscheidungen getroffen wer- eingestuft hat. lage unserer persönlichen Daten ab- den, welche Faktoren eine Rolle spielen Was wie der Beginn eines Science- hängt. Die meiste Zeit über wirken unse- und welche nicht. Algorithmen sind die Fiction-Dramas klingt, geschah in den re Begegnungen mit algorithmischen großen Unbekannten in unserem Alltag. Niederlanden: Zwischen 2013 und 2019 Entscheidungen unauffällig: In digitalen Und sie können eine Gefahr für unsere wurden dort rund 20.000 Eltern bezich- Netzwerken bestimmen sie, welche Bei- Rechte sein. tigt, den Staat um Zuschüsse zur Kinder- träge wir sehen. Sie entscheiden, welche »Ich bin Facebook beigetreten, weil betreuung betrogen zu haben. Grund Ergebnisse Suchmaschinen anzeigen und ich glaubte, dass es das Potenzial hat, das dafür war ein algorithmisches Entschei- welche Werbeangebote uns unterbreitet Beste in uns hervorzubringen. Aber ich dungssystem, das Risikoprofile von An- werden. bin heute hier, weil ich glaube, dass die tragsteller_innen anlegte. Dieses »Profiling«, bei dem personen- Produkte von Facebook Kindern schaden, bezogene Daten automatisiert ausgewer- Spaltung schüren und unsere Demokratie tet werden, kann dazu beitragen, dass uns schwächen.« Mit diesen Worten eröffnete Algorithmen steuern und stapeln mit: genau jene Lampe zum Kauf vorgeschla- Containerhafen in Qingdao, China, 2019. gen wird, die wir gerade suchen. Aber es Foto: Stephen Shaver / Polaris / laif kann auch dazu führen, dass wir als kre- AMNESTY JOURNAL | 01/2022 13
Frances Haugen im Oktober 2021 ihre Aussage vor dem US-Senat. Das führe dazu, dass die Plattform Ver- ständnis und Entgegenkommen untergra- »Wir brauchen Die frühere Facebook-Managerin war be und damit die Grundlage der Demokra- Regulierungen für den gekommen, um gegen ihren ehemaligen tie angreife. Facebook weist die Vorwürfe Einsatz von KI.« Arbeitgeber auszusagen. »Das Unterneh- zurück. Der Konzern benannte sich kurz men weiß, wie man Facebook und Insta- darauf in »Meta« um und stellte mit dem Merel Koning, Amnesty gram sicherer machen kann, will aber die »Metaverse« eine Plattform für virtuelle notwendigen Änderungen nicht vorneh- Realität vor, auf der Nutzer_innen als Ava- men, weil es seine astronomischen Ge- tare interagieren können. Man könnte Daten gesammelt, gespeichert, geteilt winne über die Menschen stellt.« Und das auch sagen: Statt Aufklärung bietet Face- und verwendet werden, zu schließen, ist gefährlich, weil Plattformen wie Face- book eine alternative Wirklichkeit an. erklärte Bachelet. Das Risiko der Diskri- book, Instagram und Twitter eine enorme minierung im Zusammenhang mit KI- Informationsmacht haben. Selbstlernende Algorithmen Entscheidungen sei sehr real. Sie forderte Die jüngsten Veröffentlichungen über Natürlich erzeugen digitale Plattformen ein Moratorium für den Einsatz besonders Facebook zeichnen das Bild eines Unter- und ihre Algorithmen nicht nur Diskri- risikoreicher KI-Anwendungen. nehmens, das um jeden Preis die Nut- minierung, Hass und Gewalt. In der An- Die Frage ist, wie das konkret ausse- zer_innen auf seinen Plattformen halten wendung von Künstlicher Intelligenz (KI) hen könnte. Den meisten Nutzer_innen will – und dafür die Sicherheit ganzer Ge- steckt auch ein großer Nutzen für die ist klar, dass der Reichtum und die Macht sellschaften aufs Spiel setzt. In Myanmar Menschheit. Unter diesem nicht trenn- von Konzernen wie Facebook und Google hatten Analysen bereits 2018 gezeigt, dass scharfen Begriff werden allgemein Profi- auf ihren persönlichen Daten basiert. Em- Hassreden und Falschinformationen auf ling, automatisierte Entscheidungen und pörung gab es viel, aber kaum praktikable Facebook mit Angriffen auf Angehörige Technologien des Maschinellen Lernens Gegenvorschläge. Doch nun kommt Be- der Rohingya einhergingen: Die Inhalte zusammengefasst – Anwendungen also, wegung in die festgefahrene Situation. der Plattform führten zu Gewalt in der bei denen Maschinen komplexe Kombi- Im Dezember 2020 stellte die EU- realen Welt, Zehntausende Menschen nationsleistungen erbringen. Kommission ein Maßnahmenpaket vor, starben bei der gewaltsamen Vertreibung, Selbstlernende Algorithmen lassen das den rechtlichen Rahmen für Online- 750.000 verloren ihre Heimat. PKWs automatisiert fahren oder überset- Plattformen und den Umgang mit Digi- Auch in Sri Lanka und Indien verbrei- zen Texte in Sekundenschnelle. Man kann talkonzernen regeln sollte, den Digital teten sich in den vergangenen Jahren mit ihnen Bilder und Videos aus Kriegs- Services Act und den Digital Markets Act. gewaltverherrlichende und hasserfüllte gebieten auswerten und Rechtsverstöße Bei der Vorstellung verglich die zuständi- Inhalte wie Lauffeuer. In Äthiopien, wo dokumentieren; Software hilft Medizi- ge Kommissionsvizepräsidentin Margre- ein bewaffneter Konflikt zwischen der ner_innen bei der Verschreibung des pas- the Vestager das Vorhaben mit dem Auf- Zentralregierung und der Tigray People’s senden Antibiotikums oder berät Land- stellen der ersten Ampel. Mit zunehmen- Liberation Front ausgebrochen ist, führ- wirt_innen bei der Auswahl des Saatgutes dem »Verkehr« im digitalen Raum müsse ten Falschmeldungen und Hassreden zu oder des optimalen Erntezeitpunktes. die Politik nun Ordnung ins Chaos brin- ethnischer Gewalt mit vielen Toten. Während der Covid-Pandemie helfen gen. Die Whistleblowerin Haugen bestätig- weltweit Kontaktverfolgungssysteme bei Zum einen sollen Plattformen wie te in ihrer Aussage vor dem US-Senat und der Eindämmung der Gesundheitskrise, Facebook illegale Inhalte schneller lö- zuletzt auch vor dem EU-Parlament, dass indem sie aus unterschiedlichen Daten schen, den Nutzer_innen die Möglichkeit Facebook weiß, dass seine Darstellung digitale Netze erzeugen, die potenzielle für rechtlichen Einspruch geben, Wer- von Inhalten gefährlich ist. Zwar versuche Infektionen erkennen und die Gesund- bung unmissverständlich kennzeichnen das Netzwerk, problematische Inhalte von heitssysteme vor Überlastung schützten. sowie die Funktion ihrer Algorithmen der Plattform zu entfernen. Doch ohne So hilfreich diese Systeme sind, sie zeigen verständlich machen. Zum anderen soll durchschlagenden Erfolg, wie Haugen auch, warum diese Techniken, wenn die Vormachtstellung der Monopolisten erklärte: »Die Algorithmen sind nicht ef- überhaupt, nur unter strengen Auflagen Google, Apple, Facebook, Amazon und fektiv und filtern maximal zehn Prozent eingesetzt werden sollten. Denn sie grei- Microsoft fallen: Vorinstallierte Anwen- der problematischen Beiträge heraus.« fen in unser Recht auf Privatsphäre, Ge- dungen und Programme sollen verboten Zudem flössen 87 Prozent des Bud- sundheit, Bildung, Freizügigkeit, Ver- werden, die eigenen Dienste bei Suchab- gets, das Facebook für die Klassifizierung sammlungs-, Vereinigungs- und Mei- fragen nicht mehr bevorzugt präsentiert von Fehlinformationen aufwende, in den nungsfreiheit ein. und Daten verschiedener Portale eines Schutz des US-Marktes, während nur 13 »Im besten Fall wird die digitale Revo- Anbieters nicht ohne Zustimmung der Prozent für den Rest der Welt vorgesehen lution die Menschen befähigen, verbin- Nutzer_innen zusammengeführt werden sind. Und das, obwohl die nordamerikani- den, informieren und Leben retten. Im dürfen. schen Nutzer_innen nur zehn Prozent der schlimmsten Fall wird sie entmachten, So ambitioniert das Vorhaben ist, so täglich aktiven Nutzer_innen des Online- trennen, fehlinformieren und Leben kos- wenig greifbar ist die Umsetzung bisher: Netzwerks ausmachten. ten«, sagte Michelle Bachelet, UN-Hoch- Was genau sollen die Konzerne offenlegen »Eine aggressive, hasserfüllte, kontro- kommissarin für Menschenrechte, bei müssen? Welche Behörden kontrollieren verse politische Kampagne zu fahren, ist der Vorstellung ihres Berichts über Risi- die Regeln? Und: Was ändert es, wenn die fünf- bis zehnmal billiger als eine, die mit ken der Künstlichen Intelligenz im Sep- Nutzer_innen zwar die Algorithmen der Empathie und Mitgefühl zu tun hat«, sagte tember 2021. Angesichts des schnellen Plattformen kennen, es aber keine ver- Frances Haugen vor dem EU-Parlament. und kontinuierlichen Wachstums der gleichbaren Alternativen gibt, die ihre KI-Anwendungen sei es eine drängende Rechte besser schützen? Hören wir tat- Menschenrechtsfrage, die immense Lücke sächlich auf zu »googeln«, wenn der Kon- 14 AMNESTY JOURNAL | 01/2022 in der Rechenschaftspflicht darüber, wie zern sein Geschäftsgebaren offenlegt oder
Protest gegen Rassismus, der auf algorithmische Entscheidungssysteme im Sozialsystem zurückgeht. Amsterdam, Mai 2021. Foto: Romy Arroyo Fernandez / NurPhoto / pa wird das nur ein weiteres Kästchen sein, die als besonders risikoträchtig klassifi- wie mit den erstellten Profilen umgegan- das wir in Zukunft mit schlechtem Gewis- ziert werden, sollen zwar »hinreichend gen werden soll«, sagt Koning. »Dabei ist sen vor der Nutzung wegklicken? transparent« entwickelt werden; was als doch eine der wichtigsten Säulen unserer transparent gilt, bleibt aber schwammig. freien Gesellschaft, dass man nicht un- Viele Leerstellen Auch können Designer_innen, Entwick- schuldig verurteilt wird.« Im April 2021 schlug die EU-Kommission ler_innen und Nutzer_innen von KI-Sys- Was derzeit in Brüssel diskutiert darüber hinaus den Artifical Intelligence temen weiterhin nicht für ihre Produkte wird, ist eine Chance – darauf, dass un- Act (AIA) vor, der schädliche Folgen auto- zur Rechenschaft gezogen werden. Außer- sere Rechte in Zukunft nicht noch weiter matisierter Entscheidungsalgorithmen dem enthält der Vorschlag kein Verbot von intransparenten technischen Anwen- verhindern soll. Danach sollen KI-Anwen- des Einsatzes von selbstlernenden Algo- dungen beschnitten werden. Doch um dungen nach den von ihnen ausgehen- rithmen im öffentlichen Sektor. sie nutzen zu können, müssen die Bür- den Risiken klassifiziert und entspre- Besonders für die »präventive Verbre- ger_innen begreifen, was auf dem Spiel chend stärker überwacht und reguliert chensbekämpfung« – wenn die Polizei steht. Nur wer sich die Einschränkungen werden. Doch auch dieser Vorstoß habe auf Grundlage von Daten die Wahrschein- bewusst macht, wird dagegen seine viele legale Leerstellen, erklärt Merel Ko- lichkeit errechnet, mit der Menschen die Stimme erheben und die politisch Ver- ning vom Tech-Team von Amnesty Inter- nächsten Straftäter_innen oder ein Ort antwortlichen zum Handeln bewegen national: »Es ist gut, dass die EU diese der nächste Tatort ist – sind in dem Vor- können. ◆ Rolle einnimmt. Wir brauchen dringend schlag großzügige Ausnahmen vermerkt, Regulierungen für den Einsatz von Künst- wie Koning kritisiert. Diesen Artikel können Sie sich licher Intelligenz«, sagt die Anwältin. Ihrer Meinung nach sollten diese in unserer Tablet-App vorlesen lassen: »Doch leider sind die vorgeschlagenen staatlichen KI-Anwendungen strenger www.amnesty.de/app Regeln nicht annähernd da, wo sie sein reguliert werden. »Die Programme, die in sollten – es fehlt ihnen an Menschen- den Niederlanden und ganz Europa zur Amnesty-Bericht rechtsgarantien.« präventiven Verbrechensbekämpfung zum Thema: Auch der AIA-Vorschlag krankt daran, laufen, sind beängstigend. Sie werden dass nicht klar ist, wer die Umsetzung sehr schnell eingeführt, es gibt keine Si- überwacht und beaufsichtigt. KI-Systeme, cherheitsvorkehrungen und keine Regeln, AMNESTY JOURNAL | 01/2022 15
DIGITALE RECHTE GESICHTSERKENNUNG Bitte recht freundlich! Sie stellen zahlreiche Gefah ren für die Menschenrecht Fragen und Antworten zu e dar: biometrischen Verfahren zur Gesichtserkennung . Vo und n Ingrid Bausch-Gall Wie funktioniert Gesichtserkennung? Was haben biometrische Verfahren und sie zu ihrer Teilnahme an einer Demons- Gesichtserkennung dient meist zur Iden- Gesichtserkennung gemeinsam, was tration am 21. April für Alexej Nawalny tifizierung von Personen. Anhand be- unterscheidet sie? befragt. Bei der Demonstration wurden stimmter Merkmale des Gesichts kann Methoden der Gesichtserkennung ge- Teilnehmende gefilmt und diese Filme eine Person ausgemacht werden. Dabei hören zur Erfassung und Auswertung anschließend mit Gesichtserkennungs- wird ein Bild des Gesichts mit Bildern in biometrischer Daten. Zusätzlich zur methoden ausgewertet. So lässt sich sehr einer Datenbank verglichen. So soll festge- Gesichtserkennung erfassen umfassen- schnell feststellen, wer wann wo war und stellt werden, ob die Person bereits in der dere biometrische Methoden geometri- mit wem er oder sie gesprochen hat. Die Datenbank erfasst ist. Die verwendeten sche Daten über Körperbau oder Bewe- Journalisten wurden als Teilnehmende Datenbanken enthalten meist Millionen gungsmuster von Personen. Diese Metho- an der Demonstration identifiziert. Alle von Gesichtsbildern, die entweder von den liefern exaktere Ergebnisse als die waren als Journalisten akkreditiert. Melde- und Strafverfolgungsbehörden Gesichtserkennung und lassen sich auch Dennoch drohen ihnen nun Gefängnis- stammen oder von Homepages, Facebook dann anwenden, wenn eine Person ver- strafen. oder anderen öffentlich zugänglichen mummt ist oder das Gesicht wegdreht. Immer mehr Länder nutzen Gesichts- Quellen kopiert wurden, zumeist ohne erkennung zur Überwachung des öffent- Zustimmung der betreffenden Personen. Gibt es aktuelle Beispiele dafür, wo Ge- lichen Raums. Diese Technologie wird Bereits die Erstellung der Datenbanken sichtserkennung angewandt wird? von der Polizei und von privaten Firmen verletzt oft das Recht auf Privatsphäre. Am 27. April 2021 hat die Polizei in Mos- genutzt. kau die Wohnungen der Journalisten Alexej Korosteljow, Oleg Owcharenko Welche Gefahren drohen für 16 AMNESTY JOURNAL | 01/2022 und Alexander Rogoz aufgesucht und die Menschenrechte?
nen zu überwachen. Zivilgesellschaftli- ches Engagement wird in einem Land In mehreren US-Städten extrem erschwert, wenn die Regierung ist Gesichtserkennung exakt weiß, wer wo ist und wer sich wann in der Polizeiarbeit mit wem trifft. Die Methoden der Ge- sichtserkennung sind fehleranfällig. verboten. Wenn sie perfekt funktionierten, wären sie in der Lage, ganze Gebiete zu überwa- chen und die Identität von Hunderttau- im öffentlichen Raum ist nach Auffas- senden Menschen gleichzeitig zu erfas- sung von Amnesty nicht verhältnismä- sen. Dies wäre in allen Fällen menschen- ßig, da sie ohne einen Verdacht alle an- rechtlich problematisch. Durch das Ge- wesenden Menschen erfasst und analy- fühl, ständig überwacht zu werden, leiden siert. Amnesty fordert daher ein voll- Freiheitsrechte, individuelle Entfaltung ständiges Verbot der Gesichtserkennung und politische Teilhabe. zu Zwecken der Identifizierung. Um Dis- kriminierung entgegenzuwirken und der Behandelt Gesichtserkennung alle Vielfalt in der Gesellschaft gerecht zu Gesichter gleich? werden, fordert Amnesty eine unabhän- In Datenbanken werden besonders viele gige Überprüfung aller Algorithmen der Gesichter weißer Männer aufgenommen, verwendeten Systeme sowie Entwickler- deutlich weniger Gesichter von Frauen, teams, die die gesellschaftliche Vielfalt Kindern und People of Colour. Da die widerspiegeln. Algorithmen mit Methoden der Künst- Eine weitere Gefahr besteht in der lichen Intelligenz und der Statistik arbei- Verbreitung von Technologie zur Ge- ten, führt das zu einer deutlich höheren sichtserkennung. Europäische Unterneh- Falscherkennungsrate bei diesen Perso- men konnten Gesichtserkennungs- und nen. Sie werden in der Folge häufiger von andere Überwachungstechnologie ohne der Polizei kontrolliert und verdächtigt. staatliche Exportkontrolle in Länder Insbesondere schwarze Frauen sind da- verkaufen, in denen diese gegen mar- von betroffen. Das ist eine eindeutige ginalisierte Bevölkerungsgruppen zum Form der Diskriminierung. Einsatz kommt. Damit steigt das Risiko Gesichter lassen sich zudem durch schwerer Menschenrechtsverletzungen. bestimmte Schlüsselmerkmale wie Haut- Amnesty fordert ein grundsätzliches farbe, ethnische Zugehörigkeit oder Verbot der Entwicklung, der Produktion, Geschlecht gezielt erkennen. Vorurteile des Verkaufs und des Exports von Ge- und strukturelle Ungleichheiten können sichtserkennungstechnologie zu Iden- durch die Anwendung bestimmter Algo- tifizierungszwecken, das sowohl für rithmen verstärkt werden, da die Systeme staatliche Institutionen als auch für Per Kamera alles im Blick? von Menschen entwickelt und trainiert private Akteure gilt. Solange dieses Ver- Gdansk, Polen, April 2020. werden. Auch dies führt zu Diskriminie- bot nicht wirksam ist, müssen Staaten Foto: Michal Fludra / NurPhoto / pa rung. den Export solcher Technologien rigoros verhindern. Unternehmen müssen da- Mit Gesichtserkennung ist öffentlich rüber hinaus verpflichtet werden, vor Gesichtserkennung kann auch für legiti- experimentiert worden. Mit welchem einem etwaigen Export im Rahmen ihrer me Ziele eingesetzt werden, etwa um Ergebnis? menschenrechtlichen Sorgfaltspflichten Straftäter_innen zu finden. In vielen Be- Experimente mit diesen Systemen haben umfassende Risikoanalysen durchzu- reichen erfolgt jedoch eine anlasslose gezeigt, dass sie oft mangelhaft funktio- führen. automatische Überwachung im öffent- nieren. Bei einem Test am Bahnhof Ber- lichen Raum. Die überwachten Personen lin-Südkreuz wurde etwa jede 200. Per- Gibt es Erfolge beim Einsatz wissen nicht, dass sie beobachtet werden. son fälschlich als polizeilich gesuchte gegen die Gesichtserkennung? Wenn Gesichtserkennung bei Demonstra- Person identifiziert. Für Betroffene führt Ein kleiner Erfolg wurde inzwischen er- tionen eingesetzt wird, ist es problemlos das zu Verdächtigungen und unangemes- reicht: Am 6. Oktober 2021 hat das EU- möglich festzustellen, wer teilgenommen senen Kontrollen, für die Polizei zu einer Parlament dazu aufgerufen, biometrische und mit wem sich die Person dort getrof- Überlastung. Daher wurde in den US- Massenüberwachung zu verbieten. ◆ fen hat. Dies kann dazu führen, dass sich amerikanischen Städten Boston, Portland Menschen nicht mehr trauen, an Demons- und San Francisco der Einsatz von Ge- Ingrid Bausch-Gall ist in der Amnesty-Themen- trationen teilzunehmen. Dies bezeichnet sichtserkennung in der Polizeiarbeit koordinationsgruppe Menschenrechte im man als »chilling effect«, und er bedroht verboten. digitalen Zeitalter aktiv. die Ausübung des Rechts auf Versamm- lungs- und Vereinigungsfreiheit sowie die Was fordert Amnesty? https://amnesty-digital.de Meinungsfreiheit. Amnesty International sieht in jeder an- https://reclaimyourface.eu Gesichtserkennung kann von autori- lasslosen Massenüberwachung einen tären Regierungen gezielt eingesetzt wer- massiven Eingriff in die Privatsphäre. den, um Menschenrechtsverteidiger_in- Die Anwendung von Gesichtserkennung AMNESTY JOURNAL | 01/2022 17
DIGITALE RECHTE KÜNSTLICHE INTELLIGENZ Wie dich deine Daten verraten Eine kleine Geschichte des Überwachungskapitalismus. Oder wie aus Daten ein Rohstoff der Vermarktung wurde und wie sich das wieder ändern lässt. Ein Essay von Uwe Oestermeier D ie US-Wirtschaftswissen- Dilemma. Sie hatten ihre Suchmaschine besser Googles Prognosen wurden, desto schaftlerin Shoshana Zuboff gratis angeboten und deren Wachstum höher wurden die Einnahmen. bezeichnet mit dem Begriff mit Verlusten erkauft. Nun drängten ner- Persönliche Daten wurden zu einer »Überwachungskapita- vös gewordene Wagniskapitalgeber auf Art Goldstaub, dessen Abbau erst im in- lismus« eine Spielart des ein tragfähiges Geschäftsmodell. 1998 dustriellen Maßstab wertvoll wird. Immer Kapitalismus, der persönliche Daten zum hatten Page und Brin noch argumentiert, neue Rohstoffquellen wurden erschlos- Rohstoff der Vermarktung macht. Dazu »dass werbefinanzierte Suchmaschinen sen, um festzustellen, was Menschen gehören Daten über Produktvorlieben, von Natur aus auf die Werbetreibenden wann wie und wo machen. Werbefreie Kaufverhalten, Bonität, Interessen, sexuel- und nicht auf die Bedürfnisse der Ver- Dienste wie Google Mail (2004) und Goo- le Orientierung, politische Einstellungen, braucher ausgerichtet sein werden«. gle Maps (2005) lieferten umfassende soziale Identität sowie intime Gesund- Page und Brin gaben dem Druck nach. Personenprofile. Eine Zeit lang konnte heitsdaten, Suchanfragen und Kontakte. Am 23. Oktober 2000 erschien die erste Google sein Erfolgsrezept geheim halten, Wo die digitale Sphäre mit dem physi- Anzeige auf Google. 2002 führte Google aber spätestens als Sheryl Sandberg 2007 kalischen Raum verschmilzt, kommen ein Bezahlmodell ein, wonach die Werbe- von Google zu Facebook wechselte, wan- noch Orts-, Biometrie-, Kamera- und Sen- treibenden nur zahlen mussten, wenn die derte das Know-how auch zu dem 2004 sordaten in Fahrzeugen, Smartphones, Werbung auch angeklickt wurde (pay per von Mark Zuckerberg gegründeten Onli- sogenannten Smart Cities und dem Inter- click). Dieses Bezahlmodell war ein wich- ne-Netzwerk. Das Netzwerk erfasste ne- net der Dinge hinzu. tiger Wettbewerbsvorteil gegenüber der ben dem individuellen Verhalten auch Ein Geflecht von privatwirtschaft- traditionellen Anzeigenwerbung und Verbindungen zwischen Menschen, wo- lichen Plattformen, Händler_innen und wurde beispielsweise von der Werbefirma durch neue Formen gezielter Werbung Werbefirmen nutzt diese Daten, um Milli- DoubleClick schon länger genutzt. angeboten werden konnten, etwa über arden Menschen einer fast totalen Über- Page und Brin gingen einen entschei- Telefonnummern oder Menschen mit wachung und einem ständigen Wettbe- denden Schritt weiter. Sie kombinierten ähnlichen Vorlieben. werbs- und Bewertungsdruck zu unter- dieses Bezahlmodell erstmals mit Online- Die USA und ihre Verbündeten hatten werfen. Die Geschichte dieser historisch Auktionen, die auf mathematischen Ver- nach 9/11 ebenfalls ein vitales Interesse beispiellosen Wirtschaftsform lässt sich haltensvorhersagen beruhten. Google an den Daten. Sie sicherten sich den Zu- grob in drei Phasen einteilen. versteigerte die Werbeplätze jedoch nicht gang über Gesetze, deren Reichweite und einfach an die Meistbietenden. Stattdes- Entstehung (2000–2007) sen wurden die besten Werbeplätze den Als die Dotcom-Blase im März 2000 Firmen zugewiesen, deren Werbung den platzte, standen die Google-Gründer größten Gewinn erwarten ließ, weil Nut- Viele Menschen Larry Page und George Brin vor einem zer_innen darauf reagierten. Die un- scrollen pro Tag scheinbare Formel »Profit = Preis pro Klick mal Klickwahrscheinlichkeit« setzte mehr als 170 Meter 18 AMNESTY JOURNAL | 01/2022 eine unerbittliche Marktlogik in Gang: Je auf ihren Handys.
Illustration: Sebastien Thibault / agoodson.com Ausmaß erst mit den Enthüllungen Ed- Der Wettbewerb um die begrenzte Algorithmus basiert seit 2011 auf Metho- ward Snowdens im Jahr 2013 klar wurden. Ressource Aufmerksamkeit wurde immer den des maschinellen Lernens und zieht härter. Ständig optimierte Algorithmen Zigtausende Faktoren in Betracht, um die Entfesselung (2007–2016) und Funktionen brachten Nutzer_innen Nutzer_innen möglichst lange an die Google und Facebook nutzten ihre stei- dazu, immer länger auf den jeweiligen Plattform zu binden. genden Werbeeinnahmen, um innovative Plattformen zu bleiben, um mehr Wer- Das maschinelle Lernen erhöhte die Firmen aufzukaufen. 2006 erwarb Google bung zu sehen und vor allem mehr Daten Datenmenge und die Nutzungszeiten YouTube und 2007 DoubleClick. Double- zu liefern. Als besonders wirkungsvoll drastisch, wovon wiederum die Online- Click hatte die gezielte Online-Werbung erwiesen sich zum Beispiel »Likes«, das Auktionen profitierten. Viele Menschen perfektioniert, indem Nutzer_innen über endlose Scrollen durch Aufregerthemen verbringen täglich mehrere Stunden auf Webseiten hinweg mit Cookies verfolgt und automatisch abgespielte personali- YouTube und Facebook-Diensten und wurden. Damit legte Google den Grund- sierte Inhalte. scrollen pro Tag mehr als 170 Meter auf stein für das sogenannte Real Time Bid- Durchbrüche im Bereich der Künst- ihren Handys. Google, Facebook und ding, bei dem während des Ladens der lichen Intelligenz, die immer größere Amazon vereinen nach aktuellen Schät- Webseiten unbemerkt in Millisekunden Datenmengen mit Methoden des maschi- zungen 90 Prozent des Wachstums aller Werbeplätze an Dutzende von Bieter_in- nellen Lernens analysierten, wurden US-Online-Werbeausgaben auf sich. nen versteigert werden. Auch Facebooks dabei zu einem wichtigen Wettbewerbs- Kauf der Netzwerke Instagram (2012) und faktor. YouTube konnte nach eigenen An- Gegenbewegung (ab 2016) WhatsApp (2014) folgte der Devise »Kau- gaben die Nutzungsdauer um 50 Prozent Der Wahlsieg Barack Obamas und der ara- fen ist besser als konkurrieren«. Damit steigern, indem es 2012 seine Empfeh- bische Frühling wurden noch als positive wurden gleichzeitig neue wichtige Daten- lungsalgorithmen umstellte. Statt der Auswirkungen von Online-Netzwerken quellen zur Vernetzung von Personen wie Anzahl der Klicks wurde eine möglichst Kontaktdaten und Telefonnummern er- hohe Verweildauer zur Zielgröße des schlossen. Algorithmus. Auch Facebooks Newsfeed- AMNESTY JOURNAL | 01/2022 19
Google, Facebook und Twitter verstärkten Desinformation und Hass. länger an anderen Werbeformen, die nicht mehr direkt auf einzelne Personen zugeschnitten sind. Mit der Zusammen- fassung von Personen in bestimmte Gruppen wollen sie ihr Geschäftsmodell retten. An den Anreizstrukturen der Auf- merksamkeitsökonomie würde sich da- mit aber nicht viel ändern. Die Kritik der Google-Gründer Page und Brin an werbefinanzierten Geschäfts- modellen erwies sich als erstaunlich weit- Illustration: Sebastien Thibault / agoodson.com sichtig. Heute stellt der Überwachungs- kapitalismus Milliarden Menschen vor das Dilemma, dass sie ihre Menschen- rechte auf soziale und kulturelle Teilhabe nur ausüben können, wenn sie Verletzun- gen anderer Menschenrechte in Kauf nehmen. Denn personalisierte Werbung verletzt unsere Rechte auf Privatsphäre und Nichtdiskriminierung. In der Aufmerksamkeitsökonomie untergraben algorithmisch verstärkte Verschwörungstheorien, Desinformation und Hassbotschaften die Meinungs- und Pressefreiheit und die Informationssuche. Plattformen wie Facebook sind in der gefeiert. Doch mit dem Skandal um Cam- Smartphone einführte und damit eine Lage, Wahlen zu beeinflussen, um ihre bridge Analytica veränderte sich die öf- umfassende Verfolgung ermöglichte. Als wirtschaftlichen Interessen durchzuset- fentliche Wahrnehmung; Daten von Milli- Apple im Jahr 2021 erstmals den Benut- zen. Amnesty International hat deshalb onen Nutzer_innen waren offensichtlich zer_innen die Gelegenheit gab, selbstbe- 2019 in einer umfassenden Dokumenta- missbraucht worden. Journalistische Re- stimmt mit dieser Form des Trackings tion darauf hingewiesen, dass die Daten- cherchen zeigten, dass die zielgenaue Da- umzugehen, lehnten 80 Prozent schlicht- giganten die Menschenrechte und die tenanalyse von Donald Trump und den weg ab. Demokratie gefährden. Brexiteers nicht nur genutzt wurde, um Auch in Politik und Gesellschaft for- Anders als Google und Facebook Wähler_innen zu mobilisieren, sondern mierte sich die Gegenbewegung. Google glauben machen wollen, ist personali- auch, um Fehlinformationen zu streuen und Facebook waren und sind Gegen- sierte Werbung nicht alternativlos. Die und Gruppen gezielt vom Wählen abzu- stand zahlreicher Kartell- und Wettbe- Suchmaschine DuckDuckGo war von Be- halten. Wissenschaftler_innen warnten, werbsklagen in den USA und der EU. Face- ginn an profitabel, obwohl sie nur mit dass Google, Facebook und Twitter Des- book konnte bislang weder seine Pläne Werbung für Suchbegriffe arbeitet. Auch informationen, Hass, Filterblasen, Echo- für eine digitale Währung noch ein Insta- das Bezahlmodell von WhatsApp hat vor kammern und damit die Polarisierung gram für Kinder umsetzen. Google muss- der Übernahme durch Facebook gut der Gesellschaft verstärken. te seine ambitionierten »Smartcity«-Plä- funktioniert. Tim Cook, Chef des Konzerns Apple, ne in Toronto aufgeben. Die Gewinne Wenn man Internetsuche und ver- nutzte die Gelegenheit, um Dienste des wurden nicht beeinträchtigt. Im Gegen- netzte Kommunikation als öffentliche eigenen Unternehmens als datenschutz- teil: Als Facebook fünf Milliarden Dollar und gemeinnützige Infrastrukturen be- freundliche Alternative zu präsentieren. Strafe wegen des Cambridge-Analytica- trachten würde, kämen zudem Steuer- Er sprach von einem datenindustriellen Skandals zahlen musste, führte dies an bzw. Gebührenfinanzierung sowie Spen- Komplex, der Gesellschaften zerstöre. der Börse zu einem Kursgewinn von zehn den-, Stiftungs- und Genossenschafts- Was er dabei verschwieg: Google zahlt Milliarden Dollar. modelle infrage. All diese Alternativen Apple bis heute Milliarden dafür, dass sind zum Scheitern verurteilt, solange Google als Suchmaschine voreingestellt Die Zukunft ist offen die Gewinne der Datenkartelle deren ist. Und es war Apple, das 2012 eine ein- Gegenwärtig sind in Europa und den USA Macht weiter zementieren. ◆ deutige Werbekennzeichnung für jedes eine Reihe von Gesetzen geplant, die die Auswüchse des Überwachungskapitalis- Uwe Oestermeier ist in der Amnesty-Themen- mus korrigieren sollen. Da dies absehbar koordinationsgruppe Menschenrechte im 20 AMNESTY JOURNAL | 01/2022 war, arbeiten Google und Facebook schon digitalen Zeitalter aktiv.
DIGITALE RECHTE ONLINE-MONOPOLE Und jetzt: Werbung! Und zwar für Regulierung Die Gesetzgebung der EU hat die großen Internetplattformen so lange unreguliert wachsen lassen, bis sie zu mächtig werden konnten. Schluss damit! Ein Kommentar von Lena Rohrbach M enschenfressende Pferde bei Facebook und Co.: Erst wenn die nal und andere NGOs sowie einige Abge- zähmen, eine neunköpfige Bedrohungen der Menschenrechte ordnete des Europäischen Parlaments ein Hydra ausschalten und ei- unübersehbar werden, wird mit einer konsequentes Verbot personalisierter nen riesigen Rinderstall Regulierung begonnen. Werbung, die auf der umfassenden Über- ausmisten – das waren die »Herkulesauf- Höchste Zeit also, den Plattformen wachung unseres Surfverhaltens beruht. gaben«, die der gleichnamige griechische mit den derzeit verhandelten Gesetzen 98 Prozent des Facebook-Umsatzes speist Held bewältigen musste, um in den Olymp Digital Services Act (DSA) und Digital sich aus Werbung, bei Google sind es aufgenommen zu werden. An einer sol- Markets Act (DMA) klare Grenzen zu immerhin noch mehr als 80 Prozent. Um chen Aufgabe versucht sich derzeit auch setzen. Der Digital Services Act soll bei- diese Werbung gezielt anzuzeigen, über- die EU: Facebook und Google sollen ge- spielsweise den Umgang mit illegalen wachen die Plattformen das Verhalten der zähmt, manipulierende Algorithmen Inhalten, personalisierter Werbung, Da- Nutzer_innen bei jedem Klick. Facebook ausgeschaltet und übergriffige Geschäfts- tenschutz und algorithmischen Empfeh- müsste sich nach einer Änderung neue praktiken der Internetplattformen »aus- lungssystemen regeln. Für die meisten Einnahmemodelle suchen – etwa kon- gemistet« werden. dieser Herausforderungen gibt es leider textbasierte Werbung, also eine Anzeige Im Vergleich zur Zähmung der Tech- kaum gute Vorbilder. So fehlt es in den für Katzenfutter neben einem Artikel Giganten erscheinen die Aufgaben des USA weitgehend an landesweiten Regeln über Katzen. mythologischen Herkules fast leicht. für Plattformen. Staaten wie China oder Ob die EU sich zu einem Verbot von Denn die EU-Gesetzgebung hat die gro- Vietnam hingegen haben solche Dienste Überwachungswerbung durchringen ßen Plattformen so lange unreguliert zwar gut im Griff – aber eben zu gut: Zen- kann, scheint derzeit leider fraglich. Doch wachsen lassen, bis sie zu monopolisti- sur und die Verfolgung regierungskriti- der Schutz der Menschenrechte im digita- schen Torhütern des Internets werden scher Nutzer_innen sind an der Tages- len Zeitalter ist nicht die Aufgabe der be- konnten. Sie diktieren uns nun, unter ordnung. troffenen Internetnutzer_innen, die sich welchen Online-Bedingungen wir unsere Die Aufgabe der EU ist deshalb zu- durch unverständliche und lange AGBs Meinung ausdrücken und uns informie- gleich eine historische Chance. Europa und Datenschutzeinstellungen klicken ren können. kann und muss im vielzitierten »System- müssen, sondern der Politik. Nachhaltige Dass die technologische Entwicklung wettbewerb« einen neuen Weg gehen. Änderungen wird nur ein klares Verbot die gesetzliche Regulierung überholt, ist DSA und DMA könnten dann auch inter- des Geschäftsmodells »Überwachungs- im Zeitalter der Digitalisierung leider national zum Vorbild werden und eine werbung« bringen. Es kann den Zucker- zum Normalzustand geworden. Ob bei Alternative zu Laissez-Faire-Kapitalismus bergs dieser Welt zugemutet werden, ihr staatlicher Überwachung, Künstlicher oder autoritärer Kontrolle aufzeigen. Geld zukünftig auf eine Weise zu verdie- Intelligenz in Waffensystemen oder eben Dafür muss sich die EU an den Men- nen, die die Menschenrechte nicht ver- schenrechten orientieren, denn diese gel- letzt. ◆ ten online ebenso wie offline. Besonders die Rechte auf Meinungs- und Informa- Lena Rohrbach ist Referentin für Menschen- Europa kann und tionsfreiheit, Privatsphäre und der Schutz rechte im digitalen Zeitalter bei Amnesty muss im vielzitierten vor Diskriminierung bedürfen gesetz- International in Deutschland. licher Durchsetzung. Dafür braucht die »Systemwettbewerb« EU eine Portion Optimismus und Mut. einen neuen Weg gehen. So fordern etwa Amnesty Internatio- AMNESTY JOURNAL | 01/2022 21
Sie können auch lesen