Im Netz - Amnesty International

Die Seite wird erstellt Malin Langer
 
WEITER LESEN
Im Netz - Amnesty International
AMNESTY                                                             JOURNAL
MAGAZIN FÜR
MENSCHENRECHTE
01/22
JANUAR / FEBRUAR                                                                         WWW.AMNESTY.DE/JOURNAL

                                              Im Netz
                                              Menschenrechte im digitalen Zeitalter

    Spurensuche im bosnischen Wald                Raubkunst in Museen
    Dragana Vučetić und Ramiz Nukić sammeln       Bénédicte Savoy ist die Seismografin
    Beweise für den Genozid in Srebrenica         des verlorenen Schatzes
Im Netz - Amnesty International
INHALT                                                                                                     Die großen
                                                                12                                         Unbekannten.
                                                                                                           Algorithmen prägen
                                                                                                           unseren Alltag und
                                                                                                           bestimmen unseren
                                                                                                           Blick auf die Welt. Sie
                                                                                                           können Fortschritt
                                                                                                           bewirken, aber auch
                                                                                                           zu Gewalt führen. Nur
                                                                                                           wenn wir ihre Wirkung
                                                                                                           verstehen, können wir
                                                                                                           unsere Rechte im digi-
TITEL: DIGITALE RECHTE                                                                                     talen Raum schützen.

Macht der Algorithmen: Sie sind überall                   12
Gesichtserkennung: Reclaim Your Face!
Überwachungskapitalismus: Wie dich deine Daten verraten 18
                                                          16    Wie im Krimi.
                                                                In Pakistan wurden im                                     22
                                                                Jahr 2017 Menschen-
Online-Monopole: Regulierung von Internetplattformen      21    rechtsverteidiger_innen
                                                                digital angegriffen, um
Angriffe in Pakistan: Digitale Heuschrecken               22    ihre Arbeit zu überwa-
                                                                chen und ihnen zu
Empowerment in Nigeria: Hauptsache gut vernetzt           24    schaden. Amnesty do-
                                                                kumentierte den Fall.
Ethik im Internet: Ungewissheit, Diskriminierung
                                                                Ist er auch Stoff für eine
und geschützte Räume                                      26
                                                                Kriminalerzählung?
                                                                Allerdings.

POLITIK & GESELLSCHAFT
Genozid von Srebrenica: Unterwegs mit Spurensuchern       30
Mapuche in Chile: »Indigene Rechte und viel mehr«         34   44
Krimtataren: 16 Jahre Strafkolonie für nichts             38
Podcasts: Antirassismus auf die Ohren                     42
Gesellschaftlicher Umbruch:
                                                                »Für den Einzelnen, durch den Einzelnen«. Amnesty erhielt den
Was Individualität und Identität verbindet                44    Friedensnobelpreis im Jahr 1977. Ein Jahr, das nach Ansicht von
Graphic Report: Niger – Kinder schützen!                  46    Philipp Sarasin einen gesellschaftspolitischen Epochenwechsel
                                                                markiert. Was das eine mit dem anderen zu tun hat, erklärt
Diskriminierung von Kastenlosen:                                der Schweizer Historiker im Gespräch.
Ein unabänderlicher Status                                50
Ausbeutung in Südkorea: Eine TV-Serie und die Realität    52
                                                                                                        Webfehler im System.

KULTUR
                                                                  56                                    Die Berliner Künstlerin
                                                                                                        Marcela Moraga
                                                                                                        thematisiert seit Jahren
Kunst gegen Ausbeutung in Südamerika: Viel Stoff          56                                            in ihren Arbeiten die
                                                                                                        Ausbeutung von
Koloniale Raubkunst: Bénédicte Savoy forscht in Berlin    60
                                                                                                        Rohstoffen in Südamerika
Fotoprojekt zu HIV: Bilder, die von einer Last befreien   62                                            und den Kampf indigener
                                                                                                        Gemeinschaften gegen
Türkisch-israelischer Pop: Über Grenzen hinweg            64                                            die Zerstörung ihres
                                                                                                        Lebensraums.
Geschichtsbild der Colonia Dignidad: Zwei Blicke zurück   66
Buch über »Drecksarbeit«: Die Kehrseite des Konsums       68
Film »Kabul Kinderheim«: Kino als Ort der Freiheit        70
                                                                        Ein Tropfen Glück.

RUBRIKEN
                                                                Arabesk wird in der Türkei
                                                               ebenso wie in Israel gehört.
                                                                                                                         64
                                                               Was den Fans in beiden Län-
Panorama 04 Einsatz mit Erfolg 08 Spotlight: Klimakrise 36         dern nicht bewusst sein
Was tun 48 Porträt: Hayrigul Niyaz 54 Dranbleiben 55            dürfte: Die Künstler_innen
Rezensionen: Bücher 69 Rezensionen: Film & Musik 71              der orientalisch anmuten-
Briefe gegen das Vergessen 72 Aktiv für Amnesty 74             den Popmusik beeinflussen
Kolumne: Eine Sache noch 75 Impressum 75                                 sich gegenseitig –
                                                                politischen und kulturellen
                                                                    Differenzen zum Trotz.

2 AMNESTY JOURNAL | 01/2022
Im Netz - Amnesty International
16

                                                                                                       EDITORIAL
                                                                                                       GOLD, BRONZE
                                                      Bitte recht freundlich!
                                             Sie stellen zahlreiche Gefahren
                                                für die Menschenrechte dar:

                                                                                                       UND VIEL NEUES
                                    Fragen und Antworten zu biometrischen
                                      Verfahren und zur Gesichtserkennung.

                                                                                                       Zum zwölften Mal wurde der International Creative Media
           Weitersuchen,                                                                               Award (ICMA) vergeben, der zeitgenössisches Grafikdesign
          weiterarbeiten.
  Die forensische Anthro-
                                                                                30                     prämiert. Eingereicht wurden diesmal 406 Arbeiten aus 21
 pologin Dragana Vučetić                                                                               Ländern, und wieder einmal ist das Amnesty Journal unter
       identifiziert im ost-                                                                           den Preisträgern.
     bosnischen Tuzla die
    Toten von Srebrenica.
                                                                                                       Mit Bronze ausgezeichnet wurde unsere
 Der Überlebende Ramiz
    Nukić sammelt in den                                                                               Ausgabe 06/2020 zum Thema »Gutes selbst
   Wäldern Knochen von                                                                                 gemacht – Engagement im Corona-Jahr«. Die
 Ermordeten. Ihre Arbeit
                                                                                                       Titelseite zeigte eine Werkzeugwand mit aller-
ist wichtig für die Aufklä-
       rung des Genozids.                                                                              lei Dingen, die man für humanitäre Hilfe und
                                                                                                       Menschenrechtsaktivismus benötigt. Entstan-
                                                                                                       den war die Ausgabe in Zusammenarbeit mit den Amnesty-
                                                               Raue Realität.
  52                                                           Die Netflix-Serie
                                                               »Squid Game« er-
                                                                                                       Magazinen aus Österreich und der Schweiz. Der Glück-
                                                                                                       wunsch geht also nicht nur an die Illustratorin Anna Gusella,
                                                               fährt international
                                                                                                       sondern auch an Amnesty in unseren Nachbarländern!
                                                               enorme Resonanz.
                                                               Sie spiegelt die
                                                               Situation von Be-
                                                                                                       Noch mehr freut uns die ICMA-Auszeichnung
                                                               schäftigten und                         in Gold für die Gestaltung unseres Schwer-
                                                               Gewerkschafte-                          punkts zum Thema Corona in der Ausgabe
                                                               r_innen in Süd-
                                                                                                       02/2021. Lea Berndorfers Illustrationen beglei-
                                                               korea wider, wenn
                                                               auch überzeichnet.                      teten die Titelgeschichte »Gesundheit für alle
                                                                                                       – Medizinische Versorgung ohne Privilegien«.
                                                                                                       Ihr gilt diese Auszeichnung ebenso wie unserem Layouter
                                                                                                       Heiko von Schrenk.
  Seismografin des
  verlorenen Schatzes.                                                          60                     Damit wir auch im nächsten Jahr wieder Preise abräumen
  Die französische Wis-
  senschaftlerin Béné-                                                                                 können, haben wir uns einige Neuerungen einfallen lassen.
  dicte Savoy fordert die                                                                              Aufmerksame Leser_innen werden in dieser Ausgabe neue
  Rückgabe geraubter
                                                                                                       Schrifttypen, neue journalistische Formate und auch die
  kolonialer Kulturgüter
  und eine transnationa-                                                                               eine oder andere Umstellung entdecken. So sollen am An-
  le Forschungszusam-                                                                                  fang des Heftes Fotos besser zur Geltung kommen und der
  menarbeit mit den                                                                                    Generalsekretär von Amnesty International Deutschland,
  Herkunftsländern.
                                                                                                       Markus N. Beeko, hat ab sofort das letzte Wort. Oder, um es
                                                                                                       in seinen Worten zu sagen: Er möchte »eine Sache noch«
                                                                                                       anmerken. Wir sind gespannt, wie Ihnen die Neuerungen
                                                                                                       gefallen, und wünschen ein schönes Jahr 2022.

                                                                                                                       Maik Söhler
                                    Unser Titelbild                                                                    ist verantwortlicher Redakteur
                                    wurde gezeichnet                                                                   des Amnesty Journals.
                                    von Lennart Gäbel.                                                                 Foto: Gordon Welters

Fotos oben: Stephen Shaver / Polaris / laif | Michal Fludra / NurPhoto / pa | imago images / UIG | Jasmin Brutus
Andreas Pein / laif | Noh Juhan / Netflix | Marcela Moraga | Peter Rigaud / laif | Esra Özdoğan                                                AMNESTY JOURNAL | 01/2022 3
Im Netz - Amnesty International
PANORAMA

   BEI MINUSGRADEN AN
     DER BELARUSSISCH-
    POLNISCHEN GRENZE
        Wochenlang spitzte sich die
 humanitäre Lage an der Grenze
  zwischen Belarus und Polen zu:
          Bei eisigen Temperaturen
   campierten dort im November
     Männer, Frauen und Kinder in
      provisorischen Lagern (Foto).
  Viele von ihnen waren Kurd_in-
nen aus dem Nordirak. Polnische
Grenzbeamte gingen mit Gewalt,
  Tränengas, Wasserwerfern und
     illegalen Pushbacks gegen die
    Flüchtlinge vor. Mehrere Men-
  schen starben. Ende November
         wurden die Lager geräumt.
   Im Dezember hielten sich nach
  Medienangaben noch mehr als
     tausend Flüchtlinge in Belarus
         auf. Die EU wirft Präsident
    Alexander Lukaschenko vor, er
  habe die Flüchtlinge mit einem
 Touristenvisum einreisen lassen
und ihnen in Aussicht gestellt, sie
   könnten von Belarus aus in die
         EU gelangen, um auf diese
   Weise Vergeltung für EU-Sank-
    tionen zu üben. Amnesty kriti-
 sierte sowohl die Misshandlung
     und Instrumentalisierung von
     Flüchtlingen durch Belarus als
 auch die EU-Politik. »Einige Län-
  der missbrauchen die Situation
als Vorwand, um den Schutz von
      Asylsuchenden zu schwächen
      und ihre migrationsfeindliche
   Agenda durchzusetzen«, sagte
 Franziska Vilmar, Fachreferentin
        für Asyl von Amnesty Inter-
           national in Deutschland.
       Foto: Leonid Shcheglov / BelTA / AP / pa

4 AMNESTY JOURNAL | 01/2022
Im Netz - Amnesty International
AMNESTY JOURNAL | 01/2022 5
Im Netz - Amnesty International
KRITIK AN KATAR NIMMT ZU
Ein knappes Jahr vor dem Anpfiff der Fußball-Weltmeisterschaft in Katar wird auch in
Deutschland die Kritik an der Menschenrechtssituation in dem Golfstaat wieder lauter.
Auf der Jahreshauptversammlung des FC Bayern München kam es zu lautstarken Protesten
gegen das Katar-Sponsoring des deutschen Fußballklubs. Auch Amnesty International
kritisiert in einem neuen Bericht, dass Reformen in Katar nur unzureichend umgesetzt
werden und menschenrechtswidrige Praktiken fortbestehen. Amnesty fordert von Katar,
das Kafala-System vollständig abzuschaffen, das Arbeitgeber_innen unverhältnismäßig
weitreichende Befugnisse einräumt, und Arbeitsmigrant_innen (im Bild) besser zu schützen.
Katja Müller-Fahlbusch, Amnesty-Expertin für den Nahen Osten und Nordafrika, sagte:
»Jede_r Arbeitsmigrant_in hat ein Recht darauf, bei der Arbeit fair behandelt zu werden
und Gerechtigkeit und Entschädigung zu erhalten, wenn Rechte missachtet werden.«
Foto: Hamad I Mohammed / Reuters
                                                          Den vollständigen
                                                             Bericht finden
                                                                    Sie hier:

6 AMNESTY JOURNAL | 01/2022
Im Netz - Amnesty International
PUTSCHVERSUCH UND PROTEST IM SUDAN
Auch zwei Monate nach dem Putschversuch des Militärs brodelt es im Sudan. Ende
Oktober 2021 hatten Sicherheitskräfte in der Hauptstadt Khartum Premierminister
Abdalla Hamdok und zahlreiche weitere zivile Regierungsangehörige festgenommen.
Dem Putschversuch gingen Spannungen zwischen zivilen Mitgliedern und Armeevertretern
in der gemeinsamen Übergangsregierung voraus. Die Zivilbevölkerung setzte sich zur Wehr
(im Bild: Demonstrantinnen Ende Oktober in Khartum). Bei den Protesten gab es Tote und
Verletzte. Die Demonstrationen dauern an, obwohl die Militärs Hamdok Ende November
wieder als Premierminister einsetzten. Teile der Protestbewegung fordern eine Übergangs-
regierung ohne Militärbeteiligung. »Die sudanesische Bevölkerung hat das Recht auf fried-
lichen Protest, auf Freiheit und Sicherheit, auf ein faires Gerichtsverfahren und auf vieles
mehr, was das Militär nicht untergraben darf«, sagte Sarah Jackson, stellvertretende
Regionaldirektorin für Ostafrika von Amnesty International.
Foto: Marwan Ali / AP / pa

                                                                AMNESTY JOURNAL | 01/2022 7
Im Netz - Amnesty International
EINSATZ MIT ERFOLG                                                                                      SCHWEIZ
                                                                                                        Das Schweizer Parlament hat im Oktober eine
Weltweit beteiligen sich Tausende Menschen an den                                                       wichtige Entscheidung getroffen, was den Waf-
»Urgent Actions«, den »Briefen gegen das Vergessen« und                                                 fenexport betrifft. In Zukunft ist es verboten,
an Unterschriftenaktionen von Amnesty International. Dass dieser                                        Waffen in Länder zu exportieren, die die Men-
Einsatz Folter verhindert, die Freilassung Gefangener bewirkt und                                       schenrechte schwerwiegend und systematisch
Menschen vor unfairen Prozessen schützt, zeigt unsere Weltkarte.                                        verletzen oder in einen Bürgerkrieg verwickelt
Siehe auch: www.amnesty.de/erfolge                                                                      sind. Nach dem Ständerat, der bereits im Juni
                                                                                                        aktiv geworden war, stimmte nun der National-
                                                                                                        rat einer Regelung zu, die nicht wie bisher unter
                                                                                                        Berufung auf eine Ausnahme umgangen wer-
                                                                                                        den kann. Amnesty International hatte seit
                                                                                                        vielen Jahren Regeln gefordert, die verhindern,
                                                                                                        dass Schweizer Waffen an Staaten geliefert
                                                                                                        werden können, die die Menschenrechte miss-
                                                                                                        achten. Amnesty begrüßte die Entscheidung
                                                                                                        und die damit geschaffene Basis für eine wirk-
                                                                                                        samere Exportkontrolle.

KANADA
Ein kanadischer Richter hat am 17. November
2021 die Abschiebung von Mamadou Konaté
verhindert. Der Richter setzte die für den 19. No-                                                      SAUDI-ARABIEN
vember geplante Abschiebung aus – bis zum            GUINEA                                             Ali al-Nimr, der als Teenager festgenommen
Abschluss von Konatés Asylverfahren. Er kann         Am 7. September wurde Oumar Sylla aus dem          und nach einem unfairen Verfahren zum Tode
zunächst in Kanada bleiben, es besteht aber die      Gefängnis freigelassen. Im Zuge des Militär-       verurteilt worden war, kam am 27. Oktober 2021
Gefahr einer Abschiebung zu einem späteren           putschs am 5. September 2021 hatten die neuen      aus der Haft frei. Ali al-Nimr war 17 Jahre alt, als
Zeitpunkt. Konaté ist Bürger der Elfenbeinküste,     Machthaber_innen die Generalstaatsanwalt-          man ihn im Februar 2012 festnahm. Er gehört
lebt seit sechs Jahren in Kanada und arbeitete       schaft angewiesen, seine Freilassung zu veran-     der schiitischen Minderheit an und hatte für
dort während der Corona-Pandemie als Haus-           lassen. Der Demokratieaktivist, auch bekannt       gleiche Rechte und Freiheiten in Saudi-Arabien
meister in Gesundheitseinrichtungen. Er hatte        als Foniké Mengué, war am 29. September 2020       demonstriert. Nach seiner Festnahme war er
sich am Arbeitsplatz mit Covid-19 infiziert. 2020    in der guineischen Hauptstadt Conakry festge-      von Sicherheitsbeamten gefoltert und gezwun-
hatten die Regierungen Kanadas und der kana-         nommen und inhaftiert worden, während er           gen worden, ein »Geständnis« zu unterschrei-
dischen Provinz Quebec Programme gestartet,          friedlich gegen die neuerliche Kandidatur des      ben. Ein auf »Terrorismus« spezialisiertes
um Asylsuchenden, die während der Pandemie           Präsidenten Alpha Condé für die bevorstehende      Sonderstrafgericht verurteilte ihn im Mai 2014
im Gesundheitswesen arbeiteten, eine dauer-          Wahl protestierte. Am 10. Juni 2021 verurteilte    zum Tode. Im Rahmen einer weltweiten Kam-
hafte Aufenthaltsgenehmigung zu gewähren.            ihn ein Gericht zu drei Jahren Gefängnis. In der   pagne riefen Hunderttausende Unterstützer_in-
Mamadou Konaté bedankte sich bei Amnesty             Haft verschlechterte sich sein Gesundheitszu-      nen von Amnesty International die saudischen
für die Unterstützung.                               stand so stark, dass er mehrfach in ein Kranken-   Behörden dazu auf, Al-Nimr freizulassen. Im
                                                     haus eingeliefert werden musste. Nach der Frei-    Februar 2021 wandelte das Sonderstrafgericht
                                                     lassung dankte Oumar Sylla Amnesty Interna-        das Todesurteil zunächst in eine zehnjährige
8 AMNESTY JOURNAL | 01/2022                          tional für die Unterstützung.                      Haftstrafe um, nun folgte die Freilassung.
Im Netz - Amnesty International
LIBANON                                                                       BRIEFE GEGEN
Die syrischen Geflüchteten Ahmad Al Waked,                                    DAS VERGESSEN – UPDATES
Tarek Al A’lo und Fares Al Zo’bi sind seit Oktober
frei. Die drei Männer waren im September am                                   Mit den Briefen gegen das Vergessen (siehe Seite 72)
internationalen Flughafen von Beirut wegen                                    können sich alle gegen Unrecht stark machen – allein
»illegaler Einreise« festgenommen worden                                      zu Hause oder gemeinsam mit anderen. In jedem
und befanden sich seither ohne Kontakt zur                                    Amnesty Journal rufen wir dazu auf, an Regierungen
Außenwelt in Haft. Zeitweise drohte ihnen die                                 oder andere Verantwortliche zu schreiben und sich für
Abschiebung nach Syrien. Nachdem ein Men-                                     Betroffene von Menschenrechtsverletzungen einzu-
schenrechtsanwalt und Amnesty International                                   setzen. Was aus ihnen geworden ist, erfahren Sie hier.
anhaltend Druck auf die libanesischen Behör-
den ausgeübt hatten, erhielten Ahmad Al
Waked, Tarek Al A’lo und Fares Al Zo’bi ihre                                  UKRAINE
Pässe zurück und können in einem Drittland                                                       In der Ukraine gibt es seit Juli eine
Asyl beantragen. Der Menschenrechtsanwalt                                                        Gesetzesänderung: Täter häuslicher

                                                      Foto: Amnesty Ukraine
bestätigte, dass die Arbeit von Amnesty zur                                                      Gewalt müssen nun Geldstrafen be-
Freilassung der Geflüchteten beigetragen und                                                     zahlen oder gemeinnützige Arbeit
sie vor der Abschiebung nach Syrien bewahrt                                                      verrichten. Bei einem wiederholten
habe.                                                                                            Verstoß verschärft sich die Strafe. Für
                                                                                                 Angehörige von Militär und Polizei
                                                                              galten bisher nur interne Disziplinarvorschriften, künftig
                                                                              sind auch sie nach dem allgemeinen Verfahren für Ge-
                                                                              walttaten haftbar. Amnesty bewertet die Gesetzesre-
                                                                              form als großen Erfolg, über den sich auch Oksana
                                                                              Mamchenko freuen dürfte. Sie und ihre Kinder waren
                                                                              20 Jahre lang häuslicher Gewalt ausgesetzt; zudem
                                                                              nahm der zuständige Polizeibeamte den Täter systema-
                                                                              tisch in Schutz, sodass es lange nicht einmal zu einer
                                                                              Anzeige kam. Erst als er mit eigenen Augen sah, wie ihr
                                                                              Mann sie schlug, nahm der Polizist Oksana Mamchenko
                                                                              ernst. Die Aktivistin setzt sich zusammen mit vielen an-
                                                                              deren dafür ein, dass die Ukraine ein Land wird, in dem
                                                                              Menschen frei von häuslicher Gewalt leben können.
                                                                              (April 2021)

                                                                              ALGERIEN
                                                                                                 Der algerische Journalist Khaled
                                                                                                 Drareni ist im März nach einem Jahr
                                                                                                 Haft freigekommen. Die Anklage ge-
                                                                                                 gen ihn wurde allerdings nicht fallen
INDONESIEN
                                                      Foto: privat

                                                                                                 gelassen. Der Journalist war im März
Saiful Mahdi wurde am 13. Oktober freigelassen.                                                  2020 bei einer Demonstration fest-
Der Hochschuldozent hatte eine WhatsApp-                                                         genommen und kurz darauf wegen
Nachricht gesendet, in der er das Prüfungsver-                                »Gefährdung der nationalen Einheit« und »illegaler
fahren einer Universität kritisiert hatte. Im April                           Versammlung« zu zwei Jahren Haft verurteilt worden.
2020 war er wegen »Verleumdung« zu einer                                      Khaled Drareni wird allein wegen seiner journalisti-
Haftstrafe und einer Geldstrafe von zehn Millio-                              schen Arbeit verfolgt. 2019 hatte er über landesweite
nen Rupiah (umgerechnet etwa 600 Euro) ver-                                   Proteste gegen die algerische Regierung und die Hirak-
urteilt worden, obwohl er nur sein Recht auf                                  Bewegung berichtet, die sich für Freiheit und ein Ende
Meinungsfreiheit ausgeübt hatte. Nach einem                                   der Repression im Land einsetzt. So geriet er ins Visier
Amnestiebeschluss im Oktober wurden alle                                      der Behörden und wurde wiederholt inhaftiert. Amnes-
Anklagen gegen Mahdi fallen gelassen. Auch                                    ty hatte sich im Rahmen des Briefmarathons und der
Syamsul und Samsir Bahri aus der Provinz                                      Briefe gegen das Vergessen für Drarenis Freilassung
Nordsumatra droht keine Haft mehr. Ein Beru-                                  eingesetzt. Unterstützer_innen verschickten zahlreiche
fungsgericht bestätigte im Oktober die Ent-                                   E-Mails und Briefe. Amnesty fordert weiterhin, dass
scheidung einer unteren Instanz, sie lediglich                                alle Anklagen gegen ihn fallen gelassen werden.
auf Bewährung zu verurteilen. Die beiden Um-                                  (Januar 2021)
weltaktivisten, bei denen es sich um Vater und
Sohn handelt, waren im Februar der Körper-
verletzung beschuldigt und in Gewahrsam ge-
nommen worden. Die Anschuldigungen waren
offenbar konstruiert und richteten sich gegen
ihr politisches Engagement.                                                                                AMNESTY JOURNAL | 01/2022 9
Im Netz - Amnesty International
TITEL

Illustration:
Lennart Gäbel

10 AMNESTY JOURNAL | 01/2022
Digitale Rechte
         Gesichtserkennung und biometrische Verfahren
     gefährden Grund- und Freiheitsrechte. Algorithmen
           sorgen für systematische Diskriminierung und
institutionellen Rassismus. Unsere Daten werden längst
       wie ein Rohstoff vermarktet. Willkommen im Netz
  der personalisierten Werbung und der Überwachung,
            wo sich Konzerne Monopole errichtet haben,
                     denen Mensch und Gesetz egal sind.
            Und willkommen im Netz der Möglichkeiten,
            wo schnellere Kommunikation, freies Wissen
              und digitales Empowerment zu Hause sind.
      Wo und wie auch immer wir uns im Netz bewegen,
             starke digitale Rechte müssen dazugehören.

                                         AMNESTY JOURNAL | 01/2022 11
12 AMNESTY JOURNAL | 01/2022
DIGITALE RECHTE
                                                                                        MACHT DER ALGORITHMEN

Die großen
Unbekannten
Algorithmen prägen unseren Alltag und bestimmen unseren Blick auf die Welt.
Sie können Fortschritt bewirken, aber auch zu Gewalt führen. Nur wenn wir ihre
Wirkung verstehen, können wir unsere Rechte im digitalen Raum schützen.
Von Julia Lauter

S
           ie bekommen einen Brief. Das           Dabei wurde schon eine nicht-nieder-        ditunwürdig bewertet werden oder dass
           Finanzamt schreibt Ihnen, sie      ländische Staatsbürgerschaft als Risiko-        wir höhere Versicherungsprämien zahlen
           hätten sich Geld vom Staat         faktor gewertet. Den Beamt_innen, die           müssen oder, wie in den Niederlanden, zu
           erschlichen und müssten Zehn-      die Profile sichteten, reichten schon kleins-   Unrecht beschuldigt werden.
           tausende Euro zurückzahlen.        te Ungereimtheiten, um den Betroffenen
Am Anfang glauben Sie noch an ein Miss-       die Zuschüsse zu streichen und Geld zu-         »Astronomische Gewinne«
verständnis. Sie sind sich sicher, dass Sie   rückzufordern. Eine algorithmische Ent-         Beide Seiten – die personalisierte Nut-
nichts falsch gemacht haben. Aber nie-        scheidung bewirkte institutionellen Ras-        zung digitaler Dienste und die Preisgabe
mand glaubt Ihnen. Ihr Lohn wird ge-          sismus und sorgte für einen politischen         sensibler Daten – sind untrennbar mit-
pfändet. Sie müssen einen Kredit aufneh-      Skandal. In der Folge trat im Januar 2021       einander verbunden. Algorithmische Ent-
men. Sie fallen in ein tiefes Loch, ver-      die gesamte niederländische Regierung           scheidungen durchdringen und prägen
nachlässigen den Haushalt und die             zurück.                                         unseren Alltag, ohne dass wir deren Me-
Erziehung Ihres Kindes. Ihnen wird das            Der Vorfall in den Niederlanden ist         chanismen nachvollziehen können. Nur
Sorgerecht entzogen. Sie sind am Ende.        nur eines von vielen Beispielen dafür,          die Firmen und Institutionen, die sie ent-
Und das alles, weil ein Algorithmus Sie       wie unser Leben von halb- oder vollauto-        wickeln und mit ihnen arbeiten, wissen,
fälschlicherweise als Sozialbetrüger_in       matisierten Entscheidungen auf Grund-           wie die Entscheidungen getroffen wer-
eingestuft hat.                               lage unserer persönlichen Daten ab-             den, welche Faktoren eine Rolle spielen
    Was wie der Beginn eines Science-         hängt. Die meiste Zeit über wirken unse-        und welche nicht. Algorithmen sind die
Fiction-Dramas klingt, geschah in den         re Begegnungen mit algorithmischen              großen Unbekannten in unserem Alltag.
Niederlanden: Zwischen 2013 und 2019          Entscheidungen unauffällig: In digitalen        Und sie können eine Gefahr für unsere
wurden dort rund 20.000 Eltern bezich-        Netzwerken bestimmen sie, welche Bei-           Rechte sein.
tigt, den Staat um Zuschüsse zur Kinder-      träge wir sehen. Sie entscheiden, welche            »Ich bin Facebook beigetreten, weil
betreuung betrogen zu haben. Grund            Ergebnisse Suchmaschinen anzeigen und           ich glaubte, dass es das Potenzial hat, das
dafür war ein algorithmisches Entschei-       welche Werbeangebote uns unterbreitet           Beste in uns hervorzubringen. Aber ich
dungssystem, das Risikoprofile von An-        werden.                                         bin heute hier, weil ich glaube, dass die
tragsteller_innen anlegte.                        Dieses »Profiling«, bei dem personen-       Produkte von Facebook Kindern schaden,
                                              bezogene Daten automatisiert ausgewer-          Spaltung schüren und unsere Demokratie
                                              tet werden, kann dazu beitragen, dass uns       schwächen.« Mit diesen Worten eröffnete
Algorithmen steuern und stapeln mit:          genau jene Lampe zum Kauf vorgeschla-
Containerhafen in Qingdao, China, 2019.       gen wird, die wir gerade suchen. Aber es
Foto: Stephen Shaver / Polaris / laif         kann auch dazu führen, dass wir als kre-                       AMNESTY JOURNAL | 01/2022 13
Frances Haugen im Oktober 2021 ihre
Aussage vor dem US-Senat.
                                               Das führe dazu, dass die Plattform Ver-
                                               ständnis und Entgegenkommen untergra-
                                                                                                        »Wir brauchen
     Die frühere Facebook-Managerin war        be und damit die Grundlage der Demokra-          Regulierungen für den
gekommen, um gegen ihren ehemaligen            tie angreife. Facebook weist die Vorwürfe               Einsatz von KI.«
Arbeitgeber auszusagen. »Das Unterneh-         zurück. Der Konzern benannte sich kurz
men weiß, wie man Facebook und Insta-          darauf in »Meta« um und stellte mit dem          Merel Koning, Amnesty
gram sicherer machen kann, will aber die       »Metaverse« eine Plattform für virtuelle
notwendigen Änderungen nicht vorneh-           Realität vor, auf der Nutzer_innen als Ava-
men, weil es seine astronomischen Ge-          tare interagieren können. Man könnte          Daten gesammelt, gespeichert, geteilt
winne über die Menschen stellt.« Und das       auch sagen: Statt Aufklärung bietet Face-     und verwendet werden, zu schließen,
ist gefährlich, weil Plattformen wie Face-     book eine alternative Wirklichkeit an.        erklärte Bachelet. Das Risiko der Diskri-
book, Instagram und Twitter eine enorme                                                      minierung im Zusammenhang mit KI-
Informationsmacht haben.                       Selbstlernende Algorithmen                    Entscheidungen sei sehr real. Sie forderte
     Die jüngsten Veröffentlichungen über      Natürlich erzeugen digitale Plattformen       ein Moratorium für den Einsatz besonders
Facebook zeichnen das Bild eines Unter-        und ihre Algorithmen nicht nur Diskri-        risikoreicher KI-Anwendungen.
nehmens, das um jeden Preis die Nut-           minierung, Hass und Gewalt. In der An-            Die Frage ist, wie das konkret ausse-
zer_innen auf seinen Plattformen halten        wendung von Künstlicher Intelligenz (KI)      hen könnte. Den meisten Nutzer_innen
will – und dafür die Sicherheit ganzer Ge-     steckt auch ein großer Nutzen für die         ist klar, dass der Reichtum und die Macht
sellschaften aufs Spiel setzt. In Myanmar      Menschheit. Unter diesem nicht trenn-         von Konzernen wie Facebook und Google
hatten Analysen bereits 2018 gezeigt, dass     scharfen Begriff werden allgemein Profi-      auf ihren persönlichen Daten basiert. Em-
Hassreden und Falschinformationen auf          ling, automatisierte Entscheidungen und       pörung gab es viel, aber kaum praktikable
Facebook mit Angriffen auf Angehörige          Technologien des Maschinellen Lernens         Gegenvorschläge. Doch nun kommt Be-
der Rohingya einhergingen: Die Inhalte         zusammengefasst – Anwendungen also,           wegung in die festgefahrene Situation.
der Plattform führten zu Gewalt in der         bei denen Maschinen komplexe Kombi-               Im Dezember 2020 stellte die EU-
realen Welt, Zehntausende Menschen             nationsleistungen erbringen.                  Kommission ein Maßnahmenpaket vor,
starben bei der gewaltsamen Vertreibung,           Selbstlernende Algorithmen lassen         das den rechtlichen Rahmen für Online-
750.000 verloren ihre Heimat.                  PKWs automatisiert fahren oder überset-       Plattformen und den Umgang mit Digi-
     Auch in Sri Lanka und Indien verbrei-     zen Texte in Sekundenschnelle. Man kann       talkonzernen regeln sollte, den Digital
teten sich in den vergangenen Jahren           mit ihnen Bilder und Videos aus Kriegs-       Services Act und den Digital Markets Act.
gewaltverherrlichende und hasserfüllte         gebieten auswerten und Rechtsverstöße         Bei der Vorstellung verglich die zuständi-
Inhalte wie Lauffeuer. In Äthiopien, wo        dokumentieren; Software hilft Medizi-         ge Kommissionsvizepräsidentin Margre-
ein bewaffneter Konflikt zwischen der          ner_innen bei der Verschreibung des pas-      the Vestager das Vorhaben mit dem Auf-
Zentralregierung und der Tigray People’s       senden Antibiotikums oder berät Land-         stellen der ersten Ampel. Mit zunehmen-
Liberation Front ausgebrochen ist, führ-       wirt_innen bei der Auswahl des Saatgutes      dem »Verkehr« im digitalen Raum müsse
ten Falschmeldungen und Hassreden zu           oder des optimalen Erntezeitpunktes.          die Politik nun Ordnung ins Chaos brin-
ethnischer Gewalt mit vielen Toten.                Während der Covid-Pandemie helfen         gen.
     Die Whistleblowerin Haugen bestätig-      weltweit Kontaktverfolgungssysteme bei            Zum einen sollen Plattformen wie
te in ihrer Aussage vor dem US-Senat und       der Eindämmung der Gesundheitskrise,          Facebook illegale Inhalte schneller lö-
zuletzt auch vor dem EU-Parlament, dass        indem sie aus unterschiedlichen Daten         schen, den Nutzer_innen die Möglichkeit
Facebook weiß, dass seine Darstellung          digitale Netze erzeugen, die potenzielle      für rechtlichen Einspruch geben, Wer-
von Inhalten gefährlich ist. Zwar versuche     Infektionen erkennen und die Gesund-          bung unmissverständlich kennzeichnen
das Netzwerk, problematische Inhalte von       heitssysteme vor Überlastung schützten.       sowie die Funktion ihrer Algorithmen
der Plattform zu entfernen. Doch ohne          So hilfreich diese Systeme sind, sie zeigen   verständlich machen. Zum anderen soll
durchschlagenden Erfolg, wie Haugen            auch, warum diese Techniken, wenn             die Vormachtstellung der Monopolisten
erklärte: »Die Algorithmen sind nicht ef-      überhaupt, nur unter strengen Auflagen        Google, Apple, Facebook, Amazon und
fektiv und filtern maximal zehn Prozent        eingesetzt werden sollten. Denn sie grei-     Microsoft fallen: Vorinstallierte Anwen-
der problematischen Beiträge heraus.«          fen in unser Recht auf Privatsphäre, Ge-      dungen und Programme sollen verboten
     Zudem flössen 87 Prozent des Bud-         sundheit, Bildung, Freizügigkeit, Ver-        werden, die eigenen Dienste bei Suchab-
gets, das Facebook für die Klassifizierung     sammlungs-, Vereinigungs- und Mei-            fragen nicht mehr bevorzugt präsentiert
von Fehlinformationen aufwende, in den         nungsfreiheit ein.                            und Daten verschiedener Portale eines
Schutz des US-Marktes, während nur 13              »Im besten Fall wird die digitale Revo-   Anbieters nicht ohne Zustimmung der
Prozent für den Rest der Welt vorgesehen       lution die Menschen befähigen, verbin-        Nutzer_innen zusammengeführt werden
sind. Und das, obwohl die nordamerikani-       den, informieren und Leben retten. Im         dürfen.
schen Nutzer_innen nur zehn Prozent der        schlimmsten Fall wird sie entmachten,             So ambitioniert das Vorhaben ist, so
täglich aktiven Nutzer_innen des Online-       trennen, fehlinformieren und Leben kos-       wenig greifbar ist die Umsetzung bisher:
Netzwerks ausmachten.                          ten«, sagte Michelle Bachelet, UN-Hoch-       Was genau sollen die Konzerne offenlegen
     »Eine aggressive, hasserfüllte, kontro-   kommissarin für Menschenrechte, bei           müssen? Welche Behörden kontrollieren
verse politische Kampagne zu fahren, ist       der Vorstellung ihres Berichts über Risi-     die Regeln? Und: Was ändert es, wenn die
fünf- bis zehnmal billiger als eine, die mit   ken der Künstlichen Intelligenz im Sep-       Nutzer_innen zwar die Algorithmen der
Empathie und Mitgefühl zu tun hat«, sagte      tember 2021. Angesichts des schnellen         Plattformen kennen, es aber keine ver-
Frances Haugen vor dem EU-Parlament.           und kontinuierlichen Wachstums der            gleichbaren Alternativen gibt, die ihre
                                               KI-Anwendungen sei es eine drängende          Rechte besser schützen? Hören wir tat-
                                               Menschenrechtsfrage, die immense Lücke        sächlich auf zu »googeln«, wenn der Kon-
14 AMNESTY JOURNAL | 01/2022                   in der Rechenschaftspflicht darüber, wie      zern sein Geschäftsgebaren offenlegt oder
Protest gegen Rassismus, der auf algorithmische Entscheidungssysteme
im Sozialsystem zurückgeht. Amsterdam, Mai 2021.
Foto: Romy Arroyo Fernandez / NurPhoto / pa

wird das nur ein weiteres Kästchen sein,        die als besonders risikoträchtig klassifi-   wie mit den erstellten Profilen umgegan-
das wir in Zukunft mit schlechtem Gewis-        ziert werden, sollen zwar »hinreichend       gen werden soll«, sagt Koning. »Dabei ist
sen vor der Nutzung wegklicken?                 transparent« entwickelt werden; was als      doch eine der wichtigsten Säulen unserer
                                                transparent gilt, bleibt aber schwammig.     freien Gesellschaft, dass man nicht un-
Viele Leerstellen                               Auch können Designer_innen, Entwick-         schuldig verurteilt wird.«
Im April 2021 schlug die EU-Kommission          ler_innen und Nutzer_innen von KI-Sys-           Was derzeit in Brüssel diskutiert
darüber hinaus den Artifical Intelligence       temen weiterhin nicht für ihre Produkte      wird, ist eine Chance – darauf, dass un-
Act (AIA) vor, der schädliche Folgen auto-      zur Rechenschaft gezogen werden. Außer-      sere Rechte in Zukunft nicht noch weiter
matisierter Entscheidungsalgorithmen            dem enthält der Vorschlag kein Verbot        von intransparenten technischen Anwen-
verhindern soll. Danach sollen KI-Anwen-        des Einsatzes von selbstlernenden Algo-      dungen beschnitten werden. Doch um
dungen nach den von ihnen ausgehen-             rithmen im öffentlichen Sektor.              sie nutzen zu können, müssen die Bür-
den Risiken klassifiziert und entspre-              Besonders für die »präventive Verbre-    ger_innen begreifen, was auf dem Spiel
chend stärker überwacht und reguliert           chensbekämpfung« – wenn die Polizei          steht. Nur wer sich die Einschränkungen
werden. Doch auch dieser Vorstoß habe           auf Grundlage von Daten die Wahrschein-      bewusst macht, wird dagegen seine
viele legale Leerstellen, erklärt Merel Ko-     lichkeit errechnet, mit der Menschen die     Stimme erheben und die politisch Ver-
ning vom Tech-Team von Amnesty Inter-           nächsten Straftäter_innen oder ein Ort       antwortlichen zum Handeln bewegen
national: »Es ist gut, dass die EU diese        der nächste Tatort ist – sind in dem Vor-    können. ◆
Rolle einnimmt. Wir brauchen dringend           schlag großzügige Ausnahmen vermerkt,
Regulierungen für den Einsatz von Künst-        wie Koning kritisiert.                       Diesen Artikel können Sie sich
licher Intelligenz«, sagt die Anwältin.             Ihrer Meinung nach sollten diese         in unserer Tablet-App vorlesen lassen:
»Doch leider sind die vorgeschlagenen           staatlichen KI-Anwendungen strenger          www.amnesty.de/app
Regeln nicht annähernd da, wo sie sein          reguliert werden. »Die Programme, die in
sollten – es fehlt ihnen an Menschen-           den Niederlanden und ganz Europa zur                         Amnesty-Bericht
rechtsgarantien.«                               präventiven Verbrechensbekämpfung                              zum Thema:
    Auch der AIA-Vorschlag krankt daran,        laufen, sind beängstigend. Sie werden
dass nicht klar ist, wer die Umsetzung          sehr schnell eingeführt, es gibt keine Si-
überwacht und beaufsichtigt. KI-Systeme,        cherheitsvorkehrungen und keine Regeln,                       AMNESTY JOURNAL | 01/2022 15
DIGITALE RECHTE
GESICHTSERKENNUNG

                                               Bitte recht
                                              freundlich!
                                          Sie stellen zahlreiche Gefah
                                                                       ren für die Menschenrecht
                                               Fragen und Antworten zu                            e dar:
                                                                         biometrischen Verfahren
                                                       zur Gesichtserkennung . Vo                   und
                                                                                   n Ingrid Bausch-Gall

Wie funktioniert Gesichtserkennung?           Was haben biometrische Verfahren und        sie zu ihrer Teilnahme an einer Demons-
Gesichtserkennung dient meist zur Iden-       Gesichtserkennung gemeinsam, was            tration am 21. April für Alexej Nawalny
tifizierung von Personen. Anhand be-          unterscheidet sie?                          befragt. Bei der Demonstration wurden
stimmter Merkmale des Gesichts kann           Methoden der Gesichtserkennung ge-          Teilnehmende gefilmt und diese Filme
eine Person ausgemacht werden. Dabei          hören zur Erfassung und Auswertung          anschließend mit Gesichtserkennungs-
wird ein Bild des Gesichts mit Bildern in     biometrischer Daten. Zusätzlich zur         methoden ausgewertet. So lässt sich sehr
einer Datenbank verglichen. So soll festge-   Gesichtserkennung erfassen umfassen-        schnell feststellen, wer wann wo war und
stellt werden, ob die Person bereits in der   dere biometrische Methoden geometri-        mit wem er oder sie gesprochen hat. Die
Datenbank erfasst ist. Die verwendeten        sche Daten über Körperbau oder Bewe-        Journalisten wurden als Teilnehmende
Datenbanken enthalten meist Millionen         gungsmuster von Personen. Diese Metho-      an der Demonstration identifiziert. Alle
von Gesichtsbildern, die entweder von         den liefern exaktere Ergebnisse als die     waren als Journalisten akkreditiert.
Melde- und Strafverfolgungsbehörden           Gesichtserkennung und lassen sich auch      Dennoch drohen ihnen nun Gefängnis-
stammen oder von Homepages, Facebook          dann anwenden, wenn eine Person ver-        strafen.
oder anderen öffentlich zugänglichen          mummt ist oder das Gesicht wegdreht.            Immer mehr Länder nutzen Gesichts-
Quellen kopiert wurden, zumeist ohne                                                      erkennung zur Überwachung des öffent-
Zustimmung der betreffenden Personen.         Gibt es aktuelle Beispiele dafür, wo Ge-    lichen Raums. Diese Technologie wird
Bereits die Erstellung der Datenbanken        sichtserkennung angewandt wird?             von der Polizei und von privaten Firmen
verletzt oft das Recht auf Privatsphäre.      Am 27. April 2021 hat die Polizei in Mos-   genutzt.
                                              kau die Wohnungen der Journalisten
                                              Alexej Korosteljow, Oleg Owcharenko         Welche Gefahren drohen für
16 AMNESTY JOURNAL | 01/2022                  und Alexander Rogoz aufgesucht und          die Menschenrechte?
nen zu überwachen. Zivilgesellschaftli-
                                                    ches Engagement wird in einem Land
                                                                                                    In mehreren US-Städten
                                                    extrem erschwert, wenn die Regierung              ist Gesichtserkennung
                                                    exakt weiß, wer wo ist und wer sich wann               in der Polizeiarbeit
                                                    mit wem trifft. Die Methoden der Ge-
                                                    sichtserkennung sind fehleranfällig.                             verboten.
                                                    Wenn sie perfekt funktionierten, wären
                                                    sie in der Lage, ganze Gebiete zu überwa-
                                                    chen und die Identität von Hunderttau-        im öffentlichen Raum ist nach Auffas-
                                                    senden Menschen gleichzeitig zu erfas-        sung von Amnesty nicht verhältnismä-
                                                    sen. Dies wäre in allen Fällen menschen-      ßig, da sie ohne einen Verdacht alle an-
                                                    rechtlich problematisch. Durch das Ge-        wesenden Menschen erfasst und analy-
                                                    fühl, ständig überwacht zu werden, leiden     siert. Amnesty fordert daher ein voll-
                                                    Freiheitsrechte, individuelle Entfaltung      ständiges Verbot der Gesichtserkennung
                                                    und politische Teilhabe.                      zu Zwecken der Identifizierung. Um Dis-
                                                                                                  kriminierung entgegenzuwirken und der
                                                    Behandelt Gesichtserkennung alle              Vielfalt in der Gesellschaft gerecht zu
                                                    Gesichter gleich?                             werden, fordert Amnesty eine unabhän-
                                                    In Datenbanken werden besonders viele         gige Überprüfung aller Algorithmen der
                                                    Gesichter weißer Männer aufgenommen,          verwendeten Systeme sowie Entwickler-
                                                    deutlich weniger Gesichter von Frauen,        teams, die die gesellschaftliche Vielfalt
                                                    Kindern und People of Colour. Da die          widerspiegeln.
                                                    Algorithmen mit Methoden der Künst-                Eine weitere Gefahr besteht in der
                                                    lichen Intelligenz und der Statistik arbei-   Verbreitung von Technologie zur Ge-
                                                    ten, führt das zu einer deutlich höheren      sichtserkennung. Europäische Unterneh-
                                                    Falscherkennungsrate bei diesen Perso-        men konnten Gesichtserkennungs- und
                                                    nen. Sie werden in der Folge häufiger von     andere Überwachungstechnologie ohne
                                                    der Polizei kontrolliert und verdächtigt.     staatliche Exportkontrolle in Länder
                                                    Insbesondere schwarze Frauen sind da-         verkaufen, in denen diese gegen mar-
                                                    von betroffen. Das ist eine eindeutige        ginalisierte Bevölkerungsgruppen zum
                                                    Form der Diskriminierung.                     Einsatz kommt. Damit steigt das Risiko
                                                        Gesichter lassen sich zudem durch         schwerer Menschenrechtsverletzungen.
                                                    bestimmte Schlüsselmerkmale wie Haut-         Amnesty fordert ein grundsätzliches
                                                    farbe, ethnische Zugehörigkeit oder           Verbot der Entwicklung, der Produktion,
                                                    Geschlecht gezielt erkennen. Vorurteile       des Verkaufs und des Exports von Ge-
                                                    und strukturelle Ungleichheiten können        sichtserkennungstechnologie zu Iden-
                                                    durch die Anwendung bestimmter Algo-          tifizierungszwecken, das sowohl für
                                                    rithmen verstärkt werden, da die Systeme      staatliche Institutionen als auch für
             Per Kamera alles im Blick?             von Menschen entwickelt und trainiert         private Akteure gilt. Solange dieses Ver-
             Gdansk, Polen, April 2020.             werden. Auch dies führt zu Diskriminie-       bot nicht wirksam ist, müssen Staaten
              Foto: Michal Fludra / NurPhoto / pa   rung.                                         den Export solcher Technologien rigoros
                                                                                                  verhindern. Unternehmen müssen da-
                                                    Mit Gesichtserkennung ist öffentlich          rüber hinaus verpflichtet werden, vor
Gesichtserkennung kann auch für legiti-             experimentiert worden. Mit welchem            einem etwaigen Export im Rahmen ihrer
me Ziele eingesetzt werden, etwa um                 Ergebnis?                                     menschenrechtlichen Sorgfaltspflichten
Straftäter_innen zu finden. In vielen Be-           Experimente mit diesen Systemen haben         umfassende Risikoanalysen durchzu-
reichen erfolgt jedoch eine anlasslose              gezeigt, dass sie oft mangelhaft funktio-     führen.
automatische Überwachung im öffent-                 nieren. Bei einem Test am Bahnhof Ber-
lichen Raum. Die überwachten Personen               lin-Südkreuz wurde etwa jede 200. Per-        Gibt es Erfolge beim Einsatz
wissen nicht, dass sie beobachtet werden.           son fälschlich als polizeilich gesuchte       gegen die Gesichtserkennung?
Wenn Gesichtserkennung bei Demonstra-               Person identifiziert. Für Betroffene führt    Ein kleiner Erfolg wurde inzwischen er-
tionen eingesetzt wird, ist es problemlos           das zu Verdächtigungen und unangemes-         reicht: Am 6. Oktober 2021 hat das EU-
möglich festzustellen, wer teilgenommen             senen Kontrollen, für die Polizei zu einer    Parlament dazu aufgerufen, biometrische
und mit wem sich die Person dort getrof-            Überlastung. Daher wurde in den US-           Massenüberwachung zu verbieten. ◆
fen hat. Dies kann dazu führen, dass sich           amerikanischen Städten Boston, Portland
Menschen nicht mehr trauen, an Demons-              und San Francisco der Einsatz von Ge-         Ingrid Bausch-Gall ist in der Amnesty-Themen-
trationen teilzunehmen. Dies bezeichnet             sichtserkennung in der Polizeiarbeit          koordinationsgruppe Menschenrechte im
man als »chilling effect«, und er bedroht           verboten.                                     digitalen Zeitalter aktiv.
die Ausübung des Rechts auf Versamm-
lungs- und Vereinigungsfreiheit sowie die           Was fordert Amnesty?                          https://amnesty-digital.de
Meinungsfreiheit.                                   Amnesty International sieht in jeder an-      https://reclaimyourface.eu
    Gesichtserkennung kann von autori-              lasslosen Massenüberwachung einen
tären Regierungen gezielt eingesetzt wer-           massiven Eingriff in die Privatsphäre.
den, um Menschenrechtsverteidiger_in-               Die Anwendung von Gesichtserkennung                           AMNESTY JOURNAL | 01/2022 17
DIGITALE RECHTE
KÜNSTLICHE INTELLIGENZ

Wie dich deine
Daten verraten
Eine kleine Geschichte des Überwachungskapitalismus. Oder wie aus Daten
ein Rohstoff der Vermarktung wurde und wie sich das wieder ändern lässt.
Ein Essay von Uwe Oestermeier

D
               ie US-Wirtschaftswissen-       Dilemma. Sie hatten ihre Suchmaschine       besser Googles Prognosen wurden, desto
               schaftlerin Shoshana Zuboff    gratis angeboten und deren Wachstum         höher wurden die Einnahmen.
               bezeichnet mit dem Begriff     mit Verlusten erkauft. Nun drängten ner-        Persönliche Daten wurden zu einer
               »Überwachungskapita-           vös gewordene Wagniskapitalgeber auf        Art Goldstaub, dessen Abbau erst im in-
               lismus« eine Spielart des      ein tragfähiges Geschäftsmodell. 1998       dustriellen Maßstab wertvoll wird. Immer
Kapitalismus, der persönliche Daten zum       hatten Page und Brin noch argumentiert,     neue Rohstoffquellen wurden erschlos-
Rohstoff der Vermarktung macht. Dazu          »dass werbefinanzierte Suchmaschinen        sen, um festzustellen, was Menschen
gehören Daten über Produktvorlieben,          von Natur aus auf die Werbetreibenden       wann wie und wo machen. Werbefreie
Kaufverhalten, Bonität, Interessen, sexuel-   und nicht auf die Bedürfnisse der Ver-      Dienste wie Google Mail (2004) und Goo-
le Orientierung, politische Einstellungen,    braucher ausgerichtet sein werden«.         gle Maps (2005) lieferten umfassende
soziale Identität sowie intime Gesund-            Page und Brin gaben dem Druck nach.     Personenprofile. Eine Zeit lang konnte
heitsdaten, Suchanfragen und Kontakte.        Am 23. Oktober 2000 erschien die erste      Google sein Erfolgsrezept geheim halten,
    Wo die digitale Sphäre mit dem physi-     Anzeige auf Google. 2002 führte Google      aber spätestens als Sheryl Sandberg 2007
kalischen Raum verschmilzt, kommen            ein Bezahlmodell ein, wonach die Werbe-     von Google zu Facebook wechselte, wan-
noch Orts-, Biometrie-, Kamera- und Sen-      treibenden nur zahlen mussten, wenn die     derte das Know-how auch zu dem 2004
sordaten in Fahrzeugen, Smartphones,          Werbung auch angeklickt wurde (pay per      von Mark Zuckerberg gegründeten Onli-
sogenannten Smart Cities und dem Inter-       click). Dieses Bezahlmodell war ein wich-   ne-Netzwerk. Das Netzwerk erfasste ne-
net der Dinge hinzu.                          tiger Wettbewerbsvorteil gegenüber der      ben dem individuellen Verhalten auch
    Ein Geflecht von privatwirtschaft-        traditionellen Anzeigenwerbung und          Verbindungen zwischen Menschen, wo-
lichen Plattformen, Händler_innen und         wurde beispielsweise von der Werbefirma     durch neue Formen gezielter Werbung
Werbefirmen nutzt diese Daten, um Milli-      DoubleClick schon länger genutzt.           angeboten werden konnten, etwa über
arden Menschen einer fast totalen Über-           Page und Brin gingen einen entschei-    Telefonnummern oder Menschen mit
wachung und einem ständigen Wettbe-           denden Schritt weiter. Sie kombinierten     ähnlichen Vorlieben.
werbs- und Bewertungsdruck zu unter-          dieses Bezahlmodell erstmals mit Online-        Die USA und ihre Verbündeten hatten
werfen. Die Geschichte dieser historisch      Auktionen, die auf mathematischen Ver-      nach 9/11 ebenfalls ein vitales Interesse
beispiellosen Wirtschaftsform lässt sich      haltensvorhersagen beruhten. Google         an den Daten. Sie sicherten sich den Zu-
grob in drei Phasen einteilen.                versteigerte die Werbeplätze jedoch nicht   gang über Gesetze, deren Reichweite und
                                              einfach an die Meistbietenden. Stattdes-
Entstehung (2000–2007)                        sen wurden die besten Werbeplätze den
Als die Dotcom-Blase im März 2000             Firmen zugewiesen, deren Werbung den
platzte, standen die Google-Gründer           größten Gewinn erwarten ließ, weil Nut-                 Viele Menschen
Larry Page und George Brin vor einem          zer_innen darauf reagierten. Die un-                     scrollen pro Tag
                                              scheinbare Formel »Profit = Preis pro
                                              Klick mal Klickwahrscheinlichkeit« setzte
                                                                                                    mehr als 170 Meter
18 AMNESTY JOURNAL | 01/2022                  eine unerbittliche Marktlogik in Gang: Je              auf ihren Handys.
Illustration: Sebastien Thibault / agoodson.com

                                                  Ausmaß erst mit den Enthüllungen Ed-           Der Wettbewerb um die begrenzte       Algorithmus basiert seit 2011 auf Metho-
                                                  ward Snowdens im Jahr 2013 klar wurden.    Ressource Aufmerksamkeit wurde immer      den des maschinellen Lernens und zieht
                                                                                             härter. Ständig optimierte Algorithmen    Zigtausende Faktoren in Betracht, um die
                                                  Entfesselung (2007–2016)                   und Funktionen brachten Nutzer_innen      Nutzer_innen möglichst lange an die
                                                  Google und Facebook nutzten ihre stei-     dazu, immer länger auf den jeweiligen     Plattform zu binden.
                                                  genden Werbeeinnahmen, um innovative       Plattformen zu bleiben, um mehr Wer-          Das maschinelle Lernen erhöhte die
                                                  Firmen aufzukaufen. 2006 erwarb Google     bung zu sehen und vor allem mehr Daten    Datenmenge und die Nutzungszeiten
                                                  YouTube und 2007 DoubleClick. Double-      zu liefern. Als besonders wirkungsvoll    drastisch, wovon wiederum die Online-
                                                  Click hatte die gezielte Online-Werbung    erwiesen sich zum Beispiel »Likes«, das   Auktionen profitierten. Viele Menschen
                                                  perfektioniert, indem Nutzer_innen über    endlose Scrollen durch Aufregerthemen     verbringen täglich mehrere Stunden auf
                                                  Webseiten hinweg mit Cookies verfolgt      und automatisch abgespielte personali-    YouTube und Facebook-Diensten und
                                                  wurden. Damit legte Google den Grund-      sierte Inhalte.                           scrollen pro Tag mehr als 170 Meter auf
                                                  stein für das sogenannte Real Time Bid-        Durchbrüche im Bereich der Künst-     ihren Handys. Google, Facebook und
                                                  ding, bei dem während des Ladens der       lichen Intelligenz, die immer größere     Amazon vereinen nach aktuellen Schät-
                                                  Webseiten unbemerkt in Millisekunden       Datenmengen mit Methoden des maschi-      zungen 90 Prozent des Wachstums aller
                                                  Werbeplätze an Dutzende von Bieter_in-     nellen Lernens analysierten, wurden       US-Online-Werbeausgaben auf sich.
                                                  nen versteigert werden. Auch Facebooks     dabei zu einem wichtigen Wettbewerbs-
                                                  Kauf der Netzwerke Instagram (2012) und    faktor. YouTube konnte nach eigenen An-   Gegenbewegung (ab 2016)
                                                  WhatsApp (2014) folgte der Devise »Kau-    gaben die Nutzungsdauer um 50 Prozent     Der Wahlsieg Barack Obamas und der ara-
                                                  fen ist besser als konkurrieren«. Damit    steigern, indem es 2012 seine Empfeh-     bische Frühling wurden noch als positive
                                                  wurden gleichzeitig neue wichtige Daten-   lungsalgorithmen umstellte. Statt der     Auswirkungen von Online-Netzwerken
                                                  quellen zur Vernetzung von Personen wie    Anzahl der Klicks wurde eine möglichst
                                                  Kontaktdaten und Telefonnummern er-        hohe Verweildauer zur Zielgröße des
                                                  schlossen.                                 Algorithmus. Auch Facebooks Newsfeed-                   AMNESTY JOURNAL | 01/2022 19
Google, Facebook
                                                                                                                                         und Twitter verstärkten
                                                                                                                                               Desinformation
                                                                                                                                                       und Hass.

                                                                                                                                      länger an anderen Werbeformen, die
                                                                                                                                      nicht mehr direkt auf einzelne Personen
                                                                                                                                      zugeschnitten sind. Mit der Zusammen-
                                                                                                                                      fassung von Personen in bestimmte
                                                                                                                                      Gruppen wollen sie ihr Geschäftsmodell
                                                                                                                                      retten. An den Anreizstrukturen der Auf-
                                                                                                                                      merksamkeitsökonomie würde sich da-
                                                                                                                                      mit aber nicht viel ändern.
                                                                                                                                          Die Kritik der Google-Gründer Page
                                                                                                                                      und Brin an werbefinanzierten Geschäfts-
                                                                                                                                      modellen erwies sich als erstaunlich weit-

                                                                                    Illustration: Sebastien Thibault / agoodson.com
                                                                                                                                      sichtig. Heute stellt der Überwachungs-
                                                                                                                                      kapitalismus Milliarden Menschen vor
                                                                                                                                      das Dilemma, dass sie ihre Menschen-
                                                                                                                                      rechte auf soziale und kulturelle Teilhabe
                                                                                                                                      nur ausüben können, wenn sie Verletzun-
                                                                                                                                      gen anderer Menschenrechte in Kauf
                                                                                                                                      nehmen. Denn personalisierte Werbung
                                                                                                                                      verletzt unsere Rechte auf Privatsphäre
                                                                                                                                      und Nichtdiskriminierung.
                                                                                                                                          In der Aufmerksamkeitsökonomie
                                                                                                                                      untergraben algorithmisch verstärkte
                                                                                                                                      Verschwörungstheorien, Desinformation
                                                                                                                                      und Hassbotschaften die Meinungs- und
                                                                                                                                      Pressefreiheit und die Informationssuche.
                                                                                                                                      Plattformen wie Facebook sind in der
gefeiert. Doch mit dem Skandal um Cam-      Smartphone einführte und damit eine                                                       Lage, Wahlen zu beeinflussen, um ihre
bridge Analytica veränderte sich die öf-    umfassende Verfolgung ermöglichte. Als                                                    wirtschaftlichen Interessen durchzuset-
fentliche Wahrnehmung; Daten von Milli-     Apple im Jahr 2021 erstmals den Benut-                                                    zen. Amnesty International hat deshalb
onen Nutzer_innen waren offensichtlich      zer_innen die Gelegenheit gab, selbstbe-                                                  2019 in einer umfassenden Dokumenta-
missbraucht worden. Journalistische Re-     stimmt mit dieser Form des Trackings                                                      tion darauf hingewiesen, dass die Daten-
cherchen zeigten, dass die zielgenaue Da-   umzugehen, lehnten 80 Prozent schlicht-                                                   giganten die Menschenrechte und die
tenanalyse von Donald Trump und den         weg ab.                                                                                   Demokratie gefährden.
Brexiteers nicht nur genutzt wurde, um          Auch in Politik und Gesellschaft for-                                                     Anders als Google und Facebook
Wähler_innen zu mobilisieren, sondern       mierte sich die Gegenbewegung. Google                                                     glauben machen wollen, ist personali-
auch, um Fehlinformationen zu streuen       und Facebook waren und sind Gegen-                                                        sierte Werbung nicht alternativlos. Die
und Gruppen gezielt vom Wählen abzu-        stand zahlreicher Kartell- und Wettbe-                                                    Suchmaschine DuckDuckGo war von Be-
halten. Wissenschaftler_innen warnten,      werbsklagen in den USA und der EU. Face-                                                  ginn an profitabel, obwohl sie nur mit
dass Google, Facebook und Twitter Des-      book konnte bislang weder seine Pläne                                                     Werbung für Suchbegriffe arbeitet. Auch
informationen, Hass, Filterblasen, Echo-    für eine digitale Währung noch ein Insta-                                                 das Bezahlmodell von WhatsApp hat vor
kammern und damit die Polarisierung         gram für Kinder umsetzen. Google muss-                                                    der Übernahme durch Facebook gut
der Gesellschaft verstärken.                te seine ambitionierten »Smartcity«-Plä-                                                  funktioniert.
     Tim Cook, Chef des Konzerns Apple,     ne in Toronto aufgeben. Die Gewinne                                                           Wenn man Internetsuche und ver-
nutzte die Gelegenheit, um Dienste des      wurden nicht beeinträchtigt. Im Gegen-                                                    netzte Kommunikation als öffentliche
eigenen Unternehmens als datenschutz-       teil: Als Facebook fünf Milliarden Dollar                                                 und gemeinnützige Infrastrukturen be-
freundliche Alternative zu präsentieren.    Strafe wegen des Cambridge-Analytica-                                                     trachten würde, kämen zudem Steuer-
Er sprach von einem datenindustriellen      Skandals zahlen musste, führte dies an                                                    bzw. Gebührenfinanzierung sowie Spen-
Komplex, der Gesellschaften zerstöre.       der Börse zu einem Kursgewinn von zehn                                                    den-, Stiftungs- und Genossenschafts-
Was er dabei verschwieg: Google zahlt       Milliarden Dollar.                                                                        modelle infrage. All diese Alternativen
Apple bis heute Milliarden dafür, dass                                                                                                sind zum Scheitern verurteilt, solange
Google als Suchmaschine voreingestellt      Die Zukunft ist offen                                                                     die Gewinne der Datenkartelle deren
ist. Und es war Apple, das 2012 eine ein-   Gegenwärtig sind in Europa und den USA                                                    Macht weiter zementieren. ◆
deutige Werbekennzeichnung für jedes        eine Reihe von Gesetzen geplant, die die
                                            Auswüchse des Überwachungskapitalis-                                                      Uwe Oestermeier ist in der Amnesty-Themen-
                                            mus korrigieren sollen. Da dies absehbar                                                  koordinationsgruppe Menschenrechte im
20 AMNESTY JOURNAL | 01/2022                war, arbeiten Google und Facebook schon                                                   digitalen Zeitalter aktiv.
DIGITALE RECHTE
                                                                                                 ONLINE-MONOPOLE

Und jetzt:
Werbung! Und zwar
für Regulierung
Die Gesetzgebung der EU hat die großen Internetplattformen so lange
unreguliert wachsen lassen, bis sie zu mächtig werden konnten. Schluss damit!
Ein Kommentar von Lena Rohrbach

M
               enschenfressende Pferde      bei Facebook und Co.: Erst wenn die          nal und andere NGOs sowie einige Abge-
               zähmen, eine neunköpfige     Bedrohungen der Menschenrechte               ordnete des Europäischen Parlaments ein
               Hydra ausschalten und ei-    unübersehbar werden, wird mit einer          konsequentes Verbot personalisierter
               nen riesigen Rinderstall     Regulierung begonnen.                        Werbung, die auf der umfassenden Über-
ausmisten – das waren die »Herkulesauf-         Höchste Zeit also, den Plattformen       wachung unseres Surfverhaltens beruht.
gaben«, die der gleichnamige griechische    mit den derzeit verhandelten Gesetzen        98 Prozent des Facebook-Umsatzes speist
Held bewältigen musste, um in den Olymp     Digital Services Act (DSA) und Digital       sich aus Werbung, bei Google sind es
aufgenommen zu werden. An einer sol-        Markets Act (DMA) klare Grenzen zu           immerhin noch mehr als 80 Prozent. Um
chen Aufgabe versucht sich derzeit auch     setzen. Der Digital Services Act soll bei-   diese Werbung gezielt anzuzeigen, über-
die EU: Facebook und Google sollen ge-      spielsweise den Umgang mit illegalen         wachen die Plattformen das Verhalten der
zähmt, manipulierende Algorithmen           Inhalten, personalisierter Werbung, Da-      Nutzer_innen bei jedem Klick. Facebook
ausgeschaltet und übergriffige Geschäfts-   tenschutz und algorithmischen Empfeh-        müsste sich nach einer Änderung neue
praktiken der Internetplattformen »aus-     lungssystemen regeln. Für die meisten        Einnahmemodelle suchen – etwa kon-
gemistet« werden.                           dieser Herausforderungen gibt es leider      textbasierte Werbung, also eine Anzeige
    Im Vergleich zur Zähmung der Tech-      kaum gute Vorbilder. So fehlt es in den      für Katzenfutter neben einem Artikel
Giganten erscheinen die Aufgaben des        USA weitgehend an landesweiten Regeln        über Katzen.
mythologischen Herkules fast leicht.        für Plattformen. Staaten wie China oder          Ob die EU sich zu einem Verbot von
Denn die EU-Gesetzgebung hat die gro-       Vietnam hingegen haben solche Dienste        Überwachungswerbung durchringen
ßen Plattformen so lange unreguliert        zwar gut im Griff – aber eben zu gut: Zen-   kann, scheint derzeit leider fraglich. Doch
wachsen lassen, bis sie zu monopolisti-     sur und die Verfolgung regierungskriti-      der Schutz der Menschenrechte im digita-
schen Torhütern des Internets werden        scher Nutzer_innen sind an der Tages-        len Zeitalter ist nicht die Aufgabe der be-
konnten. Sie diktieren uns nun, unter       ordnung.                                     troffenen Internetnutzer_innen, die sich
welchen Online-Bedingungen wir unsere           Die Aufgabe der EU ist deshalb zu-       durch unverständliche und lange AGBs
Meinung ausdrücken und uns informie-        gleich eine historische Chance. Europa       und Datenschutzeinstellungen klicken
ren können.                                 kann und muss im vielzitierten »System-      müssen, sondern der Politik. Nachhaltige
    Dass die technologische Entwicklung     wettbewerb« einen neuen Weg gehen.           Änderungen wird nur ein klares Verbot
die gesetzliche Regulierung überholt, ist   DSA und DMA könnten dann auch inter-         des Geschäftsmodells »Überwachungs-
im Zeitalter der Digitalisierung leider     national zum Vorbild werden und eine         werbung« bringen. Es kann den Zucker-
zum Normalzustand geworden. Ob bei          Alternative zu Laissez-Faire-Kapitalismus    bergs dieser Welt zugemutet werden, ihr
staatlicher Überwachung, Künstlicher        oder autoritärer Kontrolle aufzeigen.        Geld zukünftig auf eine Weise zu verdie-
Intelligenz in Waffensystemen oder eben         Dafür muss sich die EU an den Men-       nen, die die Menschenrechte nicht ver-
                                            schenrechten orientieren, denn diese gel-    letzt. ◆
                                            ten online ebenso wie offline. Besonders
                                            die Rechte auf Meinungs- und Informa-        Lena Rohrbach ist Referentin für Menschen-
        Europa kann und                     tionsfreiheit, Privatsphäre und der Schutz   rechte im digitalen Zeitalter bei Amnesty
     muss im vielzitierten                  vor Diskriminierung bedürfen gesetz-         International in Deutschland.
                                            licher Durchsetzung. Dafür braucht die
    »Systemwettbewerb«                      EU eine Portion Optimismus und Mut.
 einen neuen Weg gehen.                         So fordern etwa Amnesty Internatio-                      AMNESTY JOURNAL | 01/2022 21
Sie können auch lesen