From print to pixel - Gesichtserkennung: Was können Maschinen aus unseren Gesichtern lesen und wozu dienen diese Informationen?
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
from print to pixel
Arbeitsblätter für Schüler_innen
Gesichtserkennung:
Was können Maschinen aus unseren
Gesichtern lesen und wozu dienen
diese Informationen?
fotomuseum winterthur
BEGRIFFSERKLÄRUNG
Einstiegsaufgabe: Werkanalyse
Ganze Klasse, 20 min
1. Schau dir das Video der beiden Medienkünstler Rafael Lozano-Hemmer und Krzysztof
Wodiczko an. Es handelt sich dabei um eine Video-Installation, die 2016 an der
Kunstmesse Art Basel gezeigt wurde.
Zoom Pavilion
Rafael Lozano-Hemmer und Krzysztof Wodiczko, Zoom Pavilion, 2015
3:52 min, Art Basel, 2016
2. Lies die Fragen durch, schau dir das Video noch einmal genauer an und überlege dir
die Antworten:
>> Was erleben die Besucher_innen dieser Videoinstallation, wenn Sie den Raum
betreten?
from print to pixel Gesichtserkennung 2 / 27
>> Beobachte die Reaktionen des Publikums. Wie würdest du reagieren?
>> Stelle Vermutungen an: Wie funktioniert die Arbeit und auf welcher Technologie
basiert sie?
>> Wo bist du bereits mit dieser Technologie in Kontakt gekommen und wofür wird diese
eingesetzt?
>> Welche Informationen vermittelt die Videoübertragung über die Besucher_innen?
>> Was könnte die Absicht der Künstler mit dieser Arbeit sein?
3. Tausche dich im Plenum über deine Antworten aus und erfahre von der Lehrperson
mehr über die Videoinstallation.
from print to pixel Gesichtserkennung 3 / 27
Begriffsdefinition: Was ist Gesichtserkennung?
Partner_innenarbeit, 50 min
1. Lest die Begriffsdefinitionen in den gelben Boxen sorgfältig durch. Gebt den Begriff der
Gesichtserkennung in eigenen Worten wieder und überlegt euch weitere Beispiele, wo
euch die Technologie im Alltag bereits begegnet ist. (10 min)
Facial Detection
(Erkennen von Gesichtern)
Jochen Tack, Alamy Stock Foto
Facial Detection dient dazu, Gesichter auf Bildern oder in Videos zu erkennen.
Diesen Mechanismus kennen wir beispielsweise von der Digitalkamera. Er
ermöglicht es, auf ein Gesicht zu fokussieren und dieses scharf zu stellen.
Oftmals werden erkannte Gesichter durch einen Rahmen hervorgehoben, der
genau angibt, wo sich diese befinden.
from print to pixel Gesichtserkennung 4 / 27
Facial Recognition (Identifizieren von Gesichtern)
Tagging-Funktion von Facebook
Bild: https://www.digitaltrends.com/computing/facebook-facial-recognition-privacy/
(zuletzt abgerufen am 07.05.2020)
Von Facial Recognition sprechen wir, wenn die künstliche Intelligenz erkennt,
wessen Gesicht auf dem Bild ist, also dass sie die Person mit ihrem Namen
verknüpfen kann. Dies wird beispielsweise von Facebook beim automatischen
Markieren von Personen (engl. Tagging) eingesetzt.
Facial Analysis
(Analysieren von Gesichtern)
Gesichtsanalyse von Geschlecht, Alter und Ausdruck
Bild: https://wonderfulengineering.com/ai-can-tell-person-male-female-reading-lips/
(zuletzt abgerufen am 7.5.2020)
Die dritte Stufe, Facial Analysis, geht so weit, dass die künstliche Intelligenz die
Gesichter analysieren kann, indem sie zusätzliche Informationen mit dem
erkannten Gesicht abgleicht oder verknüpft. Dabei können zum Beispiel
Emotionen gemessen oder Alter, Geschlecht, sexuelle Ausrichtung, Herkunft
oder Einkommen prognostiziert werden. Solche Analysen werden
beispielsweise für intelligente Werbebanner verwendet, die die Inhalte durch
Scannen der Passant_innen auf ihre Interessen und Konsumverhalten hin
anpassen.
from print to pixel Gesichtserkennung 5 / 27
2. Macht eine Einschätzung zu den drei Varianten der Gesichtserkennung: Welche findet
ihr bedenkenlos, welche problematisch? Begründet die Einschätzung. (5 min)
3. Testet in Partner_innenarbeit die folgenden Anwendungen von Gesichtsanalyse. Eine
Person wählt ein Selfie von sich aus und interpretiert es mit David Daos Face/Off
Singularity. Die andere Person lässt ihr Gesicht von Stealing your Feelings analysieren.
Face/Off Singularity
David Dao, Face/Off Singularity, 2020
from print to pixel Gesichtserkennung 6 / 27
Stealing your Feelings
Noah Levenson, Stealing your Feelings, 2019
4. Die beiden Webtools Stealing your Feelings und Face/Off Singularity wurden entwickelt,
um aufzuzeigen, wie die Gesichtserkennung und -analyse funktioniert. Vergleicht eure
Ergebnisse und beantwortet folgende Fragen: (15 min)
>> Welche Faktoren können aus der Gesichtsanalyse erhoben werden? Listet diese auf.
>> Treffen die Erkenntnisse der Anwendung auf dich zu? Was hat dich dabei überrascht
oder erschreckt?
from print to pixel Gesichtserkennung 7 / 27
>> Wofür könnten diese Daten verwendet werden? Diskutiert mögliche Einsatzgebiete.
Wie funktioniert Gesichtserkennung?
Während wir Menschen gut darin sind, Gesichter zu erkennen, muss eine Maschine dies
zuerst erlernen. Dafür wird maschinelles Lernen eingesetzt: In einem ersten Schritt geht
es darum zu verstehen, was ein Gesicht ist. Dafür sucht die Maschine nach
wiederkehrenden Mustern. Durch das Analysieren von Tausenden von Gesichtsbildern
lernt also der Computer, was ein Gesicht ausmacht. Mit der Zeit erkennt er die wichtigen
Gesichtsmerkmale wie Augen, Nase und Mund und kann dann von jedem Gesicht ein
sogenanntes biometrisches Datum erstellen – ein geometrisches Raster, das
Gesichtspartien sowie die Abstände zwischen diesen vermisst und zur Identifikation –
ähnlich einem Fingerabdruck – genutzt werden kann.
Die Funktionsweise der Gesichtserkennung variiert je nach Software sowie nach der
Komplexität der Anwendung. Komplexe Systeme, die auch dafür verwendet werden
können, um ein Gesicht zu identifizieren, nutzen jedoch in der Regel aufwändige
Verfahren und Berechnungen, um das Charakteristische eines Gesichts zu analysieren.
Diese Software ist auch dazu in der Lage, sich auf unveränderliche Merkmale zu
konzentrieren. Das heißt, dass zum Beispiel Dinge wie Make-Up oder Brillen bei der
Gesichtserkennung herausgerechnet oder ignoriert werden.
Erkennungssysteme suchen charakteristische Punkte in Gesichtern. Daraus entstehen
einzigartige geometrische Formen, vergleichbar mit Fingerabdrücken.
Bildquelle: https://medium.com/cracking-the-data-science-interview/snapchats-filters-
how-computer-vision-recognizes-your-face-9907d6904b91
(zuletzt abgerufen am 7.5.2020)
from print to pixel Gesichtserkennung 8 / 27
ANWENDUNGSBEREICHE
Wo kommt Gesichtserkennung zum Einsatz?
Einzelarbeit, 30 min
In unserem Alltag wird Geschichtserkennung bereits in verschiedenen Bereichen
eingesetzt. Sie erleichtert uns viel Arbeit im Alltag und eröffnet neue Möglichkeiten der
Kommunikation und Überwachung. Oft begegnen wir ihr, ohne dass wir den Einsatz der
Technologie bewusst wahrnehmen.
1. Lies die folgenden Texte zu den verschiedenen Anwendungsbereichen und schaue dir
die verlinkten Videos an.
Identifizierung
Oft dient Gesichtserkennung dazu, die Identität von jemandem zu überprüfen. Dies
geschieht beispielsweise bei der automatisierten Passkontrolle, wie sie seit 2018 auch am
Flughafen Zürich eingesetzt wird: Eine Maschine scannt den Pass und prüft ihn auf seine
Gültigkeit. Anschliessend vergleicht sie ein live aufgenommenes Porträtbild über eine
Gesichtserkennungssoftware mit dem Passbild im biometrischen Pass. Wird die Person
als der/die Inhaber_in des Passes identifiziert, öffnet sich die Schleusentür. Ergibt sich
etwas Verdächtiges, nimmt ein_e Polizist_in zusätzliche Kontrollen vor. Der Flughafen kann
dadurch Passkontrollen schneller und mit weniger Personal abwickeln. Rechtlich ist die
Technologie unbedenklich, die erhobenen Daten werden umgehend wieder gelöscht
und die automatisierte Passkontrolle ist für die Passagiere freiwillig.
Ennio Leanza, Flughafen Zürich, automatisierte Passkontrolle, 2017
© Keystone/Ennio Leanza
from print to pixel Gesichtserkennung 9 / 27
Ein weiteres Einsatzgebiet ist die Handyentsperrung: Die Daten auf deinem Smartphone
sind sensibel und sollten für andere nicht frei zugänglich sein. Zur Sicherung bewähren
sich Zahlencodes oder Passwörter sowie der Scan des Fingerabdrucks. Immer mehr
Smartphones lassen sich entsperren, indem man sie einfach anschaut. Dazu tastet die
integrierte Kamera das Gesicht in 3D ab und erstellt eine Art Höhenprofil, ein Infrarotbild
sowie eine Reihe zweidimensionaler Bilder. Um das Gerät zu entsperren, vergleicht das
System die erfassten mit den gespeicherten Daten der/des Nutzer_in. Dabei wird auch
geprüft, ob die Augen geöffnet sind. Andere Anbieter_innen nehmen einen Scan der Iris
vor oder gleichen bloss ein unbewegtes Bild ab. Je nach Methode ist die Technologie
sicherer oder weniger sicher. Tests zeigten jedoch, dass sich fast 40% der Geräte mit
einfachen Tricks wie einem Foto des/der Inhaber_in täuschen lassen.
Überwachung
Nicht nur im Bus, am Bahnhof oder am Flughafen, auch in vielen Läden werden wir von
Kameras überwacht. Diese Überwachungskameras sind vermehrt mit Gesichts-
erkennungsfunktionen ausgestattet. Diese ermöglicht es beispielsweise, bereits
registrierte Straftäter_innen schneller und einfacher zu ermitteln. Aus Sicherheitsgründen
sind solche Überwachungskameras beispielsweise am Flughafen sinnvoll. Im Detail-
handel werden ebenfalls solche Systeme getestet, um Ladendieb_innen zu überführen.
Dienen diese zur Gesichtserkennung, ist dies heikel, weil biometrische Daten (z. B. die
Geometrie des Gesichts) erfasst und gespeichert werden. Wenn diese sensiblen
Gesichtsdaten gestohlen würden, könnten sich Dieb_innen damit in der digitalen Welt als
die Person ausgeben. Damit ist zum Beispiel der Zugang zur persönlichen E-Banking-App
denkbar.
>> Höre dir dazu folgenden Beitrag an:
Intelligente Überwachung – Kameras mit Gesichtserkennung sind im Detailhandel heikel,
SRF, 29.1.2020, 3:27 min
Social Media
Auf Social Media-Plattformen wie Snapchat lassen sich Fotos mit Tiergesichtern, Masken
oder anderen witzigen Filtern verfremden und verschicken. Vielleicht hast du dich auch
schon gefragt, wie es der App gelingt, diese punktgenau auf dein Gesicht zu montierten.
Dafür nutzt die Anwendung ebenfalls eine Gesichtserkennungssoftware. Bevor du den
Auslöser drückst, wird dein Gesicht genau vermessen: Augen, Knochen, Lippen, Nase,
Mund erhalten eine bestimmte Koordinate. Daraus erstellt die Software ausgehend von
einem ‹Durchschnittsgesicht› ein bewegliches Modell, das deinen Gesichtszügen
from print to pixel Gesichtserkennung 10 / 27entspricht. Auf dieses werden die Filter anschliessend projiziert. Damit dies funktioniert,
wurde die Software anhand von hunderten Bildern durch maschinelles Lernen auf das
Erkennen von Gesichtszügen trainiert.
Mit Snapchat lassen sich mittels Gesichtserkennungssoftware
Filter passgenau aufs Gesicht montieren.
Bildquelle: https://medium.com/cracking-the-data-science-interview/snapchats-filters-
how-computer-vision-recognizes-your-face-9907d6904b91
(zuletzt abgerufen am 7.5.2020)
Vielen Menschen ist nicht bewusst, dass die Daten, Videos und Bilder, die man mit
Snapchat macht, auf den Snapchat-Servern gespeichert werden. Dieses Bildmaterial
wird dafür verwendet, die Algorithmen zu trainieren und die Technologie
weiterzuentwickeln. Dies erklärt auch, warum die Hersteller ein Interesse daran haben, die
Plattform gratis anzubieten: So können sie möglichst viel Trainingsmaterial sammeln. Wir
helfen also mit unseren privaten Fotos, die Technologie weiterzuentwickeln.
Das Unternehmen kann über die Angaben, die man bei der Anmeldung der App machen
muss, das Bild mit Gesichtserkennung auch leicht einer realen Person mit dem Namen
zuordnen. Bei der Nutzung der App geben wir auch unsere Standortangaben preis:
Damit ist es potenziell möglich, dass der Anbieter diese Informationen an Dritte (Marken
oder Werbefirmen) weitergibt. Die Profile könnten aber auch von Staaten, Polizei oder
Geheimdiensten zur Kontrolle und Überwachung von Personen genutzt oder von
Kriminellen missbraucht werden.
Personalisierte Werbung
Was würde wohl auf einem Werbeplakat stehen, wenn es wüsste, was du dir wünschst?
In der Werbebranche wird intensiv nach Möglichkeiten geforscht, Produkte noch gezielter
nach den Wünschen der Passant_innen zu bewerben. Gesichtserkennung macht es
möglich, nicht nur im Internet detaillierte Angaben über das Konsumverhalten der
Menschen zu erheben, sondern auch im öffentlichen Raum Werbebotschaften auf ihre
Bedürfnisse zuzuschneiden. In London werden am Piccadilly Circus bereits intelligente
from print to pixel Gesichtserkennung 11 / 27digitale Werbebanner eingesetzt. Sie schalten Werbebotschaften, indem integrierte
Kameras versuchen, das Alter, die Geschlechtsidentität und die Stimmung der Passant_
innen erfassen und darauf gezielt reagieren. Auch die Farbe, Modelle und Marken der
vorbeifahrenden Autos werden erhoben.
In der Schweiz forscht die APG zu einem System mit personalisierter Werbung. Ein Test
mit gezielter Werbung in deutschen Supermärkten musste aufgrund der öffentlichen
Kritik abgebrochen werden. Die Technologie bewegt sich hier in einem Graubereich: Aus
Gründen des Datenschutzes muss gewährleistet sein, dass man aufgrund der erhobenen
Daten keine Rückschlüsse auf eine bestimmte Person machen kann.
>> Schaue dir hier das Video zum Thema an:
Personalisierte Werbung durch Gesichtserkennung, SRF, 10vor10, 28.06.2017, 4:32 min
Kontaktloses Bezahlen
Sich einfach im Supermarkt nehmen, worauf man Lust hat und den Laden ohne
Anstehen wieder zu verlassen – damit wirbt Amazon für seine Supermarktkette Amazon
Go. In den USA werden bereits 16 solcher Läden ohne Kassen und Verkaufspersonal
betrieben. Dies funktioniert natürlich nicht ganz so einfach wie es klingt: Sensoren und
Kameras erfassen die Artikel, die mitgenommen werden. Künstliche Intelligenzen
erkennen somit, wer welche Produkte einkauft, und verrechnen den Kund_innen die
Kosten beim Verlassen des Ladens über eine App. Darüber, wie dies genau funktioniert,
hält sich Amazon bedeckt. Es handelt sich jedoch um eine Kombination verschiedener
Technologien wie Bewegungstracking, Gesichtserkennung und Produkterfassung.
Datenschützer_innen kritisieren, dass beim Einkauf in einem Amazon Go-Supermarkt für
die Kund_innen nicht nachvollziehbar ist, welche Daten gesammelt werden und was
damit passiert. Gefahren sehen sie in der Möglichkeit, daraus detaillierte Kund_
innenprofile zu erstellen und diese an Dritte weiterzugeben. Auch personalisierte Preise
wären aufgrund der erfassten Daten denkbar.
Zurzeit arbeiten in der Schweiz auch Valora und Migrolino an Ladenkonzepten nach dem
Vorbild von Amazon Go: Migrolino will den Ladenzugang über Gesichtserkennung oder
die Smartphone-Identifikation testen. Valora plant Mini-Shops, in denen Kund_innen über
eine App Produkte scannen und diese damit bezahlen. Auch den Einsatz von
Gesichtserkennung am Kaffeeautomaten wird getestet. Die Einzelhändler erhoffen sich
davon, den Kaufprozess rascher abzuwickeln, Kosten zu sparen und die Läden ausserhalb
der Öffnungszeiten betreiben zu können. Sie gelangen damit aber auch an Kund_
from print to pixel Gesichtserkennung 12 / 27innendaten, die ihnen viel über das Kaufverhalten verraten. Diese können dafür eingesetzt
werden, den Kund_innen durch gezielte Werbung oder Produktvorschläge mehr zu
verkaufen oder ihre Zahlungsbereitschaft besser zu nutzen.
Noch ist offen, wann und ob die Technologie eingeführt wird. Die Richtlinien zum
Datenschutz sind in der Schweiz strenger als beispielsweise in den USA. Es braucht für
den Einsatz von Gesichtserkennungssystemen das ausdrückliche Einverständnis der
Kund_innen. Die Einführung hängt auch stark von der Akzeptanz der Technologie in der
Bevölkerung ab.
>> Schau dir hierzu das Werbevideo von Amazon Go an:
Introducing Amazon Go and the world’s most advanced shopping technology, 1:49 min
2. Was hältst du vom Einsatz der Technologie? Ist sie unheimlich oder unheimlich gut?
Schreibe eine Pro- und Kontra-Liste für jeden der vorgestellten Bereiche.
3. Ergänze in einer dritten Spalte, ob du die Technologie nutzt – oder nutzen würdest,
wenn sie bei uns eingeführt würde.
Pro Kontra
from print to pixel Gesichtserkennung 13 / 27FEHLERANFÄLLIGKEIT
Gruppe A
Wie gut funktioniert Gesichtserkennung?
Gruppenarbeit 45 min
1. Schaut euch das Video an. (5 min)
Gut zu wissen: Wie gut funktioniert die automatische Gesichtserkennung?,
Bayerischer Rundfunk, 09.01.2019, 3:20 min
Videoüberwachung im öffentlichen Raum
Bis Ende Juli 2018 lief am Berliner Bahnhof Südkreuz eine Untersuchung zur
automatischen Gesichtserkennung. Die Behörden wollten herausfinden, wie
zuverlässig die neue Technik funktioniert. Das Ergebnis ist beunruhigend.
2. Diskutiert die Erkenntnisse der Untersuchung in der Gruppe: (5 min)
>> Warum ist das Resultat beunruhigend?
>> Welche Konsequenzen könnte eine falsche Gesichtserkennung haben?
from print to pixel Gesichtserkennung 14 / 273. Lest nun den folgenden Text durch, dieser gibt euch Antworten auf die diskutierten
Fragen. (5 min)
Vor welche Herausforderungen stellt uns die
Technologie?
Fehleranfälligkeit
Das Beispiel vom Berliner Bahnhof Südkreuz zeigt, dass alleine an diesem Bahnhof
aufgrund der Fehlerquote bei der Identifizierung durch Gesichtserkennung pro Tag 100
Personen falsch verdächtigt werden. In den USA beispielsweise werden die Porträtbilder
der Führerscheine für die Gesichtserkennung durch Polizei und Geheimdienste zur
Bekämpfung von Kriminalität eingesetzt. Somit wurden die Daten eines grossen Teils der
Bevölkerung ohne ihr Wissen eingesetzt. Da die Technologie aber sehr fehleranfällig ist,
kommt es zu einer Vielzahl falscher Identifikationen, was zu verpassten Flügen,
langwierigen Verhören, Platzierung auf Beobachtungslisten, unnötigen Polizeikontrollen
oder gar zu falschen Verhaftungen führt.
4. Was müsste unternommen werden, damit die Technologie weniger fehlerhaft wäre?
>> Überlegt euch Massnahmen, die Programmierer_innen, Nutzer_innen, die Behörden
oder Datenschützer_innen treffen könnten und erstellt daraus einen Plan von
Massnahmen. (20 min)
5. Setzt euch mit je einem/einer Vertreter_in der anderen 2 Gruppen zusammen. Stellt
das bearbeitete Problem und den Massnahmenplan euren Mitschüler_innen vor.
(10 min)
from print to pixel Gesichtserkennung 15 / 27VORURTEILE UND
DISKRIMINIERUNG
Gruppe B
Wie gut funktioniert Gesichtserkennung?
Gruppenarbeit 45 min
1. Schaut euch das Beispiel an:
«Google Photos, y‘all fucked up. My friend‘s not a gorilla.»
Twitter-Post von Jacky Alcine, 29. Juni 2015
Quelle: https://twitter.com/jackyalcine/status/615329515909156865
«Google Photo, Ihr habt‘s vergeigt», schrieb Jacky Alciné 2015 auf Twitter.
«Meine Freundin ist kein Gorilla». Google Photo ist ein Programm, das den
Nutzer_innen von Smartphones das Sortieren ihrer Bilder erleichtern soll, indem
es über eine Bilderkennungssoftware Fotos mit bestimmten Begriffen taggt
und so kategorisiert. Die Gesichtserkennung hatte das Schwarze Paar
versehentlich als Gorillas markiert. Da Alciné selbst Softwareentwickler ist,
wusste er auch sofort, weshalb das Problem bei Google Photo aufkam. So
twitterte er: «Ich weiss, Wie das passiert ist; das Problem liegt aber auch beim
Warum.»
2. Diskutiert in der Gruppe: (10 min)
>> Wie könnte die falsche Bezeichnung zustande gekommen sein?
from print to pixel Gesichtserkennung 16 / 27>> Warum ist diese problematisch?
3. Lest nun den Text auf dem Zusatzblatt durch, dieser gibt euch Antworten auf die
diskutierten Fragen. (5 min)
Vor welche Herausforderungen stellt uns die
Technologie?
Vorurteile und Diskriminierung
Die peinliche Gorilla-Panne von Google Photo zeigt, dass Systeme durch falsches
Tagging Fehler generieren, aber ihnen die nötige Sensibilität fehlt, die ethisch-
moralischen Verbindungen herzustellen. Bei diesem Beispiel ist dies besonders
schmerzvoll, denn durch das Tagging wurde ein rassistischer Wort-Bild-Bezug hergestellt,
der bereits seit der Versklavung Schwarzer Menschen herabwürdigend wirken soll. In der
Automatisierung können sich angelernte ‹Vorurteile› wiederholen. Wir sprechen von
Vorurteilen (Biases), wenn das Gesichtserkennungssystem diskriminierende (z.B.
rassistische oder sexistische) Muster in der Programmierung widerspiegelt. Google hat
sich für den Fehler entschuldigt, das Problem jedoch bloss oberflächlich behoben,
indem der Begriff «Gorilla» aus den möglichen Tags gelöscht wurde.
Google Photo ist aber kein Einzelfall: Joy Buolamwini vom MIT Media Lab testete in ihrer
Studie die Gesichtserkennungssoftwares von Microsoft, IBM und dem chinesischen
Unternehmen Face++. Dabei stellte sie fest, dass die Softwares Gesichter von weissen
Männern eindeutig besser erkennen als die aller anderen, darunter insbesondere die von
Schwarzen Frauen und Frauen of Colour: Während weisse Männer mit einer
durchschnittlichen Fehlerquote von 0,3 Prozent erkannt wurden, steigt diese Zahl bei
Frauen of Colour auf 30,3 Prozent.1 Einer der Gründe dafür ist die mangelnde Vielfalt des
Bildmaterials, das für das Training der Systeme verwendet wird. Je nach Trainingsset sind
rund 75% der Trainingsbilder ‹männlich› und 80–85 % der Bilder zeigen weisse Menschen
oder Menschen die von Programmierer_innen als weiss gelesen werden, obwohl sie sich
als Person of Colour bezeichnen.
Schwerwiegende Folgen davon sind beispielsweise, dass automatisch fahrende Autos
Schwarze Personen und Personen of Colour weniger gut erkennen, mit
Gesichtserkennung ausgestattete Kameras diese versehentlich falsch oder nicht
identifizieren oder in automatisierten Bewerbungsverfahren Schwarze Frauen und Frauen
of Colour automatisch ausgeschlossen werden.
1 Joy Buolamwini, Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification,
S.1, (MIT Media Lab 2018).
from print to pixel Gesichtserkennung 17 / 274. Was müsste unternommen werden, damit die Technologie nicht rassistisch und frei
von Diskriminierung wäre? Überlegt euch Massnahmen, die Programmierer_innen,
Nutzer_innen, die Behörden oder Datenschützer_innen treffen könnten und erstellt
daraus einen Plan von Massnahmen. (20 min)
5. Setzt euch mit je einem/einer Vertreter_in der anderen 2 Gruppen zusammen. Stellt
das bearbeitete Problem und den Massnahmenplan euren Mitschüler_innen vor.
(10 min)
from print to pixel Gesichtserkennung 18 / 27SCRAPING
Gruppe C
Wie gut funktioniert Gesichtserkennung?
Gruppenarbeit, 45 min
1. Schaut euch das Video an und testet die Suchmaschine selbst. (10 min)
Unsere Gesichter hinterlassen Spuren im Internet. Ein Test von SRF zeigt:
Mit wenig Aufwand lassen sie sich finden – und identifizieren.
Unsere persönlichen Spuren im Web, SRF 10vor10, 07.02.2020, 5:54 min
2. Diskutiert in der Gruppe: (5 min)
>> Welche Einschätzungen der Politiker_innen teilst du? Die Chancen oder Sorgen?
>> Welche Bilder von dir im Netz sollen deine Eltern, Lehrpersonen oder zukünftige
Vorgesetzte nicht sehen können?
3. Lest nun den Text auf dem Zusatzblatt durch, dieser gibt euch Antworten auf die
diskutierten Fragen. (5 min)
from print to pixel Gesichtserkennung 19 / 27Vor welche Herausforderungen stellt uns die
Technologie?
Scraping
Das SRF Experiment mit den Wahlkandiat_innen zeigt, wie leicht öffentliche Bilder aus
sozialen Plattformen vollautomatisch durch frei erhältliche
Gesichtserkennungstechnologie identifiziert werden können. Überraschend ist, wie gut
die Personen in Menschenmassen und auch aus dem Profil erkannt werden konnten. Die
Information, ob jemand am Frauen*streik, an der Street Parade, am Schwingfest oder am
Pride Festival war, könnte politisch gegen die Person verwendet werden oder persönliche
Interessen preisgeben, die die Person nicht öffentlich machen möchte. Problematisch ist,
dass dabei auch Bilder auftauchen, die bereits gelöscht wurden, bei denen den Personen
nicht bewusst war, dass sie fotografiert wurden, und die die Nutzer_innen nicht selbst ins
Netz gestellt haben. Auch Fälle von falschen Identifikationen sind irreführend.
Was SRF als Test im Kleinen ausprobiert hat, ist auch im grossen Stil möglich. Dafür
braucht es neben der Gesichts-Suchmaschine entsprechende Daten: Fotografien, auf
denen Menschen abgebildet sind, und mehrere Porträts inklusive Namen zur
Identifikation, um eine biometrische Datenbank aufzubauen. Obwohl es die
Nutzungsbedingungen verletzt, können Bilder von Social-Media-Plattformen und
Webseiten mit im Netz erhältlichen Anleitungen sowie grundlegenden
Programmierkenntnissen massenweise heruntergeladen werden. Dieses illegale
Herunterladen von Bildern aus dem Netz wird als ‹Scraping› bezeichnet. Die Scraper_
innen zapfen Plattformen wie Facebook, Instagram, YouTube und Twitter an, bedienen
sich aber auch an Nachrichtenportalen oder Webseiten von Arbeitgeber_innen, die Fotos
ihrer Mitarbeitenden veröffentlichen.
Aufsehen erregte Anfang 2020 das US-amerikanische Start-up Clearview, das drei
Milliarden Fotos aus öffentlich zugänglichen Quellen abgesaugt haben soll. Es verfolgt
das Ziel, von jeder Person, deren Bilder online verfügbar sind, ein gutes Porträtfoto
abzuspeichern. Daraus entwickelte Clearview eine App, die es ermöglichen soll, all diese
Personen identifizieren zu können. In den USA wird die App bereits von
Strafverfolgungsbehörden eingesetzt, für private Nutzer_innen ist sie (noch) nicht
erhältlich. Datenschützer_innen warnen davor, dass die Plattform die Persönlichkeitsrechte
der erfassten Personen verletze. Zudem könnte die App dafür missbraucht werden,
Nachforschungen über politische Gegner_innen anzustellen, Personen zu überwachen
oder auszuspionieren.
4. Was müsste unternommen werden, damit Scraping verhindert werden könnte und
Porträtbilder im Netz besser geschützt sind? Überlegt euch Massnahmen, die
Programmierer_innen, Nutzer_innen, die Behörden oder Datenschützer_innen treffen
könnten und erstellt daraus einen Plan. (15 min)
from print to pixel Gesichtserkennung 20 / 275. Setzt euch mit je einem/einer Vertreter_in der anderen 2 Gruppen zusammen. Stellt
das bearbeitete Problem und den Massnahmenplan euren Mitschüler_innen vor.
(10 min)
from print to pixel Gesichtserkennung 21 / 27SCHUTZMASSNAHMEN
Warum soll ich mich vor Gesichtserkennungs-
software schützen?
Es scheint vielleicht kein grosses Problem zu sein, wenn du darüber nachdenkst, was
deine Daten anderen verraten: Wen interessiert es schon, welches Ferienselfie du postest
oder welche Snaps du verschickst? Das Problem ist, dass wir nicht mehr vollständig
kontrollieren können, was mit diesen Bildern passiert. Unternehmen und Datenhändler_
innen können daraus intime digitale Muster lesen: Deine Gewohnheiten, Bewegungen,
Beziehungen, Vorlieben, Ansichten und Geheimnisse.
Wichtig ist deshalb, dass du vorsichtig damit umgehst, welche Bilder und Daten du ins
Netz stellst. Du kannst Einfluss auf die Verwendung der Profilbilder nehmen, indem du auf
Social-Media-Plattformen sorgfältig die Einstellungen prüfst und dem System nicht
erlaubst, dass es dich auf Fotos erkennt und markiert. Kontrolliere auch, auf welchen
Fotos du dich und andere markiert hast, und entferne die Markierungen. Gib auch deinen
Standort nur da preis, wo dies unbedingt notwendig ist. Motiviere auch Kolleg_innen,
Freund_innen und Verwandte, dass sie dich bei der Kontrolle dieser flüchtigen Daten
unterstützen.
Praktische Überprüfung mit dem Data Detox Kit
Hausaufgabe, 30 min
Die NGO Tactical Tech hilft dir mit dem Data Detox Kit, deine digitale Sicherheit und
Privatsphäre zu erhöhen. Folge der Anleitung schrittweise und setzte sie auf deinem
eigenen Smartphone um.
>> https://datadetoxkit.org/de/privacy/essentials
Was ist Datenschutz?
Der Begriff Datenschutz ist in der zweiten Hälfte des 20. Jahrhunderts aufgekommen und
wird als Schutz der Privatsphäre bei der Datenverarbeitung und als Schutz des Rechts auf
informationelle Selbstbestimmung definiert. Das heisst jede Person kann selbst
entscheiden, welche Personendaten für wen zugänglich sein sollen und wofür diese
verwendet werden dürfen. Die konkreten Datenschutzbestimmungen unterscheiden sich
aber von Land zu Land.
Bei der Gesichtserkennung werden Personendaten1 erhoben, die eine eindeutige
Identifizierung der jeweiligen Person ermöglichen. Diese Daten sind besonders sensibel
from print to pixel Gesichtserkennung 22 / 27und schützenswert. Werden diese ohne Einwilligung der Person erhoben oder
verarbeitet, werden die Grundrechte und Grundfreiheiten der Person gefährdet und es
kann rechtlich dagegen vorgegangen werden.2
Das Datenschutzgesetz regelt die Nutzung von Gesichtserkennungssoftware für Private,
Behörden und Staaten. Auch Anbieter_innen und Betreiber_innen von Online-Plattformen
unterliegen grundsätzlich dem Datenschutzgesetz und haben die Pflicht, die Rechte ihrer
Nutzer_innen zu schützen.
1 Unter Personendaten verstehen wir alle Informationen, welche einer Person zugeordnet werden
können, also zum Beispiel: Adressdaten, Alter, persönliche Interessen und Neigungen, Standortdaten,
welche ein Handy via GPS aufzeichnet, eigenes Bild (z.B. Profilfoto), etc.
2 Einen umfassenden Einblick über die Bedeutung des Datenschutzes in der Schweiz gibt die Seite des
Bundes und das vom Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten EDÖP und der
nationalen Plattform zur Förderung von Medienkompetenzen «Jugend und Medien» des Bundesamts für
Sozialversicherungen BSV erarbeitete Lehrmittel für Kinder und Jugendliche:
https://www.edoeb.admin.ch/edoeb/de/home/datenschutz/Internet_und_Computer/jugend-und-
internet/lehrmittel-datenschutz.html
Hast du gewusst?
Als erste Stadt der Welt beschloss San Francisco im Mai 2019 den Einsatz von
Gesichtserkennungstechnologie zu verbieten. Weder Behörden noch die
Stadtpolizei dürfen die Technologie nutzen. Der Stadtrat begründet diesen
Entscheid mit dem Schutz der Bürger_innenrechte. San Francisco ist ein
wichtiges Zentrum der Technologiebranche und nimmt durch die Regulierung
seine Verantwortung im sicheren Umgang mit neuen Technologien wahr.
Welche Schutzmassnahmen haben Künstler_innen
und Aktivist_innen entwickelt?
Einzelauftrag, 15 min
Auch zeitgenössische Kunstschaffende und Aktivist_innen reagieren auf das aktuelle
Thema der Gesichtserkennung und entwickeln Ideen dafür, wie man sich dagegen zur
Wehr setzen könnte. Dass diese auch ganz praktische Anwendungen in der Forschung
oder in Protestbewegungen finden, zeigen die folgenden Beispiele.
1. Schaue dir das Video von der Computerwissenschaftlerin und Aktivistin Joy
Buolamwini an. Sie hat sich mit dem Problem der diskriminierenden Algorithmen im
Rahmen ihrer Doktorarbeit am MIT Media Lab auseinandergesetzt und
Lösungsansätze dafür entwickelt.
from print to pixel Gesichtserkennung 23 / 27Joy Buolamwini, TED Talk: Wie ich Vorurteile in Algorithmen bekämpfe,
TED Institute, 2017, 8:45 min
2. Beantworte folgende Fragen:
>> Welche Probleme beschreibt die Wissenschaftlerin?
>> Wie kommen diese zustande?
>> Mit welchem Ansatz geht Joy Buolamwini dagegen vor?
from print to pixel Gesichtserkennung 24 / 27Adam Harvey, Tarnkunst
Der US-amerikanische Künstler und Forscher Adam Harvey lebt und arbeitet in Berlin. In
seiner Arbeit beschäftigt er sich mit Überwachung, Privatsphäre und Computer-
technologie. In seinem Projekt CV Dazzle entwickelt er eine Art modisches Tarnsystem,
das vor Gesichtserkennung schützen soll. Der Name leitet sich von einer Methode ab, bei
der kubistisch inspirierte Muster verwendet wurden, um die Grösse und Position der
Schlachtschiffe zu tarnen. Diese wurde im Ersten Weltkrieg von der Royal Navy und der
US-Navy eingesetzt.
In ähnlicher Weise nutzt er Frisuren und Make-up zur Umgestaltung des Gesichts. Damit
durchbricht er die Anhaltspunkte der Erkennungssoftware eines menschlichen Gesichts
wie Symmetrie, Konturen, und Position der Gesichtsmerkmale. Es entsteht ein modisches
«Anti-Gesicht».
>> Weitere Informationen zum Künstler und Projekt: https://ahprojects.com/cvdazzle/
>> Look Book: https://cvdazzle.com/
Hast du gewusst?
Dass diese Tarnung nicht nur eine alltagsferne modische Idee ist, zeigen die
Proteste in Honkong: Seit 2019 finden in der Sonderverwaltungszone
Demonstrationen gegen den chinesischen Einfluss und die gegenwärtige
Regierung und Gesetzgebungen statt. Dabei werden Demonstrant_innen
durch Kameras mit Gesichtserkennungssoftware und anderen digitalen
Spionagemethoden identifiziert und verfolgt.
Die Demonstrant_innen entwickelten einfache, aber wirkungsvolle Methoden,
um das erlassene Vermummungsverbot mit Gesichtsmasken zu umgehen. So
verdecken sie ihre Gesichter mit Frisuren, Regenschirmen, Kappen und Brillen.
Mit billigen Laserpointern stören sie teure Erkennungssysteme. Daraus
entstehen neue Formen des Widerstands.
>> Schau dir hier das Video an, wie eine entsprechende Frisur gemacht wird: https://www.independent.
co.uk/news/world/asia/hong-kong-protests-mask-ban-china-face-covering-hairstyle-a9145181.
html?jwsource=cl
>> Und lies hier mehr über die Protestbewegung und ihre Schutzmassnahmen: https://www.faz.net/
aktuell/feuilleton/medien/cyberpunk-in-hongkong-der-kampf-gegen-digitale-spionage-16320838.
html
from print to pixel Gesichtserkennung 25 / 27Gestalterischer Auftrag
Partner_innenarbeit, 45 min
1. Lass dich vom Look Book von Adam Harvey inspirieren. Erstelle selbst ein verhülltes
oder verfremdetes Porträt von deinem Gesicht, mit dem Ziel, dass dieses von einer
Gesichtserkennungssoftware nicht erkannt würde. Nutze dazu Schminke, Frisur oder
aufklebbare Elemente (z. B. aus dem Fasnachtsbedarf).
CV Dazzle Look 1, 2010. Foto: Adam Harvey
CV Dazzle Look 2, 2010. Für DIS Magazine, Foto: Adam Harvey
CV Dazzle Look 3, 2010. Für DIS Magazine, Foto: Adam Harvey
CV Dazzle Look 4, 2010, Für DIS Magazine, Foto: Adam Harvey
Quelle: https://ahprojects.com/cvdazzle/
Styling Tipps
——Trage ungewöhnliche Schminke auf, die mit deinem Hautton und den Konturen des
Gesichts in Farben und Richtungen kontrastiert: helle Farbtöne auf dunkler Haut,
dunkle Farbtöne auf heller Haut. Eckige Formen und scharfe Kanten.
——Der Bereich, in dem sich Nase, Augen und Stirn überschneiden, ist ein wichtiges
Gesichtsmerkmal. Indem du diesen Bereich mit den Haaren oder Dekoelementen
from print to pixel Gesichtserkennung 26 / 27verdeckst, erschwerst du der Software die Erkennbarkeit deines Gesichts.
——Der Algorithmus erwartet eine Symmetrie des Gesichts. Brich diese mit gestalterischen
Eingriffen.
——Versuche auch die elliptische Kopfform zu verändern – Haare, Rollkragenpullover oder
Modeaccessoires können dabei helfen!
2. Halte die Inszenierung fotografisch fest.
3. Zusatzaufgaben:
>> Überlege dir, wie ein kluger Post auf Social Media lauten müsste, um deine Freund_
innen auf die Thematik der Gesichtserkennung aufmerksam zu machen.
>> Optional: Teilt die Bilder im Klassenchat und juriert das Originellste!
from print to pixel Gesichtserkennung 27 / 27Sie können auch lesen
