Maschinen- und Roboterethik: Die komplexe Ethik autonomer Kraftfahrzeuge - Florian Schmidt
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Fakultät für Informatik Technische Universität München Maschinen- und Roboterethik: Die komplexe Ethik autonomer Kraftfahrzeuge Florian Schmidt fs.schmidt@tum.de Technische Universität München Fakultät für Informatik Seminar Wissenschaftler und Ethik München, 27. Juni 2020
Inhalt
1. Grobeinordnung in die Maschinenethik
2. Spezialisierungsrichtung: autonomes Fahren
3. Automatisierungsstufen nach SAE-Standard
sowie Einblicke in den aktuellen Stand der Technik
4. Unfallprävention und Unfallfolgenminimierung: Entscheidungsproblematiken
5. Einführung in ethische Dilemmata: das Trolley-Problem
6. Typische Abwägungsszenarien am Beispiel der Moral Machine
7. Handreichung der deutschen Ethik-Kommission (2017)
8. Diskussion
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 2
Maschinen- und Roboterethik: Eine kurze Einordnung
Definition der Maschinenethik nach [17, S. 17]
Beschäftigung mit der maschinellen Moral bzw. der moralischen Maschine.
Intelligenz und Moral: unabhängig, aber korrelieren dennoch:
Maschinenethik Künstliche Intelligenz
Forschung Forschung
Maschinelle Moral Intelligente Systeme
Simulieren vs. Erreichen von… Simulieren vs. Erreichen von…
Menschliche Moral Menschliche Intelligenz
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 4
Verwandte Disziplinen und Abgrenzung nach [17, S. 18f.]
• Digitale Ethik:
à Reflektion informationeller Autonomie, Umgang mit Informationstechnischen Systemen
• Technikethik:
à Reflektion allgemein gefasster Technik und wissenschaftlicher Entwicklungen
Zentrale Idee: Maschine als Subjekt der Moral – so, wie der Mensch
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 5
Notwendigkeit und Kernfragen
• Notwendigkeit der Maschinenethik
à proportional zur wachsenden Autonomie der Maschinen
• treffen Maschinen autonome Entscheidungen, ist die Moral relevant
• Wie kommt die Moral in die Maschine?
Umwandeln der Moral in ein maschinenverständliches Konzept.
• Wie viel Entscheidungsgewalt überlassen wir Maschinen?
insb. Entscheidungen über Leben und Tod: Militärethik
• In welcher Form trägt die Maschine Verantwortung über ihr Handeln?
Abgabe bzw. Vernichtung der Verantwortung des Menschen
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 6
Spezialisierung: Autonomes Fahren
Anwendungsgebiet Autonomes Fahren
Im Folgenden Fokus auf autonomes Fahren, dank
• Alltagsrelevanz der Thematik
• viel Berührung mit den folgenden Überlegungen.
[7]
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 8
Motivation durch Straßenverkehrsunfallgeschehen
• Verkehrsunfallstatistik aus [2], [3]
2018: ca. 2,5 Mio. erfasste Verkehrsunfälle.
Ursachen: 88,4 % Fehlverhalten der Fahrzeugführer
à Faktor Mensch verschwindet nicht aus dem Straßenverkehr
à seit längerem helfen diverse Assistenzsysteme im Fahrer nicht nur unterstützen,
Fahrzeug sondern ersetzen
à utopische Zukunftsvorstellung:
effizienter, eleganter, entspannter unterwegs sein Systeme müssen nicht perfekt fahren
– nur besser als wir
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 9
Automatisierungsstufen nach der SAE Einblicke in den Stand der Technik
Konkretisierung der Automatisierungsstufen vgl. Society of Automotive Engineers-Standard J3016, Juni 2018 [4], [5], [6] Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 11
Konkretisierung der Automatisierungsstufen Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 12
Konkretisierung der Automatisierungsstufen vgl. SAE-Standard J3016, Juni 2018 [4], [5], [6] Aufteilung der Entwicklungen in sechs Stufen • rechtliche Klassifizierung • Klärung der Verantwortungsfrage • bis zu Level 4 z.T. im Einsatz • rechtliche Rahmenbedingungen fehlen Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 13
Level 0: Selbstfahrer/“Driver only“
klassisches manuelles Fahren
• menschlicher Fahrer übernimmt
alle Aspekte der Fahraufgabe
• lediglich „informierende“ oder kurzfristig
eingreifende Sicherheitsfeatures
Beispiele:
• Totwinkelwarnung
• Spurverlassenswarner
• Notbremsassistent
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 14Level 1: assistierter Fahrer
z.B. in vielen modernen Neuwagen
• System übernimmt entweder Quer- oder
Längssteuerung des Fahrzeugs…
• …unter ständiger Überwachung
durch den menschlichen Fahrer
Beispiele:
• Adaptiver Tempomat (ACC)
• Spurhalteassistenten mit Lenkeingriff
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 15Level 2: Teilautomatisiert
z.B. Tesla Autopilot und diverse weitere Systeme
• System übernimmt Quer- und Längssteuerung
des Fahrzeugs…
• …unter ständiger Überwachung
durch den menschlichen Fahrer
• Kontrollübernahme wenn nötig
Beispiel Tesla Autopilot (fahrerunterstützend):
• Fahrspur & Abstand zum Vordermann halten
• autonome Lenkung in komplexen Umgebungen
• autonome Spurwechsel
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 16Level 3: bedingt automatisiert
z.B. Audi Staupilot im A8
• System übernimmt im bestimmten Situationen
die vollständige Kontrolle über die Fahraufgabe
• keine Überwachung ist nötig
• in konkret abgesteckten
Fahrsituationen einsetzbar
• System kennt die eigenen Grenzen
• muss risikominimierend wirken können
• Kontrollübernahme innerhalb kurzer Zeit
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 17Audi Staupilot (A8, 2018)
• Kontrollübernahme auf Autobahnen im Stau
und bei Kolonnenverkehr unterhalb von 60 km/h
• Verantwortungsabgabe an Audi
• Übernahmezeit: zehn Sekunden
• Fahrer darf sich anderer Beschäftigung widmen
• noch keine Zulassung: rechtliche
Rahmenbedingungen fehlen
[8]
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 18Level 4 & 5: Hoch- und Vollautomatisiert z.B. Waymo-Taxis in Phoenix (Level 4) Level 4 wie 3, aber: • kein Fahrer als „Fallback“ nötig • System erkennt Grenzen und wirkt selbst risikominimierend Level 5: • analog zu Level 4, nur ohne Systemgrenzen • vielseitig einsetzbar wie menschlicher Fahrer • kann auch leer fahren Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 19
Unfallprävention und Unfallfolgenminimierung Entscheidungsproblematiken
Die Entscheidungsproblematik
• spätestens bei den Levels 3, 4 und 5:
Eröffnung ethischer Dilemmata
Gemischter Verkehr: [9, S. 1277f.]
• Unterschiedlicher Prozess der
• Fahrzeuge aus diversen
Entscheidungsfindung bei Mensch und
Automatisierungsklassen teilen sich die Straße
Maschine
• Unfallfaktor Mensch wird nicht verschwinden
• Unfälle sind auch bei Prävalenz
autonomer Fahrzeuge unausweichlich
Maschine muss wissen, wie sie sich bei
einem Unfall zu verhalten hat!
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 21Strategien in Systemgrenzbereichen
Level 0-2: Level 3-5: [10, S. 71]
• Kontrollübergabe an den Fahrer • Kontrollübergabe nicht (rechtzeitig) möglich
• Aufmerksamkeit erforderlich • Reaktionszeit des abgelenkten Fahrers
à instantane Übergabe möglich viel zu hoch
• „manuelle“ Entschärfung der Situation • Lagebewusstsein nicht vorhanden
• Eingriff evtl. gar nicht möglich
Unfallvermeidung ist nicht immer möglich –
Unfallfolgenminimierung erfordert konkrete Handlungen.
à Targeting
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 22Reaktionen und aktive Entscheidungen im Unfallgeschehen Menschliche Reaktionen: [10, S. 1278] Autonomes Fahrzeug: • unkoordinierte, • Kann in kürzester Zeit eine große Anzahl an • reflexartige, Handlungsalternativen durchrechnen • unreflektierte, • Voraussage der Folgen bestimmter Handlungen • evtl. panische, aufgrund von verfügbaren Informationen • spontane, • aktive, qualifizierte Entscheidung auf Basis • instinktive… einprogrammierter Prinzipien • …Reaktionen auf äußere Reize Dilemma der Programmierung: • ohne vorausgehende Planung • Eventualität muss behandelt werden Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 23
Deterministische Perspektive auf Verkehrsunfallfolgen
Stichwort „Programmierung“: • Verkehrsunfallfolgen nicht mehr abhängig von
• Determinierung der Entscheidungen, die im spontanen Fahrmanövern
Ernstfall getroffen werden • Konfrontationen mit ethischen
• Auf Basis der verfügbaren Prinzipien Dilemmasituationen
• derartige Überlegungen tauchen bei
menschlichem Verkehr nicht auf
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 24Ansätze im Algorithmusdesign Ursprungsgedanke: Utilitaristischer Ansatz • Minimierung der negativen Folgen… • …auf Leib, • Leben • und Eigentum. • vgl. Trolley-Problem Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 25
Einführung in ethische Dilemmata Das klassische Trolley-Problem
Überlegungen zum klassischen Trolley-Problem Unterlassen der Handlung des Weichenstellers: à fünf Menschen sterben Handeln des Weichenstellers: à Involvierung in der Situation à Retten von fünf Menschen… à …auf Kosten des Lebens einer weiteren Person Ethische Überlegungen: • Utilitaristisch: Weiche umstellen! • Abwägen der Tötung einer Person mit dem „Sterben lassen“ von fünf Menschen Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 27
Prädeterminierte Entscheidungsprinzipien Parallele zum Trolley-Problem schwächelt: • Entscheidungen werden nicht in Echtzeit getroffen • gerade deshalb ist die Diskussion ethisch hochinteressant • kritisches Hinterfragen und Rechtfertigung nötig • Rechtfertigung vorangehender Handlungen vs. generelle Maximen Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 28
Typische Abwägungsszenarien am Beispiel der Moral Machine, MIT [12], [13]
Targeting: Beispielhaftes Gedankenexperiment
Situation: (adaptiert nach [10, S. 69f.])
• zwei Personengruppen auf der Fahrbahn
• junges Geschwisterpaar und älteres Ehepaar
• links und rechts Barrikaden
• Abbremsen unmöglich, Aufprall endet tödlich
Wie trifft man diese Entscheidung?
Wie gibt man dem Fahrzeug vor, wie es sich zu
entscheiden hat?
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 30Ethische Argumentationen in Entscheidungsszenarien Diskussion: • Junge Menschen haben noch ihr ganzes Leben, Familie, Karriere und Glück vor sich • Alte Menschen haben erfülltes Leben bereits hinter sich • Beide Auswahlmöglichkeiten ethisch schlicht falsch: objektiviertes Abwägen der Menschenleben geht gegen jede Moral • Wenn auch verwerflich: potenzielle Gründe für eine konkrete Entscheidung • Targeting gegen/Diskriminierung von Bevölkerungsgruppen Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 31
Allgemeine Lösungsansätze
Lösungsmöglichkeiten:
• Nichtaktion?
• Zufällige Wahl der Fahrspur?
(ebenfalls potenziell fahrlässig)
• Adaptiertes Szenario: beide Gruppen werden bei
Nichtaktion getroffen – was tun?
Ethisch und moralisch korrekte Antwort
lässt sich nicht finden!
• Ratlosigkeit, bis dato unmögliche Situationen
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 32Die gedankenexperimentelle Moral Machine (MIT, 2018)
• Experimentelle Online-Platform des MIT [12]
• stellt Nutzer vor ethische Dilemmasituationen des
autonomen Fahrens
• globales Datensammeln als Basis für
Entscheidungsmaximen
• Menschen vs. Tiere, Kurs halten vs. ausweichen,
Passagiere vs. Passanten, legales vs. illegales
Überqueren, …
• Ergebnisse 2018 publiziert [13]
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 33Globale Präferenzen bei der Moral Machine [13, S. 61] Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 34
Kulturelle Unterschiede bei der Moral Machine [13, S. 62] Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 35
Handreichung der deutschen Ethik-Kommission Stellungnahme zum autonomen Fahren des BMVI, 2017 [15], [16]
Ethik-Kommission: Automatisiertes und Vernetztes Fahren
aus gegebenem Anlass:
Es existieren wenig bis gar keine generalisierbaren
ethische Richtlinien zur vorliegenden Thematik
• Verkehrsminister Alexander Dobrindt ernennt
2016 eine nationale Ethik-Kommission
• Präsentation eines Ethikcodes für autonomes
Fahren im Juni 2017
• enthält 20 normalisierte ethische Regeln für
den automatisierten und vernetzten
Fahrzeugverkehr
• Analyse durch Prof C. Luetge (TUM) [16]
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 37Auszug: Vermeidung Personenschaden
In unausweichlichen Unfallszenarien:
• Schutz des menschlichen Lebens hat höchste
Priorität
• Inkaufnahme von Tier- und Sachschäden
• Wertung von Menschenleben gegenüber
Tierleben (Tierschutz im GG seit 2002)
• vgl. global preferences der Moral Machine
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 38Auszug: Dilemmatische Situationen
In unausweichlichen Unfallszenarien:
• dilemmatische Situationen nicht eindeutig
normierbar
• nicht zweifelsfrei programmierbar
• können keine sittlichen, verantwortlichen
Entscheidungen ersetzen
• Programmierung nicht aus genannten Szenarien
ableitbar
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 39Auszug: Qualifizierte Entscheidungen
In unausweichlichen Unfallszenarien:
• jede Qualifizierung nach persönlichen
Merkmalen (Alter, Geschlecht, Fitness, …)
untersagt
• Aufrechnung untersagt
• Aufopferung von Unbeteiligten untersagt
• Minimierung der Personenschäden potenziell
vertretbar
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 40Moral Machine: Death by algorithm [13, S. 63]
„Never in the history of humanity have we allowed a machine to autonomously
decide who should live and who should die, in a fraction of a second, without real-
time supervision. We are going to cross that bridge any time now, and it will not
happen in a distant theatre of military operations; it will happen in that most
mundane aspect of our lives, everyday transportation.“
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 41Inspiration und weiterführende Informationen
• „The ethical dilemma of self-driving cars – Patrick Lin”
TED-Ed, 2015
https://youtu.be/ixIoDYVfKA0
• The Moral Machine
MIT, 2018 (siehe auch Nature 563)
http://moralmachine.mit.edu
• „Terror – Ihr Urteil“
Ferdinand von Schirach, 2016
• Maurer, Markus, et al. „Autonomous driving.“ Berlin,
Deutschland: Springer Berlin Heidelberg 10 (2016): 978-3.
• Algo.Rules: Regeln für die Gestaltung algorithmischer Systeme
https://algorules.org/
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 42Literaturverzeichnis
[1] Statistisches Bundesamt (Destatis). “Verkehrsunfälle (Fachserie 8 Reihe 7)” (2019). URL:
https://www.destatis.de/DE/Themen/Gesellschaft- [9] Sven Nyholm und Jilles Smids. “The Ethics of Accident-Algorithms for Self-Driving Cars: an
Umwelt/Verkehrsunfaelle/Publikationen/Downloads-Verkehrsunfaelle/verkehrsunfaelle-jahr- Applied Trolley Problem?” In: Ethical Theory and Moral Practice 19.5 (2016), S. 1275–1289.
2080700187004.pdf (Letzter Zugriff 24.05.2020). DOI: 10.1007/s10677-016-9745-2. URL: https://doi.org/10.1007/s10677-016-9745-2
[2] Kraftfahrtbundesamt. “Jahresbilanz des Fahrzeugbestandes am 1. Januar 2020” (2020). [10] Markus Maurer et al. "Autonomous Driving - Technical, Legal and Social Aspects".
URL: https://www.kba.de/DE/Statistik/Fahrzeuge/Bestand/pseudo_bestand_node.html Springer, 2016. URL: https://link.springer.combook/10.1007/978-3-662-48847-8.
(Letzter Zugriff 24.05.2020).
[11] Moral Reasoning the Trolley Problem. 2014. URL: https://medium.com/jigarjain/moral-
[3] Statistisches Bundesamt (Destatis). “Verkehrsunfälle in Deutschland (Grafiken)” (2020). URL: reasoning-the-trolley-problem-1bfa17e830fa (Letzter Zugriff 24.05.2020).
https://www.destatis.de/DE/Themen/Gesellschaft-Umwelt/Verkehrsunfaelle/_inhalt.html
(Letzter Zugriff 24.05.2020). [12] Moral Machine. URL: http://moralmachine.mit.edu/ (Letzter Zugriff 24.05.2020).
[4] SAE. "Taxonomy and definitions for terms related to driving automation systems for on-road [13] Edmond Awad et al. “The Moral Machine experiment”. In: Nature 563.7729 (2018), S. 59–64.
motor vehicles" (2016). SAE International (J3016). DOI: 10.1038/s41586-018-0637-6. URL: https://doi.org/10.1038/s41586-018-0637-6.
[5] SAE. "Levels of Driving Automation". URL: https://www.sae.org/news/press- [14] Matthew T. Lee. “The Ford Pinto Case and the Development of Auto Safety Regulations,
room/2018/12/sae-international-releases-updated-visual-chart-for-its-%E2%80%9Clevels-of- 1893—1978”. In: Business and Economic History 27.2 (1998), S. 390–401. ISSN: 08946825.
driving-automation%E2%80%9D-standard-for-self-driving-vehicles URL: http://www.jstor.org/stable/23703151.
(Letzter Zugriff 24.05.2020).
[15] Bundesministerium für Verkehr und digitale Infrastruktur. “Ethik-Komission Automatisiertes
[6] Bundesanstalt für Straßenwesen (BASt). “Rechtsfolgen zunehmender und vernetztes Fahren” (2017). URL:
Fahrzeugautomatisierung” (2012). URL: https://www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-
http://www.bast.de/DE/Publikationen/Foko/Downloads/2012-11.pdf?__blob=publicationFile kommission.pdf?__blob=publicationFile (Letzter Zugriff 24.05.2020).
(Letzter Zugriff 24.05.2020).
[16] Christoph Luetge. “The German Ethics Code for Automated and Connected Driving”. In:
[7] Tesla – Autopilot (2020). URL: https://www.tesla.com/autopilot (Letzter Zugriff 24.05.2020). Philosophy & Technology 30.4 (2017), S. 547–558. URL: https://doi.org/10.1007/s13347-017-
0284-0.
[8] Audi A8 Staupilot. URL: https://imgr1.auto-motor-und-sport.de/Audi-A8-Staupilot-
bigMobileWide-86652790-1114601.jpg (Letzter Zugriff 24.05.2020). [17] Oliver Bendel. “Handbuch Maschinenethik”. Springer, 2019.
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 43Offene Fragen? Punkte für die Diskussion?
Diskussionsansätze
Entscheidungsgewalt der Maschinen?
• Wie viel Entscheidungsgewalt überlassen wir Maschinen?
insb. Entscheidungen über Leben und Tod: MilitärethikVerantwortungsübernahme der Maschinen?
• In welcher Form trägt die Maschine Verantwortung über ihr Handeln?
Abgabe bzw. Vernichtung der Verantwortung des MenschenDiskussion: Motorradfahrer Selbstjustiz auf der Straße
Diskussion: Entscheidungsprinzipien
Weitere typische Abwägungsszenarien [10, S. 72], [12], [14]
Targeting in Bezug auf Fahrzeugklassen: Schutz der Mitfahrer vs. der Allgemeinheit:
• extensive Kommunikationsmöglichkeiten
erlauben Koordinierung
• Entscheidungsbasis Crashsicherheit
(gemessen an Euro-NCAP)
• Kollision eher mit großem und stabilem SUV
(sicher) oder mit kleinem und instabilen
Fahrzeug (unsicher)?
à Unfallrisiko invers proportional zur Sicherheit?
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 50Qualifizierte Entscheidungsfindung?
Darf auf Basis identifizierender Eigenschaften der
involvierten Personen eine informierte Entscheidung
getroffen werden?
Dürfen Gründe zur Entscheidungslenkung,
wenngleich diese ethisch und moralisch verwerflich
sein sollten, zur Pfadplanung herangezogen
werden?
Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 51Ethikkommission: [15, S. 11] Miteinbezug persönlicher Charakteristika? „Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt. Eine Aufrechnung von Opfern ist untersagt. Eine allgemeine Programmierung auf eine Minderung der Zahl von Personenschäden kann vertretbar sein. Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern.” Florian Schmidt | Ethik des autonomen Fahrens | Seminar W&E SoSe 2020 52
Sie können auch lesen
