Chancen und rechtliche Grenzen staatlichen KI-Einsatzes - Prof. Dr. Mario Martini FÖV/Uni Speyer
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Prof. Dr. Mario Martini
FÖV/Uni Speyer
Chancen und rechtliche Grenzen
staatlichen KI-Einsatzes
Europäischer Datenschutztag
Berlin, 28.1.2020
CC BY-SA 3.0 DE
A.
Anwendungsfelder
What would you do, if you
knew exactly how much time
you had left to live?
Picture: Release of death dates in
Brussels, in: „The Brand New
Testament“
https://i.ytimg.com/vi/o8sI5REtURM/maxresdefault.jpg
2
A.
Anwendungsfelder
https://static.interestingengineering.com/images/upl
oads/sizes/AI-diagnosis-1_resize_xs.jpg
https://media.licdn.com/mpr/mpr/AAEAAQAAAAAAAAmWAAAAJGVlNmM1MmYyLTY4MmUtNDU1Yi04MWRhLWE0YmU5YTljZDBlZg.png
07.02.2020 3 CC BY-SA 3.0 DE
A.
Anwendungsfelder
I.
Justiz
Pro futuro:
vollautomatisiertes Schiedsgericht
für zivile Rechtsstreitigkeiten
< 7000 €
https://media.licdn.com/mpr/mpr/AAEAAQAAAAAAAAmWAAAAJGVlNmM1MmYyLTY4MmUtNDU1Yi04MWRhLWE0YmU5YTljZDBlZg.png
07.02.2020 4 CC BY-SA 3.0 DE
A.
Anwendungsfelder
I.
Justiz
COMPAS
(einige US-Bundesstaaten)
07.02.2020 5 CC BY-SA 3.0 DE
A.
Anwendungsfelder
I. II.
Justiz Verwal-
tung
I.
Zuteilungs-
entschei-
dungen
© Tim Guow; unsplash.com
07.02.2020 6 CC BY-SA 3.0 DE
A.
Anwendungsfelder
I. II.
Justiz Verwal-
tung
I.
Zuteilungs-
entschei-
dungen
II.
Kollektive
Planung
© Cherries(stock.adobe.comg
07.02.2020 7 CC BY-SA 3.0 DE
A.
Anwendungsfelder
I. II.
Justiz Verwal-
tung
I.
Zuteilungs-
entschei-
dungen
II.
Kollektive
Planung
III.
Öffent-
liche
Sicherheit
https://static.interestingengineering.com/images/upl
Foto: Volker Hartmann oads/sizes/AI-diagnosis-1_resize_xs.jpg
https://media.licdn.com/mpr/mpr/AAEAAQAAAAAAAAmWAAAAJGVlNmM1MmYyLTY4MmUtNDU1Yi04MWRhLWE0YmU5YTljZDBlZg.png
07.02.2020 8 CC BY-SA 3.0 DE
A. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie des Einsatzes“
Vollautoma-
tisierte
Systeme
https://www.shutterstock.com/de/image-photo/find-way-43806565?src=ide
07.02.2020 9 CC BY-SA 3.0 DE
A. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I.
„Ob“
Vollautoma-
tisierte
Systeme Art. 22 Abs. 1 DSGVO
Ver- Jus-
(1) Die betroffene Person hat das Recht, nicht
walt tiz einer ausschließlich auf einer automatisierten
ung Verarbeitung […] beruhenden Entscheidung
unterworfen zu werden (…).
(2) Absatz 1 gilt nicht, wenn die Entscheidung
b) aufgrund von Rechtsvorschriften der Union
oder der Mitgliedstaaten zulässig ist
§ 35a VwVfG
Ein Verwaltungsakt kann vollständig durch
automatische Einrichtungen erlassen werden, […]
https://www.zeit.de/2019/02/digitale-verwaltung-behoerden-aemter-digitalisierung
07.02.2020 10 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I.
„Ob“
Vollautoma-
tisierte
Systeme
Ver- Jus-
walt tiz
ung
Art. 92 Hs. 1 GG
Die rechtsprechende Gewalt ist den Richtern anvertraut; […].
Art. 97 GG
(1) Die Richter sind unabhängig und nur dem Gesetze unterworfen
(2) …..wider ihren Willen …. vor Ablauf ihrer Amtszeit … auf Lebenszeit
angestellte Richter in den Ruhestand treten“
https://www.ehstoday.com/safety-technology/robot-safety-it-s-not-science-fiction-it-s-lawA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I.
„Ob“
Vollautoma- Entschei-
tisierte dungsunter-
Systeme stützung
https://stock.adobe.com/
07.02.2020 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
https://www.rubikon.news/artikel/kunstliche-intelligenz-als-gefahr/
07.02.2020 13 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Automa-
tion Bias
https://www.lucidchart.com/blog/webinar-critical-elements-for-better-decision-making
07.02.2020 14 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Pflicht zur Nachvoll-
Entschei- ziehbar-
dung keit
für Amts-
träger
Grundzüge der Funktionsweise + Kriterien
Begründung der Systementscheidung
Angaben zu Wahrscheinlichkeiten +
möglichen Fehlerquellen
http://www.digitalistbesser.org/wp-content/uploads/2013/01/20130121-the-great-crowdsourcing-tt-2011.jpg
07.02.2020 15 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Pflicht zur Nachvoll-
Entschei- ziehbar-
dung keit
für Amts-
träger
für
Betroffe-
ne
Begrün-
dung
IFG-
Zugang
zum Code
http://www.firmenauto.de/freie-sicht-voraus-so-geht-man-gegen-feuchtigkeit-im-auto-vor-2235903.html
07.02.2020 16 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Pflicht zur Nachvoll-
Entschei- ziehbar-
dung keit
für Amts-
träger
für
Betroffe-
ne
§ 6 IFG – de lege ferenda Begrün-
(1) Der Anspruch auf Informationszugang besteht nicht, soweit dung
der Schutz geistigen Eigentums entgegensteht. Zugang zu IFG-
Betriebs- oder Geschäftsgeheimnissen darf nur gewährt werden, Zugang
zum Code
soweit der Betroffene eingewilligt hat oder das
Informationsinteresse überwiegt © thingamajiggs - Fotolia.com
07.02.2020 17 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Pflicht zur Nachvoll-
Entschei- ziehbar- Kontrolle
dung keit
Demo-
kratie
http://www.autofahrerseite.eu/images/Redaktion/Tipps_Trends/wie-lese-ich-die-tuev-plakette-richtig/TUEV-Rheinland_HU-Plaketten_2014_-_2018.jpg
07.02.2020 18 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Pflicht zur Nachvoll-
Entschei- ziehbar- Kontrolle
dung keit
https://t3.ftcdn.net/jpg/01/03/13/82/240_F_103138273_voatiwVGPXh2Hmr2gLivrNWz7VAX7mXs.jpg
07.02.2020 19 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Pflicht zur Nachvoll-
Entschei- ziehbar- Kontrolle
dung keit
Ex- Pa-
ante ra-
llel
http://www.autofahrerseite.eu/images/Redaktion/Tipps_Trends/wie-lese-ich-die-tuev-plakette-richtig/TUEV-Rheinland_HU-Plaketten_2014_-_2018.jpg
07.02.2020 20 CC BY-SA 3.0 DEA. B.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes
I. II.
„Ob“ „Wie“
Pflicht zur Nachvoll-
Entschei- ziehbar- Kontrolle
dung keit
Ex- Pa-
ante ra-
llel
Kontroll- Proto-
algorithmen kollierung
Live-
Schnittstelle
https://www.shutterstock.com/de/video/clip-4007008-multiple-hydraulic-pressure-gauges-reading-on-equipment
07.02.2020 21 CC BY-SA 3.0 DEA. B. C.
Anwendungsfelder Zulässigkeit staatlichen Algorithmeneinsatzes Fa-
zit
I. II. I.
„Ob“ „Wie“ Verw
Vollautoma- Entschei- Pflicht zur Nachvoll- II.
tisierte dungsunter- Entschei- ziehbar- Kontrolle Jus-
Systeme stützung dung keit tiz
Ver- Ex- Pa-
Jus- für Amts- ra-
walt ante
ung tiz träger llel
für
Betroffe-
ne
Begrün-
dung
IFG-
Zugang
zum Code
http://img00.deviantart.net/79e2/i/2012/079/5/7/creation_of_adam_in_the_21st_century_by_fishsnack-d4n0446.jpg
07.02.2020 22 CC BY-SA 3.0 DE07.02.2020 23
Kontakt: Prof. Dr. Mario Martini Freiherr-vom-Stein-Str. 2, 67346 Speyer 06232/645-403; martini@foev-speyer.de Jüngere Veröffentlichungen zum Themenfeld: • Blackbox Algorithmus – Grundfragen eine Regulierung Künstlicher Intelligenz, Heidelberg, 2019, 400 S. • Mandated Choice: der Zwang zur Entscheidung auf dem Prüfstand von Privacy by Default (Art. 25 Abs. 2 S. 1 DSGVO), Rechtswissenschaft 2019, S. 287-316 (mit Quirin Weinzierl)- • Subsumtionsautomaten ante portas? - Zu den Grenzen der Automatisierung in verwaltungsrechtlichen (Rechtsbehelfs-)Verfahren, DVBl 2018, S. 1128 - 1138 ( mit David Nink). Wenn Maschinen entscheiden... - vollautomatisierte Verwaltungsverfahren und der Persönlichkeitsschutz (mit David Nink), NVwZ 2017, S. 681 f. • Die Blockchain-Technologie und das Recht auf Vergessenwerden, NVwZ 2017, S. 1251-1259 • Die Datenschutz-Grundverordnung: Revolution oder Evolution im europäischen und deutschen Datenschutzrecht?, EuZW 2016, 448-454 (mit Jürgen Kühling). • Wie neugierig darf der Staat im Cyberspace sein? Social Media Monitoring öffentlicher Stellen – Chancen und Grenzen, VerwArch. 3/2016, S. 307-358. • Do it yourself im Datenschutzrecht, NVwZ 2016, 353 f. (Kurzfassung); NVwZ-Extra 6/2016, 1-13 (Langfassung). • Wie werden und wollen wir morgen leben? - Ein Blick in die Glaskugel der digitalen Zukunft, in: Hill/Martini/Wagner (Hrsg.), Die digitale Lebenswelt gestalten, Baden-Baden 2015, S. 9-56.
A.
Anwendungsfelder
https://static.interestingengineering.com/images/upl
Foto: Volker Hartmann oads/sizes/AI-diagnosis-1_resize_xs.jpg
https://media.licdn.com/mpr/mpr/AAEAAQAAAAAAAAmWAAAAJGVlNmM1MmYyLTY4MmUtNDU1Yi04MWRhLWE0YmU5YTljZDBlZg.png
07.02.2020 25 CC BY-SA 3.0 DESie können auch lesen
