Der selbstbestimmte Mensch, KI und Robotik: ein Widerspruch? - Datenschutz- und IT-sicherheitsrechtliche Herausforderungen ...
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Der selbstbestimmte Mensch, KI und Robotik: ein Widerspruch? – Datenschutz- und IT-sicherheitsrechtliche Herausforderungen nikolaus.forgo@univie.ac.at
Back to Basics 04.05.2018 Seite 2
Volkszählungsurteil „Das Grundrecht gewährleistet insoweit die Befugnis des Einzelnen, grundsätzlich selbst über die Preisgabe und Verwendung seiner persönlichen Daten zu bestimmen. Einschränkungen dieses Rechts auf "informationelle Selbstbestimmung" Nicht: im sind nur im überwiegenden Allgemeininteresse zulässig. Sie bedürfen einer überwiegenden verfassungsgemäßen gesetzlichen Grundlage, die dem rechtsstaatlichen Eigeninteresse Gebot der Normenklarheit entsprechen muß. Bei seinen Regelungen hat der Gesetzgeber ferner den Grundsatz der Verhältnismäßigkeit zu beachten. Auch hat er organisatorische und verfahrensrechtliche Vorkehrungen zu treffen, welche der Gefahr einer Verletzung des Persönlichkeitsrechts entgegenwirken.“ 04.05.2018 Seite 3
04.05.2018 https://www.bloomberg.com/news/articles/2018-03-21/police-release-video-of-fatal-uber-autonomous-car-collision Seite 4
04.05.2018 https://www.bloomberg.com/news/articles/2018-03-21/police-release-video-of-fatal-uber-autonomous-car-collision Seite 5
04.05.2018 https://www.bloomberg.com/news/articles/2018-03-21/police-release-video-of-fatal-uber-autonomous-car-collision Seite 6
Twitter
@TemplePolice
722.000 Views
04.05.2018 https://www.bloomberg.com/news/articles/2018-03-21/police-release-video-of-fatal-uber-autonomous-car-collision Seite 7
Tausende Diskussionsbeiträge 04.05.2018 Seite 8
Twitter? Deutschland? 04.05.2018 Seite 9
4 weitere Juristen 04.05.2018 Seite 10
Datenschutz-Folgenabschätzung Artikel 35 Datenschutz-Folgenabschätzung (1) Hat eine Form der Verarbeitung, insbesondere bei Verwendung neuer Technologien, aufgrund der Art, des Umfangs, der Umstände und der Zwecke der Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge, so führt der Verantwortliche vorab eine Abschätzung der Folgen der vorgesehenen Verarbeitungsvorgänge für den Schutz personenbezogener Daten durch. 04.05.2018 Seite 11
Ergebnis
Die Twitternutzung durch den LfDI ist angesichts
der beschriebenen Risiken und verbindlich
vorgesehenen Maßnahmen vertretbar. Der LfDI
4 Seiten verpflichtet sich, die weitere Entwicklung zu
beobachten und die hier vorgenommene
Prüfung regelmäßig, mindestens einmal im
Quartal, zu wiederholen und ggfls.
fortzuentwickeln.
04.05.2018 https://www.baden-wuerttemberg.datenschutz.de/twitter-datenschutzfolgenabschaetzung/ Seite 1204.05.2018 http://www.zeit.de/news/2018-03/06/dorothee-baer-kritisiert-datenschutz-wie-im-18-jahrhundert-180306-99-358321 Seite 13
Automatisierte Einzelfallentscheidung
• Art. 22 DS-GVO
• Systematisch: Betroffenenrecht (so wie Information, Auskunft, Löschung usw.)
• (1) Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer
automatisierten Verarbeitung — einschließlich Profiling — beruhenden
Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung
entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.
◦ Ausnahmen:
- für Vertrag erforderlich
- aufgrund gesetzlicher Vorgaben
• Sofern diese angemessene Maßnahmen zur Wahrung der Rechte und Freiheiten
sowie der berechtigten Interessen der betroffenen Person enthalten
- mit ausdrücklicher Einwilligung der betroffenen Person
04.05.2018 Seite 14Warum? 04.05.2018 Seite 15
Keine ungeprüfte Unterwerfung
des Individuums unter die
Entscheidung der Maschine
04.05.2018 Seite 16von Lewinsky
„Ein (zu) weites Verständnis würde praktisch
dazu führen, dass letztendlich triviale
Wenn/Dann-Entscheidungen wie Abhebungen
Warum? am Geldausgabeautomaten, automatisierte
Genehmigungen von Kreditkartenverfügungen
oder automatisierten Guthabenabgleich zur
Regelungsgegenstand? Ausführung von Überweisungs-, Scheck- oder
Lastschriftaufträgen vom Verbot der
automatisierten Einzelfallentscheidung umfasst
wären. Dies erscheint wenig sachgerecht.“
04.05.2018 https://beck- Seite 17
online.beck.de/?vpath=bibdata%2fkomm%2fBeckOKDatenS_23%2fEWG_DSGVO%2fcont%2fBECKOKDATENS%2eEWG_DSGVO%2eA22%2eglB04.05.2018 Seite 18
§ 1b StVG
(1) Der Fahrzeugführer darf sich während der Fahrzeugführung mittels hoch- oder vollautomatisierter
Fahrfunktionen gemäß § 1a vom Verkehrsgeschehen und der Fahrzeugsteuerung abwenden; dabei
muss er derart wahrnehmungsbereit bleiben, dass er seiner Pflicht nach Absatz 2 jederzeit
nachkommen kann.
(2) Der Fahrzeugführer ist verpflichtet, die Fahrzeugsteuerung unverzüglich wieder zu übernehmen,
1. wenn das hoch- oder vollautomatisierte System ihn dazu auffordert oder
2. wenn er erkennt oder auf Grund offensichtlicher Umstände erkennen muss, dass die Voraussetzungen für
eine bestimmungsgemäße Verwendung der hoch- oder vollautomatisierten Fahrfunktionen nicht mehr
vorliegen.
04.05.2018 Seite 195 Sekunden Blick abgewendet
1,4 Sekunden zwischen Auftauchen des
Hindernisses und Zusammenstoß
04.05.2018 https://www.bloomberg.com/news/articles/2018-03-21/police-release-video-of-fatal-uber-autonomous-car-collision Seite 20• Automatisierte Einzelfallentscheidung? • Verhältnis DS-GVO-StVG? • Verarbeitung sensibler Daten? • Strafrahmen: 20.000.000 € oder 4 % des Jahresumsatzes Art 83 Abs 5 lit b 04.05.2018 Seite 21
Aber
• Recht auf Leben, körperliche Integrität,
Sicherheit ?
Was, wenn Maschinen (schon jetzt)
besser fahren? • What can be done will be done?
• Wirtschaftsstandort?
04.05.2018 Seite 22Aber
• Recht auf Leben, körperliche Integrität,
Sicherheit ?
Was, wenn Maschinen (schon jetzt)
besser entscheiden? • What can be done will be done?
• Wirtschaftsstandort?
04.05.2018 Seite 2304.05.2018 https://www.nature.com/articles/nature21056.epdf?referrer_access_token=RcIKxkNHJfvxwTkuTW4lPNRgN0jAjWel9jnR3ZoTv0NXpMHRAJy8Qn1 Seite 24
0ys2O4tuPxB4B9GCLPvFTfGPu3BrO0euO-oKmEt01tc_3Bad0Edx-„Das Grundrecht gewährleistet insoweit die Befugnis des Einzelnen,
grundsätzlich selbst über die Preisgabe und Verwendung seiner
persönlichen Daten zu bestimmen. Gibt es ein rechtliches/ethisches
Einschränkungen dieses Rechts auf "informationelle Selbstbestimmung" Gebot, eine automatisierte
Einzelfallentscheidung vorzusehen,
sind nur im überwiegenden Allgemeininteresse zulässig. Sie bedürfen einer
verfassungsgemäßen gesetzlichen Grundlage, die dem rechtsstaatlichen wenn „die Maschine“ „besser“
Gebot der Normenklarheit entsprechen muß. Bei seinen Regelungen hat entscheidet als „der Mensch“?
der Gesetzgeber ferner den Grundsatz der Verhältnismäßigkeit zu beachten.
Auch hat er organisatorische und verfahrensrechtliche Vorkehrungen zu
treffen, welche der Gefahr einer Verletzung des Persönlichkeitsrechts
entgegenwirken.“
04.05.2018 Seite 25Thesen • Nach der DS-GVO ist vor der DS-GVO • „Boom“ der Rechtsphilosophie und Rechtstheorie • „Boom“ des Produkthaftungs- und des Versicherungsrechts • Speed kills • Technophobie ist keine Lösung • Weitere „Entkoppelung“ von Recht und Technologie • Partizipation verlangt Ausbildung verlangt Interesse 04.05.2018 Seite 26
Danke!
Nikolaus Forgó, Institut für Innovation und Digitalisierung im Recht, Universität Wien
nikolaus.forgo@univie.ac.at, @nikolausf
04.05.2018 Seite 27Sie können auch lesen
