Deutscher Studienpreis | 1. Preis Geistes- und Kulturwissenschaften
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Deutscher Studienpreis | 1. Preis
Geistes- und Kulturwissenschaften
Selbstauferlegte Gedankenlosigkeit der
algorithmischen Wende? Kriminalwissenschaftliche
Untersuchung über die Automatisierung der
Kriminalprognose
Verbrechen verhindern, bevor sie geschehen? Dieses verlockende
Narrativ ist nicht länger nur Stoff des Science-Fiction-Genres.
Computergestützte Systeme mit dem Ziel, kriminelles Verhalten
vorauszusagen, werden heute auch in Deutschland eingesetzt. Die Arbeit
geht den gesamt-gesellschaftlichen Auswirkungen dieser Technologie mit
interdisziplinärem Zugang (rechts-wissenschaftlich, kriminologisch,
soziologisch) auf den Grund. Sie kommt zu dem Ergebnis, dass die
Technologie eine Aushöhlung einer Vielzahl verfassungsrechtlicher
Garantien mit sich bringt und selbst bei Einhaltung eines engen
rechtlichen Rahmens Risiken für Rechtsstaat und Gesellschaft bestehen.
Insbesondere droht sich die Kriminalitäts-kontrolle bei unreflektiertem
Einsatz der Technologie in eine – in An-lehnung an Hannah Arendt –
selbstauferlegte algorithmische Gedanken-losigkeit zu begeben. Die
Arbeit schließt mit einem Vorschlag für Mindestanforderungen, an denen
sich computergestützte Kriminal-prognosen in Zukunft orientieren
sollten.
Lucia Sommerer promovierte an der Georg-August-Universität Göttingen
im Fachgebiet Rechtswissenschaften.Der vorliegende Beitrag wurde beim Deutschen Studienpreis 2020 mit dem
1. Preis in der Sektion Geistes- und Kulturwissenschaften ausgezeichnet. Er
beruht auf der 2019 an der Georg-August-Universität Göttingen eingereichten
Dissertation »Personenbezogenes Predictive Policing: Kriminalwissenschaftli-
che Untersuchung über die Automatisierung der Kriminalprognose« von Dr.
Lucia Sommerer.
Selbstauferlegte Gedankenlosig- personenbezogenes Predictive Poli-
keit der algorithmischen Wende? cing), eine Entwicklung, die angesichts
Kriminalwissenschaftliche Unter- ihres transformativen Potentials als »al-
suchung über die Automatisie- gorithmische Wende« der Kriminali-
tätskontrolle bezeichnet werden kann.
rung der Kriminalprognose
Der narrative Rahmen, Verbrechen zu
unterbinden, bevor sie geschehen, ist
I. Hintergrund
verlockend. Doch darf er Wissenschaft
und Praxis nicht blind machen für die
»Scientia potestas est« –
tatsächlichen Beschränkungen prädik-
»Wissen ist Macht«
tiver Algorithmen und die Risiken die-
Francis Bacon ser Form der »Unsicherheitsabsorption«
für Gesellschaft und Rechtsstaat.
Inwieweit ist unsere Zukunft vorbe- Die rechtliche Zulässigkeit des perso-
stimmt? Kann Vorbestimmtes auch vo- nenbezogenen Predictive Policing in
rausgesagt werden? Dies sind Fragen, Deutschland ist äußerst kritisch zu be-
die die Menschheit seit jeher umtrei- werten (II.). Selbst bei Einhaltung enger
ben. Von der Konsultation des Delphi- rechtlicher Grenzen wohnen dem Ein-
schen Orakels der Antike bis hin zum satz der neuen Technologien im Inte-
modernen datengestützten Staat – stets resse von Effizienz und Neutralität bis-
wollen wir wissen, was die Zukunft für her wenig beachtete gesamtgesell-
uns bereithält. Zur Beantwortung die- schaftliche Risiken inne, die Kriminali-
ser Frage in ihrer jüngsten Ausformung tätskontrolle und Gesellschaft vor
wird nun seit einiger Zeit auf prädiktive grundlegend neue Herausforderungen
Algorithmen zurückgegriffen. Prädik- stellen (III.). Insbesondere droht die Ge-
tive Algorithmen, d.h. computerge- samtheit der Herausforderungen bei
stützte Systeme mit dem Ziel, mensch- unreflektiertem Einsatz und Ausdeh-
liches Verhalten vorauszusagen, sind in nung der Technologie die Kriminalitäts-
unserem Alltag allgegenwärtig. Jeder, kontrolle in eine – in Anlehnung an
der eine Suchmaschine verwendet, sich Hannah Arendt – »selbstauferlegte (al-
um einen Kredit bewirbt oder online gorithmische) Gedankenlosigkeit« zu
ein Produkt kauft, setzt sich prädikti- führen. Um diesen Risiken zu begeg-
ven Algorithmen aus. Nun werden prä- nen, hat die vorliegende Arbeit einen
diktive Algorithmen von der Polizei Katalog an Mindestanforderungen für
auch zur Vorhersage individuellen kri- die Praxis entwickelt, an denen sich
minellen Verhaltens herangezogen (sog.
1Deutscher Studienpreis 2020 | 1. Preis Geistes- und Kulturwissenschaften Lucia Sommerer personenbezogenes Predictive Policing rechtlich-kriminologischer Erwägun- in Zukunft orientieren sollte (IV.). gen getroffen. Einer Überrumpelung Die Aktualität der Thematik kann da- der Gesellschaft, eben ohne wissen- bei nicht überbewertet werden. Seit schaftliche Bearbeitung und diskursi- 2017 erlaubt das Fluggastdatengesetz ven Prozess im Vorfeld, auf dem Gebiet mit dem sog. Fluggastdatenmusterab- des personenbezogenen Predictive Poli- gleich das personenbezogene Predictive cing möchte diese Arbeit vorbeugen. Policing in Deutschland. Ebenfalls seit 2017 setzt das Bundeskriminalamt mit II. Rechtliche Grenzen des perso- dem System RADAR-iTEeine Vorstufe nenbezogenen Predictive Policing des personenbezogenen Predictive Poli- cing im Bereich des islamistischen Ter- Wie so viele erfolgreiche Aphorismen rorismus ein, und 2018 änderte Hessen ist auch Bacons Eingangszitat über Wis- sogar sein Polizeigesetz, um den Einsatz sen und Macht v.a. Abbreviatur. Wis- der Software Palantir Gotham zu er- sensbestände als solche mögen latente möglichen, die in den USA bereits zum Machtchancen darstellen, doch die Ver- personenbezogenen Predictive Policing bindung von »Imperium und Empirie« verwendet wurde. Keines der Projekte ist keine selbstverständliche, sondern konnte bei seiner Einführung auf eine beruht auf gezielten Aneignungs-, Ver- umfängliche juristisch-kriminologi- arbeitungs- und Anwendungsprozes- sche Aufbereitung in der deutschen sen. Im Sinne einer demokratisch-dis- Wissenschaftslandschaft zurückbli- tributiven Machtorganisation bedürfen cken. Durch die Einführung einer gerade diese konkreten Prozesse recht- neuen Technologie ohne vorangegange- licher Begleitung und Einhegung: Aus nen und begleitenden wissenschaftli- dem durch die Verfassung garantierten chen Diskurs können sich in die Tech- Recht auf informationelle Selbstbestim- nologie und ihre Verwendung in der mung folgt dabei, dass personenbezoge- Praxis jedoch problematische Modalitä- nes Predictive Policing, das eine Viel- ten und Grundannahmen einschleifen, zahl sensibler Daten über Bürger verar- denen im Nachhinein nur noch schwer beitet, nur bei Vorliegen einer konkre- beizukommen ist. Es geht dabei nicht ten Gefahr und nur zum Schutz hoch- nur darum, Rechtskonformität der rangiger Rechtsgüter eingesetzt werden Technologie sicherzustellen, sondern darf, sowie, dass ausreichend Kontrol- zur demokratischen Diskussion zu stel- len die Rechts-konformität des Verfah- len, welche Wertentscheidungen über- rens sicherzustellen haben. haupt in einer Technologie verkörpert Aus dem Rechtsstaatsprinzip und werden sollen. Ist eine Technologie ein- dem Menschenwürdekern des Rechts mal eingeführt, kann eine dann erst auf informationelle Selbstbestim- entstehende Diskussion nicht mehr in mung, der es untersagt, Menschen gleichem Maße auf die Ausgestaltung zum bloßen Objekt einer Maschine zu des Programms Einfluss nehmen. Ent- machen, fließt zudem ein Verbot der scheidende Weichenstellungen sind Verwendung systemimmanent intrans- dann bereits ohne Berücksichtigung 2
Deutscher Studienpreis 2020 | 1. Preis Geistes- und Kulturwissenschaften
Lucia Sommerer
parenter Algorithmen zur Krimina- III. Gesamtgesellschaftliche Risiken
litätskontrolle, d.h. der Verwendung der »Algorithmischen Wende«
von Algorithmen, deren innere Zusam-
menhänge selbst von Experten im Überblick
Nachhinein nicht mehr im Detail
nachvollzogen werden können. Dies Selbst bei Einhaltung des rechtlichen
schließt somit z.B. den zukünftigen Rahmens wohnen personenbezoge-
Einsatz neuronaler Netze, einer beson- nem Predictive Policing und der
ders intransparenten Form künstlicher dadurch angestoßenen »algorithmi-
Intelligenz, für personenbezogenes schen Wende« der Kriminalitätskon-
Predictive Policing aus. trolle Risiken für Gesellschaft und
Personenbezogenes Predictive Poli- Rechtsstaat inne. Die neuen Herausfor-
cing ist schließlich entgegen weitver- derungen durchziehen die Krimina-
breiteter Annahmen nicht von Natur litätskontrolle dabei auf verschiedenen
aus neutraler und objektiver als Ent- Ebenen. Sie zeigen sich zum einen auf
scheidungen menschlicher Polizeibe- der Ebene des Strafrechts. Dort kann es
amter, sondern reproduziert beste- durch die neuen datensammelnden
hende gesellschaftliche Vorurteile, z.B. und -auswertenden Technologien zu ei-
gegenüber Minderheiten, wenn diese ner Fokusverschiebung von der kon-
Vorurteile in den Daten, die dem jewei- kreten Tat einer Person hin auf eine all-
ligen Algorithmus zugrunde liegen, gemein verwerfliche »Lebensführung«
nicht erkannt und beseitigt werden. einer Person kommen und zum Wie-
Mit Blick auf eine Verletzung des ver- deraufleben der im Dritten Reich be-
fassungsrechtlichen Diskriminierungs- liebten Figur der »Lebensführungs-
verbots besteht angesichts der Komple- schuld«, d.h. die ausschlaggebende Be-
xität und der Intransparenz der ver- rücksichtigung des Lebenswandels ei-
wendeten algorithmischen Systeme ner Person bei der Bestimmung ihrer
die Gefahr, dass der Überprüfungsmaß- »Strafwürdigkeit«. Dies droht in eine
stab der Gerichte zu einer bloßen unzulässige Allgemeinabrechnung mit
Willkürkontrolle verkümmert, ein der gesamten Lebensführung und ei-
Überprüfungsmaßstab also, der hinter ner »Durchleuchtung« der Bürger zu
der gegenwärtigen Intensität gerichtli- münden. Zum anderen manifestiert
cher Kontrollen zurückbleibt. sich die »algorithmische Wende« auch
Insgesamt stellt personenbezogenes auf der Ebene der gesellschaftlichen
Predictive Policing damit ein Risiko im Wahrnehmung von Polizeiarbeit. Dort
Sinne einer Aushöhlung einer Vielzahl kann es – wie erste Studien andeuten –
verfassungsrechtlicher Garantien dar. durch einen von Bürgern empfunde-
Es kann deshalb in Deutschland nur in nen Mangel an Verfahrensgerechtig-
engem rechtlichem Rahmen und unter keit intransparenter prädiktiver Algo-
strenger Einhaltung der in IV. zu skiz- rithmen zu einem Legitimitätsverlust
zierenden Transparenz- und Kontrol- der Polizei kommen. Auf Ebene der In-
linfrastrukturen gestattet werden. stitutionen droht zudem ein Relevanz-
verlust der Kriminologie gegenüber
3Deutscher Studienpreis 2020 | 1. Preis Geistes- und Kulturwissenschaften
Lucia Sommerer
den Computerwissenschaften. Damit große Gefahr sah Arendt dabei in der
verbunden treten Fragen nach gesell- Unfähigkeit von Menschen, über die
schaftlichen Ursachen kriminellen Tragweite ihres eigenen Tuns nachzu-
Verhaltens hinter bloßen statistischen denken. Diese Unfähigkeit könne un-
Korrelationen zurück. Um die techni- ter gewissen Umständen nahezu jeden
sche Entwicklung computerwissen- durchschnittlichen Menschen befal-
schaftlich fundiert, kritisch und aus len, worin Arendt gerade die »Banali-
unabhängiger Perspektive begleiten zu tät« des Bösen sieht.
können, muss die Kriminologie sich Es soll hier prädiktiven Algorithmen
detailliert mit Prozessen maschinellen selbstverständlich nicht unterstellt
Lernens auseinandersetzen und eine werden, dass sie linear zu Verbrechen
neue Subdisziplin der »Digitalen Krimi- gegen die Menschlichkeit führen. Und
nologie« ausbilden, wozu diese Arbeit dennoch ist das Konzept der »Gedan-
einen ersten Anstoß leisten möchte. kenlosigkeit« auch im algorithmischen
Die Verwendung von prädiktiven Algo- Kontext nützlich, da es zum Ausdruck
rithmen befördert schließlich und am bringt, wie sich Menschen in einem
zentralsten – in Anlehnung an Hannah System auf die Entscheidungen ande-
Arendt – eine »selbstauferlegte Gedan- rer verlassen, diese nicht hinterfragen,
kenlosigkeit« der Kriminalitätskon- sie schlicht befolgen. Als Rechtferti-
trolle, d.h. eine Situation, in der der gung wird auf die höhere Autorität und
Mensch das eigene Denken ausblendet das Bedürfnis der Regelbefolgung im
und sich, eingebunden in ein hierar- Interesse des Funktionierens des Sys-
chisches System, völlig auf die Ent- tems verwiesen. Diese Situation ist mit
scheidungen anderer verlässt, ohne dem Umgang von Menschen mit dem
diese selbst zu hinterfragen oder an ei- Ergebnis algorithmischer Berechnun-
genen Wertmaßstäben zu messen. gen durchaus vergleichbar.
Obwohl algorithmengestützte Sys-
Insbesondere »selbstauferlegte Gedanken- teme zunächst nur als ein dem Nutzer
losigkeit« untergeordnetes Werkzeug konzipiert
wurden, kann ihnen in der Praxis eine
Mit dem Begriff der »Gedankenlosig- umfassendere Bedeutung zugemessen
keit« beschrieb Arendt, wie gewöhnli- werden. Sie können eine Rolle ähnlich
che Menschen im Dritten Reich durch einer dem Nutzer übergeordneten Au-
das Ausschalten ihres selbständigen toritätsfigur annehmen, wie die eines
Denkens Kriegsverbrechen begehen Vorgesetzten, dessen »Anordnungen«
konnten, ohne dezidiert »böse« Absich- ohne Hinterfragen ausgeführt werden.
ten zu haben. Wesentlicher Faktor für Studien zu Entscheidungsunterstüt-
das Zustandekommen einer solchen zungssystemen im medizinischen Be-
Haltung war die Einbindung in einen reich sowie bei Flugzeugpiloten haben
bürokratischen Apparat. Der NS- gezeigt, dass es Menschen sehr schwer-
Kriegsverbrecher Eichmann etwa be- fällt, sich gegen das Ergebnis algorith-
rief sich wiederholt darauf, lediglich mischer Berechnungen (ähnlich derer
Anweisungen befolgt zu haben. Die
4Deutscher Studienpreis 2020 | 1. Preis Geistes- und Kulturwissenschaften Lucia Sommerer des personenbezogenen Predictive Po- Gewissheit, die der Algorithmus zu licing) zu entscheiden, und zwar selbst bieten scheint, abnehmen lässt. Je stär- dann, wenn das Ergebnis des Algorith- ker ein Prozess automatisiert wird, mus eigentlich nur einen von mehre- desto leichter kann es bei Menschen zu ren Entscheidungsfaktoren darstellen Gedankenlosigkeit und Gleichgültig- sollte. Dieses als »Automation Bias« be- keit gegenüber seinen Ergebnissen zeichnete und empirisch erforschte kommen. Je stärker die Kriminalitäts- Phänomen führt dazu, dass Menschen kontrolle automatisiert wird, desto es unterlassen, zusätzlich zu einem al- leichter ist es für die das System nut- gorithmischen Ergebnis selbständig In- zenden Beamten, sich für auf Grund- formationen einzuholen und zu bewer- lage des Systems vollzogene Handlun- ten, ja sogar deutlich gegen das Ergeb- gen nicht mehr verantwortlich zu füh- nis des Algorithmus sprechende An- len. haltspunkte bewusst ignorieren. Der Es ist somit festzuhalten, dass algo- eigenen Expertise wird dabei weniger rithmengestützte Entscheidungssys- vertraut als dem Ergebnis des komple- teme der Logik ihrer Struktur nach xen, undurchsichtigen algorithmi- dazu neigen, die Gedankenlosigkeit schen Prozesses, das dem Menschen der Nutzer zu fördern, d.h. dazu füh- mit der gesetzten Selbstverständlich- ren, dass Nutzer keine umfassende Ab- keit des Faktischen entgegentritt. Dies wägung aller Faktoren einer Situation gilt umso mehr, wenn mit Blick auf vornehmen und die Folgen ihrer Hand- Zeitdruck und Rationalisierung die lungen nicht vollumfänglich beden- Entscheidung gegen »die Maschine« ei- ken. Selbstauferlegt ist diese Gedan- nen erhöhten Zeit- und Rechtferti- kenlosigkeit insofern zu nennen, als gungsaufwand mit sich bringt als die wir uns als Gesellschaft in der »algo- Entscheidung mit »der Maschine«. Im rithmischen Wende« durch die Einfüh- Ergebnis führt dies dazu, dass algorith- rung von personenbezogenem Predic- mische Berechnungen, die lediglich als tive Policing sehenden Auges selbst in Entscheidungsunterstützung (bloßes ein System begeben, das Gedankenlo- Werkzeug) gedacht waren, faktisch die sigkeit fördert. Entscheidung des Menschen völlig de- terminieren und der Mensch die ei- IV. Mindestanforderungen: Transpa- gene Verantwortung an die algorithmi- renz-Trias sche Vorgabe auslagert. In dieser Kons- tellation wird letztendlich der Algo- Den mit personenbezogenem Predic- rithmus mit seiner vermeintlich siche- tive Policing einhergehenden Risiken ren Wahrscheinlichkeit zur entschei- für das Recht auf informationelle denden Autoritätsfigur. Der menschli- Selbstbestimmung, das Diskriminie- che Handelnde gibt sich angesichts der rungsverbot und das Rechtsstaatsprin- Zumutung einer Entscheidung einer zip sowie für die Gesellschaft als Gan- »Gedankenlosigkeit« anheim. Unsicher- zes muss durch neue Transparenzinfra- heit fordert vom Menschen normative strukturen entgegengetreten werden. Entscheidungen, die er sich durch die Diese neuen Strukturen müssen dabei 5
Deutscher Studienpreis 2020 | 1. Preis Geistes- und Kulturwissenschaften Lucia Sommerer Entwicklungs- wie auch Einsatzmodali- Prognosegenauigkeit und Fehlerrate täten prädiktiver Algorithmen umfas- (wie viele fälschlich als »hochgefähr- sen. Es ist von zentraler Bedeutung, lich« eingestufte Menschen sind akzep- eine bewusste Ausgestaltung algorith- tabel, um eine tatsächlich »hochgefähr- mischer Systeme nicht erst im Stadium liche« Person durch den Algorithmus des Einsatzes in Angriff zu nehmen, aufzuspüren?), festzulegen und deren sondern bereits das Entwicklungssta- Einhaltung zu überprüfen. dium zu lenken. Denn die wichtigsten Die weitere Entwicklung von perso- Weichenstellungen eines algorithmi- nenbezogenen Predictive Policing-Sys- schen Systems finden im Entwicklungs- temen in Deutschland sollten erst nach stadium statt. Schaffung solch einheitlicher Stan- Die neuen Transparenzinfrastruktu- dards vorgenommen werden, denn erst ren haben dabei eine Transparenz-Trias die Ausarbeitung von präzisen Quali- von öffentlichen Registrierungspflich- tätsstandards macht eine klare Sanktio- ten, subjektiven Betroffenenrechten nierung mangelhafter Systeme mög- und staatlichen Kontrollstellen zu um- lich. Hersteller von personenbezogenen fassen. Erstens sind auf dem Wege der Predictive Policing-Systemen können Protokollierung festzuhaltende Ent- ihr Modelltraining nur unter Einhal- scheidungen der Designphase eines Al- tung entsprechender Kriterien optimie- gorithmus sowie seine abstrakten Wirk- ren, wenn diese zuvor einheitlich fest- prinzipien noch vor Einsatz des Algo- gelegt wurden. rithmus in öffentlich einsehbarer Diese zentrale Mindestanforderung ei- Weise bei einer staatlichen Registrie- ner Transparenz-Trias sowie zahlreiche rungsstelle zu hinterlegen. Zweitens ist weitere Mindestanforderungen – wie dem einzelnen Betroffenen einer algo- etwa zu technischen Maßnahmen, um rithmischen Analyse Zugang zu einer die Unvoreingenommenheit des Algo- Begründung seines spezifischen Ergeb- rithmus sicherzustellen, oder zur Aus- nisses zu geben. Und Drittens hat, zu- wahl der Datengrundlage eines Algo- sätzlich zu diesen Offenlegungspflich- rithmus – hat meine Arbeit in einer ten, als Kernstück der neuen Transpa- kompakten, rechtlich fundierten renzinfrastrukturen eine systematische »Checkliste« zusammengefasst, die sich staatliche Kontrolle von personenbezo- an computerwissenschaftliche Ent- genem Predictive Policing stattzufin- wickler, Entscheidungsträger in Polizei den, sowohl vor seinem ersten Einsatz und Politik sowie Gerichte richtet. Die als auch in regelmäßigen Abständen »Checkliste« kann bei der Entscheidung während des Einsatzes. Eine neu zu über Entwicklung, Einsatz sowie Über- schaffende staatliche Kontrollstelle hat prüfung der Rechtskonformität von dabei den Algorithmus systematisch Predictive Policing-Projekten in der Pra- u.a. auf Verletzungen des Rechts auf in- xis unmittelbar herangezogen werden. formationelle Selbstbestimmung und Mit den Mindestanforderungen des Diskriminierungsverbotes zu unter- möchte meine Arbeit – im Anschluss an suchen. Darüber hinaus hat die Kon- die verfassungsrechtlichen und grund- trollstelle eigene Standards, u.a. für 6
Deutscher Studienpreis 2020 | 1. Preis Geistes- und Kulturwissenschaften
Lucia Sommerer
lagenorientierten theoretischen Analy- Die eben skizzierten Herausforderun-
sen unter (II.) und (III.) – nicht nur Aus- gen müssen dabei bereits heute adres-
gangspunkt einer Neuorientierung der siert werden. Es mag zwar sein, dass zu-
Debatte um Polizeitechnologien sein künftige Generationen oder zumindest
und erstmals umfassend Handlungsop- deren wohlsituierte Eliten amüsiert
tionen in der komplexen Balance zwi- schmunzeln werden, wenn sie auf
schen Sicherheit und Freiheit in der »al- meine kritischen Analysen einer algo-
gorithmischen Wende« aufzeigen, son- rithmengesteuerten Kriminalitätskon-
dern sie möchte der Praxis durch die trolle im frühen 21. Jahrhundert zu-
Checkliste unmittelbar ein Hilfsmittel rückblicken. Möglicherweise empfin-
an die Hand geben, um so den Wissens- den sie dabei das gleiche Vergnügen,
transfer in die anwendende Kriminalpo- mit dem wir heute Warnungen Platos
litik zu sichern. vor der Technologie des Schreibens o-
der Trithemius’ vor den Auswirkungen
V. Ausblick der Druckerpresse lesen. Es plagten die
Warnenden Sorgen, dass sich der Kon-
Wie dargelegt, wohnen personenbe- trollverlust, der mit der systematischen
zogenem Predictive Policing grundle- und massenweisen Verlagerung von
gend transformative Auswirkungen auf Wissensproduktion und -speicherung
die Kriminalitätskontrolle und den Um- von Individuen auf externe Medien ver-
gang der Gesellschaft mit Kriminalität bunden ist, negativ auf Mensch und Ge-
als Ganzes inne. Eine einmal einge- sellschaft auswirken würde.
führte und sich bewährende personen- Ein weniger begünstigtes Segment zu-
bezogene Predictive Policing-Technolo- künftiger Gesellschaften, das aus Bür-
gie hat das Potential, auch in andere Be- gern bestehen wird, die nicht in der
reiche der Kriminalitätskontrolle über- Lage waren, von digitalen Fortschritten
tragen zu werden. Ein einmal zu prä- zu profitieren, und unter negativen al-
ventiven Zwecken von der Polizei im- gorithmischen Annahmen über sich zu
plementiertes System könnte etwa leiden haben, werden auf die Weichen-
ohne große technische Änderungen zur stellungen dieses Jahrhunderts jedoch
repressiven Polizeiarbeit zur Aufklä- möglicherweise vorwurfsvoller zurück-
rung von Straftaten verwendet oder für blicken und die Frage stellen, warum
Risikoprognosen vor Gericht herange- keine Sicherungen für Rechtsstaatlich-
zogen werden. Die detaillierte Ausei- keit und Grundrechtsschutz in die
nandersetzung mit den rechtlichen und neuen Technologien mit aufgenommen
tatsächlichen Grenzen prädiktiver Al- wurden. Die vorgestellte Arbeit über al-
gorithmen bei der Polizei, z.B. mit der gorithmengesteuerte Systeme in der
Frage nach Kontrollinfrastrukturen, Kriminalitätskontrolle soll einen ersten
verspricht somit Erkenntnisse, die auch Schritt zur Schaffung solcher (rechtli-
jenseits des Polizeirechts nutzbar sein cher und technischer) Sicherungen be-
werden. reits im Stadium des Algorithmende-
signs darstellen.
7Sie können auch lesen
