KÜNSTLICHE INTELLIGENZ IN DER ÖFFENTLICHEN VERWALTUNG - BERICHTE DES NEGZ NR. 3
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
BERICHTE DES NEGZ NR. 3 KÜNSTLICHE INTELLIGENZ IN DER ÖFFENTLICHEN VERWALTUNG Christian Djeffal
Herausgegeben und gefördert vom Nationalen E-Government Kompetenzzentrum e. V.
INHALT
Zusammenfassende Empfehlungen 4
1 Einleitung 5
2 Grundlagen 6
2.1. Definition und Konzept künstlicher Intelligenz 6
2.2. Querschnittstechnologien, Chancen und Risiken 9
2.3. Künstliche Intelligenz in der öffentlichen
Verwaltung 11
2.4. Zwischen Demokratie und Ethik 13
3 Grundfragen 14
3.1. Soziotechnische Bewertung 14
3.2. Technologieentwicklung 14
3.3. Organisation 15
3.4. Leitbilder 16
4 Rechtsfragen 18
4.1. Automatisiertes Verwaltungsverfahren 19
4.2. Terra Incognita: Entscheidungsassistenz,
Realhandlung und Datenhaltung 21
4.3. Experimentierklauseln 22
4.4. Öffentlichkeitsbeteiligungen und
Betroffenenbeteiligung 23
4.5. Standardisierung und Zertifizierung 24
5 Imagefragen 25
6 Literaturverzeichnis 28
Über den Autor & Danksagung 30
Impressum 31
Künstliche Intelligenz in der öffentlichen Verwaltung 3
ZUSAMMENFASSENDE
EMPFEHLUNGEN
1. Die Verwaltung spielt eine Schlüssel 6. Ein Schlagwort für KI in Deutschland
rolle für staatlichen Einfluss künstlicher sollte alle wichtigen Akteure einschließen
Intelligenz. Der Staat sollte der öffent und in einer vernetzten digitalen Welt
lichen Verwaltung einen wichtigen Platz anschlussfähig sein. „AI empowered in
einräumen und aktiv handeln. Er kann Germany“ und „AI enhanced in Germany“
hier nämlich nicht nur die Entwicklung könnten hier erste Anknüpfungspunkte
fördern, sondern auch die Adoption und sein. Denn sie umfassen Zivilgesell-
Umsetzung der Technologie voranbrin- schaft und öffentliche Verwaltung und
gen. Dadurch kann er die ganze Techno- gehen über den industriellen Kontext
logieentwicklung positiv beeinflussen. des „AI made in Germany“ hinaus.
2. KI als Schlagwort sollte im öffent 7. Das Recht kann auch Grund und Ge
lichen Diskurs nicht vermieden werden, staltungsmittel für KI in der öffentlichen
dennoch ist der Begriff klar zu kontu Verwaltung sein. Diese Funktionen jen-
rieren. KI ist ein Forschungsbereich, der seits der Begrenzungsfunktion des Rechts
durch folgende Forschungsfrage definiert sollte insbesondere der Gesetzgeber im
wird: Können wir Systeme schaffen, die Auge behalten.
selbstständig und effizient komplexe Pro-
bleme lösen können. •• In §35a VwVfG sollte der Gesetzgeber
seine Gestaltungserwartungen an auto
3. KI muss differenziert betrachtet wer matisierte Entscheidungen klar kom
den. Als Querschnittstechnologie hat sie munizieren. Er sollte Gestaltungsgrund
keinen exklusiven Zweck. Chancen und sätze und -prinzipien kodifizieren.
Risiken liegen folglich immer in der Ge-
•• Die Gestaltung von Entscheidungs
staltung der Technik. Bei den heute übli-
assistenz, Realhandeln und Datenhal
chen Systemen stehen sich insbesondere
tung sollte ebenfalls geregelt werden.
Effizienz und Effektivität auf der einen
Der Gesetzgeber sollte sich nicht nur
Seite, mangelnde Nachvollziehbarkeit
auf vollautomatische Verwaltungsakte
und mögliche Diskriminierungen auf der
konzentrieren.
anderen Seite gegenüber.
•• Es sollten weitere allgemeine und spe
4. Die Verwaltung braucht rechtssichere zielle Experimentierklauseln geschaf
Experimentierräume um Chancen zu re- fen werden. Die Experimente sollten
alisieren und Nachteile zu vermeiden. Nur rechtskonforme Gestaltung fördern
auf der Basis konkreter Erfahrungen kön- (law by design) und Erkenntnisse in den
nen Entscheidungen über Einführung und Gesetzgebungsprozess zurückspielen.
Gestaltungen von KI getroffen werden. Sie könnten § 35a VwVfG ersetzen.
5. Es sollte ein Ökosystem für eine erfolg-
reiche Verwaltungsdigitalisierung und die
gute Gestaltung von künstlicher Intelligenz
geschaffen bzw. weiter gefördert werden.
Dazu gehören MitarbeiterInnen mit ent-
sprechenden Fähigkeiten und Einheiten,
die auch Räume zum Experimentieren
haben. Ferner sind eine effektive Wissens
organisation und entsprechende Leitbilder
wie das des offenen Regierungs- und Ver-
waltungshandelns notwendig.
4 Berichte des NEGZ1 EINLEITUNG
Künstliche Intelligenz wird als Zukunfts- Deutschland und anderswo stellen. Tech-
thema bezeichnet, aber sie begegnet uns nologien der künstlichen Intelligenz ha-
heute schon in der öffentlichen Verwal- ben schon auf ihrem heutigen Entwick-
tung. Risikomanagementsysteme sagen lungsstand das Potential, die öffentliche
voraus, bei welchen Steuererklärungen Verwaltung grundlegend zu verändern.
sich eine Prüfung der Belege lohnt. Intelli- Auch das Eckpunktepapier der Bundes-
gente Verkehrsbeeinflussungsanlagen ver regierung einer Strategie der künstlichen
arbeiten viele Daten und treffen Maßnah- Intelligenz stellt fest:
men zur Verkehrssicherung, sie ordnen
auch Geschwindigkeitsbegrenzungen und „Der Einsatz von KI bietet im Bereich der
Überholverbote an. Im Bereich des predic- öffentlichen Verwaltung die Chance, In-
tive policing – zu Deutsch vorausschauen- formationen und Leistungen zielgerich-
de Polizeiarbeit – wird die Wahrscheinlich- teter, passgenauer und niedrigschwelli-
keit von Einbruchsdiebstählen berechnet ger für Bürgerinnen und Bürger und
und auf speziellen Karten, sogenannten Unternehmen bereitzustellen. Im Sinne
Heat Maps, vermerkt. KI-Anwendungen einer gesamtstaatlichen Sicherheitsvor-
werden auch immer besser darin, Gesich- sorge sind auch sicherheitspolitische
ter und soziale Situationen auf Kamera Aspekte der KI von Bedeutung.“ 1
bildern zu erkennen. So können etwa in
der Verkehrsüberwachung Unfälle von Einige der großen Herausforderungen,
Kraftfahrzeugen durch Kameras erkannt die sich dabei für die öffentliche Verwal-
werden, so dass Unfälle automatisiert an tung stellen, sollen hier beschrieben wer-
Rettungsleitstellen gemeldet werden kön- den. Dabei ist es wichtig sich vor Augen
nen. In Mannheim versucht man mit intelli- zu halten, dass Technologien der künstli-
genten Kameras Straßenkriminalität zu er- chen Intelligenz für die nächste Stufe von
kennen. Verwaltungen experimentieren Verwaltungsmodernisierung und Verwal-
auch zunehmend mit autonomen Agenten tungsreform eine Schlüsselrolle spielen
in der Öffentlichkeit. In Potsdam wird ge- können. Wenn sich aber herausstellt, dass
rade eine selbstfahrende Straßenbahn ge- Technologien der künstlichen Intelligenz
testet, im bayerischen Bad Birnbach pen- auch gesamtgesellschaftlich eine so
delt ein selbstfahrender Kleinbus zwischen wichtige Rolle spielen werden, bedeutet
Bahnhof und Therme. Das Bürgeramt die Anwendung von künstlicher Intelli-
Ludwigsburg und die Stadtbibliothek Köln genz noch viel mehr: Dann ist die öffent
experimentieren mit Auskunftsrobotern. liche Verwaltung das Feld, in welchem der
Staat genuin eigene Erfahrungen machen
Angesichts weiterer technischer Fort- kann. Denn nur mit dieser Erfahrung und
schritte und Möglichkeiten stellen sich diesem Wissen ist es möglich, die Gestal-
aber auch für die Zukunft viele Fragen. tung dieser Zukunftstechnologien in Be-
Welche Potentiale hat künstliche Intelli- reichen der Gesellschaft zu steuern. Eine
genz in der öffentlichen Verwaltung? Wie umfassende Technologiepolitik, die Chan-
kann man Technologien und Anwendun- cen und Risiken erkennen, nutzen und
gen gut gestalten? Können Automation vermeiden kann, basiert auf Erfahrungen
und Augmentation auch zu mehr und einem tieferen Verständnis. Den Weg
Menschlichkeit führen? Diesen Fragen zu einem solchen Verständnis will auch
werden sich öffentliche Verwaltungen in das vorliegende Gutachten ebnen.
1 Die Bundesregierung, Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz,
https://www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf.
Künstliche Intelligenz in der öffentlichen Verwaltung 52 GRUNDLAGEN
2.1. Definition und Konzept Forschungsbereich, eine ganze Sub
künstlicher Intelligenz disziplin der Informatik, die KI als Selbst
bezeichnung verwendet. Die Informatiker
Der Begriff der künstlichen Intelligenz ist in diesem Feld brachten unterschiedliche
seit seiner Prägung umstritten, selbst sei- Architekturen und Technologien hervor,
ne Erfinder wandten sich zwischenzeit- die ebenfalls unter dem Begriff künstliche
lich von ihm ab. Dennoch ist er heute Intelligenz zusammengefasst werden.
noch maßgeblich für Diskussionen in
Wissenschaft und Politik. Genaugenom- Der Begriff künstliche Intelligenz selbst
men wirft der Begriff eine Forschungs wurde von einer Gruppe von Informati-
frage auf, 2 die mit der Arbeitsdefinition kern in einem Antrag an die Rockefeller
von Klaus Mainzer gesprochen nach Sys- Stiftung zur Finanzierung eines sechs-
temen fragt, die „selbstständig effizient wöchigen Seminars geprägt. Sie be-
Probleme lösen“ können. 3 Auf dieser For- schrieben ihr zentrales Forschungsanlie-
schungsfrage gründet heute ein ganzer gen wie folgt:
Die Studie soll auf der Grundlage der wird versucht herauszufinden, wie
Vermutung durchgeführt werden, man Maschinen dazu bringen kann,
dass jeder Aspekt des Lernens oder Sprache zu benutzen, Abstraktionen
jedes andere Merkmal der Intelligenz und Konzepte zu bilden, Arten von
prinzipiell so genau beschrieben wer- Problemen zu lösen, die heute dem
den kann, dass eine Maschine zur Si- Menschen vorbehalten sind, und sich
mulation hergestellt werden kann. Es selbst zu verbessern. 4
Ursprünglich war der Begriff der künstli- nimmt der Begriff der künstlichen Intelli-
chen Intelligenz also weit gefasst und genz Bezug. Dass solche Projekte auf
gab dem Anspruch Ausdruck, menschli- Widersprüche stoßen werden, sah auch
che Intelligenz durch Maschinen zu si- Alan Turing in seinem epochalen Aufsatz
mulieren. Die damals formulierten Prob- „Computing Machinery and Intelligence“
leme beschäftigen die Forschung noch voraus. 6 Er setzte sich darin mit der Fra-
heute. Als Forschungsfrage bezeichnet ge auseinander, ob Maschinen denken
KI nicht eine einzelne Technologie. Viel- können. Seine Hypothese war, dass Men-
mehr wurden in Auseinandersetzung mit schen ab einem gewissen Zeitpunkt
KI verschiedene Technologien entwi- nicht mehr zwischen menschlicher und
ckelt. 5 Auf alle diese Technologien, die maschineller Intelligenz unterscheiden
die selbstständige effiziente Lösung können werden und die Frage damit an
komplexer Probleme ermöglichen, Relevanz verlieren wird. Diese Schwelle,
2 Djeffal, in: Klenk / Nullmeier / Wewer (Hrsg.), Handbuch Verwaltungsdigitialisierung, 2019.
3 Mainzer, Künstliche Intelligenz – Wann übernehmen die Maschinen?, 2016, 3.
4 Die Übersetzung erfolgte durch www.DeepL.com / Translator. McCarthy / Minsky / Shannon, A Proposal for
the Dartmouth Summer Resarch Project on Artificial Intelligence, http://www-formal.stanford.edu/jmc/
history/dartmouth/dartmouth.html, 31.03.2017.
5 Gasser / Almeida IEEE Internet Comput. 21 (2017), 58, 59.
6 Turing Mind A Quarterly Review of Psychology and Philosophy 59 (1950), 433.
6 Berichte des NEGZfür die auch der berühmte Turing-Test Maschinen auch Probleme lösen können,
steht, wurde bisher aber nicht über- ohne dass sie dies auf die gleiche Weise
schritten- Vielmehr bildeten sich zwei oder genauso gut wie Menschen tun
Lager: während die einen die sogenann- können.
te „starke KI-These“ verfolgten, nach der
KI menschliche Intelligenz nachstellen Besserer Begriff? – Fehlanzeige
soll und wird, verneinten Anhänger der
„schwachen KI-These“ dies und verwie- Problematisch an der begrifflichen Kritik
sen auf die Möglichkeit von Maschinen, ist auch, dass sich bisher kein besserer
gewisse Probleme rational zu lösen. Begriff für künstliche Intelligenz gefun-
Schon daran wird deutlich, dass in der den hat. Lernende Systeme, künstliche
Informatik über Ziele und Möglichkeiten neuronale Netze und maschinelles Ler-
des Forschungszweigs ein grundlegen- nen decken nur einen Teil der KI-Techno-
der Dissens besteht. logien und Architekturen ab. Künstliche
Kognition oder kognitive Simulation bie-
„Soll man also heute von KI sprechen?“ ten gegenüber der KI keinen Vorteil.
Besser schon… Auch der Begriff der Automation ist kei-
nesfalls deckungsgleich mit dem Begriff
Kann man aber überhaupt von künstli- der künstlichen Intelligenz. Denn nur ein
cher Intelligenz sprechen, oder sollte Teil des informatischen Diskurses ist der
man sich lieber auf konkrete Technolo- Ansicht, dass Automation der Zweck von
gien und Methoden wie künstliche neu- KI sein sollte. Demgegenüber sieht ein
ronale Netze und lernende Systeme be- anderer Strang des Diskurses den Zweck
ziehen? Schon die Informatiker Joseph von KI in Augmentation, also der Erwei-
Weizenbaum und Klaus Haefner haben terung menschlicher Fähigkeiten durch
über diese Frage trefflich gestritten. 7 technische Systeme. Konsequent rückt
Wissenschaftlich betrachtet hängt das hier die Mensch-Maschine Interaktion in
Ergebnis maßgeblich von der Frage ab, den Vordergrund. Weil KI-Anwendungen
welche Bedeutung man künstlicher Intel- aber verschiedene Zwecke haben kön-
ligenz beimisst. Ist Intelligenz etwas ge- nen, darunter durchaus auch die Aug-
nuin Menschliches, oder können auch mentation von Menschen, ist Automation
Tiere intelligent handeln? Ist das Indivi- nur ein Ausschnitt der Debatte.
duum intelligent, oder kann es auch kol-
lektive Formen der Intelligenz geben, Technologien künstlicher Intelligenz
etwa in Ameisenkolonien oder großen spielen für viele Mode- und Trendbegrif-
Organisationen wie Unternehmen oder fe und andere Konzepte eine wichtige
Ministerien? Rolle, ohne dass diese deckungsgleich
sind. So bezeichnet der Begriff Big Data
Was Intelligenz im Hinblick auf Men- im Wesentlichen große Datenmengen. 9
schen bedeutet und wie sich der Begriff Große Datenmengen können für KI auf
definiert, ist schon seit langem Lebhaft unterschiedlichen Ebenen eine Rolle
umstritten. 8 Auch das erschwert die Fra- spielen. Sie können zum Training von
ge, ob es so etwas wie künstliche Intelli- künstlichen neuronalen Netzen (KNN)
genz überhaupt geben kann. Folgt man verwendet werden. So lernen KNN be-
allerdings der schwachen KI, kann diese stimmte Tiere auf Bildern zu erkennen,
Frage dahinstehen. Denn dann ist Intelli- indem riesige Datensätze mit Tierbildern
genz eher als Metapher und nicht im und Beschreibungen in das System ein-
Wortsinn zu sehen. Es geht darum, dass gespeist werden. Umgekehrt können
7 Haller / Weizenbaum / Haefner, Sind Computer die besseren Menschen?, 1990.
8 Legg / Hutter Minds & Machines 17 (2007), 391, 391; Lanz, in: Cruse / Dean / Ritter (Hrsg.), Prerational
Intelligence: Adaptive Behavior and Intelligent Systems Without Symbols and Logic, 2000, 19.
9 IEEE, Towards a Definition of the Internet of Things, http://iot.ieee.org/images/files/pdf/IEEE_IoT_
Towards_Definition_Internet_of_Things_Revision1_27MAY15.pdf, 26.08.2016.
Künstliche Intelligenz in der öffentlichen Verwaltung 7Abbildung 1: Begriffe und
Konzepte der künstlichen
Intelligenz
KI-Anwendungen auch große Daten- Ähnliches gilt für das sogenannte Inter-
mengen produzieren, etwa wenn Bilder net der Dinge. Damit wird eine Technik-
oder Texte erkannt werden und die vision von ubiquitär vernetzten Gegen-
KI-Anwendung Bilder mit entsprechen- ständen bezeichnet. Diese können auch
den Metadaten kennzeichnet. Komplexe- KI-Anwendungen enthalten, das ist aber
re Auswertungen großer Datenmengen keinesfalls notwendig.
werden ebenfalls durch KI-Anwendun-
gen vorgenommen. Dabei kann KI insbe- Für den hiesigen Zusammenhang ist es
sondere bestimmte Muster erkennen wichtig, künstliche Intelligenz als For-
(Big Data Analytics). Betont werden schungsfrage (und Grundlage eines
muss aber, dass KI keineswegs mit Big Forschungsbereichs) zu verstehen, die
Data gleichzusetzen ist. Es gibt auch immer wieder neue Technologien hervor-
KI-Anwendungen, die nicht mit großen bringt. Künstliche Neuronale Netze kön-
Datenmengen trainiert werden müssen. nen momentan als emergente Techno
Generative Adverserial Networks sind logie bezeichnet werden. Während in den
ein Beispiel, bei dem sich eine KI selbst 1980er Jahren einige grundlegenden
trainiert. Auf dieser Technik basierte das Durchbrüche gelangen, stagnierte die
System, das den Weltmeister des Brett- Forschung später. Seit 2011 konnten we-
spiels „Go“ schlagen konnte. Ferner ist sentliche Verbesserungen erreicht wer-
es auch denkbar, das große Daten den. Viele der aufsehenerregenden neuen
mengen durch unterkomplexe Anwen- Anwendungen basieren auf dieser Tech-
dungen ausgewertet werden können, nologie. Tatsächlich ist diese Technologie
die wir nicht als KI bezeichnen würden. Gegenstand von verschiedenen For-
8 Berichte des NEGZAbbildung 2: Künstliches
neuronales Netz
schungsarbeiten, so dass sowohl Mög- 2.2. Querschnittstechnologien,
lichkeiten als auch Auswirkungen der Sys- Chancen und Risiken
teme noch nicht abschließend beurteilt
werden. Künstliche neuronale Netze sind Die Potentiale und Risiken künstlicher In-
mathematische Modelle, die die Möglich- telligenz kann man nur verstehen, wenn
keit zur Optimierung bergen. Sie werden man sich vor Augen führt, dass diese
auf bestimmte Aufgaben trainiert. Dabei Forschungsfrage eine Reihe von Quer-
werden Vektoren so in Beziehung ge- schnittstechnologien hervorgebracht hat.
setzt, dass sie einem bestimmten Input Darunter versteht man Technologien, die
einen bestimmten Output zuordnen kön- keinen spezifischen, bestimmten Zweck
nen. Durch Training werden die Funktio- verfolgen, sondern für ganz unterschied-
nen optimiert. Wenn diese Technologie liche Zwecke eingesetzt werden können. 10
des maschinellen Lernens gerade auch Querschnittstechnologien zeichnen sich
viel Aufmerksamkeit genießt, kann es dadurch aus, dass sie die Grundlage für
durchaus sein, dass in einigen Jahren an- weitere Innovationen und Technologien
dere Ansätze bessere Ergebnisse erzielen bilden und in ganz unterschiedlichen Be-
werden. In jedem Fall handelt es sich nur reichen der Gesellschaft eingesetzt wer-
um einen Ausschnitt von KI-Technologien. den. Gemein ist diesen Technologien,
dass ihre Bewertung sehr stark vom Kon-
Eine begriffliche Alternative, die das For- text abhängig ist und sich nicht aus den
schungsfeld der KI in gleichem Maße um- Eigenheiten der Technologie ergibt. Aus
reißt und begrifflich klare Vorteile bietet Eisen kann man Schwerter und Pflug-
ist mithin nicht ersichtlich. Daher kann scharen schmieden. Die Erfindung des
man den Begriff „künstliche Intelligenz“ Eisens ermöglichte die Verbesserung vie-
im Sinne der hier vorgeschlagenen Defi- ler Werkzeuge und machte neue Innova-
nition verwenden, wenn man nicht über tionen möglich. Unter dem gleichen As-
konkrete Technologien oder Architektu- pekt kann Elektrizität betrachtet werden.
ren sprechen will. Welche Auswirkungen Elektrizität auf die
10 Djeffal, in: Klenk / Nullmeier / Wewer (Hrsg.), Handbuch Verwaltungsdigitialisierung, 2019.
Künstliche Intelligenz in der öffentlichen Verwaltung 9Umwelt hat, hängt von ihrer Gewinnung In gleichem Maße werden allerdings auch
ab. Zwischen Braukohlekraftwerken und Nachteile und Risiken erörtert. Hierbei
Wasserkraft liegt ein großer Unterschied spielen insbesondere folgende Aspekte
im Hinblick auf den CO2-Ausstoß. Ferner eine Rolle: Was die Nachteile angeht,
kann man mit Elektrizität medizinische wird oft die mangelnde Transparenz der
Geräte, Massage sessel oder elektrische Systeme und die fehlende Nachvollzieh-
Stühle betreiben. Wenn jemand also ganz barkeit ihrer Entscheidungen moniert.
allgemein über die sozialen Auswirkun- Insbesondere künstliche neuronale Netze
gen von Elektrizität sprechen würde, wür- werden trainiert und entwickeln eigene
de das für unsere Ohren sehr pauschal Entscheidungsmodelle, die nicht ohne
klingen. Daher darf man auch im Fall der Weiteres eingesehen und verstanden
künstlichen Intelligenz nicht den Fehler werden können.
machen, bisherige Entwicklungspfade zu
verabsolutieren und darüber die Entwick- Besonders bei Systemen, die Entschei-
lungsoffenheit der Technologien selbst dungen treffen oder empfehlen, kann
und ihrer Anwendungsmöglichkeiten zu das Ungleichbehandlungen und Diskri-
ignorieren. Für Regierung und Verwal- minierungen zur Folge haben. Grund
tung ergeben sich zahlreiche Möglich dafür kann zum Beispiel sein, dass die
keiten, die Ausgestaltung von KI-Tech Daten, die zum Trainieren lernender
nologien und ihrer Anwendungen auf Systeme benutzt werden, nicht reprä-
verschiedenen Ebenen zu beeinflussen. sentativ sind. KI-Anwendungen kann
auch die Sensitivität für bestimmte
Dabei spielen bisherige Entwicklungspfa- Kontexte fehlen, insbesondere wenn es
de und die sich daraus ergebenden Chan- zu unvorhergesehenen Fällen kommt,
cen und Risiken eine große Rolle. Diesen auf die die Anwendungen nicht trai-
Chancen und Risiken widmet sich eine niert wurden. Dies kann auch Anlass zu
ganze Reihe von herausragenden Berich- Lücken der IT-Sicherheit geben. Das au-
ten von verschiedenen Expertenkommis- tonome Erkennen von Straßenverkehrs-
sionen auf deutscher, europäischer und schildern konnte etwa schon durch
internationaler Ebene. 11 Die Chancen spie- kleine Aufkleber auf diesen Schildern
len regelmäßig auch für die öffentlichen getäuscht werden. Ein weiterer Nach-
Verwaltung eine Rolle. Dabei werden fol- teil ist die Kehrseite der Effizienz- und
gende Aspekte hervorgehoben: Effektivitätssteigerung. Künstliche In-
telligenz könnte dazu führen, dass es
Mit dem Einsatz von KI wird eine steigen- wesentlich weniger Möglichkeiten für
de Effizienz von Prozessen und mithin Erwerbstätige gibt. Voraussagen ge-
eine Kostenersparnis assoziiert, ferner hen davon aus, dass verschiedene Be-
eine steigende Effektivität, also eine Opti- rufe größtenteils durch KI-Anwendun-
mierung des Verhältnisses von eingesetz- gen ersetzt werden können. Das trifft
ten Ressourcen und Ergebnissen. Entlas- auch auf die Verwaltung zu. Das United
tet werden sollen Menschen besonders States Office of Personnel Management
von repetitiven „mechanischen“ Aufga- ermittelte in einer Umfrage, dass nach
ben, die unter dem Stichwort Massen dem Stand der Technik im Jahre 2016
verwaltung diskutiert werden. KI-Anwen- 5 % der Stellen in der Verwaltung und
dungen wird im Vergleich zur menschlichen 45 % der Tätigkeiten in der amerikani-
Erledigung eine hohe Zuverlässigkeit, schen Verwaltung voll automatisiert
Geschwindigkeit und eine permanente werden könnten. 12
Verfügbarkeit zu Gute gehalten.
11 Siehe jüngst die Datenethikkommission der Bundesregierung, die Enquette Kommission Künstliche
Intelligenz des Bundestages, die High Level Expert Group on Artificial Intelligence der Europäischen
Kommission. Dazu kommen zahlreiche Berichte und nationale Strategien, deren detaillierte Auswertung
den Rahmen dieses Kurzgutachtens sprengen würde.
12 United States Office of Personnel Management, 2018 Federal Workforce Priorities Report (FWPR), 2018.
10 Berichte des NEGZ2.3. Künstliche Intelligenz in Zwecke, Chancen und Risiken lassen sich
der öffentlichen Verwaltung nicht einfach zuordnen. Gemeinhin wird
KI als Gefahr für die informationelle
Viele KI-Systeme werden bereits in der Selbstbestimmung gesehen, was sich an-
öffentlichen Verwaltung eingesetzt. hand verschiedener Anwendungen der
Manchmal trägt KI zur evolutionären intelligenten Videoüberwachung zeigen
Entwicklung bereits bestehender Syste- lässt, wie sie auch in Deutschland getes-
me bei. Ein Beispiel dafür sind Verkehrs- tet werden. Am Bahnhof Südkreuz in
beeinflussungsanlagen, die basierend Berlin führt die Bundespolizei einen Ver-
auf der Auswertung von Verkehrs- und such mit intelligenter Gesichtserkennung
Wetterdaten das Verhalten von Ver- durch Kameras durch. Ziel ist es dabei,
kehrsteilnehmern auf verschiedene Ar- durch Technologien der Mustererken-
ten beeinflussen. 13 Um den Verkehrsfluss nung Personen eindeutig identifizieren
und die Verkehrssicherheit zu gewähr- zu können, um gesuchte Personen her-
leisten, können rechtliche Maßnahmen auszufiltern. 14 Ein Versuch in Mannheim
wie Überholverbote und Geschwindig- soll sogar die KI-gestützte Erkennung
keitsbegrenzungen erlassen werden. Der von sozialen Situationen ermöglichen.
Verkehr kann aber auch durch Umlei- Ein Kamerasystem soll die Polizei be-
tungsempfehlungen oder temporäre nachrichtigen, wenn kriminelle Handlun-
Seitenstreifenfreigaben beeinflusst wer- gen im Raum stehen. Bestimmte Aktivi-
den. Entscheidungen werden dabei nicht täten wie etwa eine gewaltsame
mehr von Menschen, sondern vom Sys- Auseinandersetzung werden erkannt.
tem getroffen, auch wenn es sich wie bei Dann besteht die Möglichkeit, die betei-
Verkehrsschildern um rechtlich binden- ligten Personen über das gesamte Kame-
de Verwaltungsakte handelt. rasystem zu verfolgen. 15 Beide Beispiele
Abbildung 3 : Eine smarte
Kamera erkennt Alter, Geschlecht
und Gemütszustand.
© Steven Lilley, Face recognition,
https://flic.kr/p/s2QrRX, license
CC BY-SA 2.0.
13 Bundesanstalt für Straßenwesen, Anlagen zur Verkehrsbeeinflussung auf Bundesfernstraßen,
http://www.bast.de/DE/Verkehrstechnik/Fachthemen/v5-verkehrsbeeinflussungsanlagen.html, 05.01.2018.
14 Bundespolizei, Test zur Gesichtserkennung am Bahnhof Berlin Südkreuz gestartet, https://www.
bundespolizei.de/Web/DE/04Aktuelles/01Meldungen/2017/08/170810_start_videotechnik.html, 05.01.2018.
15 Sold F.A.Z. 29.12.2017, 2.
Künstliche Intelligenz in der öffentlichen Verwaltung 11zeigen die mögliche datenschutzrechtli- setzgeber betonte, dass Automatisie-
che Relevanz von KI auf. Auf der anderen rung nicht lediglich der Einsparung von
Seite kann KI datenschutzfreundlich ein- Ressourcen dienen soll. Vielmehr sollen
gesetzt werden. In vielen Kommunen wer- die Ressourcen auf Fälle verwendet wer-
den gerade Systeme der intelligenten den, die intensiver betreut werden müs-
Parkraumüberwachung eingerichtet. Über sen, sodass am Ende gerechte Entschei-
verschiedene Sensoren kann auf Anzeige- dungen stehen. Man könnte sagen, dass
tafeln oder Apps angezeigt werden, wie die Verwaltung durch Automatisierung
viele Parkplätze an einem bestimmten Ort menschlicher werden sollte. Effizienz er-
noch frei sind. Werden Bilder über Kame- reicht die Verwaltung durch KI etwa bei
ras aufgenommen, können KI-Systeme Grenzkontrollen mit dem EasyPASS-
die Bilder in Echtzeit anonymisieren. Da- System. Dieses System kann Personen
bei werden zum Beispiel Gesichter und identifizieren und die Identität verifi
Fahrzeugkennzeichen so unkenntlich ge- zieren. Mit nur wenigen Grenzbeamten
macht, dass Fahrer und Fahrzeug nicht können so Schlangen an Flughäfen ver-
mehr identifizierbar sind. mieden werden.
KI wird die Fähigkeit zugeschrieben, Im Gegensatz zu einer effektiven und ef-
durch Automatisierung mehr Effizienz fizienten Gestaltung der Anwendungen
und mehr Effektivität zu gewährleisten. stehen die Erfahrungen der australischen
Dies war auch ein Beweggrund des Ge- Regierung mit der „Online Compliance
setzes zur Modernisierung des Besteue- Intervention“, die das Eintreiben von
rungsverfahrens, welches es nun u. a. er- Steuerschulden erleichtern sollte, aber
möglicht, Steuerbescheide automatisiert letztlich in einem politischen Skandal
zu erlassen (§ 155 Abs. 4 der Abgaben- mündete. Ein Algorithmus glich verschie-
ordnung). Dies geschah in Reaktion auf dene steuerrelevante Daten ab. Fand er
Probleme der Steuerverwaltung, die so dabei Widersprüche, benachrichtigte er
viele Verfahren zu bearbeiten hatte, dass den Bürger per Brief und SMS. Wider-
die Gleichmäßigkeit und die Qualität der sprach der Bürger nicht, wurde ein Zah-
Entscheidungen darunter litten. Der Ge- lungsbescheid erlassen, gegen welchen
Abbildung 4: Das EasyPASS
System kann Personen
identifizieren und ihre Identität
verifizieren.
https://de.wikipedia.org/wiki/
EasyPASS#/media/
File:EasyPASS-System_mit_
Nutzer.jpg
12 Berichte des NEGZdie Adressaten dann rechtlich vorgehen dersetzung verstanden, der durch
mussten. Der eingesetzte Algorithmus ar- Strategien und Entscheidungen des de-
beitete sehr fehleranfällig und produzier- mokratischen Gesetzgebers bewältigt
te in vielen Fällen offensichtlich falsche werden kann. Die Wahl des normativen
Ergebnisse. Durch die Automatisierung Bezugspunkts hat wichtige Auswirkun-
wurden zeitweise 50 Mal mehr Verfahren gen, wie sich an der Gegenüberstellung
eingeleitet als zuvor. Weil Bürgeranfragen zeigen lässt.
nicht mehr beantwortet werden konnten,
wurden Zeitarbeitskräfte eingestellt und Die ethische Reflexion von Technik stellt
der telefonische Bürgerkontakt an ein sich bewusst außerhalb der Politik. 17 Das
privates Callcenter ausgelagert. Negativ sieht man bereits an den handelnden
betroffen waren vor allem Menschen aus Personen. Die ethische Gestaltung wird
sozial schwächeren Schichten sowie be- von Experten vorgenommen, während
sonders schutzbedürftige oder benach- im Rahmen von politischen Entscheidun-
teiligte Bevölkerungsgruppen, die sich gen die dazu üblicherweise legitimierten
nicht gegen den Bescheid wehren konn- Personen handeln. So werden politische
ten. Wie hoch die Anzahl der falschen Entscheidungen oft von Regierung und
Bescheide ist, ist umstritten. An dem Bei- Verwaltung vorbereitet und im Parla-
spiel zeigt sich, welche negativen Auswir- ment debattiert und entschieden, der
kungen KI in der öffentlichen Verwaltung ethische Rahmen wird hingegen nicht
haben kann, wenn mangelhafte Systeme selten in speziellen Institutionen wie
ohne Berücksichtigung des sozialen Kon- Ethikräten abgesteckt. Während sich Ex-
texts verwendet werden. Dann verkehren perten dabei auf das Gute und Richtige
sich Versprechen von Effektivität und Ef- beziehen können, werden im politischen
fizienz in ihr Gegenteil. Prozess kontingente Entscheidungen ge-
fällt, die grundsätzlich offen sind. Dem-
entsprechend unterscheidet sich auch
2.4. Zwischen Demokratie und die Rechtfertigung, die auf der einen Sei-
Ethik te in der ethischen Expertise liegt, auf
der anderen Seite in der demokratischen
Normative Leitlinien für Technologien wer Legitimation der Entscheidungsträger.
den auf verschiedene Bezugspunkte zu- Letztere Entscheidungsträger rechtferti-
rückgeführt und so unterschiedlich „ge- gen ihre Entscheidungen, während die
rahmt“. Diese Bezugspunkte sollen hier Experten in der Tendenz das Richtige
idealtypisch verdichtet als Ethik und Poli- und Gute auf der Grundlage ihrer Exper-
tik gegenübergestellt werden. Die Einfüh- tise entdecken.
rung des neuen Mobilfunkstandards 5G
wird beispielsweise besonders im politi-
schen Rahmen diskutiert, bei Diskussio-
Tabelle 1: Vergleiche der
nen um Gentechnologie spielen beson- normativen Bezugspunkte
ders ethische Gesichtspunkte eine Rolle. Ethik Politik Ethik und Politik
Experten Politiker
Was KI angeht, so knüpft die Diskussion
an beiden Bezugspunkten an. In Wissen- gut/richtig kontingent
schaft und Politik wird KI oft als ethische
Frage dargestellt, man spricht dann etwa Expertise Legitimation
von der „Ethik der Algorithmen“. 16
Entdeckung Rechtfertigung
Gleichzeitig wird der Umgang mit KI
auch als Teil einer politischen Auseinan-
16 Mittelstadt / Allo / Taddeo / Wachter / Floridi Big Data & Society 3 (2016), 1 – 21.
17 Hilgartner / Prainsack / Hurlbut, in: Felt / Fouché / Miller (Hrsg.), The handbook of science and technology
studies, 2017, 830.
Künstliche Intelligenz in der öffentlichen Verwaltung 133 GRUNDFRAGEN
3.1. Soziotechnische Bewertung den gesellschaftlich konsentierten Wer-
temaßstab ab. Diese Grundsätze werden
Was ist gute künstliche Intelligenz? Die grundsätzlich auch nicht von techni-
normative Frage, ob und unter welchen schen Entwicklungen und Neuerungen
Voraussetzungen KI eingesetzt werden erschüttert. Vielmehr sind sie selbst Leit-
soll, muss die rasante Technologieent- linie für die Entwicklung und Implemen-
wicklung und die vielen Alternativen ihrer tation von Technologien, insbesondere
soziotechnischen Einbettung beachten. wenn es dabei die zahlreichen Gestal-
Wenn wir von guter künstlicher Intelli- tungsalternativen gibt, die insbesondere
genz sprechen, bezieht sich das auf Be- KI-Anwendungen bieten. Diese Alternati-
schaffenheit, Zweck und Auswirkung. Es ven erhöhen sich noch, wenn man auch
geht dabei nicht nur um die Technik die Möglichkeiten der sozialen Einbet-
selbst, sondern auch darum, wie sie sich tung berücksichtigt.
im Sozialen auswirkt. Wie bei jeder ande-
ren Technologie fällt auch eine Bewer-
tung von KI-Technologien immer zwei- 3.2. Technologieentwicklung
deutig aus: Es wird immer auch Nachteile
und Risiken beim Technologieeinsatz ge- Künstliche Intelligenz ist ein Forschungs-
ben. Diese werden herkömmlicherweise bereich gegründet auf einer Forschungs-
im Rahmen einer Risikofolgenabschät- frage, deren Beantwortung in den ver
zung gewürdigt. Die Vorteile, die den gangenen 60 Jahren eine Reihe von
Nachteilen gegenüberstehen, können Technologien und Ideen hervorgebracht
erst im Rahmen eines Vergleichstests ge- hat. Dabei wurden oft Grenzen durchbro-
würdigt werden. chen, die man zuvor für unüberwindbar
gehalten hat. Gleichzeitig werden man-
Erst ein soziotechnischer Vergleichstest che Technologien mittlerweile breit und
kann die Frage beantworten, ob wir kon- selbstverständlich eingesetzt und nicht
kret von guter künstlicher Intelligenz mehr im Kontext von künstlicher Intelli-
sprechen können. Dieser zielt darauf ab, genz diskutiert. Die besondere Herausfor-
den Zustand vor und nach der Digitalisie- derung für die Verwaltung ist es, einer-
rung unter einer umfassenden Berück- seits den Stand der Entwicklung im Blick
sichtigung aller Vor- und Nachteile für zu haben und Grenzen und Möglichkeiten
Rechte und Interessen zu bewerten. Ein der Anwendbarkeit von Systemen im
solcher soziotechnischer Vergleich wird Blick zu haben. Ebenso wichtig ist es al-
oft nur auf der Basis von Experimenten lerdings, Entwicklungsmöglichkeiten und
möglich sein, denn erst in der techni- Potentiale der Technologie im Blick zu ha-
schen Erprobung werden Vor- und Nach- ben und Erwartungen an die weitere Ent-
teile offenbar. Teilweise zeigen sich dann wicklung konkret zu postulieren. In ver-
erst Lösungsmöglichkeiten für Heraus- schiedenen Verwaltungszweigen wurde
forderungen. Besonders ertragreich sind die Technologieentwicklung in bestimmte
solche Beurteilungen, wenn alle Interes- Richtungen gefördert. Die strategische
sierten die Möglichkeit erhalten haben, Möglichkeit der Technologieentwicklung
ihren Standpunkt darzulegen. bedeutet auch, dass Möglichkeiten in die-
sem Rahmen gesehen werden müssen.
Die Maßstäbe für einen solchen sozio-
technischen Vergleichstest ergeben sich Als Beispiel lassen sich hier Fragen der
aus der Verfassung und betreffen insbe- Transparenz anführen. Mit Blick auf den
sondere die Grund- und Menschenrechte Stand der Technik werden insbesondere
und die Grundprinzipien wie Demokratie künstliche neuronale Netzwerke oft als
und Rechtstaatlichkeit, denn diese bilden „Blackbox“ bezeichnet, deren Arbeits-
14 Berichte des NEGZweise und Entscheidungsgrundalgen Ein erstaunliches Ergebnis erreichte die
nicht nachvollzogen werden können. Sol- Gruppe etwa beim Vergleich von Bilder-
che allgemeinen Aussagen lassen zwei- erkennungssystemen, im konkreten Bei-
erlei außer Acht. Zum einen hängt Trans- spiel Systeme zum Erkennen von Pfer-
parenz immer von der konkreten den. 18 Die Gruppe konnte transparent
(a)
technischen SVM/BoW classifier
Gestaltung ab. Zum anderen machen, dass ein System mit hohen Er-
gehören gerade Transparenz und Inter- kennungsraten auf einen Fehler im Da-
pretabilität zu den dynamischen For- tensatz aufbaute: Alle Trainingsbilder mit
schungsfeldern. Ein Beispiel dafür ist die Pferden wiesen eine ähnliche Bildunter-
Forschungsgruppe „Interpretable Machi- schrift auf. Diese diente dem System zur
ne Learning“ des Fraunhofer Hein-
CNN/word2vecKlassifikation,
classifier während andere Systeme
rich-Herz-Instituts, die einen bestimmten Formen abstrahierten und diese zur Klas-
Forschungsansatz zu Transparenz und sifikation benutzten. Auf der Grundlage
Interpretabilität verfolgen. Sie können so dieser Forschung konnten die Klassifika-
nachvollziehen, auf Basis welcher Fakto- tionsentscheidungen nachvollzogen und
ren Entscheidungen getroffen werden. visualisiert werden.
Based on Arras et al. (2016) "What is relevant in a text document? an interpretable ML approach"
(b) "horse" classification by "horse" classification by Abbildung 5: Visualisierung
input image der Klassifizierungskriterien
Fisher vectors Deep neural networks verschiedener Bilderkennungs-
systeme durch die Gruppe
Interpretable Machine Learning 19
Based on Lapuschkin et al. (2016) "Analyzing classifiers: Fisher vectors and deep neural nets"
An diesem Beispiel lässt sich zeigen, dass Will man mit dem Querschnittscharakter
die Technik selbst im Fluss ist. Ein besse- von Digitalisierungstechnologien zurecht
res Verständnis der Systeme ist zwar auf- kommen, muss man den Wald und die
wendig, allerdings könnte sich dies mit- Bäume gleichzeitig sehen. Es geht darum,
tel- und langfristig auch wieder positiv die Gesamtentwicklung im Blick zu haben
auf Forschung und Anwendung von und sie in den einzelnen gesellschaft
KI-Systemen auswirken. lichen Bereichen wie etwa Gesundheit, in-
nere Sicherheit oder Steuern angemes-
sen und kontextsensitiv voranzutreiben.
3.3. Organisation Wichtiger als die konkrete organisatori-
sche Ausprägung sind die Ziele, die durch
Eine wesentliche Herausforderung für Aufgabenverteilung etwa zwischen den
die Verwaltung besteht darin, auch or- Ministerien und dem Kanzleramt erreicht
ganisatorisch auf technische Verände- werden sollen. Wichtig ist auch, auf Ent-
rungsprozesse wie den der künstlichen wicklungen umfassend zu reagieren und
Intelligenz zu reagieren. Diese Heraus- sie möglichst in ihrer Gänze zu verstehen.
forderungen bestehen quer über den So wurde in Deutschland etwa 1962 und
ganzen Verwaltungsaufbau hinweg von 1963 zur Förderung der Technologiefor-
der Bundesregierung bis hin zur Kom- schung ein Ministerium für Wissenschaft
munalverwaltung. und Forschung gegründet, das aus dem
Ministerium für Atomfragen hervorging. 20
18 Montavon / Samek / Müller Digital Signal Processing 73 (2018), 1.
19 Montavon / Samek / Müller Digital Signal Processing 73 (2018), 1, 12.
20 Sang, in: Hermann / Sang (Hrsg.), Technik und Staat, 1992, 467.
Künstliche Intelligenz in der öffentlichen Verwaltung 15Atomfragen bildeten zwar einen beson- auftragte den Datenschutz und das Bun-
ders wichtigen, aber bei weitem nicht den desamt für die Sicherheit in der
einzigen technologischen Fokus der Re- Informationstechnik eine sichere IT auch
gierung. Was die Verankerung von Digi- für Bürger und Unternehmen zur Aufga-
talthemen und speziell künstlicher Intelli- be hat, sollte es eine Funktion geben, die
genz in der Ministerialverwaltung angeht, über die gute Gestaltung von künstlicher
kommt es gerade zu einer Proliferation Intelligenz wacht. Anders als beim Da-
neuer Organisationen oder Organisati- tenschutz und bei der IT-Sicherheit las-
onsteile. Neben der im Koalitionsvertrag sen sich hier nicht nur bestimmte Ziele
verankerten E-Government Agentur sol- angeben, die verwirklicht werden sollen.
len ferner auch eine Agentur für Sprung- Ebenso wie bei den Beispielen geht es
innovationen und eine Agentur für innere darum, die Interessen von Nutzern und
Netzsicherheit gegründet werden. In ver- sonstigen Betroffenen zu wahren, gera-
schiedenen Ministerien werden Abteilun- de wenn diese nicht unmittelbar an den
gen, Referate und Thinktanks aufgebaut. Entwicklungs- und Implementationspro-
zessen beteiligt sind.
Blickt man vom Standpunkt der Schaf-
fung guter künstlicher Intelligenz auf
den organisatorischen Wandel, stellt sich 3.4. Leitbilder
nicht nur die Frage nach neuen Instituti-
onen, sondern insbesondere nach neuen Leitbilder ergeben sich aus Begriffen und
Funktionen und Teamstrukturen. Gute können sich prägend auf die weitere Ent-
künstliche Intelligenz zu entwickeln und wicklung auswirken. 22 Ihnen kommt dabei
in die Fläche zu bringen wird davon ab- nicht nur eine beschreibende Funktion
hängen, dass es Funktionen gibt, die so- zu, sie haben auch das Potenzial, Ent-
wohl Fachkompetenz als auch Zustän- wicklungen zu prägen. 23 Auch im Bereich
digkeit in dieser Hinsicht haben. der Verwaltungsmodernisierung sind ei-
Verschiedentlich wurde dafür bereits nige Begriffe mit einer solchen Bedeu-
das Bild eines Algorithmisten geprägt. 21 tung aufgeladen worden, dass man sie
Damit bezeichnet man ein Berufsbild, durchaus als Leitbilder bezeichnen kann,
das KI-Anwendungen einrichten, über- wie etwa „New Public Management“ oder
prüfen und verändern kann. Solche digi- das im deutschen Diskurs verwandte
talen Kompetenzen werden für die Ge- „Neue Steuerungsmodell“. Die Bundesre-
staltung von guter künstlicher Intelligenz gierung prägte den Begriff „Industrie 4.0“
von besonderer Wichtigkeit sein. Ebenso und schaffte damit erfolgreich ein Leit-
wichtig sind aber Kenntnisse des ent- bild für die technologiegetriebene Indus-
sprechenden Lebensbereichs, um den es triemodernisierung, das international re-
geht. Nur so können soziotechnische Zu- zipiert wurde. Dies fand auch in der
sammenhänge erfasst und in Verbin- öffentlichen Verwaltung Nachahmung,
dung gebracht werden. Wichtiger als ein wo das Schlagwort „Industrie 4.0 braucht
bestimmtes Berufsbild ist es folglich, Verwaltung 4.0“ populär wurde. 24
Teams aus Mitgliedern zur Verfügung
stellen zu können, die über Erfahrung in Die Frage nach einem Leitbild für die Ge-
der transdisziplinären Zusammenarbeit staltung künstlicher Intelligenz ist jeden-
verfügen. Es ist von entscheidender Be- falls für den deutschen und europäischen
deutung, dass die gute Gestaltung von Kontext, von einigen ersten Ansätzen ab-
KI zu den Kernaufgaben dieser Funktio- gesehen, noch offengeblieben. Dabei
nen gehört. Ebenso wie Datenschutzbe- kann Technologie durchaus eine Verfas-
21 Mayer-Schönberger / Cukier, Big Data, 2013, 189 ff.
22 Baer, „Der Bürger“ im Verwaltungsrecht, 2006, 83; Voßkuhle Der Staat 2001, 495, 506ff.
23 Koselleck, in: Koselleck (Hrsg.), Begriffsgeschichten: Studien zur Semantik und Pragmatik der politischen
und sozialen Sprache, 2010, 61 f.
24 Kruse / Hogrebe Behörden Spiegel 29 (2013), 1.
16 Berichte des NEGZsungsdimension haben, wie sich etwa an
Fragen nach einer Verfassung für das In- Verbesserung des Zugangs zu
ternet zeigt. 25 In gleicher Richtung könnte neuen Technologien für Offenheit
man auch nach der konstitutionellen Di- und Verantwortlichkeit.
mension der KI fragen. Ein interessanter
Anknüpfungspunkt für den praktischen Neue Technologien bieten Möglich-
Umgang von Verfassungen mit diesen keiten für Informationsaustausch,
Phänomenen könnte eine Vorschrift aus Öffentlichkeitsbeteiligung und Zu-
der Verfassung der Freien Hansestadt sammenarbeit. Wir beabsichtigen,
Bremen sein, die in Art. 12 Abs. 1 besagt: diese Technologien zu nutzen, um
mehr Informationen in einer Weise
„Der Mensch steht höher als Technik zu veröffentlichen, die es den Men-
und Maschine. […]“ schen ermöglicht, sowohl zu ver-
stehen, was ihre Regierungen tun,
Dabei handelt es sich um eine in der als auch Entscheidungen zu beein-
deutschen Verfassungsgeschichte ein- flussen. … Wir verpflichten uns, die
zigartige Vorschrift, die nach dem zwei- Zivilgesellschaft und die Wirtschaft
ten Weltkrieg vor dem Eindruck der einzubinden, um wirksame Prakti-
Industrialisierung in die Verfassung auf-
ken und innovative Ansätze für die
genommen wurde und bisher in der Nutzung neuer Technologien zu
Rechtsprechung nicht angewandt wurde. identifizieren, um die Menschen zu
befähigen und die Transparenz in
Verlangen aber neue Technologien nach der Regierung zu fördern. Wir sind
neuen Leitbildern? Man neigt schnell uns auch darüber im Klaren, dass
dazu, im Angesicht neuer Möglichkeiten ein besserer Zugang zu Technolo-
nach den ethischen Implikationen zu fra- gie die Fähigkeit von Regierungen
gen und dabei zu insinuieren, dass sich und Bürgern, diese zu nutzen, för-
hierbei völlig neue Fragen stellen, die dert. Wir verpflichten uns, die Nut-
auch nach völlig neuen Antworten ver- zung technologischer Innovationen
langen. Wichtig ist zu verstehen, dass durch Regierungsmitarbeiter und
zwischen einer neuen Technologie und Bürger zu unterstützen und weiter-
neuen Leitbildern kein notwendiger Zu- zuentwickeln. Wir verstehen auch,
sammenhang besteht. Noch stärker gilt dass Technologie eine Ergänzung
dies für neue Technologien und ethisch- und kein Ersatz für klare, brauchba-
moralische Normen. re und nützliche Informationen ist.
Ein Verwaltungsleitbild, das vielleicht
neue Züge trägt, vielleicht auch nur eine Das Leitbild des offenen Verwaltungs-
Reinterpretation erfahren hat, ist das offe- und Regierungshandelns entwickelt An-
ne Verwaltungs- und Regierungshandeln forderungen an den Einsatz von neuen
(Open Government). Verschiedene An- Technologien, die sich auch auf künst
sätze eines transparenten und auf Bürger liche Intelligenz anwenden lassen. Zu ei-
ausgerichteten Regierungshandelns ha- ner umfassenden Diskussion über gute
ben Ihren Eingang in eine internationale künstliche Intelligenz in der öffentlichen
Initiative gefunden, der auch Deutschland Verwaltung gehört es auch, dass be
im Jahr 2016 beigetreten ist. Deren Grün- stehende Leitbilder weitergedacht und
dungserklärung nimmt auch ausdrücklich progressive Leitbilder wie das des Open
zu neuen Technologien Stellung: 26 Government mitgedacht werden.
25 Pernice EuConst 11 (2015), 541.
26 Open Government Initiative, Open Government Declaration, https://www.opengovpartnership.org/
open-government-declaration, 02.09.2018.
Künstliche Intelligenz in der öffentlichen Verwaltung 174 RECHTSFRAGEN
Verbindliche Leitlinien für die Entwick- (siehe § 5 BSI-Gesetz). Das BSI darf ohne
lung künstlicher Intelligenz ergeben sich Anlass nach dem Gesetz Daten zuerst nur
aus dem Recht. Es setzt Technik zur Wah- automatisiert auswerten. Erst wenn KI
rung individueller Rechte und des öffent- eine Anomalie erkannt hat, die auf Schad-
lichen Interesses Grenzen. Dies ist aber programme oder mangelnde Sicherheit
bei weitem nicht die einzige Funktion des hinweisen, darf es zu einer menschlichen
Rechts bei der Entwicklung von Technik. Verarbeitung der Daten kommen. 29
Die Funktionen des Rechts kann man
vielmehr mit den Schlagworten Grund, Wie bereits erwähnt, ist es Aufgabe des
Grenze und Gestaltung beschreiben. 27 Rechts, KI in der öffentlichen Verwaltung
zu begrenzen. Solche Grenzen finden wir
Ist das Recht Grund für die Technikent- beispielsweise in § 114 Abs. 4 des Bundes-
wicklung, kann es Entwicklung, Weiter- beamtengesetzes. Nach dieser Vorschrift
entwicklung und Anwendung der Tech- dürfen beamtenrechtliche Entscheidun-
nologie durch die Verwaltung motivieren gen nicht ausschließlich durch automati-
oder sogar verpflichtend vorschreiben. sche Systeme getroffen werden. Das be-
Das kann so weit gehen, dass es sogar ei- trifft allerdings nur die Verarbeitung von
nen menschenrechtlichen Anspruch auf personenbezogenen Daten, die der Be-
die Einführung von KI und Algorithmen wertung einzelner Persönlichkeitsmerk-
gibt. Ein solches Recht könnte etwa aus male dienen. Während diese Vorschrift
Art. 41 der Europäischen Grundrechte- sich speziell auf automatische Systeme
charta (EGrC) abgeleitet werden, dem bezieht, müssen sich KI-Anwendungen
Recht auf eine gute Verwaltung. 28 Wenn auch an allgemeinen Vorschriften messen
Algorithmen bestimmte Aufgaben viel lassen. So ist etwa das IT-Sicherheitsrecht
schneller, einfacher und besser erledigen auf alle IT-Systeme anwendbar, wie etwa
und andernfalls eine ineffiziente Verwal- Art. 11 Abs. 1 des Bayerischen E-Govern-
tung droht, könnte Art. 41 EGrC die Ein- ment-Gesetzes. Dieser schreibt vor, dass
führung von KI gebieten. Eine solche die Sicherheit von IT-Systemen gewähr-
Pflicht findet sich auch in der Behinder- leistet werden muss. Das bedeutet, dass
tenrechtskonvention der Vereinten Natio- KI in der öffentlichen Verwaltung nur ein-
nen. Diese verpflichtet in Art. 4 Abs. 1 (g) gesetzt werden darf, wenn sie ausrei-
Staaten dazu, Forschung und Entwick- chend abgesichert werden kann, und dass
lung neuer Technologien zu fördern oder diese Absicherung auch erfolgen muss.
selbst zu betreiben, wenn diese geeignet
sind, Menschen mit Behinderung zu hel- Daneben hat das Recht allerdings auch
fen. Als Vertragspartei der Konvention gilt eine Gestaltungsfunktion. In dieser Funk-
diese Pflicht auch für Regierung und Ver- tion nimmt es Einfluss auf den Prozess der
waltung in Deutschland. Direkte Pflichten Entwicklung, Weiterentwicklung und An-
zur Implementation können sich für die wendung von Technologien in der Gesell-
Verwaltung auch aus Gesetzen ergeben. schaft. 30 Das Recht begrenzt und fördert
So hat das Bundesamt für die Sicherheit die Technik nicht nur, rechtliche Anforde-
in der Informationstechnik (BSI) die Auf- rungen verschmelzen gleichsam mit dem,
gabe, die Netze des Bundes zu schützen was technisch möglich ist. KI-Anwendun-
27 Djeffal DVBl 2017, 808, 811 ff.
28 Ausführlich Djeffal, in: Klafki / Würkert / Winter (Hrsg.), Digitalisierung und Recht, 2017, 98.
29 Dies gilt unter der Voraussetzung, das kein anderer Anlass - wie etwa ein Hinweis - besteht.
30 Hildebrandt, Smart technologies and the end(s) of law, 2016; Djeffal, in: Klafki / Würkert / Winter (Hrsg.),
Digitalisierung und Recht, 2017.
18 Berichte des NEGZgen machen Technik flexibel und selbst- Kraftfahrzeug, muss der Halter unabhän-
ständig, sie öffnen technische Systeme in gig davon haften, ob ihn ein Verschulden
besonderem Maße für die rechtliche Ge- trifft. Dadurch wird die allgemeine Regel
staltung. Es ist zu erwarten, dass die Re- modifiziert, dass nur haftet, wer einen
geln, die Technikgestaltung in der öffentli- Schaden zu vertreten hat, wer also vor-
chen Verwaltung betreffen, zunehmen sätzlich oder fahrlässig handelt. Die Frage
werden. Im europäischen Datenschutz- nach der Verantwortlichkeit wird auch im
recht etwa gibt es Pflichten, Datenschutz Rahmen von künstlicher Intelligenz ver-
und Datensicherheit durch Technikgestal- handelt. 33 In diesem Spannungsfeld ist KI
tung umzusetzen. Für die Behörden, die eine Herausforderung für das Recht. Es
für Gefahrenabwehr oder Strafverfolgung stellt sich die Frage, ob und wie das Recht
zuständig sind, ergibt sich dies aus § 71 weiterentwickelt werden soll und muss. 34
des neuen BDSG, das auf der sogenannten
JI-Richtlinie beruht: Wenn der Verantwort- KI als Chance bzw. Herausforderung für
liche die Mittel für die Datenverarbeitung das Verwaltungsrecht kann nur dann er-
festlegt und wenn er die Verarbeitung vor- griffen bzw. gemeistert werden, wenn
nimmt, muss er Vorkehrungen für eine da- man das Recht nicht unnatürlich reduziert,
tenschutzfreundliche Gestaltung treffen. sondern sich dessen Funktion als Grund,
Grenze und Gestaltungsmittel gegenwär-
Wenn „neue“ Technologien auf das „alte“ tig ist. Unter diesen Vorzeichen bietet das
Recht stoßen, spricht man von Lücken im Recht zahlreiche Möglichkeiten zur guten
Recht und Hindernissen durch das Recht. Gestaltung künstlicher Intelligenz.
Eine Lücke ist vorhanden, wenn etwas ge-
regelt werden sollte, aber nicht geregelt
wurde. 31 Bedroht also eine neue Techno- 4.1. Automatisiertes
logie individuelle Rechte oder das ge- Verwaltungsverfahren
schützte Allgemeininteresse, ohne dass
rechtliche Regelungen zur effektiven Mit dem Gesetz zur Modernisierung des Be-
Durchsetzung bestehen, kann man von steuerungsverfahrens wurde der Erlass von
einer Lücke sprechen. Solche Lücken kön- vollständig automatisierten Verwaltungs
nen auf verschiedene Arten geschlossen akten geregelt. Die Vorschrift wurde direkt
werden: Entweder durch den Gesetzge- hinter der berühmten Definition des Ver-
ber, der neue Regeln erlässt, oder durch waltungsakts in § 35 VwVfG angesiedelt,
Verwaltung und Rechtsprechung, die im deren Elemente fast jeder Jurastudierende
Rahmen ihres verfassungsmäßigen Auf- zitieren kann. § 35a liest sich wie folgt:
trags zur Rechtsetzung und Rechtsent-
wicklung befugt sind. Es kann allerdings
auch das umgekehrte Problem bestehen, § 35a VwVfG Vollständig Auto
nämlich von Innovations- und Anwen- matisierter Erlass eines Verwal
dungshindernissen. 32 Hindernisse tau- tungsaktes
chen insbesondere dann auf, wenn bereits
bestehende rechtliche Kategorien neue Ein Verwaltungsakt kann vollstän-
Technologien oder ihre Auswirkungen dig durch automatische Einrichtun-
nicht ausreichend erfassen. So wurden gen erlassen werden, sofern dies
etwa für den Automobilverkehr überall durch Rechtsvorschrift zugelassen
auf der Welt spezielle rechtliche Regime ist und weder ein Ermessen noch
geschaffen, die allgemeine Regeln modi- ein Beurteilungsspielraum besteht.
fizieren. Entsteht ein Schaden durch ein
31 Canaris, Die Feststellung von Lücken im Gesetz, 21983.
32 Hoffmann-Riem, Innovation und Recht - Recht und Innovation, 2016, 33.
33 Hilgendorf, in: Jenseits von Mensch und Maschine, 2012.
34 Martini JZ 72 (2017), 1017
Künstliche Intelligenz in der öffentlichen Verwaltung 19Sie können auch lesen
