Anne Goldmann, Christoph Bieber - Policy Paper Universität Duisburg-Essen / CAIS Juli 2021 - Center for Advanced ...

Die Seite wird erstellt Stefan-Di Marx
 
WEITER LESEN
Anne Goldmann,
Christoph Bieber

KI-Governance –
Künstliche Intelligenz
als Gegenstand politischer Steuerung

Policy Paper
Universität Duisburg-Essen / CAIS
Juli 2021

                      GEFÖRDERT DURCH
GO L D M A N N, B I E B E R

    KI-Governance –
    Künstliche Intelligenz als Gegenstand
    politischer Steuerung

Zentrale Befunde                                          ber 2018 und die Abschlussberichte der Da-
                                                          tenethikkommission          sowie        der
•    Im Themenfeld Künstliche Intelligenz (KI) las-       Enquete-Kommission „Künstliche Intelligenz
     sen sich mit Blick auf die Bundesministerien         – Gesellschaftliche Verantwortung und wirt-
     derzeit drei Steuerungsmechanismen identi-           schaftliche, soziale und ökologische Potenzi-
     fizieren. Für die Bundesländer zeichnet sich         ale“. Auf Länderebene sind die Strategiepa-
     ein deutlich heterogeneres Bild ab. Insgesamt        piere zum Thema Digitalisierung und, sofern
     dominiert die Exekutive die KI-Politik in            vorhanden, auch erste KI-Strategien maßge-
     Deutschland auf allen Ebenen.                        bend.
•    KI-Politik wird als genuines Querschnittsthe-    •   Erweitert wird die Datengrundlage um die je-
     ma aufgefasst, wodurch die Selbstwahrneh-            weiligen Organigramme der zuständigen poli-
     mung in der Ministerialverwaltung stark              tischen Institutionen.
     durch eine Funktion der Koordinierung ge-        •   Expert:innen-Interviews mit 14 Personen der
     kennzeichnet ist.                                    Ministerialbürokratie auf Bundes- und Län-
•    KI-Politik wird in den Bundesländern klar als        derebene vervollständigen die Materialbasis.
     Wirtschafts- und Standortpolitik aufgefasst.
     Regionale Schwerpunkte ergeben sich durch        Perspektive und Einordnung
     das Anknüpfen an bereits bestehenden Struk-
     turen.                                           •   Für die weitere Gestaltung des Themas KI auf
•    Durch den derzeitigen Digitalisierungsschub,         Bundesebene wird entscheidend sein, ob im
     der aufgrund der Corona-Pandemie ausge-              Zuge der Regierungsbildung im Herbst 2021
     löst wurde, kann nach Einschätzung der be-           ein Digitalministerium eingerichtet wird.
     fragten Expert:innen auch das Thema KI pro-      •   Auf Länderebene sind mit Blick auf die Land-
     fitieren.                                            tagswahlen 2021 einerseits Nachholeffekte
                                                          zu erwarten, andererseits könnten Regie-
Daten und Material                                        rungswechsel Änderungen der bisherigen KI-
                                                          Politik nach sich ziehen und so erstmals die
•    Den Ausgangspunkt bilden auf Bundesebene             politische Dimension des Themas heraus-
     die „Strategie Künstliche Intelligenz der Bun-       stellen.
     desregierung“ in ihrer Fassung vom Novem-

                                                                                                             1
K I - GOV E R N A N C E						                                                          GO L D M A N N, B I E B E R

Status Quo: Erste Politikfeld-                          von KI-Systemen zu formulieren. Dabei wirkte ins-
Spuren auf Bundes- und                                  besondere das wirtschaftliche Potential der KI-
                                                        Technologien als Treiber, um Strategien und Pro-
Landesebene                                             jekte in diesem Themenfeld voranzutreiben und
                                                        einen internationalen Wettbewerbsvorteil zu si-
Die Diskussion um die politische Regulierung von        chern. Der Einsatz von KI-Systemen innerhalb des
KI-Systemen lässt sich in eine Linie mit der Ent-       politischen Kontexts beispielsweise bei der Un-
stehung des politischen Handlungsfeldes einer           terstützung von Verwaltungsvorgängen, zur Se-
Netz- oder Digitalpolitik einordnen. Seit den           lektion großer Datenmengen oder zur automati-
1990er Jahren sind in Folge der digitalen Trans-        sierten Datenauswertung ist in einigen Staaten
formation in mehreren Politikbereichen neue The-        bereits durchaus geläufig. In Deutschland wird
menfelder und Arbeitsbereiche entstanden, die           die Verwendung derartiger Technologien zur Ent-
zugleich die Lebenswelt der Bürger:innen beein-         lastung der Verwaltung zwar bereits diskutiert
flussen und neue Herausforderungen für politi-          und insbesondere unter juristischen und normati-
sche Akteure, Organisationen und Institutionen          ven Aspekten geprüft, kommt aber bisher nur ge-
darstellen. In politikwissenschaftlicher Perspekti-     ringfügig zum Einsatz.
ve wird dieser Prozess als Politikfeldgenese be-
schrieben – ein Vorgang, der nicht allzu häufig zu      Im Hintergrund scheinen dabei die Erfahrungen
beobachten ist, zuletzt etwa im Bereich der Um-         mit bisherigen Entwicklungen der digitalen Trans-
welt- oder der Migrationspolitik, entsprechend          formation zu wirken, die in der Politik häufig über-
dünn ist die Literaturlage. Selbst die Feldbezeich-     sehen oder nur randständig verhandelt worden
nung ist nicht einheitlich, manche Studien spre-        sind. Möglicherweise haben gerade die bisheri-
chen von „Netzpolitik“, jüngere Untersuchungen          gen Defizite dazu beigetragen, dass innerhalb des
bevorzugen „Digitalpolitik“. Unüblich ist dies nicht,   politischen Systems das Feld der „KI“ seit 2018
viel mehr drückt sich darin die hohe Dynamik des        besonders große Aufmerksamkeit erhalten hat.
Gegenstandsbereichs aus, der durch eine Folge           In rascher Folge haben sich neue Akteure wie En-
technologischer Innovationen und deren gesell-          quete-, Ethik- und Expert:innenkommissionen,
schaftlicher Akzeptanz und Wirkung gekenn-              technische Prüfstellen, NGOs oder Ansätze einer
zeichnet ist. Eine ähnliche Vielfalt zeigt sich auch    Selbst- bzw. Community-Regulierung formiert, die
bei „Umwelt-, Energie- und Klimapolitik“, die eben-     allmählich die Gestalt einer komplexen, ebenen-
falls miteinander verzahnte Politikbereiche be-         übergreifenden Netzwerkstruktur annehmen.
schreiben.
                                                        Die öffentlichkeitswirksame Initialzündung für
Bestand das politische Vokabular der Digitalisie-       das Thema „KI und Politik“ fiel in Deutschland im
rung zunächst vor allem aus Begriffen aus den           Jahr 2018 durch die Veröffentlichung der Strate-
Bereichen Hardware oder Infrastruktur wie z.B.          gie Künstliche Intelligenz der Bundesregierung,
Modem, Server, Datenautobahn oder Internet, so          deren Entstehungskontext sich jedoch etwas wei-
sind im Zuge der Verbreitung digitaler Dienste im-      ter zurückverfolgen lässt: Ein wichtiger Bezugs-
mer neue Termini wie beispielsweise Social Me-          rahmen für deutsche KI-Aktivitäten war die er-
dia, Breitband, Cloud oder 5G hinzugekommen.            kennbare Zunahme von KI-Strategien und
Die Hinwendung zu „KI“ bedeutet einen weiteren          Umsetzungsplänen im internationalen Kontext. In
Entwicklungsschritt, der seit 2018 im internatio-       den Jahren 2017 und 2018 waren zahlreiche sol-
nalen Kontext zu beobachten ist (vgl. Dutton 2018,      cher Programme beschlossen worden, etwa in
Campbell 2019). Die zunehmende Verfügbarkeit            den USA, China, Großbritannien oder Frankreich
großer, digitaler Datensätze sowie der Einsatz al-      (vgl. Dutton 2018). Bereits im Jahr 2017 gab es
gorithmenbasierter Auswertungs- und Entschei-           erste konzeptionelle Überlegungen zur Entwick-
dungssysteme bilden die Grundarchitektur für            lung einer nationalen KI-Strategie im BMBF mit
jene Strukturen, die unter dem Begriff der Künst-       dem Fachforum Autonome Systeme im Rahmen
lichen Intelligenz subsummiert werden.                  der Hightech-Strategie, die im Zuge der Regie-
                                                        rungsbildung nach der Bundestagswahl 2017
In den vergangenen Jahren sind zahlreiche KI-           fortgeschrieben wurde. Der Koalitionsvertrag
Strategien und -Projekte entstanden, oft durch die      vom März 2018 lieferte erste Hinweise für eine
Initiative von Exekutivakteuren auf nationaler          allmähliche Fokussierung auf das Thema KI – al-
Ebene und mit der Absicht, Regeln für den Einsatz       lerdings gab es hier nur elf explizite Erwähnungen

                                                                                                                     2
K I - GOV E R N A N C E						                                                                     GO L D M A N N, B I E B E R

des Begriffs, wobei vier Mal auf internationale                   Schließlich fügt sich auch die Einsetzung der Da-
Forschungskooperationen hingewiesen wurde                         tenethikkommission in diesen Zeitraum ein; das
(Bundesregierung 2018a). Eine zusammenhän-                        Gremium wurde gemäß den Beschlüssen des Ko-
gende Darstellung der Perspektiven von KI wurde                   alitionsvertrags eingerichtet. Am 5. Juni 2018 leg-
nicht formuliert, der Begriff beschreibt hier ledig-              te die Bundesregierung ihre Leitfragen an die
lich eine digitale Zukunftstechnologie unter vie-                 Kommission vor, die ihre Arbeit am 4. September
len. Der Koalitionsvertrag stellt dennoch eine Vor-               2018 aufnahm (BMI/BMJV 2018). Abbildung 1
stufe für die im November 2018 veröffentlichte                    fasst die beschriebenen zentralen Akteure auf
nationale KI-Strategie (Bundesregierung 2018c)                    Bundesebene noch einmal zusammen.
dar, einen weiteren Zwischenschritt markierte die
Veröffentlichung eines Eckpunkte-Papiers der                      Die rasche Abfolge dieser zentralen, eng mitein-
Bundesregierung im Juli 2018 (Bundesregierung                     ander verbundenen Beschlüsse und Abläufe, die
2018b). Im Rahmen dieses Prozesses bildete                        für eine erste Verankerung des Themenfelds im
sich die gemeinsame Federführung von BMBF,                        politischen Raum gesorgt haben, ist im Vergleich
BMWi und BMAS heraus, die zugleich als wichti-                    zu früheren Entwicklungsschritten im Feld der
ge Pfadentscheidung für die Kompetenz- und                        Netz- bzw. Digitalpolitik auffällig. Ein Grund dafür
Ressourcenverteilung bei der Umsetzung der KI-                    ist die Beschäftigung mit der Thematik in unter-
Strategie gelten muss.                                            schiedlichen Ressorts, aber auch eine Lernkurve
                                                                  im Umgang mit Digitalthemen – eine zu zögerli-
 Parallel zur Formierung der Exekutiv-Akteure hat                 che Auseinandersetzung hatte sowohl in der öf-
 auch eine Auseinandersetzung auf Seiten der Le-                  fentlichen Wahrnehmung (Deutschland als digita-
 gislative stattgefunden, die aber weniger offensiv               les      Entwicklungsland)      wie      auch    im
 kommuniziert worden ist. Dennoch fand parallel                   Parteienwettbewerb (Erfolge der Piratenpartei)
 zur Entwicklung der nationalen KI-Strategie auch                 für Probleme gesorgt. Vieles spricht dafür, dass
 die Vorbereitung der Enquete-Kommission                          das Thema „Künstliche Intelligenz“ von den bis
„Künstliche Intelligenz – Gesellschaftliche Verant-               dahin eher durchwachsenen Digital-Bilanzen pro-
 wortung und wirtschaftliche, soziale und ökologi-                fitiert hat.
 sche Potenziale“ statt. Der Antrag auf Einrichtung
 erfolgte am 27. Juni 2018, die konstituierende
 Sitzung folgte am 27. September 2018.

              Datenethik-
              kommission

                                  BMWi             BMAS
           BMJV        BMI              Federführung
                                                                                     Bundestag
                                                                                     KI-Enquete
                                         KI-Strategie                               Kommission

                                          BMBF

                                                            Exekutive        Legislative

Abbildung 1: Schematische Darstellung zentraler Akteure auf Bundesebene (eigene Darstellung)

                                                                                                                                3
K I - GOV E R N A N C E						                                                                  GO L D M A N N, B I E B E R

Auch auf Länderebene zeigen sich erste, unter-         werden, die auch bereits über umfassende Strate-
schiedlich tiefe Spuren im Handlungsfeld der Di-       giepapiere in diesem Bereich verfügen. Schließ-
gitalpolitik. Um eine Bestandsaufnahme der be-         lich wurden in diesem Projektabschnitt sieben
reits realisierten und geplanten Maßnahmen im          Bundesländer identifiziert, die KI bereits zu einem
Bereich KI für die Bundesländer anfertigen zu          maßgeblichen Thema ihrer Agenda gemacht ha-
können, dienten zunächst die Digitalstrategien         ben. Hierzu zählen Baden-Württemberg, Bayern,
als Ausgangspunkt. Dabei war zu berücksichti-          Hamburg, Hessen, Niedersachsen, Nordrhein-
gen, dass nicht alle Bundesländer über eine dezi-      Westfalen, und Schleswig-Holstein (siehe Abbil-
dierte „Digitalstrategie“ verfügten bzw. die Doku-     dung 2).
mente unter sowohl politisch als auch zeitlich
heterogenen Bedingungen entstanden waren (vgl.         Während die sieben Bundesländer die Gemein-
Brunner et al. 2020). Sofern einzelne Länder be-       samkeit teilen, dass sie den Themenbereich der
reits separate KI-Strategien veröffentlicht hatten,    Künstlichen Intelligenz bereits als eines ihrer poli-
wurden diese für eine Auswertung zum Themen-           tischen Handlungsfelder identifiziert haben, so
feld der Künstlichen Intelligenz herangezogen.         unterscheiden sie sich doch durchaus stark darin
                                                       mittels welcher Zuständigkeitsverteilung sie das
Zusätzlich wurde der Grad der Institutionalisie-       Thema bearbeiten. In Baden-Württemberg, Nie-
rung des Themas untersucht. Da sich in allen           dersachsen und Nordrhein-Westfalen fällt die
Bundesländern bisher keine nennenswerten Akti-         Verantwortung jeweils an die Wirtschafts- und Di-
vitäten der Legislative in diesem Bereich abzeich-     gitalministerien (vgl. Rusch 2021). In Hamburg
neten, wurde ausschließlich die Exekutive in den       wiederum ist das Thema über das Amt für IT in
Blick genommen. Hierbei wurde die Ministerial-         der Senatskanzlei angesiedelt und in Schleswig-
struktur anhand von Organigrammen daraufhin            Holstein werden Zuständigkeiten im Ministerium
untersucht, ob und in welchem Ausmaß sich KI           für Energiewende, Landwirtschaft, Umwelt, Natur
bereits in der Organisation der (Digital-)Ministeri-   und Digitalisierung und in der Staatskanzlei mit-
en und Staats- bzw. Senatskanzleien nieder-            einander kombiniert. In Hessen liegt die Verant-
schlägt. Durchaus naheliegend konnte hierbei           wortung des Themas bei der Ministerin für Digita-
eine hohe Kongruenz bei den Ländern festgestellt       le Strategie und Entwicklung, die aber wiederum
                                                       an die Staatskanzlei angesiedelt ist (vgl. Heeger
                                                       2021). Bayern schließlich verfügt als einziges
                                                       Bundesland über ein eigenständiges Ministerium
                                                       für Digitales, in dem auch das Thema KI verant-
                      ∆o                               wortet wird (vgl. Punz 2021). Alle weiteren Aus-
                                                       führungen zur KI-Governance auf Länderebene
                      ∆                                beziehen sich im Folgenden auf die genannten
                                                       sieben Bundesländer.

                      o                                Abbildung 2: Einteilung der Bundesländer nach Intensität, mit der
                                                       sich das Thema KI in offiziellen Strategiepapieren und/ oder minis-
                                                       terieller Verantwortlichkeit widerspiegelt, Stand Juni 2020 (eigene
                                                       Darstellung)
      o
                                                       Legende:
                                                       ◊ = eigenständiges Ministerium
              ∆                                        o = Ministerium mit geteilter Zuständigkeit
                                                       ∆ = Staats-/Senatskanzlei

                                                       Färbung
                  o                                    Gruppe 1, dunkle Färbung = KI als eigenes Politikvorhaben
                                                       Gruppe 2, mittlere Färbung = KI als Thema, aber ohne bisher
                                ◊                      eigenständige Etablierung
                                                       Gruppe 3, helle Färbung = KI wird bisher nicht als Thema
                                                       identifiziert

                                                                                                                             4
K I - GOV E R N A N C E						                                                                      GO L D M A N N, B I E B E R

Erste Umsetzung der Strategien:                                  Innerhalb des federführenden BMBF wird die The-
                                                                 matik nicht zentralisiert verhandelt, sondern fließt
Arbeiten mit und außerhalb                                       in unterschiedlichen Abteilungen in die jeweiligen
traditioneller Strukturen                                        Bereiche ein1. Auffällig ist, dass die Abteilungen
                                                                 2 bis 7 des BMBF den Punkt „Digitalisierung“ mit
Auf Bundesebene hat die Entwicklung von drei                     Grundsatzfragen verbinden und auf Gruppenebe-
Basisstationen der KI-Politik für eine relativ ra-               ne verankern. Das Referat „Künstliche Intelligenz“
sche Ordnung der Verhältnisse gesorgt und vor                    ist in der Abt. 5 „Forschung für technologische
allem mit der nationalen KI-Strategie einen Anker-               Souveränität und Innovationen“ angesiedelt, ver-
punkt geschaffen, an dem sich weitere Aktivitäts-                antwortet aber nur einen kleinen Teil der Aufga-
zentren orientieren konnten. Ein frühes Ergebnis                 ben aus der Nationalen KI-Strategie. Da das The-
der KI-Strategie war die flächendeckende Res-                    ma Künstliche Intelligenz innerhalb des BMBF auf
sortdurchdringung mit KI-Themen, was eine un-                    eine längere Historie zurückblicken kann als in
mittelbare Folge der Verteilung von Finanzmitteln                anderen Häusern, wird es daher auch an verschie-
an die Ministerien, verknüpft mit Aufgaben und                   denen Stellen verhandelt. So fällt zum Beispiel
Zielen aus der KI-Strategie darstellt (siehe Abbil-              der ressourcenintensive Auftrag zur Besetzung
dung 3).                                                         von 100 neuen KI-Professuren in die Verantwor-
                                                                 tung der Abt. 4 „Hochschul- und Wissenschafts-
                                                                 system“.
        Ressort                        Summe
                                                                 Im BMWi befasst sich die auf zwei Referate auf-
                                                                 geteilte „Stabsstelle KI“ mit der Thematik, unmit-
        BMBF                              170,0                  telbar zugeordnet der Leitung von Abt. VI „Digita-
        BMWi                              147,2                  lisierung und Innovationspolitik“. Hier deutet sich
                                                                 innerhalb dieses Bereichs eine Sonderstellung an,
        BMAS                                74,4
                                                                 die ansatzweise der hierarchischen Organisation
        BMVI                                30,1                 als Linienstruktur enthoben ist. Typischer Weise
        BMU                                 27,2                 bilden die Ebenen „Abteilung“, „Gruppe“ und „Re-
                                                                 ferat“ eine vertikale Hierarchie ab, die von neuen
        BMG                                 16,5
                                                                 Einheiten mit Digital- bzw. KI-Kompetenzen in Tei-
        BMF                                 15,1                 len durchbrochen wird.
        BMZ                                  8,0
                                                                 Aus dem Kreis der federführenden Häuser hat
        BMEL                                 3,5                 das mit dem kleinsten KI-Etat ausgestatte Minis-
        BMJV                                 3,5                 terium intern die weitreichendsten Veränderun-
        BMI                                  3,5                 gen vorgenommen. Das im BMAS eingerichtete
                                                                 KI-Observatorium ist neben der Datenethikkom-
                                                                 mission und der KI-Enquete des Bundestages die
        Gesamtsumme                          499

Abbildung 3: Verteilung der Fördermittel aus der KI-Strategie,
Stand Mai 2019, in Mio € (eigene Darstellung, Daten entnommen
aus: Bundesregierung 2019)

 In den Ministerien sind verschiedene Strategien
 zu beobachten, die sich in je unterschiedlicher                 1         Als Grundlage für die Untersuchung der organi-
 Weise auf die internen Organisationsstrukturen                  satorischen Verortung von KI-Zuständigkeiten dienen die
 ausgewirkt haben:                                               Organigramme und Geschäftsverteilungspläne von Minis-
•    die Schaffung von Stabsstellen oder Sonder-                 terien und Staatskanzleien auf Bundes- und Länderebene.
     einheiten (BMAS, BMVg, BMU)                                 Die Organigramme wurden seit Frühjahr 2020 regelmäßig
•    die Gestaltung spezialisierter Förderprogram-               überprüft und archiviert, um etwaige Veränderungen in der
     me (BMU, BMZ, BMEL)                                         Hausstruktur dokumentieren zu können. Im Rahmen der
•    die Erweiterung der bereits vorhandenen Res-                Expert:innen-Interviews wurden dazu gezielte Nachfragen
     sortforschung (BMG)                                         gestellt und Ergänzungen eingeholt.

                                                                                                                                 5
K I - GOV E R N A N C E						                                                                                   GO L D M A N N, B I E B E R

auffälligste eigenständige KI-Einheit auf bundes-                        Eine sehr nüchterne Form des Mitteleinsatzes fin-
politischer Ebene. Es ist Teil der Denkfabrik, die                       det sich im Gesundheitsministerium, in dessen
als neuartige Einheit jenseits der Linienstruktur                        Geschäftsbereich KI-Systeme selbst in der öffent-
platziert wurde. Das KI-Observatorium verfügt                            lichen Debatte intensiv diskutiert werden (vgl.
über eine eigene Personalstruktur, die weniger im                        MeMo:KI 2020). Das BMG leitet die Mittel in be-
Sinne eines klassischen Referats in die Organisa-                        reits etablierte Formate der Ressortforschung,
tionsstruktur eingebettet wurde, sondern als                             ohne ein öffentlichkeitswirksames Auflegen neu-
Funktionseinheit, die quer zu den Linien operiert                        er Förderprogramme wie sie etwa durch BMU,
und unterschiedliche Arbeitsbereiche des Hau-                            BMZ und BMEL umgesetzt werden. Dadurch blei-
ses verbinden soll. Dafür wurden neue, offene                            ben die Organisationsstrukturen weitestgehend
Räumlichkeiten und agile Arbeitsformate einge-                           unverändert – wenngleich mit der Abt. 5 „Digitali-
richtet, die auf den Querschnittscharakter der                           sierung und Innovation“ eine gewissermaßen na-
Thematik abgestimmt sind.                                                türliche Schnittstelle existiert. Abbildung 4 fasst
                                                                         die verschiedenen Umsetzungsstrategien der ein-
Eine ähnliche Strategie ist im BMVg zu beobach-                          zelnen Bundesministerien noch einmal zusam-
ten, dort übernimmt der Cyber Innovation Hub                             men.
ebenfalls eine Verbindungsfunktion innerhalb der
vorhandenen Organisationsstruktur und setzt da-                          Ein zusätzlicher Knoten im Netzwerk der KI-Aktivi-
bei ebenfalls agile Arbeitsformen ein.                                   täten auf Bundesebene befindet sich im Bundes-
                                                                         kanzleramt. Zum einen liegen formale Zuständig-
Eine traditionellere Verwendung der KI-Mittel                            keiten im Bereich der Digitalpolitik beim Chef des
lässt sich an den Angeboten von BMU, BMZ und                             Bundeskanzleramts Helge Braun, dem im Rah-
BMEL beobachten. Hier werden jeweils eigen-                              men der Linienorganisation des Ministeriums die
ständige Förderprogramme aufgelegt, die die                              Gruppe Digitalpolitik zugeordnet ist. Innerhalb
Geldmittel aus der nationalen KI-Strategie in res-                       dieser Gruppe ist das Referat 6.21 für Grundsatz-
sortspezifische Projekte einleiten. Hausintern                           fragen der Digitalpolitik zuständig, dort wurden
bleiben die Organisationsstrukturen nahezu un-                           zuletzt auch einige KI-bezogene Aktivitäten ver-
verändert, allerdings hat das BMU inzwischen                             folgt. Daneben bearbeitet auch Dorothee Bär als
eine Taskforce Künstliche Intelligenz eingerichtet,                      Staatsministerin für Digitalisierung die Thematik,
die erstmals im Oktober 2020 im Organigramm                              verfügt aber nicht über strukturierte Ressourcen.
aufgeführt wurde.

                            Stabstelle auf                                         Denkfabrik
       Datenethik-         Abteilungsebene                                      KI-Observatorium als
       kommission            mit 2 Referaten                                     Innovationsstruktur

                                                   BMWi             BMAS
                                                                                                                   Eigene
                                                         Federführung
                                                                                                 BMVG             Einheiten
    BMJV        BMI                                       KI-Strategie                       Cyber Innovation
                                                                                                   Hub
                                                                                              BMU
                                                                                        Taskforce KI, 10/20
                           BMU                             BMBF
                             BMZ
               Spezielle       BMEL
                Förder-
              programme                                                     BMG
                                               KI als Tradition
                                          variable Behandlung in                   Ressort-
                                          mehreren Abteilungen                    forschung

Abbildung 4: Organisatorische Ausdifferenzierung der KI-Aktivitäten auf Bundesebene (eigene Darstellung)

                                                                                                                                              6
K I - GOV E R N A N C E						                                                              GO L D M A N N, B I E B E R

Bär hat jedoch den Vorsitz des Digital-Kabinetts             Information über aktuelle Aktivitäten und nicht
inne, dieser Kabinettausschuss bereitet die we-              die Anbahnung oder Entwicklung gemeinsamer
sentlichen digitalpolitischen Entscheidungen der             Projekte.
Bundesregierung vor. Schließlich fungiert der im
August 2018 eingesetzte Digitalrat unter Vorsitz             In den Ländern sind die Zuständigkeiten für das
von Katrin Suder als weiteres Beratungsgremium               Thema KI wie oben beschrieben divers verteilt
der Bundesregierung. Die zweimal jährlich statt-             (siehe Abbildung 2). Hinzu kommt, dass der Auf-
findenden Sitzungen werden von der Bundes-                   bau der Exekutive jeweils variiert, weshalb eine
kanzlerin geleitet, weitere Kabinettsmitglieder              Kategorisierung anhand der Organigramme weni-
nehmen daran ebenfalls teil. Eine stringente Do-             ger zielführend als auf Bundesebene ist. Daher
kumentation und Zusammenfassung der Aktivi-                  standen für die Betrachtung der Länder beson-
täten existiert bislang nicht, der vermutlich stärks-        ders die Strategiepapiere sowie die Expert:innen-
te Einfluss auf die digitalpolitische Agenda ist der         Interviews im Fokus. Bei der Auswertung dieser
im Januar 2021 beschlossenen Datenstrategie                  Materialien zeigten sich einige grundsätzliche Ge-
der Bundesregierung zuzuschreiben (Bundesre-                 meinsamkeiten bei der Bearbeitung des Themas
gierung 2021). Somit stellt das Kanzleramt selbst            Künstliche Intelligenz. Zum einen dominiert die
einen vielschichtigen Aktivposten politischer KI-            Sichtweise, dass KI als weitere Ausdifferenzie-
Aktivitäten dar. Es besteht jedoch bislang wenig             rung der Digitalisierung interpretiert wird. Sofern
Klarheit, inwiefern die über die nationale KI-Stra-          bereits Landes-KI-Strategien vorliegen, werden
tegie an die Ministerien delegierten Aufgaben                diese als „Tochterstrategie“ der Digitalstrategie
dorthin zurückgekoppelt sind. Dies gilt auch für             begriffen. Dies führt dazu, dass das Themenfeld
weitere bereits vorhandene Strukturen wie den                zunächst holistisch betrachtet wird und erst an-
Bundes-CIO, der die Gestaltung der Informations-             schließend länderspezifische Akzentuierungen
technik und Digitalisierung der Bundesverwaltung             erfolgen (siehe „KI-Politik in den Ländern“). Zum
verantwortet, den IT-Planungsrat als Koordinati-             zweiten stellten alle befragten Expert:innen dar-
onsgremium zwischen Bund und Ländern oder                    auf ab, dass sich KI-Governance insbesondere
auch die Plattform Lernende Systeme, die als                 durch den Querschnittscharakter des Themas
Schnittstelle zwischen Politik, Wissenschaft und             auszeichnet. Unabhängig davon, wo das Thema
Wirtschaft konstruiert ist.²1                                innerhalb der Ministerialstruktur verortet ist, be-
                                                             griffen sich die Verantwortlichen in einer ausge-
Insgesamt hat die Akteurslandschaft auf Bundes-              prägten Koordinierungsrolle. Letzteres wiederum
ebene den Status einer „dynamischen Unüber-                  führt dazu, dass insbesondere das Instrument der
sichtlichkeit“ erreicht. Sofern sich Routinen her-           interministeriellen Arbeitsgruppe als probates
ausbilden, geschieht dies eher auf der Ebene der             Mittel zur Bearbeitung der Thematik Anwendung
federführenden Ministerien zum Beispiel in Form              findet. Zum dritten kennzeichnet sich die Arbeits-
von Jours fixes des BMBF, BMWi, und BMAS. Ein                weise durch eine verstärkte Einbindung externer
Austausch zwischen Legislative und Exekutive                 Expert:innen. Diese werden sowohl als techni-
existiert nur punktuell, allerdings hat die Enquete-         sche Sachverständige, hier insbesondere von Uni-
Kommission des Bundestages dazu geführt, dass                versitäten und Forschungsinstituten, als auch zu
häufiger Anfragen von Bundestagsabgeordneten                 gesellschaftspolitischen Fragestellungen hinzu-
zur KI-Strategie an die Ressorts gestellt werden.            gezogen.
Der Bundesrat fungiert als ein Ankerpunkt für die
Aktivitäten der Bundesländer und stellt somit eine           Darüber hinaus verbindet die befragten Expert:in-
Art Scharnier zwischen Bundes- und Länderebe-                nen die Einschätzung, dass das Thema KI in sei-
ne dar – im Vordergrund steht hier jedoch die                ner Größe nur durch umfassende Governance auf
                                                             bundespolitischer-, in Teilen auch europapoliti-
                                                             scher Ebene erfolgreich gestaltet werden kann.
                                                             Der Austausch der Bundesländer untereinander
 2         Inwiefern Austausch und Koordination zwischen     ist jedoch bisher wenig bis kaum institutionali-
 den Einheiten – insbesondere zu KI-bezogenen Themen         siert. Ursächlich hierfür ist keinesfalls mangeln-
– besteht, konnte im Rahmen der vorliegenden Untersu-        des Interesse, sondern die asymmetrische Zu-
 chung nicht nachvollzogen werden. Für eine künftige Auf-    ständigkeit in den Ländern, was einen formalen
 bereitung der Thematik wäre zudem die Befragung von         Austauschprozess, wie er in anderen Politikfel-
 Mitgliedern des Digitalrats sowie weiterer nachgeordneter   dern beispielsweise über die Wirtschaftsminister-
 IT-Einheiten empfehlenswert.                                konferenz üblich ist, erschwert. Das sogenannte

                                                                                                                         7
K I - GOV E R N A N C E						                                                         GO L D M A N N, B I E B E R

zuständigen      Minister:innen,    Senator:innen,     Neben der Dominanz der Anwendung innerhalb
Staatssekretär:innen und Landesbeauftragten            der Wirtschaft konnte ein weiterer Bereich identi-
zeigt aber, dass sich auch hier erste Formate eta-     fiziert werden, der in den Ländern im Themenfeld
blieren und den Austausch untereinander, aber          Künstliche Intelligenz schwerpunktmäßig berück-
auch mit der Bundesebene einfordern (Bayeri-           sichtigt wird: das Feld Forschung & Bildung. Auch
sche Staatsregierung 2020). Dabei wird das The-        hier zeigt sich die Strategie, dass an vorhandene
ma KI-Politik der Länder derzeit nicht als föderale    Stärken angeknüpft wird. Bereits forschungsstar-
Konkurrenz-Situation wahrgenommen, vielmehr            ke Standorte, zumeist Universitäten, werden nun
ergeben sich inhaltliche Schwerpunkte durch be-        zusätzlich im Bereich der KI-Forschung gefördert.
reits bestehende Strukturen.                           So investiert beispielsweise Baden-Württemberg
                                                       mit der Initiative des Cyber Valleys in eine ganze
                                                       Region und will nach eigenen Angaben mit dem
                                                       dort geschaffenen „Ökosystem […] die Position
KI-Politik in den Ländern:                             der Region Stuttgart-Tübingen als Teil der Welt-
Wirtschaftpolitische                                   spitze im Bereich der KI-Forschung weiter [stär-
Fokusierung und regionale                              ken]“ (Cyber Valley 2021).
Schwerpunkte
                                                       Ein letzter Themenbereich, der an dieser Stelle Er-
                                                       wähnung finden soll, lautet KI & öffentliche Ver-
Alle sieben hier untersuchten Länder legen ihren
                                                       waltung. Die übergreifende Debatte zur Verwen-
Fokus deutlich auf die wirtschaftliche Anwen-
                                                       dung von KI diskutiert den Einsatz derartiger
dung der KI-Technologien. Nuancierungen lassen
                                                       Technologien durch staatliche Stellen bereits viel-
sich dahingehend ausfindig machen, ob die wirt-
                                                       fach, insbesondere unter normativen und rechtli-
schaftliche Nutzbarmachung von KI stärker die
                                                       chen Gesichtspunkten (vgl. Djeffall 2020). Die
Industrie oder aber KMUs adressiert.
                                                       Einschätzung der befragten Expert:innen über die
 Ebenfalls gemeinsam ist den Ländern, dass sie         tatsächliche Anwendung von KI-Technologie in-
 beim Transfer auf den Einsatz von Gremien set-        nerhalb der Länderverwaltung fällt jedoch zurück-
 zen, die als Vermittler einen Beitrag zur Etablie-    haltender aus. Insgesamt wird den Einsatzmög-
 rung der KI-Technologien in der Breite leisten sol-   lichkeiten langfristig ein Mehrwert attestiert.
 len. Diese Gremien bilden das Dreieck zwischen        Kurz- und mittelfristig wird der vorliegende Digita-
 Politik, Wissenschaft und Wirtschaft ab, unter-       lisierungsstau jedoch als Hemmnis für den sinn-
 scheiden sich jedoch darin, welcher dieser Berei-     vollen Einsatz von KI identifiziert, sodass zu-
 che stärker betont wird. So setzt beispielsweise      nächst basalere Schritte der Digitalisierung
 Hamburg mit dem Artificial Intelligence Center auf    erfolgen sollten, um darauf aufbauend die Nut-
„die Stärkung der Innovationskraft und internatio-     zung von KI-Technologien innerhalb der Länder-
 nalen Wettbewerbsfähigkeit“ (ARIC Hamburg             verwaltung zu ermöglichen.
 2021). Als eingetragener Verein mit zahlreichen
 Unternehmen der Region steht hier der Bereich
 der Wirtschaft stärker im Fokus. Nordrhein-West-
 falen betreibt die Plattform KI.NRW mit dem
                                                       KI und Corona: Auswirkungen
 Fraunhofer IAIS und stellt sich dahingehend nä-       der Covid-19 Pandemie auf das
 her an der Wissenschaft auf, um so „den Transfer      Themenfeld
 von KI aus der Spitzenforschung in die Wirtschaft
 zu beschleunigen, eine Leitregion für berufliche      Da sich während der Projektlaufzeit die dauerhaf-
 Qualifizierung in KI aufzubauen und Impulse im        ten Auswirkungen der Corona-Pandemie zuneh-
 gesellschaftlichen Dialog zu setzen“ (KI.NRW          mend bemerkbar machten, wurde das Thema
 2021). Ein weiteres ähnliches Vorgehen der Län-       kurzfristig mit in die geplanten Interviews mit den
 der zeigt sich darin, dass sie unter dem Motto        Vertreter:innen der Ministerialbürokratie integ-
„Stärken stärken“ an ihren bisherigen wirtschaftli-    riert. Nach Einschätzung der befragten Expert:in-
 chen Strukturen anknüpfen, wodurch regionale          nen profitiert das Thema Künstliche Intelligenz
 Schwerpunkte entstehen wie beispielsweise das         insgesamt vom übergreifenden Digitalisierungs-
 Feld der autonomen Schifffahrt in Schleswig-Hol-      schub, der im Zuge der Corona-Pandemie seit
 stein oder die Nutzbarmachung von KI für die          Frühjahr 2020 ausgelöst wurde. Darüber hinaus
 Landwirtschaft in Bayern.                             gehen die Einordnungen jedoch auseinander, wie
                                                       sich die Krise konkret auf die weitere politische

                                                                                                                    8
K I - GOV E R N A N C E						                                                       GO L D M A N N, B I E B E R

Thematisierung der Technologie auswirkt. Wäh-          der KI-Governance in Deutschland: Insbesondere
rend einige der Befragten vor allem das Potential      die Diskussionen um ein mögliches Digital-Res-
der Technologie für die Bereiche Medizin und Ge-       sort und dessen Zuschnitt, oder aber die bewuss-
sundheitswesen durch die Pandemie gestärkt se-         te Entscheidung dagegen und eine dezentrale
hen, vertreten wiederum andere die Auffassung,         Verortung der Thematik werden die Handlungs-
dass die Technologie letztlich im Alltagsleben         räume für die politische Steuerung des Themen-
noch nicht dauerhaft wahrgenommen wird und             feldes maßgeblich strukturieren. Darüber hinaus
daher auch nicht von der Aufmerksamkeitskon-           gilt es das Wahljahr 2021 auch auf Länderebene
junktur profitieren kann. Festzuhalten bleibt je-      zu verfolgen. Einerseits kann erwartet werden,
doch in jedem Fall, dass die Ministerialstrukturen     dass im Zuge der Regierungsbildung und The-
einen umfassenden Digitalisierungsschub erfah-         mensetzung für die folgende Legislaturperiode
ren haben, der sich dauerhaft niederschlägt.           besonders in Sachsen-Anhalt und Mecklenburg-
                                                       Vorpommern das Thema KI einen größeren Stel-
                                                       lenwert erhält, sodass in beiden Fällen Nachhol-
                                                       effekte wahrscheinlich sind. Im Zuge der weiteren
Ausblick: Weitere                                      Neuaufstellungen der Landesregierungen könn-
Ausdifferenzierung im Wahljahr                         ten sich erstmals parteipolitische Nuancierungen
2021                                                   der Digitalpolitik zeigen, sofern es zu neuen Re-
                                                       gierungskoalitionen kommt. Nicht zuletzt bleibt
Was die Ausdifferenzierung des Themenfeldes KI         abzuwarten wie sich das Verhältnis zwischen Ex-
betrifft, lassen sich bereits heute weitere Entwick-   ekutive und Legislative im Themenfeld der Künst-
lungen festhalten: So wurde im Dezember 2020           lichen Intelligenz weiter ausgestaltet.
seitens der Bundesregierung eine Zwischenbilanz
und Fortschreibung der nationalen KI-Strategie
veröffentlicht, für die auch wiederum die feder-
führenden Ministerien BMBF, BMWi und BMAS
verantwortlich zeichneten (Bundesregierung
2020). Wie bereits oben angeführt, steht auch die
im Januar 2021 unter Federführung des Bundes-
kanzleramts erarbeitete Datenstrategie in einem
unmittelbaren Zusammenhang mit dem Thema
KI, da sie neben den Themenfeldern der Datenbe-
reitstellung und Datenkompetenz auch die Vorrei-
terrolle des Staates für eine neue Datenkultur ad-
ressiert (Bundesregierung 2021). Zudem ist
davon auszugehen, dass die auf europäischer
Ebene diskutierten Bestrebungen zur Entwick-
lung einer KI-Governance auf bundes- und landes-
politische Akteure abstrahlen. Mehrere Nahezu
alle Befragten wiesen darauf hin, dass europäi-
sche Initiativen zur KI-Politik stets zur Kenntnis
genommen werden, daraus bisher aber noch we-
nig praktische Auswirkungen folgen. Zuletzt hat
die EU-Kommission im April 2021 einen ersten
KI-Rechtsrahmen vorgelegt, der von den beteilig-
ten Akteuren sicherlich registriert worden ist und
auch kurzfristig neue Orientierungspunkte für
kommende Strategien und Regelsetzungen lie-
fern dürfte.

Mit Blick auf die verteilten Zuständigkeiten inner-
halb der Bundesregierung, markieren die bevor-
stehende Bundestagswahl 2021 und die anschlie-
ßende Regierungsbildung daher einen weiteren
entscheidenden Punkt bei der Ausdifferenzierung

                                                                                                                  9
Literaturverzeichnis
ARIC Hamburg (2021): Das ARIC Hamburg steht für, abrufbar unter: https://aric-hamburg.de/#das-aric, zuletzt
geprüft: 24.03.2021.

Bayerische Staatsregierung (2020): Pressemitteilungen. Digitalminister der Länder wollen KI-Programm für klei-
ne und mittlere Unternehmen / Künftig jährliches Treffen der D16, abrufbar unter: https://www.bayern.de/digital-
minister-der-laender-wollen-ki-programm-fuer-kleine-und-mittlere-unternehmen-kuenftig-jaehrliches-treffen-
der-d16/, zuletzt geprüft: 31.03.2021.

BMI/BMJV (2018): Leitfragen der Bundesregierung an die Datenethikkommission, abrufbar unter: https://daten-
ethikkommission.de/wp-content/uploads/2019/10/DEK_Leitfragen.pdf, zuletzt geprüft: 30.03.2021.

Brunner et al. (2020): Digitalisierungsstrategien bundesdeutscher Länder. Eine Bestandsaufnahme ihrer Entwick-
lung und Implementierung. In: bidt (Hrsg.) Analysen und Studien Nr. 4. München.

Bundesregierung (2018a): Ein neuer Aufbruch für Europa, eine neue Dynamik für Deutschland, ein neuer Zusam-
menhalt für unser Land. Koalitionsvertrag zwischen CDU, CSU und SPD, abrufbar unter: https://www.bundesre-
gierung.de/resource/blob/975226/847984/5b8bc23590d4cb2892b31c987ad672b7/2018-03-14-koalitionsver-
trag-data.pdf?download=1, zuletzt geprüft: 30.03.2021.

Bundesregierung (2018b): Eckpunkte der Bundesregierung für eine Strategie Künstliche Intelligenz, abrufbar un-
ter: https://www.bmwi.de/Redaktion/DE/Downloads/E/eckpunktepapier-ki.pdf?__blob=publicationFile&v=10, zu-
letzt geprüft: 30.03.2021.

Bundesregierung (2018c): Strategie Künstliche Intelligenz der Bundesregierung, abrufbar unter: https://www.
bundesregierung.de/resource/blob/975226/1550276/3f7d3c41c6e05695741273e78b8039f2/2018-11-15-ki-
strategie-data.pdf?download=1, zuletzt geprüft: 30.03.2021.

Bundesregierung (2019): Gesamtkonzept zur Verstärkung von Maßnahmen zur Förderung Künstlicher Intelli-
genz, abrufbar unter: https://www.ki-strategie-deutschland.de/home.html?file=files/downloads/Bundesregie-
rung_KI-Gesamtkonzept_Verstaerkung_Ma%C3%9Fnahmen.pdf, zuletzt geprüft: 30.03.2021.

Bundesregierung (2020): Strategie Künstliche Intelligenz der Bundesregierung. Fortschreibung 2020, abrufbar
unter: https://www.ki-strategie-deutschland.de/files/downloads/201201_Fortschreibung_KI-Strategie.pdf, zuletzt
geprüft: 31.03.2021.

Bundesregierung (2021): Datenstrategie der Bundesregierung. Eine Innovationsstrategie für gesellschaftlichen
Fortschritt und nachhaltiges Wachstum, abrufbar unter: https://www.bundesregierung.de/resource/
blob/992814/1845634/f073096a398e59573c7526feaadd43c4/datenstrategie-der-bundesregierung-download-
bpa-data.pdf?download=1, zuletzt geprüft: 31.03.2021.

Campbell, Thomas A. (2019): Artificial Intelligence: An Overview of State Initiatives, FutureGrasp, Evergreen, ab-
rufbar unter: http://unicri.it/sites/default/files/2019-10/Report_AI-An_Overview_of_State_Initiatives_FutureG-
rasp_7-23-19.pdf, zuletzt geprüft: 03.05.2021.

Cyber Valley (2021): Europas größtes KI Cluster, abrufbar unter: https://cyber-valley.de/de/about, zuletzt geprüft:
24.03.2021.

Djeffal, Christian (2020): Künstliche Intelligenz, in: Klenk et al. (Hrsg.), Handbuch Digitalisierung in Staat und Ver-
waltung, Springer VS, Wiesbaden, S. 51-62.

Dutton, Tim (2018): An Overview of National AI Strategies - Politics + AI - Medium. An Overview of National AI
Strategies. Online verfügbar unter https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70e-
c6edfd, zuletzt geprüft: 30.03.2021.

Heeger, Viola (2021): Digitalministerium. Ist Hessen Vorbild für den Bund?, in: Tagesspiegel Background: Digitali-
sierung & KI am 09.03.2021.

                                                                                                                          10
KI.NRW (2021): Kompetenzplattform KI.NRW. Die zentrale Anlaufstelle für Künstliche Intelligenz in Nordrhein-
Westfalen, abrufbar unter: https://www.ki.nrw/, zuletzt geprüft: 24.03.2021.

MeMo:KI (2020): Meinungsmonitor Künstliche Intelligenz, Factsheet Nr. 1, Juni 2020, abrufbar unter: https://uni-
duesseldorf.datalion.net/custom/img/16/Factsheet%201%20-%20KI%20gegen%20Corona.pdf, zuletzt geprüft:
30.03.2021.

Punz, Matthias (2021): Bayerns Digitalministerium. Zwischen Ideenschmiede und Machtlosigkeit, in: Tagesspie-
gel Background: Digitalisierung & KI am 08.04.2021.

Rusch, Lina (2021): Digitalministerium. Ist NRW Vorbild für den Bund?, in: Tagesspiegel Background: Digitalisie-
rung & KI am 22.03.2021.

                                                                                                                   11
Anhang

Abkürzungsverzeichnis

BMAS		          Bundesministerium für Arbeit und Soziales

BMBF		          Bundesministerium für Bildung und Forschung

BMEL		          Bundesministerium für Ernährung und Landwirtschaft

BMF			          Bundesministerium der Finanzen

BMG			          Bundesministerium für Gesundheit

BMI			          Bundesministerium des Innern, für Bau und Heimat

BMJV		          Bundesministerium der Justiz und für Verbraucherschutz

BMU			          Bundesministerium für Umwelt, Naturschutz und nukleare Sicherheit
BMVg		          Bundesministerium der Verteidigung

BMVI			         Bundesministerium für Verkehr und digitale Infrastruktur

BMWi		          Bundesministerium für Wirtschaft und Energie

BMZ			          Bundesministerium für wirtschaftliche Zusammenarbeit und Entwicklung

Abbildungsverzeichnis
Abbildung 1: Schematische Darstellung zentraler Akteure auf Bundesebene		                   S. 4

Abbildung 2: Einteilung der Bundesländer nach Intensität, mit der sich das Thema KI
in offiziellen Strategiepapieren und/ oder ministerieller Verantwortlichkeit widerspiegelt,
Stand Juni 2020 									                                                                   S. 5

Abbildung 3: Follow the money: Verteilung der Fördermittel aus der KI-Strategie,
Stand Mai 2019										                                                                    S. 6

Abbildung 4: Organisatorische Ausdifferenzierung der KI-Aktivitäten auf Bundesebene         S. 7

                                                                                                   12
Weitere Informationen zum Datenmaterial
Sämtliche Interviews im Rahmen dieses Forschungsprojektes wurden videobasiert im Zeitraum 1.09.
bis zum 17.11.2020 durchgeführt. Die Interviews variierten in ihrer Dauer zwischen 30 und 60 Minuten
und wurden mit Vertreter:innen folgender Institutionen geführt:

Länderebene

1)   Baden-Württemberg: Ministerium für Wissenschaft, Forschung und Kunst
2)   Bayern: Staatsministerium für Digitalisierung
3)   Hamburg: Senatskanzlei
4)   Hessen: Staatskanzlei
5)   Niedersachsen: Ministerium für Wirtschaft, Arbeit, Verkehr und Digitalisierung
6)   Nordrhein-Westfalen: Ministerium für Verkehr
7)   Schleswig-Holstein: Staatskanzlei

Bundesebene

8)  Bundesministerium des Innern, für Bau und Heimat: Abteilung DG Digitale Gesellschaft;
    Informationstechnik
9) Bundesministerium für Arbeit und Soziales: Abteilung DA Digitalisierung und Arbeitswelt
10) Bundesministerium für Bildung und Forschung: Abteilung 5 Forschung für technologische
    Souveränität und Innovationen
11) Bundesministerium für Wirtschaft und Energie: Abteilung VI Digital- und Innovationspolitik
12) Verwaltung des Deutschen Bundestags: Abteilung P Parlament und Ausschüsse

Kontakt
NRW School of Governance
Universität Duisburg-Essen
Institut für Politikwissenschaft
Lotharstr. 53
47057 Duisburg

Anne Goldmann, M. A.
anne.goldmann@uni-due.de

Prof. Dr. Christoph Bieber
christoph.bieber@uni-due.de

                                                                                                       13
Sie können auch lesen