Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH

Die Seite wird erstellt Hellfried Wichmann
 
WEITER LESEN
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
Was ist KI und was braucht die
Zukunftsforschung?
Dr. Aljoscha Burchardt

          Deutsches Forschungszentrum für
          Künstliche Intelligenz GmbH
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
Begriffsbestimmung

                         Digitalisierung

                               KI

                         Maschinelles
                           Lernen

2                                          Ó DFKI
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
AM BEISPIEL SPRACHVERARBEITUNG
(NLP)

                                 3
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
Sprachliche Funktionen

                             Kommunikation

                                             + Übersetzung

                                Wissen /
                              Information

4                                                            Ó DFKI
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
Sprache als Schnittstelle Mensch-Mensch

5                                             Ó DFKI
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
Sprache als Schnittstelle Mensch-Maschine

6                                               Ó DFKI
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
Idealistische Sicht der Computerlinguistik

         Pragmatik   Sprechakte, Rhetorische Struktur, etc.                           Grice, Habermas, …

                     Konzepte (Entitäten, Relationen, Events),
         Semantik    Wissensrepräsentation (Merkmalsstrukturen, Ontologien, Logik),   Platon, Leibnitz, …, Wittgenstein
                     Inferenz, etc.

         Syntax      Grammatiken, Syntaxbäume, etc.                                   Chomsky ff.

7                                                                                                                         Ó DFKI
Was ist KI und was braucht die Zukunftsforschung? - Dr. Aljoscha Burchardt Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
Holzschnittartige Sicht auf NLP / Sprachtechnologie
§ Flache Verarbeitung an der „Wort-Oberfläche“
      § Sehr wenig Weltwissen, kaum sprachliches Wissen im Einsatz

§ Trade-Off (inhaltliche) Kontrolle vs. Skalierbarkeit/Performanz

§ In der Praxis im Wesentlichen drei Ansätze
      1. Symbolische Wissensverarbeitung („Datenbanken“)
      2. Klassisches Machine Learning („Bag of Words“ und Merkmale)
      3. Neuronale Netze („Word Embeddings“)

8                                                                     Ó DFKI
Symbolische Wissensverarbeitung
§ Vernetzte Datenbanken
§ Semantic Web: Linked (Open) Data (z.B. DBPedia)
      § Orte, Einwohnerzahlen, Medizin-Terminologie, etc.
§ Wissensgraphen, z.B. Google Knowledge Graph
§ Klassischer Roboterjournalismus
      § Wetterdaten, Sportergebnisse
      § Textbausteine
§ Autom. Verlinkung, Frage-Antwort-Systeme
§ Gute Kontrolle & Transparenz
§ Eingeschränkte Skalierbarkeit
      § Nur für “Basisfakten“: Triples WHO-WHAT-WHOM
      § Aufbau/Kuratierung halbautomatisch möglich

9                                                           Ó DFKI
Klassisches Machine Learning

     § „Bag of Words“ und Merkmale (Häufigkeiten, Syntax, etc.)
     § Worte als Vektoren basierend auf Vorkommen in Dokumenten
           § Maus = [TextA=2, TextB=3, TextC=3, TextD=0]             = [2,3,3,0]
           § Katze = [TexA=0, TextB=4, TextC=1, TextD=4]             = [0,4,1,4]
     §   TFIDF: Relevanz eines Wortes für ein gegebenes Dokument
     §   Sätze/Texte sind Vektoren, mit ihnen kann man rechnen.
     §   Funktioniert mit wenig Daten.
     §   Stichwortsuche, ähnliche Dokumente finden, Reviews klassifizieren, etc.
     §   Relative Kontrolle & Nachvollziehbarkeit
     §   Eingeschränkte Skalierbarkeit
           § Aufbau der Schlüsselwörter und Merkmale manuell (gut, heiß, preiswert, etc.)
           § Wort-Reihenfolge wird nicht berücksichtigt (Negation, Modalitäten, Zahlenangaben,
             etc. fallen oft durch)
           § Sparse Data: alternative Formulierungen (Doktor-Arzt) werden nicht erkannt

10                                                                                               Ó DFKI
Neuronale Netze
 § Word Embeddings: Wörter als „Wortwolken“ ihrer
   Kontextwörter
 § End-to-End
     § Rein datengetrieben
     § Architektur des Netzes „entscheidet“
 § Maschinelle Übersetzung, Bildbeschreibung, Frage-   ht tp s: //s

   Antwort-Systeme, Generierung von Texten, etc.
                                                                      3. am az
                                                                                 on aw s.
                                                                                            co m /im
                                                                                                       ag es .s
                                                                                                                  er ou nd
                                                                                                                             ta ble. co
                                                                                                                                          m /g oo gl
                                                                                                                                                       e- be rt-
                                                                                                                                                                   algo rit hm
                                                                                                                                                                                 -u pd at
                                                                                                                                                                                            e- 15 72
                                                                                                                                                                                                       00 04 59

 § Geringe Kontrolle und sehr eingeschränkte
                                                                                                                                                                                                                  .jp g

   Nachvollziehbarkeit
 § Hohe Skalierung und Flexibilität

11                                                                                                                                                                                                                        Ó DFKI
NLP Anwendungen
§    Dokumentenklassifikation
§    Maschinelle Übersetzung
§    Opinion Mining / Sentiment Detection
§    Frage-Antwort-Systeme
§    Automatische Zusammenfassung
§    Dialogsysteme („Chat Bots“)

§ Ingenieursmäßige Seite: Text-to-Speech und Speech-to-Text
§ Übersetzung (Mehrsprachigkeit, Leichte Sprache, Gebärden, etc.)

§ Nicht: Uneigentliche Sprache, Ironie, Soziolekte, spontane Metaphern, Hate Speech, etc.
      § Typischer Ansatz @ la Spam-Filter: Metadaten, Smileys, Orthographie, etc.

12                                                                                          Ó DFKI
Was braucht die Zukunftsforschung?

13                                    Ó DFKI
Die Enquete-Kommission Künstliche Intelligenz – Gesellschaftliche Verantwortung und
wirtschaftliche, soziale und ökologische Potenziale

AUS DER FASSUNG:
DER ABSCHLUSSBERICHT DER
ENQUETE-KOMMISSION KI
                                                                                       14
Bildvorlage: h.ps://pictures.abebooks.com/inventory/30544970747.jpg

                                                                      15
Einsetzungsbeschluss (Laufzeit ca. 2 Jahre) 1/2

•   Der Deutsche Bundestag beauftragt die Enquete[…],
                                                                    Deutscher Bundestag                                                               Drucksache 19/2978
    insbesondere in den folgenden Themenbereichen Chancen           19. Wahlperiode                                                                               26.06.2018

    und Potenziale der KI sowie die damit verbundenen
    Herausforderungen zu untersuchen und Antworten auf die          Antrag
    Vielzahl an technischen, rechtlichen, politischen und           der Fraktionen CDU/CSU, SPD, FDP und DIE LINKE.

    ethischen Fragen im Kontext von KI zu erarbeiten:               Einsetzung einer Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche
                                                                    Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“

     –   Wissenschaftlicher Rahmen
     –   Staat, Gesellschaft und Demokratie                         Der Deutsche Bundestag wolle beschließen:

                                                                    Der Deutsche Bundestag setzt eine Enquete-Kommission „Künstliche Intelligenz –
                                                                    Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Poten-
     –   Werte und ethische Aspekte                                 ziale“ ein.

                                                                    I.   Ausgangslage
     –   Wirtschaft                                                 Digitalisierung und weltweite Vernetzung, Internet der Dinge, Algorithmen und
                                                                    Künstliche Intelligenz (KI) werden die Welt noch viel umfassender und schneller ver-

     –
                                                                    ändern als bisher. KI ist einer der größten technologischen Treiber der Digitalisierung
         Bildung und Forschung                                      und ein zunehmend wichtiger Wirtschaftsfaktor. Dabei stellt KI einen umfassenden
                                                                    Paradigmenwechsel dar – mit dem Sprung von der rechnenden zur kognitiven Infor-
                                                                    matik: Anders als bisherige programmierte Abläufe sind KI, kognitive Systeme und

•
                                                                    Maschinen mehr und mehr lernfähig und zunehmend in der Lage, Erlerntes auf neue
    Die Enquete-Kommission soll ein Ort sein, an dem Politik        Situationen zu übertragen. Sie können Prozesse selbstständig planen, Prognosen tref-
                                                                    fen oder auch mit Menschen interagieren. KI erlaubt es, die Vielzahl der heute gesam-
                                                                    melten Daten auf gänzlich neue Weise auszuwerten. Unternehmen und Staaten wen-

    gemeinsam mit Expertinnen und Experten eine der zentralen       den erhebliche Ressourcen auf, um sich diese Analysemöglichkeiten zunutze zu ma-
                                                                    chen.
                                                                    Damit verbunden sind bisher unbekannte Fragestellungen, die auf Grundlage unseres

    Debatten über die Zukunft der KI als Teil unserer digitalen    Wertesystems sowie der Grund- und Menschenrechte beantwortet und damit die Er-
                                                                    folge unserer Sozialen Marktwirtschaft digital fortgeschrieben werden sollen.
                                                                    Immer mehr Entscheidungen basieren bereits auf Algorithmen und zunehmend auch

    Gesellschaft aufgreift, konkrete Vorschläge für die           auf der Basis von KI. In Zukunft kann KI beispielsweise Ärztinnen und Ärzte bei Di-
                                                                    agnose und Therapie unterstützen, bei der Feuerwehr für mehr Sicherheit sorgen oder
                                                                    die Städte durch intelligente Verkehrssteuerung entlasten. KI wird im Straßenverkehr
                                                                    zu mehr Sicherheit beitragen. Diese Beispiele zeigen: Die aktuellen Entwicklungen im

    politischen Entscheidungsträgerinnen und -träger erarbeitet   Feld der KI haben tiefgreifenden Einfluss auf viele unserer Lebens- und Arbeitsberei-
                                                                    che und bedeuten für unsere Gesellschaft, den Staat und die Wirtschaft große Chancen,
                                                                    aber auch Herausforderungen.

    und damit neue Impulse für die Verwendung von KI in unserem    Unser Ziel ist es, eine ausgewogene Debatte zu führen und gemeinsam mit Expertinnen
                                                                    und Experten Handlungsempfehlungen auch für den Gesetzgeber zu erarbeiten, wie
                                                                    die Potenziale von KI für das Leben der Menschen, für die Entwicklung unseres Wohl-
                                                                    standes und die Gesellschaft als Ganzes gefördert und die Risiken begrenzt werden
    Land setzt                                                      können. Der Mensch muss dabei im Mittelpunkt stehen.

                                                                                                                                                                               16
Einsetzungsbeschluss (Laufzeit ca. 2 Jahre) 2/2

•   Wissenschaftlicher Rahmen – u. a. die Befassung mit
    Grundlagen und Arten von KI sowie den Akteurinnen und           Deutscher Bundestag                                                               Drucksache 19/2978
    Akteuren auf nationaler und internationaler Ebene               19. Wahlperiode                                                                               26.06.2018

•   Staat, Gesellschaft und Demokratie – u. a. die Befassung mit
    Auswirkungen von KI auf demokratische Prozesse sowie auf
                                                                    Antrag
    einzelne Politik- und Lebensbereiche wie die öffentliche       der Fraktionen CDU/CSU, SPD, FDP und DIE LINKE.
    Verwaltung, Mobilität, Gesundheit oder Klima- und
    Verbraucherschutz                                               Einsetzung einer Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche
                                                                    Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“
•   Werte und ethische Aspekte – u. a. die Herausarbeitung von
    ethischen Prinzipien für die Entwicklung, Programmierung und   Der Deutsche Bundestag wolle beschließen:

    den Einsatz von KI sowie Kriterien und Grenzen von KI-          Der Deutsche Bundestag setzt eine Enquete-Kommission „Künstliche Intelligenz –
                                                                    Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Poten-
    basierten Entscheidungen zur Sicherstellung rechtmäßiger       ziale“ ein.

    Ergebnisse                                                      I.   Ausgangslage

•
                                                                    Digitalisierung und weltweite Vernetzung, Internet der Dinge, Algorithmen und
    Wirtschaft – u. a. die Betrachtung von Veränderungen der       Künstliche Intelligenz (KI) werden die Welt noch viel umfassender und schneller ver-
                                                                    ändern als bisher. KI ist einer der größten technologischen Treiber der Digitalisierung

    Arbeitswelt, von Wertschöpfungsketten sowie von                und ein zunehmend wichtiger Wirtschaftsfaktor. Dabei stellt KI einen umfassenden
                                                                    Paradigmenwechsel dar – mit dem Sprung von der rechnenden zur kognitiven Infor-
                                                                    matik: Anders als bisherige programmierte Abläufe sind KI, kognitive Systeme und
    Auswirkungen auf die Soziale Marktwirtschaft, auf die           Maschinen mehr und mehr lernfähig und zunehmend in der Lage, Erlerntes auf neue
                                                                    Situationen zu übertragen. Sie können Prozesse selbstständig planen, Prognosen tref-

    Tarifbindung und die Mitbestimmung sowie auf die Konzepte       fen oder auch mit Menschen interagieren. KI erlaubt es, die Vielzahl der heute gesam-
                                                                    melten Daten auf gänzlich neue Weise auszuwerten. Unternehmen und Staaten wen-
                                                                    den erhebliche Ressourcen auf, um sich diese Analysemöglichkeiten zunutze zu ma-
    zum Ausbau der Dateninfrastruktur, zum Datenschutz und zur      chen.
                                                                    Damit verbunden sind bisher unbekannte Fragestellungen, die auf Grundlage unseres
    IT-Sicherheit                                                   Wertesystems sowie der Grund- und Menschenrechte beantwortet und damit die Er-
                                                                    folge unserer Sozialen Marktwirtschaft digital fortgeschrieben werden sollen.

•
                                                                    Immer mehr Entscheidungen basieren bereits auf Algorithmen und zunehmend auch
    Bildung und Forschung – u. a. Möglichkeiten zur Stärkung      auf der Basis von KI. In Zukunft kann KI beispielsweise Ärztinnen und Ärzte bei Di-
                                                                    agnose und Therapie unterstützen, bei der Feuerwehr für mehr Sicherheit sorgen oder

    und Weiterentwicklung der Grundlagen- und                       die Städte durch intelligente Verkehrssteuerung entlasten. KI wird im Straßenverkehr
                                                                    zu mehr Sicherheit beitragen. Diese Beispiele zeigen: Die aktuellen Entwicklungen im
                                                                    Feld der KI haben tiefgreifenden Einfluss auf viele unserer Lebens- und Arbeitsberei-
    Anwendungsforschung im Zusammenhang mit KI sowie zur            che und bedeuten für unsere Gesellschaft, den Staat und die Wirtschaft große Chancen,
                                                                    aber auch Herausforderungen.

    Schaffung eines innovationsfreundlichen Umfeldes                Unser Ziel ist es, eine ausgewogene Debatte zu führen und gemeinsam mit Expertinnen
                                                                    und Experten Handlungsempfehlungen auch für den Gesetzgeber zu erarbeiten, wie
                                                                    die Potenziale von KI für das Leben der Menschen, für die Entwicklung unseres Wohl-
                                                                    standes und die Gesellschaft als Ganzes gefördert und die Risiken begrenzt werden
                                                                    können. Der Mensch muss dabei im Mittelpunkt stehen.

                                                                                                                                                                               17
Zusammensetzung

• 19 Mitglieder des Deutschen Bundestages
   – CDU/CSU 7
   – SPD 4
   – AfD, FDP, DIE LINKE, BÜNDNIS 90/DIE GRÜNEN je 2

• 19 Sachverständige (im Einvernehmen der Fraktionen benannt)
   – Ethiker, Jurist, Verbände, Gewerkschaft, Wissenschaftler (KI/SoWi),
     Industrievertreterinnen etc.

                                                                           18
Arbeitsweise

• Große Runde
• Arbeitsgruppen
  – Phase 1                                 • Einsetzungsbeschluss:
     • KI und Wirtschaft (PG 1 – CDU/CSU)      – Wissenschaftlicher Rahmen
     • KI und Staat (PG 2 – DIE LINKE)         – Staat, Gesellschaft und
     • KI und Gesundheit (PG 3 – BÜNDNIS         Demokratie
       90/DIE GRÜNEN)                          – Werte und ethische Aspekte
  – Phase 2                                    – Wirtschaft
     • KI und Arbeit (PG 4 – SPD)              – Bildung und Forschung
     • KI und Mobilität (PG 5 – FDP)
     • KI und Medien (PG 6 – AfD)
• Task Force Forschung

                                                                              19
https://cdn.duden.de/lexem_images/41709.png?null

                                                   20
Deutscher Bundestag                                                                         Drucksache
                                 19. Wahlperiode

                                                                                                                                            Vorabfassung – wird durch die endgültige Fassung ersetzt.
                                 Unterrichtung
                                 der Enquete-Kommission Künstliche Intelligenz
                                 Gesellschaftliche Verantwortung und wirtschaftliche,
                                 soziale und ökologische Potenziale

Überparteilicher
Konsens
                                 Bericht der Enquete-Kommission Künstliche Intelligenz
                                 Gesellschaftliche Verantwortung und wirtschaftliche,
                                 soziale und ökologische Potenziale

(DIE LINKE hat sich enthalten)

                                   Eingesetzt durch Beschluss des Deutschen Bundestages vom 26. Juni 2018 (Bundestagsdrucksache 19/2978).

                                                                                                                                                                                                        21
Deutscher Bundestag – 1 . Wahlperiode                                   –3–                                        Drucksache 1 /
Drucksache 1 /                                                                –2–                       Deutscher Bundestag – 1 . Wahlperiode

                                                                                                                                                                                                                                             Einsatz und Qualität von KI-Systemen ......................................................................................... 50
Inhaltsverzeichnis
                                                                                                                                                                                                                                    2        KI und Daten ............................................................................................................................... 50

                                                                                                                                                                                                                                                                                                                                                                                                    Vorabfassung – wird durch die endgültige Fassung ersetzt.
                                                                                                                                                                       Vorabfassung – wird durch die endgültige Fassung ersetzt.
                                                                                                                                                                                                                                             Definitionen .................................................................................................................................. 51
A.             Kurzfassung des Berichts ........................................................................................................... 25
                                                                                                                                                                                                                                             Qualität von Daten ........................................................................................................................ 51
Einleitung ..................................................................................................................................................... 25
                                                                                                                                                                                                                                             Arten von Daten ............................................................................................................................ 52
Überblick zu den Projektgruppen und dem Mantelbericht .................................................................... 26
                                                                                                                                                                                                                                             Zugang zu Daten ........................................................................................................................... 53
Zusammenfassung und Handlungsempfehlungen (Auswahl) ................................................................. 28
                                                                                                                                                                                                                                             Personenbezogene Daten .............................................................................................................. 53
1              Daten ............................................................................................................................................ 30
                                                                                                                                                                                                                                             Politischer Handlungsrahmen bezüglich KI und Daten ................................................................ 55
2              Forschung .................................................................................................................................... 31
                                                                                                                                                                                                                                    3        KI und Umgang mit Bias/Diskriminierung............................................................................... 57
3              Nachhaltigkeit durch KI und nachhaltige KI ........................................................................... 32
                                                                                                                                                                                                                                             Begriffsklärung Bias ..................................................................................................................... 57
4              Wirtschaft und Arbeit................................................................................................................. 33
                                                                                                                                                                                                                                             Diskriminierung durch Bias .......................................................................................................... 58
5              Kompetenzen, Bildung, Mündigkeit .......................................................................................... 35                                                                                                Erkennung von Diskriminierung ................................................................................................... 58
6              Mensch und Gesellschaft ............................................................................................................ 36                                                                                       Vermeidung von Diskriminierung ................................................................................................ 59
7              Regulierung und Staat ................................................................................................................ 38                                                                                     Handlungsempfehlungen............................................................................................................... 60
B.             Allgemeiner Teil: Auftrag und Arbeitsweise ............................................................................ 40
                                                                                                                                                                                                                                    4        KI und Umgang mit Risiko ........................................................................................................ 60
1              Einsetzung und Konstituierung der Enquete-Kommission ..................................................... 40                                                                                                                 Begriffsklärung Risiko .................................................................................................................. 60
2              Zusammensetzung der Kommission .......................................................................................... 41                                                                                                  Transparenz, Nachvollziehbarkeit und Erklärbarkeit .................................................................... 61
3              Organisatorische und verwaltungsmäßige Begleitung der Kommissionsarbeit .................... 41                                                                                                                               Sektorspezifisches Risikomanagement ......................................................................................... 62
4              Arbeitsauftrag der Enquete-Kommission ................................................................................. 41                                                                                                    KI-spezifisches Risikomanagement .............................................................................................. 63
5              Arbeitsweise der Enquete-Kommission .................................................................................... 42                                                                                                   Handlungsempfehlungen............................................................................................................... 64
               Struktur der Arbeit ........................................................................................................................ 42
                                                                                                                                                                                                                                    5        KI und Recht ............................................................................................................................... 65
               Textarbeit in Projektgruppen und weiteren Arbeitsgruppen ......................................................... 42
                                                                                                                                                                                                                                             Allgemeine Einführung zum Rechtsrahmen ................................................................................. 65
               Einbeziehung der Öffentlichkeit und Pressearbeit ........................................................................ 44
                                                                                                                                                                                                                                             Datenschutzrecht ........................................................................................................................... 65
6              Kontext der Arbeit der Enquete-Kommission .......................................................................... 46
                                                                                                                                                                                                                                             Urheberrecht.................................................................................................................................. 69
C.             Besonderer Teil:     Bestandsaufnahme, Analyse, Entwicklungsperspektiven und
               Handlungsempfehlungen ............................................................................................................ 48                                                                                         Wettbewerbsrecht.......................................................................................................................... 70

I.             Mantelbericht: Projektgruppenübergreifende Themen .......................................................... 48                                                                                                               Haftungsrecht ................................................................................................................................ 72
                                                                                                                                                                                                                                    5.5.1    E-Person ........................................................................................................................................ 73
1              Begriffsklärung Künstliche Intelligenz ..................................................................................... 48
                                                                                                                                                                                                                                    5.5.2    Zurechnung der Haftung im Rahmen der Verschuldenshaftung ................................................... 73
               KI-Systeme und KI-Arten ............................................................................................................. 48
                                                                                                                                                                                                                                    5.5.3    Mögliche Ausweitung der Gefährdungshaftung ........................................................................... 74
               Training von lernenden KI-Systemen ........................................................................................... 49
                                                                                                                                                                                                                                    5.5.4    Mögliche Lücken in der Produkthaftung ...................................................................................... 74
               Arten des Trainings und Trainingsdaten ....................................................................................... 49
                                                                                                                                                                                                                                    5.5.5    Handlungsempfehlungen............................................................................................................... 75

                                                                                                                                                                                                                                                                                                                                                                                                                                                                22
Drucksache 1 /                                                         –4–                        Deutscher Bundestag – 1 . Wahlperiode
                                                                                                                                                                                                                              Deutscher Bundestag – 1 . Wahlperiode                                    –5–                                         Drucksache 1 /
        Einsatz von KI in der öffentlichen Verwaltung............................................................................. 76
                                                                                                                                                                                                                                        Einleitung und Überblick ............................................................................................................ 100
        Handlungsempfehlungen............................................................................................................... 77

                                                                                                                                                                  Vorabfassung – wird durch die endgültige Fassung ersetzt.
                                                                                                                                                                                                                                        Leitlinien ..................................................................................................................................... 101

                                                                                                                                                                                                                                                                                                                                                                                                 Vorabfassung – wird durch die endgültige Fassung ersetzt.
6       Ethische Perspektiven auf KI ..................................................................................................... 79
                                                                                                                                                                                                                               9.2.1    Leitlinie 1: Zugrundeliegende Werte .......................................................................................... 101
        Ziele und Zwecke einer KI-Ethik .................................................................................................. 79
                                                                                                                                                                                                                               9.2.2    Leitlinie 2: Förderung von Leuchtturm-Institutionen in der Forschung...................................... 102
        Ethische Perspektiven auf KI (Prinzipien, Werte) ........................................................................ 80                                                                                           9.2.3    Leitlinie 3: Förderung der Forschung in der Breite ..................................................................... 102
6.2.1   Autonomie (Selbstbestimmung des Menschen als Handelnder, Entscheidungsfreiheit, Nicht-                                                                                                                                 9.2.4    Leitlinie 4: Beziehung Wissenschaft Wirtschaft Zivilgesellschaft........................................ 102
        Manipulation) ................................................................................................................................ 82
                                                                                                                                                                                                                                        Strategische Ziele ........................................................................................................................ 102
6.2.2   Menschsein (Mensch-Maschine-Interaktion, Selbstverständnis) .................................................. 83
                                                                                                                                                                                                                                        SWOT-Analyse der KI-Forschung in Deutschland..................................................................... 103
6.2.3   Vertrauen (Zuversicht, Optimismus, Kritik, Zusammenhalt) ....................................................... 83
                                                                                                                                                                                                                               9.4.1    Welche Stärken hat die KI-Forschung in Deutschland?.............................................................. 104
6.2.4   Gemeinwohl (Wohlstandsförderung, Benefits, Interessen)........................................................... 83
                                                                                                                                                                                                                               9.4.2    Welche Probleme hat die KI-Forschung in Deutschland? .......................................................... 104
6.2.5   Verantwortung (Gutes tun, Akteure, Zusammenarbeit) ................................................................ 84
                                                                                                                                                                                                                               9.4.3    Welche Potenziale können erschlossen werden? ........................................................................ 105
6.2.6   Transparenz (Nachvollziehbarkeit, Erklärbarkeit, Offenheit) ....................................................... 84
                                                                                                                                                                                                                               9.4.4    Welche Risiken bestehen?........................................................................................................... 106
6.2.7   Gerechtigkeit (Partizipation/Teilhabe, Verteilung, Leistung) ....................................................... 85
                                                                                                                                                                                                                                        Zentrale Handlungsempfehlungen für den Staat ......................................................................... 106
6.2.8   Diskriminierungsfreiheit (Gleichberechtigung, Fairness) ............................................................. 85
                                                                                                                                                                                                                                        Zukunftsthemen .......................................................................................................................... 108
        Ethik und KI Wirksamkeit von Ethik und Dialog ...................................................................... 85
                                                                                                                                                                                                                               10       KI und SARS-CoV-2 ................................................................................................................. 109
7       KI und Gesellschaft ..................................................................................................................... 86
                                                                                                                                                                                                                                        Potenziale und Anwendungsbeispiele von KI zur Eindämmung und Beherrschung von Pandemien
        Gesellschaftlicher Reflexionsbedarf in Bezug auf die Wirkung von KI-Systemen ...................... 87
                                                                                                                                                                                                                                        (insbesondere der Covid-19-Pandemie) ...................................................................................... 110
        Auswirkungen von KI-Systemen auf die Gesellschaft.................................................................. 88
                                                                                                                                                                                                                                        Notwendige Entwicklungen in der KI sowie strukturelle Verbesserungen, um auf zukünftigen
        Entwicklung und Einsatz von KI-Systemen im Sinne von Nachhaltigkeit und Wohlstand .......... 91                                                                                                                                 Pandemien besser vorbereitet zu sein.......................................................................................... 113

        Handlungsempfehlungen............................................................................................................... 92                                                                                         Chance in der Krise für stärkere Translation und höhere Akzeptanz von KI .............................. 115

                                                                                                                                                                                                                                        Fazit............................................................................................................................................. 116
8       KI und ökologische Nachhaltigkeit ............................................................................................ 93
                                                                                                                                                                                                                               II.      Künstliche Intelligenz und Wirtschaft (Projektgruppe 1) ..................................................... 117
        Definition, Abgrenzung, Forschungsstand .................................................................................... 94

        Energie- und Ressourcenverbrauch ............................................................................................... 95                                                                                    1        Kurzfassung des Projektgruppenberichts............................................................................... 117

        Potenziale von KI für das Vorantreiben der Energiewende .......................................................... 95                                                                                                  2        Vorbemerkungen....................................................................................................................... 121

8.3.1   KI kann die Akzeptanz der Energiewende in der Bevölkerung stärken ........................................ 96                                                                                                          3        Einführung: Anwendungsfelder und Potenziale von KI in der Wirtschaft ......................... 124
8.3.2   KI kann helfen, Erneuerbare Energien besser in das Energiesystem zu integrieren ..................... 96                                                                                                                        Grundlagen und Sachstandsklärung: KI hat großes Potenzial, ist aber kein Selbstläufer ........... 124
8.3.3   KI kann helfen, Energiemärkte effizienter zu machen und damit Kosten zu reduzieren .............. 96                                                                                                                            KI in einführenden Szenarien...................................................................................................... 129
        KI in der Klimawissenschaft ......................................................................................................... 97                                                                                        Zielstellungen: Deutschland im Jahr 2030 eine Vision ............................................................ 132
        Einsatz von KI-Anwendungen im Naturschutz und im Umwelt-Monitoring ............................... 98                                                                                                                  3.3.1    Angestrebte Gesellschafts- und Politikziele: Die Wirtschaft setzt KI unter Einhaltung ethisch
                                                                                                                                                                                                                                        vereinbarter Normen ein ............................................................................................................. 132
        Fazit............................................................................................................................................... 99
                                                                                                                                                                                                                               3.3.2    Angestrebte Forschungsziele: KI-Forschung ist in Unternehmen etabliert................................. 134
        Handlungsempfehlungen............................................................................................................... 99
                                                                                                                                                                                                                               3.3.3    A ge eb e Wi chaf                     ie e: KI          ade i Ge           a       a i e a i a es Gütesiegel ............... 135
9       KI und Forschung ..................................................................................................................... 100
                                                                                                                                                                                                                               4        Thematischer Schwerpunkt ..................................................................................................... 138

                                                                                                                                                                                                                                                                                                                                                                                                                                                             23
… auf Seite 497
Bildvorlage: h?ps://akfoerster.de/Max-Moritz/Streich-3.de.xhtml

                                                                                    24
Drucksache 1 /                                                            – 16 –                     Deutscher Bundestag – 1 . Wahlperiode

7.4.2.3      Beispiel Facebook ....................................................................................................................... 494
7.4.2.4      Beispiel Twitter ........................................................................................................................... 495

                                                                                                                                                                   Vorabfassung – wird durch die endgültige Fassung ersetzt.
7.4.2.5      Technische Perspektive auf das automatische Auffinden ........................................................... 496
7.4.2.5.1 Handlungsempfehlungen............................................................................................................. 496
7.4.3        Weitere Anwendungen ................................................................................................................ 497
7.4.3.1      Handlungsempfehlungen............................................................................................................. 497

D.           Sondervoten zum Gesamtbericht ............................................................................................. 497

1            Sondervoten der CDU/CSU-Fraktion ..................................................................................... 497

             S de              Ka e 1 de K fa
             Ma e be c ( KI d Rec
                                                         g de Be c       ( Daten )        e Ka e 5.7 de
                                               Handlungsempfehlungen ) de sachverständigen Mitglieds Dr.                                                                                                                       Sondervoten                    Seiten
             Sebastian Wieczorek und der Abgeordneten Marc Biadacz, Hansjörg Durz, Ronja Kemmer, Jan
             Metzler, Stefan Sauer, Prof. Dr. Claudia Schmidtke, Andreas Steier und Nadine Schön sowie der
             sachverständigen Mitglieder Susanne Dehmel, Prof. Dr. Wolfgang Ecker, Prof. Dr. Alexander                                                                                                                         CDU/CSU:                       8
             F        , P f. D . A        K ge     d P f. D . J g M e -Lietzkow .................................. 497

             Sonder            Ka e 6 de K fa           g de Be c      ( Mensch und Gesellschaft )                           e                                                                                                 SPD:                           3
             Ka e 4.2.6 de Be c         de P e g         e 6 KI d Med e ( Med e                              e d KI
             Handlungsempfehlungen ) de Abge d e e R a Ke                 e        d de Abge d e e Ma c
             Biadacz, Hansjörg Durz, Jan Metzler, Stefan Sauer, Andreas Steier, Prof. Dr. Claudia Schmidtke                                                                                                                    AfD:                           29
             und Nadine Schön sowie der sachverständigen Mitglieder Susanne Dehmel, Prof. Dr. Wolfgang
             Ecker, Prof. Dr. Antonio Krüger und Dr. Sebastian Wieczorek ................................................. 500
                                                                                                                                                                                                                               FDP:                           4
             S de            Ka e 9.4.1 de Ma e be c       ( Welche Stärken hat die KI-Forschung in
             Deutschland? ) de ac e     d ge M g ed D . Sebastian Wieczorek und der Abgeordneten
             Marc Biadacz, Hansjörg Durz und Prof. Dr. Claudia Schmidtke sowie der sachverständigen                                                                                                                            DIE LINKE:                     32
             M g ede P f. D . W fga g Ec e     d P f. D . A e a de F       ................................... 501

             S de
             P e g
                              Ka e 1 de Be c          de P e g
                         e be c e ) de Abge d e e R a Ke               e
                                                                        e 2 KI d S aa ( K fa
                                                                            d de Abgeordneten Marc Biadacz,
                                                                                                           g de                                                                                                                BÜNDNIS 90/DIE GRÜNEN:         5
             Hansjörg Durz, Jan Metzler, Stefan Sauer, Prof. Dr. Claudia Schmidtke, Andreas Steier und Nadine
             Schön sowie der sachverständigen Mitglieder Susanne Dehmel, Prof. Dr. Wolfgang Ecker, Prof.
             Dr. Antonio Krüger, Prof. Dr. Jörg Müller-Lietzkow und Dr. Sebastian Wieczorek ................. 504

2            Sondervoten der SPD-Fraktion................................................................................................ 505

             S de            Ka e 4 de Ma e be c ( KI und Umgang mit Risiko ) de Abge d e e
             Daniela Kolbe, Elvan Korkmaz-Emre, Falko Mohrs, René Röspel und Jessica Tatti sowie der
             sachverständigen Mitglieder Dr. Florian Butollo, Prof. Dr.-Ing. Sami Haddadin, Jan Kuhlen, Lena-
             Sophie Müller und Lothar Schröder ............................................................................................ 505

             S de                 Ka e 5.7 de Ma e be c ( KI d Rec                                               Handlungsempfehlungen ) de
                                                                                                                                                                                                                               + Repliken aufgrund unqualifizierter,
             Abgeordneten Elvan Korkmaz-Emre und des sachverständigen Mitglieds Jan Kuhlen, der
             Abgeordneten Arno Klare, Daniela Kolbe, Falko Mohrs und René Röspel sowie der                                                                                                                                     sachfremder inhalte
             sachverständigen Mitglieder Prof. Dr.-Ing. Sami Haddadin, Lena-Sophie Müller und Lothar
             Schröder ...................................................................................................................................... 507

             Sondervotum zum Kapitel C. III. K                      c e I e ge                    d S aa (P e g                        e 2) de
             Abgeordneten Daniela Kolbe, Elvan Korkmaz-Emre, Falko Mohrs, René Röspel und Jessica Tatti
             sowie der sachverständigen Mitglieder Prof. Dr.-Ing. Sami Haddadin, Jan Kuhlen, Lena-Sophie
             Müller und Lothar Schröder ........................................................................................................ 507

3            Sondervoten der AfD-Fraktion ................................................................................................ 508

                                                                                                                                                                                                                                                                       25
Allgemeine Punkte

•   Diskursniveau, Zusammenarbeit Politik-Sachverstand
•   Perspektive: Chancen vs. Risiken
•   Dauerbrenner: Neutralität, Gemeinwohl, Risikoklassen etc.
•   Themenbezug (Sachstand vs. pol. Botschaften)
•   Reibungsverluste im komplexen Verfahren (Zeitproblem “hausgemacht”
    durch Einsetzungsbeschluss)

                                                                         26
Letzter Tip: http://ad-research.cs.uni-freiburg.de:17384/

                                                            27
AI Campus – the Learning Platform
     for Artificial Intelligence
          h8ps://ki-campus.org
                                    May 2020
Fragen?

          29
Sie können auch lesen