Seminar "Künstliche Intelligenz in Literatur und Recht" WS 2021/22

Seminar „Künstliche Intelligenz in Literatur und Recht“ WS 2021/22

„Law and Literature“ ist eines der Law & Something-Fächer, die sich zuerst in den USA und
später auch bei uns etabliert haben. Der Sonderforschungsbereich „Recht und Literatur“
(https://www.uni-muenster.de/SFB1385/) hat das Forschungsfeld neu kartiert: Erstens kann
Recht Gegenstand der Literatur, umgekehrt aber auch Literatur Gegenstand des Rechts
werden (Materialität). Recht und Literatur lassen sich zweitens in vielerlei Hinsicht
vergleichend untersuchen; dabei können Gemeinsamkeiten und Unterschiede beider
Disziplinen reflektiert werden (Komparativität). Drittens können Literatur und Recht sich
gegenseitig begründen, aufheben oder gestalten (Konstitutivität). Das Seminar erprobt diese
Kartierung anhand der Künstlichen Intelligenz, die in beiden Disziplinen vielfach thematisiert
und für das Recht zu einer immer größeren Herausforderung wird. Das Seminar soll
Verständnis für typische Problemlagen des Rechts fördern, und die zugrundeliegenden
größeren Fragen vertiefen, indem ihre Behandlung in der Literatur herangezogen wird. Wir
werden uns dabei mit der literarischen Bearbeitung der letzten 2000 Jahre beschäftigen.
Die Themenvorschläge sind nur erste Ideen. Gerne können Sie eigene Themenvorschläge
einbringen – insbesondere auch mit Blick auf literarische Werke, bei denen Sie eine fruchtbare
Behandlung der Thematik „Künstliche Intelligenz“ erkennen. Wir sind bei der Themenfindung
und ‐eingrenzung behilflich. Vorbesprechung und Themenvergabe erfolgen am Mittwoch, 7.
Juli, 18 Uhr (zoom). Das Seminar mit den Seminarvorträgen wird zum Ende der Vorlesungszeit
des Wintersemesters 2021/22 verblockt stattfinden. Ergänzend wird zu Beginn des Semesters
eine propädeutische Übung angeboten.
Geöffnet ist das Seminar für Interessierte aus allen Schwerpunktbereichen, sofern sich eine
Verknüpfung Ihres Themas zum Schwerpunktbereich herstellen lässt.
Die Anmeldung erfolgt über WiLMa II und zudem per Email (Notenübersicht, Interesse, ggf.
einschlägige Erfahrung zum Thema) an pbr@uni‐muenster.de. Wir freuen uns auf Ihre
Bewerbung. Bachelorstudierende müssen sie sich ebenso wie Jurastudierende doppelt
anmelden: Sie müssen sich beim Institut des Seminarleiters bewerben und beim Prüfungsamt
der Wirtschaftswissenschaftlichen Fakultät persönlich anmelden, innerhalb der Anmeldefrist
(05.07.2021), die gleichermaßen für Jurastudierende und Bachelorstudierende gilt.

Themenvorschläge:
   1. Von Prometheus bis Frankenstein – welche rechtlichen Herausforderungen
      verbergen sich hinter diesen Allegorien für die heutige „black box“-Problematik der
      Künstlichen Intelligenz?
Prometheus gibt den Menschen die Freiheit zu denken und frei zu handeln. Er eröffnet
metaphorisch deren Bewusstsein, indem er ihnen Leben einhaucht und sich gegen die
Obrigkeit auflehnt, ohne die Folgen genau abschätzen zu können. Mit dem Mythos des
Prometheus ist das Selbstverständnis der Neuzeit verbunden: Menschen schaffen sich ihre
Welt aus sich selbst heraus – mit allen Folgen.
                                                                                            1

   KI als Evolution oder als Werkzeug
      Das Problem der Folgenabschätzung
      Black-Box Problem, Nachvollziehbarkeit, Transparenz, Vorsorge
      Welche rechtlichen Instrumente/Methoden könnten dienlich sein?
      Einordnung der Vorschläge der EU-Kommission
Zum Einlesen:

      Glock, Vom Mythos zur Möglichkeit: der künstliche Mensch. Zu Ovids Metamorphosen
       1,76-88 und 10,243-294, DOI: https://doi.org/10.11588/fc.2007.1.38524
      Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL
       LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL
       INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS {SEC(2021)
       167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}
      Cath, Wachter, Mittelstadt, Taddeo, Floridi, Artificial Intelligence and the ‘Good
       Society’: the US, EU, and UK approach, DOI 10.1007/s11948-017-9901-7.

   2. Galetea und Samantha – Ethische und rechtliche Herausforderungen der Social
      Robotics/KI

In Ovids Metamorphosen schafft sich Pygmalion aus Ärger über eine Prostituierte eine
wunderschöne elfenbeinene Statue namens Galetea, die durch die Göttin Aphrodite später
zum Leben erweckt wird. Der Film „Her“ ist eine Liebesgeschichte mit nur einem Körper, der
Protagonist verliebt sich in die künstliche Intelligenz in Form des Betriebssystems Samantha.

      Anthropomorphes Design in Social Robotics/KI
      Ethische Herausforderungen des Anthropomorphismus
      Hannah Arendt: das innere Zwiegespräch mit “mir und mir selbst“
      Moral agency, moral patiency
      Rechte für KI, Rechtsstatus
      Anthropozentrismus
Zum Einlesen:

      Glock, Vom Mythos zur Möglichkeit: der künstliche Mensch. Zu Ovids
       Metamorphosen 1,76-88 und 10,243-294, DOI:
       https://doi.org/10.11588/fc.2007.1.38524
      Loh, Roboterethik (2019), 26-31.
      Erhardt, Mona, Rechtsperson Roboter – Philosophische Grundlagen für den
       rechtlichen Umgang mit künstlicher Intelligenz, in: Gless/Seelmann (Hg.), Intelligente
       Agenten und das Recht, 61 ff.
      Sullins, When is a robot a moral agent?, International Review of Information Ethics
       2006, 23 ff.
      Misselhorn, Maschinenethik und Artificial Morality. Können und sollen Maschinen
       moralisch handeln?, Aus Politik und Zeitgeschichte 2018, 29 f.

                                                                                            2

3. Das Motiv des künstlichen Menschen im 18. und 19. Jahrhundert: Der Mensch als
      Maschine, die Maschine als Mensch – welche Aktualität besitzt die literarische
      Verarbeitung der Debatte um den cartesianischen Dualismus für die heutige
      rechtliche Diskussion?
Die Literatur des 18./19. Jahrhunderts, geprägt von der Aufklärung und Industrialisierung,
thematisiert menschenähnliche Automaten. Als literarische Anknüpfungspunkte eigenen sich:
Jean Paul, Der Maschinenmann (1789)
Achim von Arnim, Isabella von Ägypten (1811)
E.T.A Hoffmann, Die Automaten (1814) und Sandmann (1817)
Mary Shelley, Frankenstein (1818)
Tieck, Vogelscheuche (1834)
      Einfluss der „menschlichen Modelle“ (Androide und Roboter) auf das Denken, die
       Philosophie, die Literatur und schließlich auch auf das Recht?
      Grenzverläufe zwischen Mensch und Maschine
      Der Dualismus Descartes und seine Überwindung – Aktualität?
      Julien Offray de La Mettrie: L’Homme Machine – Die Maschine Mensch. Übers. u. hrsg.
       von Claudia Becker. Hamburg (1990)
Zum Einlesen:
      Tietzel, L' homme machine: Künstliche Menschen in Philosophie, Mechanik und
       Literatur, betrachtet aus der Sicht der Wissenschaftstheorie, Zeitschrift für allgemeine
       Wissenschaftstheorie / Journal for General Philosophy of Science , 1984, Vol. 15, No. 1
       (1984), S. 34-71.
      Saalmann, Maschine-Organismus-System – Drei Leitvorstellungen vom Menschen,
       https://freidok.uni-
       freiburg.de/fedora/objects/freidok:10216/datastreams/FILE1/content

   4. „WUR Werstands Universal Robots” – KI, Politik und Recht
Roboter, abgeleitet von "Rabota", dem russischen Begriff für "Arbeit" sagt von dieser
Wortherkunft schon aus, weshalb sie geschaffen wurden. Sie sollten ein Werkzeug sein, Arbeit
übernehmen und das in Form einer immer stärkeren Eigenständigkeit. Diese
Selbstbestimmtheit macht sie den Schöpfern jedoch auch immer ähnlicher. Was sich in
gesteigerter Form in dystopischen Büchern und Filmen zeigt, hatte bereits in diesem
Theaterstück des großen tschechischen Dramatikers und Schriftsteller Karel Capek eine der
literarischen Wurzeln. Aufgrund seiner vielfältigen gesellschaftlichen und politischen
Anspielungen eignet sich das Werk zur Behandlung folgender Themenkomplexe:
      Künstliche Intelligenz und Demokratie, z.B. auch anhand der aktuellen Diskussion um
       Social Bots
      Einsatz von KI: vom politischen Diskurs zum Recht
      Schnittstelle Politik und Recht
                                                                                             3

Zum Einlesen:
      Neis/Mara, Social Bots – Meinungsroboter im Netz, Die Psychologie des
       Postfaktischen: Über Fake News, „Lügenpresse“, Clickbait & Co. pp 189-203.
      Unger/Ungern-Sternberg, Künstliche Intelligenz und Demokratie (2019).

   5. 2001: A Space Odyssey stellt große Fragen für die Aufgaben und die Rolle des Rechts
      im beginnenden Jahrhundert der Künstlichen Intelligenz
Stanley Kubricks „2001 A Space Odyssey“ aus dem Jahr 1968 ist ein ästhetisch großartiger und
philosophisch anspruchsvoller Film und könnte als Aufhänger für folgende Fragestellungen
dienen:
      Was ist die Aufgabe des Rechts? Antizipieren oder Reagieren?
      Welche Rolle kann das Recht in dem Spannungsfeld KI als evolutionäres Prinzip vs. KI
       als Werkzeug einnehmen?
      Ist der Anthropozentrismus überholt oder geboten?
      Sklavenrechte oder „Sklavenaufstand verhindern“ (Teubner)?
      Wem oder was dient Recht?

   6. Ist HAL9000 eine Person? Eine vergleichende Untersuchung zu dem literarischen,
      philosophischen und juristischen Personenbegriff
In Stanley Kubricks Film „2001 A Space Odyssey“ kontrolliert HAL9000 das gesamte
Raumschiff, unterhält sich leutselig mit den Astronauten, spielt Schach, trifft ein ästhetisch
qualifiziertes Urteil über Zeichnungen, weiß, wie es um die Gemütslage der Crew bestellt ist,
tötet aber auch vier der fünf Astronauten, damit ein Plan erfüllt werden kann, der sich aus den
bereits installierten Programmen entwickelt hat.
      Vergleich der verschiedenen Personenbegriffe
      Was sind die Voraussetzungen des juristischen Personenbegriffs und welche Form der
       KI fällt vielleicht darunter?
Zum Einlesen:
    Augsberg, Der Anthropozentrismus des juristischen Personenbegriffs – Ausdruck
      überkommener (religiöser) Traditionen, speziesistischer Engführung oder
      funktionaler Notwendigkeiten?, RW 3/2016, 338-362, DOI: 10.5771/1868-8098-2016-
      3-338
    Teubner, Digitale Rechtssubjekte? Zum privatrechtlichen Status autonomer
      Softwareagenten, AcP 2018, 155ff.
    Stork (Hg.): HAL’s Legacy. 2001’s Computer as Dream and Reality. MIT Press,
      Cambridge MA 1997
    Grumbrecht, „What are you doing, Dave?“: The Confrontation of Dave Bowman and
      HAL 9000 in Stanley Kubrick’s 2001: A Space Odyssey. In: Georgi/Loock (Hg.): Of Body
      Snatchers and Cyberpunks. Student Essays on American Science Fiction Film:
                                                                                             4

https://www.univerlag.uni-goettingen.de/bitstream/handle/3/isbn-978-3-941875-
       91-3/GSEP5_body_snatchers.pdf?sequence=1&

   7. „Träumen Androiden von elektrischen Schafen?“ – Die Idee vom „Menschen“ und
      ihre Bedeutung für das Recht
Die Dystopie stellt die Frage: Was macht den Menschen zum Menschen? Für den Autor Philip
K. Dick ist in seinem Roman aus dem Jahr 1968 nicht die Intelligenz das
Unterscheidungsmerkmal zwischen Androiden und Menschen, sondern die Empathie.
      Welche Bedeutung kommt dem Menschenbegriff im Recht zu
      Ausgrenzender Anthropozentrismus des Rechts?
      Menschenrechte/Grundrechte
      Rechtsfähigkeit, § 1 BGB auch für andere Formen der Intelligenz?
Zum Einlesen:
      Augsberg, Der Anthropozentrismus des juristischen Personenbegriffs – Ausdruck
       überkommener (religiöser) Traditionen, speziesistischer Engführung oder funktionaler
       Notwendigkeiten?, RW 3/2016, 338-362, DOI: 10.5771/1868-8098-2016-3-338

   8. Terminator – wie kommt die Moral in die Maschine?
Der Terminator ist eine lernende Künstliche Intelligenz. Ein kleiner Junge bringt dem
Terminator Recht und Moral näher und hält ihm einen Spiegel vor. Folgende Fragen können
anhand des Films diskutiert werden:
      Wie lernt KI was „richtig und falsch“, was erlaubt und verboten ist?
      Top-down, bottom-up, hybride Ansätze
      Welche Verantwortungszusammenhänge gibt es (Programmierer, Anwender, KI)
Zum Einlesen:
      Loh, Roboterethik 2019
      Zech, Zivilrechtliche Haftung für den Einsatz von Robotern – Zuweisung von
       Automatisierungs- und Autonomierisiken, in: Gless/Seelmann (Hrsg.), Intelligente
       Agenten und das Recht, 2016, 163ff.

Weitere Ideen:
   9. Klings „Qualityland“ – das Trolley-Problem aus rechtlicher Sicht
Der Roman ist eine satirische Dystopie, die einige bereits heute erkennbare Tendenzen der
Digitalisierung weiterspinnt. Thematisch werden unter anderem der
Überwachungskapitalismus, die Frage nach dem Unterschied zwischen menschlicher und
künstlicher Intelligenz (Turing-Test etc.), die Implikationen der Entstehung einer künstlichen
Superintelligenz und moralisch-philosophische Fragestellungen in Zusammenhang mit den

                                                                                                 5

Asimovschen Robotergesetzen, dem Trolley-Problem und dem Recht auf Reparatur
behandelt.

   10. Die Serie West World
Zum Einlesen:

      Georgi-Findlay/Kanzler (Hg.): Mensch, Maschine, Maschinenmenschen.
       Multidisziplinäre Perspektiven auf die Serie Westworld (2018)
      William Irwin (ed.): Westworld and Philosophy. Blackwell Philosophy and Pop Culture
       (2018)

                                                                                         6