Paul Kirchhof Künstliche Intelligenz - Ordnung der Wissenschaft

Paul Kirchhof
                                         Künstliche Intelligenz

I. Der Ausgangsbefund: Der intelligent program-                   sieren, Rechnungswesen, Bilanzierung und Steuererklä-
mierte Automat                                                    rung computergestützt vereinfachen und erneuern.
                                                                  Fondsmanager entdecken die Algorithmen als ein Werk-
Die Technik befähigt den Menschen immer wieder,                   zeug der Vermögensverwaltung, das Stimmungen und
etwas zu tun, was er aus eigener Kraft nicht tun könnte.          Trends, Bedarfslagen und Wertschöpfungspotentiale,
Als das Rad erfunden wurde, konnten Wagen sich                    ökonomische, ökologische und politische Rahmenbe-
schneller bewegen, als der Mensch je hätte laufen kön-            dingungen des Marktes analysiert und zu Kauf- oder
nen. Heute scheint ein selbstfahrendes Auto zum Chauf-            Verkaufsempfehlungen verdichtet. Der Hochfrequenz-
feur für jedermann zu werden. Doch der Mensch bleibt              handel treibt Handel technisch, ohne Vertragsvereinba-
Herr des Geschehens, so lange er diese selbstfahrenden            rung. Der Algorithmus spielt Schach und schlägt dabei
Fahrzeuge nur zulässt, wenn er zumindest die gleiche              den Weltmeister. Algorithmen beginnen zu komponie-
Steuerungskraft und Sicherheitsherrschaft über das                ren und zu malen. Prognosen sprechen bereits von ei-
Geschehen behält wie beim selbst gelenkten Auto. Als              nem sich selbst programmierenden Computer, dessen
die Buchdruckertechnik entwickelt war, hat die gedruck-           der Mensch kaum noch Herr werden könne. Der Mensch
te Botschaft sich weiter verbreitet, als der Autor selbst sie     bestimmt dann nicht mehr seine Helfer, sondern die
hätte tragen können. Heute erschließt die Digitalisie-            Helfer erwarten, dass der Mensch sich den Regeln der
rung Kommunikationsmöglichkeiten, die weltweit ver-               Apparate anpasse. Ein Datenregime stürzte den Men-
fügbares Wissen zugänglich machen, den Austausch in               schen in Ohnmacht, die Menschlichkeit in technische
Sprache und Bild rund um die Welt eröffnen, die Nut-              Gefühlsleere und Hoffnungslosigkeit.
zung dieser Möglichkeiten aber in der Herrschaft des                  Diese Wissenschaft und Technik wirbelt unser Den-
PC-Nutzers bleibt. Als die Elektrizität entdeckt war,             ken und unsere Begriffe durcheinander. Wir sprechen
konnte die Technik besser als der Mensch Wärme, Licht             der Maschine eine „künstliche Intelligenz“ zu, verstehen
und Bewegung erzeugen, Sprache und Bilder vermitteln.             sie als ein „lernendes“ Subjekt, wollen ihr beibringen,
Heute setzt ein Algorithmus eine Abfolge von Prozess-             Gefühle zu entwickeln und ethisch zu handeln.
schritten ins Werk, die einem vorgegebenen Programm                   Wenn wir so von Maschinen menschliche Eigen-
folgen, dann aber eine gestellte Aufgabe durch Beobach-           schaften erwarten, belegt das ein ungenügendes Verste-
ten und Nachahmen auf eigenständig neu entdeckten                 hen dessen, was in diesen Maschinen vorgeht. Wir müs-
Wegen erfüllen. Der Arzt schickt mit der Nano-Technik             sen uns in Gelassenheit bewusst machen, was ein Algo-
ein kleines, für das menschliche Auge nicht sichtbares            rithmus derzeit kann. Er kann sich in hochdimensiona-
Reparaturteam in den menschlichen Körper, das dort                ler Dynamik selbst organisieren, ein vorgegebenes Ziel
Adern und Atemwege reinigt, Brüche zusammenfügt.                  mit eingegebenen Daten verfolgen, findet dann in der
Diese sich verselbständigenden Algorithmen organisie-             Spur dieser Zielvorgaben und Wirkungsmittel verbes-
ren sich in hochdimensionaler, nicht-linearer Dynamik             serte Möglichkeiten, das Ziel zu erreichen. Er entschei-
selbst, entdecken immer neue Wege zum Erreichen des               det aber nicht selbstständig, sondern produziert nach
vorgegebenen Ziels, dürfen aber nur eingesetzt werden,            den im Programm gegebenen Kriterien Geschehensab-
wenn der Arzt stets Ablauf und Wirkungen dieser Auto-             läufe. Er kann die bisherigen Erfahrungen nicht verlas-
maten beobachtet und im Dienst des Patienten                      sen und ein neues Morgen entwerfen. Er entwickelt kei-
beherrscht.                                                       ne Gefühle, erinnert sich nicht, kann nicht lieben, keine
    Sprachassistenten bieten ein Übersetzungspro-                 Freundschaften schließen, nicht hoffen, kein Gewissen
gramm, das Fähigkeiten eines Dolmetschers übersteigt.             bilden, hat weder Ethos noch Moral noch Feingefühl. Er
Der Rechner kann Daten des Straßenverkehrs so zu ei-              ist nicht verantwortlich. Das Recht kann nicht ihn, son-
nem Erfahrungsschatz kombinieren, dass er bessere                 dern nur den die Maschine beherrschenden Menschen
Empfehlungen für die Verkehrssicherheit und den Um-               ansprechen. Der moderne Automat ist eine selbsttätige
weltschutz gibt, als es menschliche Planung vermag. Ein           Maschine. Sie ist gut programmiert, nicht intelligent.
    Unternehmen kann seine Betriebsabläufe automati-

                                          Ordnung der Wissenschaft 2020, ISSN 2197-9197

2                    O R D N U N G D E R WI S S E N S C H A F T 1 ( 2 0 2 0 ) , 1 - 8

II. Der Auftrag, die Herrschaft über die Maschine zu             Das griechische Freiheitsideal wollte den Bürgern die
behalten                                                     Freiheit von Handwerk und Handel vermitteln. Der Au-
                                                             tomat bringt uns diesem Ideal heute näher. Wir stellen
Diese begriffliche Klarstellung beendet die Verbalsug-       mit 3D-Druckern Schicht für Schicht computergesteuert
gestion, der Mensch könne von der Maschine Mensch-           Werkzeuge her, überlassen im Berufsalltag technischen
lichkeit erwarten. Er muss sich um seiner Freiheit, seiner   Helfern die körperliche Arbeit, das Rechnen und Bilan-
Gefühle und Hoffnungen willen die Herrschaft über die        zieren, das Produzieren und Transportieren, wickeln
Maschine vorbehalten, sich gegenüber den maschinellen        auch privat den Handel digital ab. Wir planen Reisen in
Herausforderungen zur Freiheit neu qualifizieren. Wis-       Vergleichsportalen. Der Nutzer steht staunend vor die-
sen mehrt Handlungsmöglichkeiten. Wissenschaft ist           ser Entwicklung. Doch es stellt sich die Frage, ob der
deshalb stets auch Freiheitspolitik. Wir verstehen den       Mensch mit zunehmender Herrschaft über die Natur
Menschen als begabt, abstrakt zu denken, rational und        und ihre Gesetze seine freiheitliche Selbstbestimmung
moralisch zu entscheiden, zu lieben und zu hoffen. Des-      an die Maschine verliert. Neuere Studien des „Maschi-
wegen gewährleistet die Verfassung jedem Menschen ein        nenverhaltens“ beobachten die Maschinen als selbstge-
Recht auf Würde, auf ein Gewissen, auf Autonomie. Die        steuerte Wesen. Diese „Verhaltensforschung“ will fest-
Maschine hingegen kann Kausalabläufe wiederholen,            stellen, wie die Maschinen auf veränderte Umgebungen
Erfahrungen aufnehmen, Daten speichern und kombi-            und Situationen reagieren, wie sie miteinander umge-
nieren. Sie folgt den vom Menschen vermittelten              hen, wie sie auf den Menschen zurückwirken. Gefragt
Erkenntnissen und Irrtümern, Urteilen und Vorurteilen,       wird nicht, welche Programme der Mensch ins Werk
Regeln für gutes Leben oder bloßen aktuellen Trends          setzt, welche er veranlassen darf, welche er verändern
und Schwarmverhalten.                                        und stoppen muss. Rechtspolitische Erwägungen neigen
    Allerdings gewinnt der Automat Einfluss auf den          sogar dazu, eine sich verselbständigende Technik als
Menschen, weil er dessen Lebensbedingungen verän-            rechtserheblich handelndes Subjekt zu verstehen, also
dert. Wenn der Mensch erfährt, dass körperliche An-          mit eigenen Rechten und Pflichten auszustatten. Der
strengung von der Maschine übernommen wird, er statt         Mensch scheint den Algorithmus aus der Hand gegeben
seines Gedächtnisses den Computer nutzt, der Compu-          zu haben, muss sich jetzt mit ihm als einem eigenständi-
ter besser rechnet und aus der Zahlenkombination neue        gen Gegenüber auseinandersetzen.
Handlungsalternativen ableitet, so kann dieses Wissen
ihn auch lähmen, körperlich erschlaffen und geistig trä-     III. Die Herrschaft des Menschen über die Technik
ge werden lassen. Er gerät in Abhängigkeit, in
Unfreiheit.                                                  Doch der Mensch stellt den Automaten her, nutzt ihn für
    Wissen über sich selbst stärkt die Kraft zur Selbst-     seine Zwecke, beendet seine Funktionen. Die vermeintli-
steuerung, schärft Selbstkritik und Gewissen, kann den       che Herrschaft der Maschine ist die Herrschaft eines
Menschen aber auch Lebensmut und Hoffnung nehmen.            Menschen. Deshalb hat die Forschung den Algorithmus
Wer viel über sich selbst weiß – ein Algorithmus macht       wieder als ein vom Menschen programmiertes und von
den nahen Tod oder eine schwer ausweichliche Drogen-         ihm beherrschtes Mittel im Dienst des Menschen zu
verstrickung bewusst –, kann dieses Wissen zur Selbst-       gestalten. Gesicherter Ausgangsbefund ist dabei, dass
hilfe nutzen, aber auch als Anstoß zu Resignation und        der Mensch herrschen will, auch über die von ihm ent-
Selbstvernichtung verstehen. Deshalb setzt diese Infor-      wickelte Technik Bestimmungsmacht beansprucht. Des-
mation ein Einverständnis voraus.                            halb erscheint die Frage, wie der Mensch die Herrschaft
    Vor allem muss die Wissenschaft gewährleisten, dass      über eine eigenständige Maschine zurückgewinnt, ein
die technischen Helfer die menschliche Vernunft nicht        Problem sachgerechter wissenschaftlicher Themenstel-
zu Teilrationalitäten verkümmern lassen. Wenn ein Al-        lung. Er kann die Maschine so programmieren, dass der
gorithmus ein Ziel verfolgt – eine bessere Operations-       Mensch sie jederzeit beobachtet, lenkt, verändert oder
technik, eine identitätsbestimmende Genforschung, eine       stoppt. Problematischer erscheint die Frage, wer diese
Gewinnmaximierung –, muss eine Gesamtvernunft des            Herrschaft über die Maschine mit welchen Mitteln aus-
Menschen diese Teilrationalitäten zusammenführen, um         übt. Herrscher ist nicht die Maschine. Es herrscht entwe-
Humanität zu wahren, Hoffnungen zu verwirklichen, die        der der Programmierer und seine Auftraggeber oder das
Fähigkeit und Bereitschaft des Menschen zu stärken,          Recht, das die Maschine dem Menschen unterordnet.
eine bessere Zukunft zu definieren. Wissen ist Chance            Wenn der Arzt einen programmierbaren medizini-
und Waffe zugleich.                                          schen Eingriff einem Roboter übergibt, weil dieser den

Kirchhof · Künstliche Intelligenz                                          3

Heilversuch verlässlicher vornehmen kann, wird er und        scher Fortschritt und menschliche Herrschaft müssen
nicht der Techniker in seiner ärztlichen Gesamtbeob-         gleichrangig und gleichzeitig voranschreiten.
achtung des Patienten, auch in seiner aus Erfahrung und
Ethos erwachsenden ärztlichen Intuition die Herrschaft       IV. Maßstäbe für die Verantwortung des Menschen
über den Heilvorgang in eigener Hand behalten. Er ent-
scheidet, ob der Roboter sein Handeln fortsetzt, verän-      Die EU-Kommission hat mit Nachdruck die dauerhaft
dert oder beendet. Die Maschine dient dem Arzt als Hel-      dienende Funktion der Algorithmen betont und Mecha-
fer, ersetzt ihn nicht. Zwar wird der Arzt die Maschine      nismen gefordert, welche die Verantwortlichkeit und
nicht vollständig verstehen. Doch es genügt, dass das        Rechenschaftspflicht des Menschen für diese Algorith-
medizinische Hilfsmittel so der Herrschaft eines Men-        men und deren Ergebnisse gewährleisten. Mit dieser
schen unterworfen wird wie das Auto: Der Fahrer ver-         Diskussion um die Maßstäbe, nach denen diese neue
steht nicht dessen Technik, beherrscht sein Fahrzeug         Technik ins Werk gesetzt werden darf, ist Europa auf
aber mit Hilfe des Lenkers, des Gaspedals und der Brem-      dem Weg, Kriterien für die Verantwortlichkeit und
se. Fehlten diese Instrumente menschlicher Bestim-           Rechenschaftspflicht des Menschen für diese Algorith-
mungsmacht, würde das Fahrzeug nicht zum Straßen-            men und deren Ergebnisse zu entwickeln, diese Techni-
verkehr zugelassen.                                          ken gegen den Zugriff unberechtigter Dritter, insbeson-
    Die Naturwissenschaften haben allerdings jahrzehn-       dere der Kriminalität, des Wirtschaftskrieges und der
telang behauptet, der Mensch tue, was er könne. Doch         Politik, abzuschirmen, alle technischen Systeme als sol-
wenn die Atomtechnik in Kettenreaktionen die Welt zer-       che erkennbar und transparent zu machen, so dass jeder
stören kann, die Gentechnik die Identität des Menschen       zurückverfolgen kann, welches Ziel dieses System mit
verändern könnte, die Psychopharmaka wesentlichen            welchen Mittel in wessen Auftrag verfolgt.
Einfluss auf die Willensbildung des Menschen gewinnen            Diese Transparenz wird systematisch verhindert,
und eine Kriegsdrohne einen Kriegseinsatz ohne das un-       wenn die sogenannten „sozialen Medien“ dem Nutzer in
mittelbare Erlebnis des Kriegsführenden von Not und          der Anonymität gestatten, Fehlnachrichten zu verbrei-
Elend des Krieges ermöglicht, wird die Frage nach dem,       ten, andere Menschen – den Lehrer, den Richter, den
was der Mensch darf, unausweichlich. Wir müssen uns          Konkurrenten – einer Untat zu bezichtigen, die er nicht
auf den Weg zurück zur Universitas begeben, in der das       begangen hat, ohne dafür zur Rechenschaft gezogen
Zusammenwirken von Naturwissenschaften und Geis-             werden zu können. Diese Anonymität, die organisierte
teswissenschaften eine Selbstverständlichkeit ist. Der       Unverantwortlichkeit, ist Geschäftsmodell dieser Unter-
Mensch kann nur erkennen, wenn er die Welt beobach-          nehmen. Sie widerspricht der Idee der Freiheit, die je-
tet, zugleich aber eine Vorstellung von der Welt entwi-      dermann die freie Meinungsäußerung gewährleistet, da-
ckelt, wie sie sein soll. Ein Richter kann Unrecht nur be-   bei aber erwartet, dass der Sprecher mit seinem Namen
anstanden, wenn er weiß, was Gerechtigkeit ist. Ein Arzt     und seinem Gesicht für das einsteht, was er sagt.
wird Krankheiten nur heilen, wenn er eine Vorstellung            Menschliche Verantwortlichkeit für die Maschine
von der Gesundheit besitzt. Ein Umweltschützer wird          wirkt vorbeugend, muss also vermeiden, dass die Ma-
Umweltschäden nur vermeiden, wenn er eine Idee von           schine dem Menschen Schaden zufügt. Ausgangspunkt
der reinen Natur, der unverletzten Welt vor Augen hat.       dieser vorbeugenden Verantwortlichkeit und ihr für
    Diesen Zusammenklang von Können und Dürfen               Wissenschaft und Technik geeignetes Maß bietet das
vermag ein technisches Programm nicht herzustellen.          Recht der Gefahrenvorsorge, der Auftrag zu einer uni-
Der Algorithmus kann keine Humanität, kein Maß, kei-         versalen, die Spezialisierung überwindenden Wissen-
ne Verantwortlichkeit und kein Gewissen entfalten. Eine      schaft, ein – maßvoller – Datenschutz und die Erfahrun-
Maschine hat keine Überzeugung, erlebt nicht Gemein-         gen internationaler Kooperationsverbünde. Treten trotz
schaft, empfindet nicht Verantwortung. Sie ist nicht ehr-    der Vorsorge Schäden ein, wird das Recht eine Gefähr-
bar. Ein Kausalanstoß ist nicht anständig. Ein Algorith-     dungshaftung organisieren. Wer einen gefährdenden
mus empfindet nicht die persönliche Betroffenheit des        Kausalablauf ins Werk gesetzt hat – einen Atomreaktor
Menschen.                                                    betreibt, ein Auto fährt –, muss schon wegen dieser ihm
    Der Mensch muss deshalb für alle von ihm ins Werk        zuzurechnenden Gefährdungslage auch für einen einge-
gesetzten technischen Abläufe die Herrschaft zurückge-       tretenen Schadensfall einstehen. Das setzt wiederum vo-
winnen, jederzeit den Prozess verlangsamen, beschleu-        raus, dass der verantwortliche Programmierer individu-
nigen, neu ausrichten, auch beenden können. Der              alisierbar, der Schaden zurechenbar und die Haftungs-
Mensch übt Herrschaft in ersichtlicher Verantwortlich-       folge für einen beherzten technischen Fortschritt nicht
keit für das automatische Technikgeschehen aus. Techni-      hinderlich ist.

4                    O R D N U N G D E R WI S S E N S C H A F T 1 ( 2 0 2 0 ) , 1 - 8

    Die Kooperationsvereinbarungen der Forschung, die       außer Kontrolle gerät. Bei den Kommunikationsmedien
rechtlichen Rahmenbedingungen der Technik und die           steht der Betreiber vor der Aufgabe, die verbreiteten In-
öffentliche Forschungsförderung sollten darauf hinwir-      halte – Texte, Fotos, Videos – so zu gestalten, dass Hass
ken, dass die Hauptakteure regelmäßig ihre Themen und       und Häme vermieden werden, persönliche und wertver-
Vorhaben veröffentlichen, in Fallbeispielen und Er-         nichtende Entwürdigungen unterbunden, die Nutzer
kenntnisfortschritten publizieren, um eine allgemeine,      weder manipuliert noch schikaniert werden. Falschin-
ideal: weltweite, Technik- und Maßstabsforschung vor-       formationen sollen nicht verbreitet, andernfalls jeden-
anzutreiben. Die Technik wird sich weiterentwickeln, die    falls berichtigt werden. Auch die Meinungsäußerungs-
rechtlichen und ethischen Verantwortungsmaßstäbe            freiheit ist ein Recht, das definiert, also begrenzt ist, auf
werden Schritt halten.                                      die gleichen Rechte anderer Menschen und die Anliegen
    Will eine deutsche Wissenschaftsorganisation ihren      der Rechtsgemeinschaft abgestimmt wird.
Maßstäben des Persönlichkeitsschutzes, der Aufklärung           Heute versuchen Betreiber, den maschinellen Pro-
oder des Rückrufs von Daten genügen, arbeitet sie aber      grammen Maßstäbe einzugeben, die moralische Werte
weltweit mit anderen, einem fremden Recht unterliegen-      und ethische Normen zu Funktionsbedingungen der
den Organisationen zusammen, so kann sie nur eine in        Maschine machen. Dadurch entstehen aber nicht „ethi-
gegenseitiger Annäherung erreichbare Rechtstreue ver-       sche Maschinen“, sondern Techniken, in deren Kausal-
sprechen. Dabei sind die roten Linien des unaufgebba-       und Effizienzabläufe auch der Erfahrungsschatz eines
ren Rechts – die juristischen Axiome, Tabus, Unverletz-     „guten Lebens“ eingearbeitet worden ist. Diese Bemü-
lichkeiten – zu beachten. Die Internationalität der Wis-    hungen allerdings setzen eine elementare philosophi-
senschaftskommunikation ist aber auch im Recht auf          sche und rechtliche Vergewisserung über unsere ge-
Annäherung und wechselseitige Inspiration angelegt.         meinsamen Werte und Verhaltensprinzipien voraus. Be-
                                                            wusst gemacht werden müssen die im Wirtschaftssys-
V. Die Verantwortlichen                                     tem, im Wissen, in der Technikbeherrschung angelegten
                                                            Machtstrukturen, die in unserer Geschichte und sozia-
Die Verantwortung für eine vom Menschen geschaffene         len Realität vorhandenen Ungleichheiten, die Definition
Technik liegt beim Menschen. Der Hersteller der Tech-       des jeder Freiheit vorgegebenen „Gemeinwohls“ und die
nik wird den Automaten so anlegen, dass die Automatis-      dafür Verantwortlichen. Auch die Einfluss- und Wohl-
men – ihre Ziele und die dafür eingesetzten Mittel – für    standsverteilung in einer Demokratie, die Leistungskraft
einen außenstehenden Beobachter erkennbar, nachvoll-        des Rechts in den interessen- und gewaltenteilenden
ziehbar und kontrollierbar sind, ihre Wirkungen der         Strukturen der Gegenwart, das Verhältnis von Macht,
Mensch stets lenken und korrigieren kann. Der Pro-          Wirtschaft und Wohlstandsverteilung sollten ersichtlich
grammierer wird sein Programm in legitimen Zielen,          sein. Die Fähigkeit und Bereitschaft des Menschen, eine
vertretbaren Instrumenten der Zielerreichung, bedach-       bessere Zukunft zu definieren, kann als gesicherter All-
ten und gemäßigten Nebenwirkungen verantworten.             gemeinbefund aufgenommen werden. Sind diese Maß-
Der Nutzer dieser Technik wird für jeden technisch          stäbe definiert – ist der „Philosophenkönig“ neu ent-
bewirkten Erfolg, den dafür erbrachten Aufwand, die         deckt –, darf man von der Maschine dennoch nicht eine
Betroffenheit der Menschen und ihrer Lebensbedingun-        größere Unvoreingenommenheit, nicht eine bessere
gen einstehen. Dabei ist in einem System mit tausenden      Verteilung von Entscheidungskompetenzen erwarten,
von Entscheidungen und einem kaum mehr beherrsch-           weil das Maschinenprogramm so abläuft, wie es der Pro-
baren exponentiellen Wachstum nicht der gedankliche         grammierer ins Werk gesetzt hat. Zum vernünftigen
Nachvollzug jedes Kausalablaufs und jedes Wirkungszu-       Entscheiden und moralischen Handeln begabt ist der
sammenhangs gemeint, sondern die stetige Wirkungs-          Mensch. Die Maschine ist das Instrument, das der
kontrolle.                                                  Mensch vernünftig oder unvernünftig, moralisch oder
    Eine Klinik wird gewährleisten, dass jeder Arzt, der    unmoralisch einsetzt.
computerbasiert diagnostiziert, operiert, Medikamente
verschreibt und Verhaltensweisen empfiehlt, zur Über-       VI. Freiheit der Betroffenen
wachung und Intervention in der Lage und bereit ist, sei-
ne wahrgenommene Verantwortlichkeit auch protokol-          Der Nutzer muss sich stets bewusst machen, dass sein
liert und unterzeichnet. Die Industrie wird ihre techni-    technischer Helfer seinem Leben und seiner Freiheit
sierten Produktions- und Handlungsabläufe so organi-        neuen Sinn geben kann, ihn ermutigt, sein Leben zu
sieren, dass der Firmenleitung das Unternehmen nicht        überdenken und zu einer neuen Lebensidee aufzubre-

Kirchhof · Künstliche Intelligenz                                            5

chen. Die leichte Verfügbarkeit der technischen Leistun-         Diese Kultur des Maßes gilt auch für den bloß infor-
gen kann ihn aber auch in Passivität drängen, ihn lustlo-    mierenden Automaten. Wenn eine Technik einem Pati-
ser und antriebsloser, zerstreuter und argwöhnischer,        enten eine belastende Prognose offenbaren kann, darf
nervöser und fauler machen. Wenn der Nutzer seinen           dieser auch über eigene Daten grundsätzlich nur infor-
Beruf und seine private Lebensgestaltung alltäglich auf      miert werden, wenn er einwilligt. Kann z. B. ein in der
die Leistungen seines PC stützt, muss ihm immer gegen-       Untersuchung festgestellter genetischer Defekt mitgeteilt
wärtig sein, dass der PC ihm eine „formatierte Freiheit“     werden, ist dem Betroffenen vielleicht daran gelegen, un-
erschließt. Er zeigt ihm die Welt in dem Format, in dem      wissend ein zwar kurzes, aber sorgloses Leben genießen
die Programmierer die Wirklichkeit sehen und verste-         zu wollen. Das Einwilligungsverfahren beginnt mit der
hen, beurteilen und kommentieren. Wer Literatur in sei-      Aufklärung, die nur ein Mensch, individualisierend und
nem PC sucht, wird sie schneller als er selbst und seine     gesprächsoffen, leisten kann. Dem Aufklärenden stellt
Mitarbeiter finden, allerdings auch eine Rangfolge erle-     sich zunächst die Frage, wie weit die Aufklärung, die eine
ben, in der die Großverlage ihre Produkte nach vorne         sachgerechte Einwilligung erst ermöglicht, das zu erwar-
stellen, die gehaltvolle Dissertation mit der kleinen Auf-   tende Krisenszenario schon andeuten darf oder muss.
lage aber nicht in Erscheinung tritt.                        Sodann ist zu bedenken, ob die persönliche Einwilligung
    Der Nutzer beansprucht, dass die durch seine Zu-         auch die Weitergabe dieses Wissens an die mitbetroffe-
sammenarbeit mit dem Betreiber entstehenden wirt-            nen Familienangehörigen rechtfertigt. Der Wissende
schaftlichen Werte nicht allein dem Betreiber vorbehal-      muss sich auch vergewissern, ob er Drittbetroffene un-
ten sind, sondern auch ihm zugute kommen. Wissen ist         terrichten muss oder darf – die zukünftige Braut, den
ein Wert, den der Betreiber durch Veräußerung des von        Arbeitgeber, die Versicherung.
ihm – weitgehend ohne Kennnis des Nutzers – gesam-               Ist eine große Allgemeinheit von Menschen von ei-
melten Wissens nutzt. Doch wenn der Nutzer den Wis-          nem umweltwirksamen selbsttätigen Computer betrof-
sensspeicher füllt, sollte diese Leistung auch angemessen    fen, der Schadstoffe von dem Innenbereich in den Au-
entgolten werden.                                            ßenbereich der Städte umverteilt, kann die individuelle
    Eine durch die Grundrechte, damit die Verantwort-        Betroffenheit in der eigenen Gesundheit, der individuel-
lichkeit für den individuell Betroffenen geprägte Rechts-    len Wohnsituation, dem gewerblichen Erfolg sichtbar
ordnung wird Vorsorge treffen, dass die Betreiber einer      werden, sich dennoch in der Allgemeinheit der Benach-
automatisierten Technik die Menschen nicht in ihren In-      teiligten verlieren. Diese Entindividualisierung macht
dividualrechten verletzen. Der Mensch handelt auto-          das Problem moderner Globalsteuerung bewusst. Der
nom, die Maschine wirkt automatisch. Eine Kollision          Betroffene wird nicht mehr durch einen individuell ad-
zwischen Mensch und Maschine darf es nach diesen Ge-         ressierten Verwaltungsakt angesprochen, sondern er fin-
setzmäßigkeiten nicht geben. Deswegen darf bei der           det veränderte „Daten“ vor, die faktisch in seine Grund-
elektronischen Steuererklärung ein technisches „Risiko-      rechte einwirken, ohne in sprachlicher Auseinanderset-
komanagementsystem“ nicht einen besonders erfin-             zung auf diese abgestimmt zu sein. Soll hier der Grund-
dungsreichen und organisationsfreudigen Unternehmer          rechtschutz durch einklagbare Individualrechte nicht
aus der gleichmäßigen Besteuerung ausschließen, weil er      leerlaufen, muss das Recht eine Betroffenenbeteiligung
nicht der Üblichkeit, der Normalität, dem Regeltypus         an diesem Steuerungsverfahren organisieren. Dieses
entspricht, auf den der Algorithmus ausgerichtet ist.        kann unbürokratisch, zeitdiszipliniert, auch in exempla-
Vielmehr muss die Konfliktlösung auf die Ebene der           rischen Sammelverfahren gelingen.
menschlichen Begegnung zurückgeführt werden. Die                 Manche Informatiker prognostizieren, das menschli-
technische Risikoentdeckung ist deshalb nur ein Hin-         che Gehirn werde sich dem Computer anpassen. Doch
weis auf den nunmehr handlungspflichtigen Beamten,           eine Anpassung des Gehirns an den Automaten verän-
die entdeckte Besonderheit rechtlich wägend und ge-          derte die Ordnung von Humanität und Freiheit grund-
wichtend zu beurteilen. Die Konflikte werden so – dem        stürzend. Eine Datendiktatur macht den Menschen ab-
Rechtsstaat gemäß – allein in sprachlicher Auseinander-      hängig, beendet das Ideal einer freien Selbstbestim-
setzung, letztlich durch die Rechtsprechung gelöst. Eine     mung. Ein Datenregime nimmt dem Menschen die Frei-
menschlich nicht gemäßigte – unmenschliche – Kollisi-        heit, löst die Demokratie in ihren Voraussetzungen auf,
on zwischen Mensch und Maschine wird                         entzieht dem Recht seine Kerngedanken von Verant-
ausgeschlossen.                                              wortlichkeit, Schuld, Sühne und Haftung. Der Mensch

6                    O R D N U N G D E R WI S S E N S C H A F T 1 ( 2 0 2 0 ) , 1 - 8

würde nicht mehr zu Wissen und Gewissen, zu Anstand         gen, die eine Wirklichkeit realitätswidrig auf den Bau-
und Ehrbarkeit erzogen, sondern dem Programmablauf          stein ausrichten. Gesetze sind für standardisierte Verträ-
eines Computers unterworfen. Er wäre Gesetzmäßigkei-        ge und Entscheidungstypen zugänglich, teilweise auch
ten unterstellt, die Menschen geschaffen haben, sich        auf „industrialisierte“ Standardverträge angelegt, nutzen
dann aber hinter einer Technik und deren Selbsttätigkeit    die Einfachheit von Quantifizierungen, um wertende
verbergen.                                                  Sachverhalte in Zahlen und Zahlenformeln auszudrü-
    Die Menschen haben bisher auch bei grundstürzen-        cken. Wenn dabei allerdings das Steuerrecht Quantifizie-
den Selbstgefährdungen durch die Wissenschaft – die         rungen wählt, die für den Leser des Gesetzestextes nicht
Atomspaltung oder eine identitätsverändernde Gentech-       mehr zu verstehen sind, verweigert das Gesetz das Ge-
nik – stets eine Mächtigkeit in der Hand des Menschen       spräch mit dem Bürger. Das widerspricht allen Errun-
vermehrt. Nunmehr macht sich eine formale Rationali-        genschaften der Sprachlichkeit eines allgemeinen – all-
tät des Menschen auf den Weg, durch die Ergebnisse der      gemeinverständlichen – Rechts, das durch Sprechen
Wissenschaft die Herrschaft des Menschen zu vermin-         über das Recht letztlich von der Rechtsprechung ver-
dern und letztlich aufzuheben. Allerdings entschwindet      wirklicht wird.
damit die Macht nicht in den Clouds. Es entsteht keine          Algorithmen und Gesetze unterscheiden sich grund-
herrschaftslose Gesellschaft. Ebenso beginnt nicht eine     legend in der Fähigkeit, in die Zukunft vorzugreifen. Der
Herrschaft der Technik. Vielmehr wächst die Macht den       Algorithmus ist aus dem gegenwärtigen Wissen und
Menschen zu, die diese sich selbst programmierenden         Wollen programmiert, kann das Heute nicht verlassen
Computer schaffen und deren Kontrolle durch die Men-        und ein neugestaltetes Morgen veranlassen. Das Gesetz
schen bestimmen. Selbst ein sich selbst programmieren-      hingegen greift in seinen generell-abstrakten Tatbestän-
der Computer könnte durch Menschen neu program-             den so in die Zukunft vor, dass auch der heute noch un-
miert, angehalten oder gänzlich außer Funktion gesetzt      bekannte Fall bereits gelöst wird. Die Rechner können
werden. Die Erfahrung der Menschheit mit unterschied-       Massenvorgänge bewältigen, Komplexität vereinfachen,
lichen Machtsystemen – mit den Hoffnungen von „Phi-         Regel und Ausnahme definieren, rechtlich Erwartetes
losophenkönigen“, mit „begnadeten“ Herrschern, mit          vom Unvorhergesehenen abschichten. Sie bleiben aber
Demokratien und Staatsverträgen – macht glücklicher-        Diener des Rechtsgewährenden, Vorbereitungshilfe des
weise hinreichend sensibel für die Bedrohung durch          Rechtsuchenden. Die strafrechtliche Zumessung einer
neue Diktaturen. Diese Wachsamkeit werden wir gegen-        Schuld, die grundrechtliche Abwägung eines staatlichen
wärtig sensibel entfalten müssen.                           Eingriffs, die familienrechtliche Entscheidung über das
                                                            Verhältnis von Eltern und Kind sind für Programmie-
VII. Anfälligkeit und Wehrhaftigkeit des Rechts             rung und Quantifizierung schlechthin unzugänglich.
                                                                Gegenüber der Moderne der Digitalisierung wird
In dieser technischen Entwicklung ist der Mensch einer-     sich das Recht aber vor allem in seiner Funktion, Maß-
seits autonom, zum freiheitlichen Setzen eigener Verhal-    stäbe zu geben und Verantwortlichkeiten zuzuweisen,
tensmaßstäbe begabt und berechtigt, andererseits auf die    bewähren müssen. Dabei stellt das Recht vor allem
menschliche Gemeinschaft und ihr Recht angewiesen.          Grundsatzfragen, die der Staat mit seinen Organen zu
Das Recht muss den Menschen deshalb vor dem Cha-            beantworten hat:
rakterfehler bewahren, „keinen Gefallen an sich selbst zu      –– Verfolgt eine sich verselbständigende Technik ein
haben“ (Seneca). Selbstbewusstsein auch gegenüber der             erkennbares, legitimes Ziel?
Technik ist Bedingung moderner Freiheit. Zugleich ist          –– Setzt sie dafür angemessene – geeignete, erforderli-
der Mensch, wie Rousseau schreibt, dazu verurteilt, „in           che und zumutbare – Mittel ein?
der Meinung der anderen zu leben“. Er ist den Lenkun-          –– Bleiben die technisch neu entwickelten Wege zur
gen, Bevormundungen, auch der unmerklichen Fremd-                 Zielerreichung im rechtlichen Korridor der bisher
bestimmung durch die moderne Digitaltechnik ausgelie-             gerechtfertigten Mittel oder bedürfen sie entwick-
fert.                                                             lungsbegleitend jeweils einer erneuten Legitimati-
    Recht und Digitaltechnik haben gemeinsam, dass sie            on?
das Regelhafte vermitteln, Sachverhalte im Typus erfas-        –– Welche Instrumente zur Herrschaft über Menschen
sen, ihre Struktur auf das Wiederkehrende ausrichten.             stellt die Technik bereit?
Dadurch wird das Recht für automatisierte Computer-            –– Wer übt diese Herrschaft durch Technik aus und
abläufe zugänglich und anfällig. Das aus Textbausteinen           verantwortet sie?
zusammengesetzte Urteil erleichtert den Richteralltag          –– Wer ist der Herrschaftsbetroffene und wie kann er
elementar, verführt aber auch zu Sachverhaltsdeutun-              die Herrschaft mäßigen, abwehren?

Kirchhof · Künstliche Intelligenz                                                             7

  –– Wem gegenüber sind die Herrschenden für ihre          gewinnen, das noch nicht Abschätzbare als unbekannt
     Herrschaft und deren Wahrnehmung verantwort-          zu definieren und damit der kritischen Beobachtung
     lich?                                                 auszuliefern, die Möglichkeiten der neuen Erkenntnisse
  –– Was sind die Folgen einer Rechtsverletzung mit Hil-   auf das „gute Leben“ auszurichten. Das Recht formt die-
     fe der Technik?                                       se Entwicklung durch das Prinzip der Freiheit, dem indi-
  –– Wer trägt die Folgen?                                 viduellen Schritt zum Besseren, und die parlamentari-
  –– Wie wird die Technik in ihren Chancen und Risiken     sche Gesetzgebung, die das Gesetz stets gegenwartsge-
     sichtbar gemacht, auf Nutzer und Betroffene nach      recht weiterentwickelt.
     verallgemeinerungsfähigen Maßstäben abgestimmt,
     von staatlichen Institutionen überwacht und korri-                 Paul Kirchhof, ehemaliger Richter des Bundesverfas-
     giert?                                                             sungsgerichts, ist Seniorprofessor distinctus für Staats-
                                                                        und Steuerrecht der Universität Heidelberg.
   Wissenschaft und Technik schaffen neues, bisher un-
erkanntes Wissen, praktizieren Unvorhersehbares und                     Autor des 2018 bei Herder erschienenen Buchs „Beherzte
Rätselhaftes, begründen damit auch Furcht und Unsi-                     Freiheit“.

cherheit. Doch ist die Wissenschaft stets auch in der
Lage, das Unvertraute zu erklären und so Vertrauen zu

8   O R D N U N G D E R WI S S E N S C H A F T 1 ( 2 0 2 0 ) , 1 - 8