"Ich spreche, also denke ich " - Handelsblatt

Handelsblatt Essay – Künstliche Intelligenz – 10. Februar 2023

„Ich spreche, also denke ich …“
Seit der ChatGPT-Revolution ist ein regelrechter KI-Hype entstanden.
Tatsächlich sind die Fortschritte der Technologie atemberaubend. Sie wird
die Wirtschafts-, Arbeits- und Lebenswelt radikal verändern - im Positiven
wie im Negativen.
Von Dr. Jens Münchrath
      Lieber Chatbot, hältst du dich für intelligent?

      ChatGPT: Nein, ich bin ein künstlicher Intelligenz-Modell und habe keine
      Fähigkeit zur Selbsteinschätzung oder Emotionen. Mein Ziel ist es, auf
      Anfragen so genau und nützlich wie möglich zu antworten.

      Wie definierst du Intelligenz?

      ChatGPT: Intelligenz kann auf viele verschiedene Arten definiert werden,
      abhängig von Disziplin und Kontext. Im Allgemeinen bezieht sich Intelligenz
      jedoch auf die Fähigkeit, komplexe Probleme zu verstehen und zu lösen. Dies
      umfasst jedoch oft auch kreative und emotionale Komponenten sowie kulturelle
      und praktische Fähigkeiten.

Diese kleine, nicht redigierte Unterhaltung mit jenem Chatbot, der trotz des wenig
geschmeidigen Namens in Rekordzeit Weltberühmtheit erlangte, zeigt gleich
zweierlei: Erstens kommuniziert der Sprachroboter grammatisch nicht unfallfrei,
zweitens sind ebenso anspruchsvolle wie natürliche Dialoge mit dem System
überraschend gut möglich.

Die Fortschritte, die die Künstliche Intelligenz in den vergangenen Jahren gemacht
hat, sind atemberaubend. Die Erfassung, die Simulation oder eben nur die Tatsache,
dass man mit einer Software ein authentisch anmutendes Gespräch führen kann, ist

ein Schritt, den selbst Optimisten in dieser Geschwindigkeit nicht für möglich
gehalten hätten.

Seit den 50er-Jahren arbeiten Wissenschaftler interdisziplinär daran. Linguisten,
Mathematiker, Kybernetiker, Psychologen und Elektrotechniker bemühen sich
seitdem, menschliche Denkprozesse konzeptionell so nachzuvollziehen, dass sie auf
Maschinen übertragen werden können.

Nicht selten standen Euphorie und Hochmut der Protagonisten der KI im Kontrast zu
den Erkenntnissen des Fachs. Auch jetzt heißt es wieder: ChatGPT ist der
Durchbruch, die Zäsur oder gar Revolution. Unbestreitbar ist, dass wir in den
vergangenen drei Jahrzehnten mehr über das Denken erfahren haben als in den 300
Jahren zuvor.

Dennoch: Zu behaupten, die Wissenschaft hätte das Phänomen des Denkens
durchdrungen, wäre vermessen. Zweifel bleiben - nicht nur darüber, wie
leistungsfähig die KI ist oder sein kann, sondern auch, was dieser Forschungs- und
Wirtschaftszweig für unsere Gesellschaften bedeutet oder bedeuten kann. Es geht um
Fragen, die weit in die Anthropologie und Philosophie hineinragen. Es geht - wenn
man so will - um die elementarste aller Fragen: Was ist der Mensch?

Die Kränkungen des Menschen

Eine Gewissheit bleibt: Die potenziellen ökonomischen, sozialen und politischen
Folgen dieser Technologie sind schon auf dem jetzigen Niveau kaum zu überschauen
- und kaum zu unterschätzen. KI wird unser ständiger Begleiter - im Privaten wie im
Beruflichen. KI drängt in alle Wirtschaftsbereiche und wird sie nachhaltig verändern.
Folgerichtig wird die Debatte darüber höchst emotional geführt - wie schon in den
Geburtsjahren der KI.

Die Denkkraft der Silizium-Gehirne sei "so fantastisch, dass wir froh sein können,
wenn sie uns einmal als Haustiere halten", prophezeite KI-Papst Marvin Lee Minsky,
der den Begriff der "Künstlichen Intelligenz" in den 1950er-Jahren ins Leben rief. Da

2

befanden sich die "denkenden" Maschinen allerdings noch auf dem intellektuellen
Niveau von Einzellern.

Die intelligenten Maschinen, die wir schaffen, würden einmal stolz auf uns sein,
prophezeite Danny Hillis, Gründer der Thinking Machines Corporation in den
1980er-Jahren.

Auch die heutigen KI-Apologeten üben sich nicht eben in intellektueller
Bescheidenheit. "Der technologische Fortschritt, den wir in den nächsten 100 Jahren
machen, wird weitaus größer sein als alles, was wir gemacht haben, seit wir das Feuer
kontrolliert und das Rad erfunden haben", prognostiziert der 37 Jahre junge
ChatGPT-Erfinder und OpenAI-Chef Sam Altman, der im Silicon Valley schon jetzt
als Legende gilt. Altmann ist fest davon überzeugt, dass KI in naher Zukunft fast das
gesamte Repertoire menschlicher Arbeiten verrichten kann - und zwar besser.

Maschinen, die ihren Erfinder in dem, was den Menschen ausmacht, überflügeln,
seine Geisteskraft, seine Sprachfähigkeit, seine Kreativität - das ist trotz aller
Möglichkeiten und Chancen, die diese Technologie mit sich bringt, zunächst einmal
ein Schock für jenes Wesen, das sich selbst als Krone der Schöpfung begreift.

Der Verlust von Glaubenssätzen

Aber es ist bei Weitem nicht die erste Kränkung, die der Homo sapiens im Verlauf
der modernen Wissenschaftsgeschichte erfuhr. Der Verlust von Glaubenssätzen stellt
eine Konstante im wissenschaftlichen Fortschritt dar:

Der Astronom Nikolaus Kopernikus verbannte den Menschen samt Erde aus dem
Zentrum des Universums. Der Philosoph Immanuel Kant bewies, dass der Mensch
die Welt da draußen, das "Ding an sich", gar nicht erkennen kann, sondern dass unser
Erkenntnisapparat beträchtlichen Anteil an unserem vermeintlich sicheren Wissen
hat, also die Erkenntnis gewissermaßen formt. Der Naturforscher Charles Darwin
reihte den Menschen als Krone der Schöpfung in die Evolutionskette ein, auf deren
Weg er sich ein paar nicht besonders ansehnliche Verwandte zugelegt hatte. Und der
Psychoanalytiker Sigmund Freud zeigte, dass der Mensch nicht einmal Herr im

3

eigenen Haus sei, sondern durch die unergründliche Tiefe des Unterbewusstseins
gesteuert werde.

"Der Mensch, das Mängelwesen" also, wie Arnold Gehlen feststellte. Was liegt da
näher, als den Versuch zu unternehmen, die perfekte Maschine zu entwickeln.
Gemessen an den eigenen Ansprüchen allerdings sind die KI-Propheten noch weit
von ihren Zielen entfernt. Trotz aller Fortschritte - viele der Grundsatzprobleme, mit
denen schon die erste Generation der KI-Protagonisten zu kämpfen hatte, sind nicht
verschwunden.

Die begrifflichen Unschärfen bleiben

Es beginnt schon mit den begrifflichen Unklarheiten. Was überhaupt bedeutet
Intelligenz? Ganz zu schweigen von der Frage, wie man diese messen kann. Die
empirischen Wissenschaften bemächtigten sich des Phänomens "Intelligenz", lange
bevor es den Begriff der KI überhaupt gab. Wissenschaftler begannen Mitte des 19.
Jahrhunderts, das Volumen und die Masse des menschlichen Gehirns zu bestimmen,
unterschieden zwischen Lang- und Kurzschädlern und zogen gewagte - und, wie man
heute weiß, falsche - Rückschlüsse von der Quantität auf die Qualität.

Zu Beginn des 20. Jahrhunderts entwickelte der deutsche Psychologe William Stern
den Intelligenzquotienten. Es begann die Ära der Tests: Millionenfach mussten
Probanden Zahlenreihen ergänzen, Worte zu Sätzen zusammenfügen oder
mathematische Rätsel lösen. Forscher werteten aus und teilten die Getesteten in
Kategorien ein: von genial über durchschnittlich bis dumm.

Wirklich etwas gebracht in der Frage, was Intelligenz dem Wesen nach ist, haben
auch diese Ansätze kaum. Die Versuche, Intelligenz entlang einer simplen
Linearskala quantitativ zu erfassen, hat bestenfalls für Irritationen gesorgt,
schlimmstenfalls aber auch Schaden angerichtet, zum Beispiel in der Bildungspolitik.

Als Nächstes versuchten Forscher sich an eher qualitativen Ansätzen, indem sie die
Intelligenz zerlegten, etwa in logisches Denkvermögen, Sprachverständnis oder auch
emotionale Intelligenz. Den Weg zur KI-Forschung ebneten schließlich Psychologen,

4

Neurowissenschaftler, Linguisten und Kybernetiker, indem sie sich unter dem Begriff
der Kognitionswissenschaft zusammenschlossen. Nach den Worten der zwei
Begründer des Fachs, Alan Newell und Herbert Simon, sind der programmierte
Computer und der Mensch als Problemlöser beide Arten der Gattung
"informationsverarbeitendes System".

Der Kampf um den Begriff der Intelligenz ist keineswegs beendet - und er illustriert
vor allem eines: Welche Tollkühnheit hinter der Annahme steckt, man könne
menschliche Intelligenz oder den Denkprozess als solchen simulieren, indem man
gigantische Datenmengen durch formale Prozesse schleust.

Die Geheimnisse der Sprache

"Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt", wusste der große
Sprachphilosoph Ludwig Wittgenstein. Das wissen auch die KI-Apologeten, weshalb
sie große Energie darauf verwenden, die natürliche Sprache zu verstehen, zu
simulieren, zu entschlüsseln.

Der Sprachroboter ChatGPT zieht nicht zuletzt deshalb eine so große
Aufmerksamkeit auf sich, weil er die Fortschritte der KI für alle sichtbar macht.
Inzwischen bedient sich nicht nur OpenAI, sondern auch die Rivalen einer neuen
Methode. Die Systeme werden damit gefüttert, was von Menschen geschrieben,
fotografiert und gezeichnet wurde, und sie können nun auf Basis von
Wahrscheinlichkeitsrechnung neue Texte und Bilder erzeugen, die für uns Sinn
ergeben.

Das Geheimnis dahinter: Der Algorithmus nutzt statistische Zusammenhänge
zwischen Wörtern und Wortgruppen, die er in seinen Trainingsdaten aus dem Internet
erkennt. Bei ChatGPT allerdings auf dem Stand des Jahres 2021.

Der Ansatz über das Training des Programms an Texten und damit am
Sprachgebrauch statt über das Verständnis von Inhalten scheint vielversprechender:
Die Ergebnisse wirken verblüffend natürlich. Das System zeigt nicht nur, dass ein
Gespräch mit Künstlicher Intelligenz möglich ist. Das KI-System produziert auf

5

Wunsch auch Texte oder gar Gedichte - wenn auch eher schlechte. Sogar einen
MBA-Abschluss hat ChatGPT schon geschafft, und zwar an der amerikanischen
Wharton School im Fach Operations Management, mit einer soliden Note, wie
Wharton-Professor Christian Terwiesch bestätigt. Und natürlich entfachte die Uni-
Karriere des Chatroboters sofort eine Debatte darüber, ob der Abschluss nicht mehr
über die Qualität der MBAs aussage als über das Talent des Chatbots.

Aber auch diese Zweifel ändern nicht daran, dass ChatGPT die Nutzerinnen und
Nutzer mit seiner erstaunlichen Eloquenz geradezu elektrisiert. Der US-Konzern
Alphabet, der mit Google den Markt der Suchmaschinen dominiert, sah sich jetzt
sogar genötigt, seinen Chatbot Bard nun auch von ausgewählten "Usern" testen zu
lassen.

Der große Wettkampf um die digitale Beherrschung der Sprache zwischen Alphabet
und Microsoft, das zu zehn Prozent an OpenAI beteiligt ist und ChatGPT für seine
Suchmaschine Bing verwenden möchte, hat begonnen.

Die Irrtümer der Sprachroboter

Warum aber sind diese jüngsten Fortschritte im Umgang mit der natürlichen Sprache
von so großer Bedeutung? Wenn wir möchten, dass eine Maschine etwas Bestimmtes
tut, dann müssen wir ihr das sagen. Und die Maschine muss verstehen, was wir ihr
sagen. Das heißt, die Maschine muss den semantischen Gehalt von Botschaften
erfassen können.

Deshalb war es schon Ende der 1950er-Jahre wichtigstes Ziel der KI, eine Maschine
zu bauen, deren linguistisches Verhalten dem des Menschen ähnelt. Der
Mathematiker Alan M. Turing ersann den legendären gleichnamigen Test. Das heißt,
kann ein Mensch, der sich mit einer Maschine unterhält, nicht entscheiden, ob sich
tatsächlich eine Maschine oder ein Mensch dahinter verbirgt, hat die Maschine den
Turing-Test bestanden.

6

ChatGPT dürfte viele solcher Tests mit großer Wahrscheinlichkeit bestehen. Aber
auch dieser Erfolg kann nicht darüber hinwegtäuschen, dass die natürliche Sprache in
vielen Bereichen ein Mysterium bleibt.

Sprache ist nicht logisch. Ganze Generationen von Forschern haben viel Zeit mit dem
Versuch verbracht, gesunden Menschenverstand in Computer einzuprogrammieren,
Trivialitäten zu sammeln, zu systematisieren und mit Regeln zu versehen. Der
Computer musste lernen, dass "vogelfrei" etwas anderes als "frei wie ein Vogel" ist.
Er musste wissen, dass Fischsuppe "Fischsuppe" heißt, weil dort Fisch drin ist, dass
sich aber in einem Bauernomelett kein Bauer befindet. Er musste verstehen, dass
Menschen sich manchmal in Häusern aufhalten, nicht aber umgekehrt. Und ein rein
logisch programmierter Computer wird auf die Frage, "Wissen Sie, wie spät es ist?",
mit Ja antworten, nicht aber die gewünschte Auskunft geben.

Die ethische Dimension

So ist es kein Wunder, dass auch die neue Generation der KI-Sprachsysteme, auch
wenn sie nach anderen Prinzipien entwickelt ist, fehleranfällig bleibt. Der
renommierte Princeton-Informatiker Arvind Narayanan bezeichnet ChatGPT deshalb
etwas abfällig als "Bullshit-Generator". Tatsächlich erzeugt das System zwar
sprachlich geschliffene Antworten, oft aber ohne darauf zu achten, ob sie faktisch
korrekt sind.

OpenAI hat die neuronalen Netze mit riesigen Mengen an Texten, Büchern und
anderen öffentlich zugänglichen Quellen gefüttert, unter anderem mit Wikipedia-
Artikeln. Da dieses Trainingsmaterial oft zutreffende Aussagen enthält, liegt auch der
Bot immer wieder richtig.

Und wenn die Daten gar keine konkreten Informationen hergeben, ergänzt das
Programm einfach das Wahrscheinliche. "Halluzinieren" nennen KI-Forscher das
Phänomen.

"Ich spreche, also denke ich" - das schien das Credo der KI über all die Jahrzehnte zu
sein. Manch einem dämmert inzwischen, dass der umgekehrte Ansatz vielleicht der

7

bessere sein könnte. Letztlich ging es bei der Durchdringung der natürlichen Sprache
immer auch um die Frage: Sind die begrifflichen Fundamente, die einem
sprachlichen Verstehen unterliegen, formalisierbar? Oder sprachphilosophisch
ausgedrückt: Kann sich die Bedeutung eines Satzes aus der rein logisch-syntaktischen
Struktur desselben ergeben? Wahrscheinlich nicht, weshalb die neue KI-Generation
sich auf die statistischen Ansätze konzentriert, die wie ChatGPT mit
Wahrscheinlichkeiten arbeiten.

Doch auch das hindert die KI-Apologeten nicht daran, oft so irreführende
Analogieschlüsse zu ziehen. Da die Fähigkeit, Daten zu speichern, irgendwie dem
Vermögen entspricht, das wir beim Menschen Gedächtnis nennen, und weil die
Fähigkeit, logischen Verfahren zu folgen, irgendwie dem Vermögen entspricht, das
wir beim Menschen logisches Folgern nennen, kommen viele Wissenschaftler zu dem
Schluss, dass die Tätigkeit der Computer irgendwie dem entspricht, was wir Denken
nennen.

Trotz aller Hybris - der Fortschritt ist unverkennbar. Jetzt geht es um die Frage, wie
weit KI-Forscher ihre Methoden noch in das Reich des Intellekts ausdehnen können.

Wie steht es um die Kreativität, die Intuition, das Urteilsvermögen oder gar das
Gefühlsvermögen? Was ist mit dem Bereich des Unbewussten, das eine so große
Rolle auch beim Erkenntnisprozess des Menschen spielt? Lässt sich auch das
menschliche Gedächtnis simulieren, das oft planlos, unstrukturiert, fragmentarisch
arbeitet?

Auch bei der Beantwortung dieser Fragen gilt: weniger Hybris, mehr Demut. Denn so
absurd es scheint, das Gedächtnis eines Menschen mit dem Speicher eines Computers
zu vergleichen, so abstrus ist die Vorstellung, man könne die Kreativität des
Menschen simulieren, indem man Programmen ein Zufallselement implementiert.

Die Würde des Menschen

Aber auch die Skeptiker und Kritiker der KI müssen eingestehen: Es wäre geradezu
tollkühn, auf Basis der jetzigen Erkenntnisse Aussagen darüber zu treffen, was die

8

Künstliche Intelligenz unmöglich leisten kann. Aus der Unfähigkeit des Geistes,
seine eigene Natur zu erfassen, zu schließen, dass es unmöglich sei, eine denkende
Maschine zu bauen, ist falsch. Ja, das Unbehagen, die Geheimnisse des Phänomens
Geist den reduktionistischen Erklärungsversuchen der exakten Wissenschaften im
Allgemeinen und der KI im Speziellen preiszugeben, bleibt groß. Und ja, es gibt sie,
jene Anthropologen und Philosophen, die die Undurchdringlichkeit des menschlichen
Geistes als Beweis seiner wahren Größe fehlinterpretieren. Der Selbstmystifizierung
des Menschen liegt wahrscheinlich eine ähnliche Hybris zugrunde wie den
Prophezeiungen der KI-Apologeten, die nur ungern Erkenntnislücken eingestehen.

Natürlich konfrontiert die KI den Menschen mit der Frage nach sich selbst. Dass der
Mensch sich desto stärker seines eigenen Definitionsmerkmals beraubt, je
erfolgreicher er in seiner KI-Forschung ist, stimmt so nicht. Die menschliche Würde
sollte sich nicht danach bemessen lassen, was ein Computer zu leisten imstande ist
oder nicht.

Die Science-Fiction-Parodie "Per Anhalter durch die Galaxis" von Douglas Adams
brachte das Spannungsverhältnis zwischen Mensch und Technik gut auf den Punkt.
In diesem Klassiker geht es um einen Supercomputer, der alle Daten über die Welt
und das Weltall kennt. Seine Aufgabe: Er soll den Sinn des Universums und des
Daseins herausfinden. Das Ergebnis: 42.

Zu behaupten, die Wissenschaft hätte das Phänomen des Denkens durchdrungen,
wäre vermessen.

Die menschliche Würde sollte sich nicht danach bemessen lassen, was ein Computer
zu leisten imstande ist oder nicht.

9