Login - Künstliche Intelligenz - regio iT
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
01_2019
login
Das Wissensmagazin der regio iT
Künstliche
Intelligenz
login | editorial 01_2019 inhalt | Künstliche Intelligenz
Künstliche Intelligenz ist nicht intelligent. Künstliche Intelli- TITEL INSIDE OUT
genz und ihre Methoden der statistischen Analyse sollten uns daher nicht
mehr Angst machen als Statistik. Das bedeutet nicht, dass KI harmlos ist. 04 | infografik 26 | verwaltung
Zu Risiken und Nebenwirkungen regio iT Projektleiterin Yasmeen
künstlicher Intelligenz. Babar über KI als Schlüssel-
06
Künstliche Intelligenz und ihre Algorithmen sind nicht technologie und einen Alexa-Skill
neutral. Sie reflektieren die Absichten und unbewussten Vorurteile 17
06 | im gespräch für Bürger.
von Programmierern, Datenanalysten sowie Unternehmen und aller Par- Wir sollten anfangen, über den
teien, die an der Entwicklung und Implementierung dieser Technologie Homo Digitalis nachzudenken, 28 | vernetzen
beteiligt sind. meint der Ökonom und Philosoph Delbrück und das Internet der Dinge.
Birger Priddat.
29 | nachgefragt
Es geht nicht darum, die Technologie zu regulieren, die 10 | deep learning Siri, Susi oder etwa Alexa?
künstliche Intelligenz ermöglicht, sondern das, was Menschen Übersetzungsroboter wie DeepL Mitarbeiterinnen und Mitarbeiter
damit machen. Es geht darum, die soziale und ethische Dimension von sind die Vorhut der KI. Nun sind der regio iT über ihr Verhältnis zu
KI zu verstehen. Der Einsatz dieser Technologie kann zum Beispiel Diskri- sie da. virtuellen Assistenten.
minierung verstärken oder kompensieren. Das hängt von den Absichten
der Menschen ab, die sie nutzen. 14 | spielen
Kawalali eilaf! Wie ich versuchte,
DeepL auszutricksen. Ein CAMPUS
Deshalb ist es wichtig, eine soziale Kompetenz für diese Selbstversuch.
Systeme zu entwickeln. Wenn wir mit KI ausgestatteten Scoring- 30 | zoom
Systemen blind vertrauen, die zum Beispiel Kunden auf ihre Kreditwürdig- 17 | denken Rembrandt aus dem Rechner.
10
keit überprüfen, dann ist das fatal. Wenn wir stattdessen hingehen und Warum sind Computer dumm
sagen, was bedeutet dieses Ergebnis denn eigentlich, wie müssen wir das wie Brot? 32 | legal tech
interpretieren, wie sinnvoll ist es überhaupt – dann sind wir auf dem rich- Einspruch! Der Streit ums Recht
tigen Weg. Denn die wichtigste Frage in Bezug auf künstliche Intelligenz 19 | wissenschaft wird automatisiert: Was das für
ist nicht: Wo wird das alles enden? Sondern: Wo wollen wir eigentlich hin? Der Hype um den Turingtest. Verwaltungen bedeutet.
23 | kolumne
Eine erkenntnisreiche Lektüre wünscht Wäre die Welt perfekt, könnten wir
Ihre Redaktion login sie den Algorithmen überlassen. LOGOUT
r m ich! 24 | zitate 34 | gewinnspiel
ü
Abo f Ausg
abe
keine
Was sollen wir von künstlicher Mensch, Roboter!
chten en? Intelligenz halten? Vorschau, Impressum
Sie m ö rpass
l o g in ve ioit.d
e
von
t io n @reg t „Ab
o“
e r redak S t i c hwor 35 | lieblingsorte
Üb em nt
nter d neme Wieso es Städteregionsrat
n e n Sie u s e s Abon t
kön lo erze i
osten d jed Tim Grüttemeier auf den Flugplatz
ein k n (un 35
t e l l e e n). Merzbrück zieht.
bes ndig
i e d er kü
w
2 login | 01_2019 login | 01_2019 3
TITEL
infografik | Zu Risiken und Nebenwirkungen
künstlicher Intelligenz
Wie Mitarbeiterinnen und Mitarbeiter der regio iT den Einsatz von KI
einschätzen. INFOGRAFIK: OLIVIER ARCIOLI
20 % 19 % 61 %
Durchführung von
Erstellen eines Vorstellungsgesprächen.
36 % Risiko und Nutzen sind
(Zeitungs-)Berichts
ungefähr gleich groß. 32 % Auswahl eines
über den Aktienkurs
eines Unternehmens. Bewerbers für
96 %
einen Arbeitsplatz.
33 %
21 %
82 %
35 % 4%
Nutzen ist
größer Ist der Einsatz von KI Risiko ist größer 6%
als Risiko. Erstellen eines
Ihrer Meinung nach als Nutzen.
(Zeitungs-)Berichts
mit mehr Risiko oder über ein Fußballspiel. 12 %
An der Umfrage beteiligten sich 75 von 420 Beschäftigten der regio iT. Zwei Drittel der Beteiligten waren männlich, ein Drittel weiblich.
mehr Nutzen verbun-
35 % Bei welchen Aufgaben
den – oder sind Risiko
und Nutzen ungefähr befürworten Sie es, wenn
gleich groß? Maschinen mit KI sie
übernehmen, bei welchen
Aufgaben lehnen Sie 75 % 18 % 7%
29 % dies ab?
Steuerung von
Waffensystemen in
15 % einer kriegerischen
sind der Meinung: Auseinandersetzung.
33 % weniger als ein Zehntel.
8%
Weiß
56 %
nicht.
35 % Auswahl und
Zulassung für eine
Steuerung Schule oder Universität.
sind der Meinung: 27 %
von Autos im
Was denken Sie: Wie bis zu einem Viertel.
Straßenverkehr.
groß ist der Anteil an
60 % 16 % 24 %
Ihrem Job, der in den
nächsten 5 Jahren 26 %
durch KI automatisiert 20 %
werden könnte? Benotung v on Klausuren.
sind der Meinung:
bis zu einem Drittel. 47 %
38 %
3% 5% Gesprächspartner an
nehmen an, dass Lehne ich ab
ihr Job komplett einer Service-Hotline 25 %
automatisiert sind der Meinung: eines Unternehmens.
bis zur Hälfte. Weiß nicht
werden könnte.
sind der Meinung:
4% mehr als die Hälfte. 37 % Befürworte ich
4 login | 01_2019 login | 01_2019 5
TITEL
login | Elon Musk und Mark wäre es, wenn diese Medtech- DAS IST EIN
Zuckerberg streiten um die künst- Algorithmen lernen, erste Anzei-
liche Intelligenz: Musk warnt
vor ihr, Zuckerberg hält sie für
chen von aufziehenden Krank-
heiten zu deuten. Und dass sie im
EVOLUTIONSSCHRITT
segensreich. Beide reden davon, Laufe der Zeit den Körper, den sie
dass wir erst am Anfang einer betreuen, immer besser kennen- VERGLEICHBAR MIT
Epoche der Transformation lernen, auf ihre statistische Art.
stehen. Was sollen wir von künst-
licher Intelligenz halten?
Und zwar besser, als wir es je zuvor
hätten tun können. Ich vermute,
DER ERFINDUNG DER
BIRGER PRIDDAT | Die vor ihr war-
nen, befürchten, dass die Maschi-
dass diese selbstlernenden Syste-
me auf eine Art und Weise „ver- SCHRIFTZEICHEN
nen die Macht übernehmen. Viele nünftig“ werden, wie wir es uns
Science-Fiction-Filme malen das in manchmal erträumen, aber selbst VOR 10 000 JAHREN.
grausamen Geschichten aus. Doch nicht schaffen.
es gibt keinen Kampf zwischen
Mensch und Maschine. Mit solchen Amazon zum Beispiel hat ein eingefordert, das ist richtig. Aber
Bildern verstehen wir nicht, was Patent, um körperliche Zustände Begrenzungen sind immer mit Ein-
auf uns zukommen wird. Maschinen an der Stimme zu erkennen. Nicht schränkungen der Benutzbarkeit
sind ein Teil von uns. Wir müssten nur Husten, sondern auch Depres- dieser komfortablen Systeme und
uns fragen, was wir lernen könnten sionen. Alexa lässt grüßen. Kommunikationsmöglichkeiten
im gespräch | „Es gibt keinen Kampf von den Maschinen. Natürlich brauchen wir künftig
mehr Algorithmen-Transparenz für
verbunden. Und da sehe ich mo-
mentan kein so stark anschwellen-
zwischen Mensch und Maschine.“ Sie schreiben, künstliche Intelli-
genz könne uns helfen, zu besse-
Unternehmen. Aber man muss
auch sagen: Leute, ihr könnt dage-
des Bewusstsein, dass es politische
Entscheidungen in dieser Richtung
ren Menschen zu werden: Wie gen vorgehen, aber dann nutzt mitträgt. In dem Moment, wo die
Wirtschaftsphilosoph Birger Priddat über die Verschmelzung soll das gehen? bitte diese ganze Technologie auch Verbraucher beginnen, ihre Nach-
Selbstlernende Algorithmen beob- nicht, lasst euch nicht verführen frage zu senken, würden die Kon-
von Mensch und Avatar zum Homo Digitalis.
achten durch Sensoren und durch davon. Doch durch diese Appelle zerne sofort darauf eingehen. Das
Auswertung unserer Netzaktivitä- erreicht man nur marginale Ver- Problem ist nur: Das Gegensteuern
DAS GESPRÄCH FÜHRTE BIRGIT-SARA FABIANEK | FOTOS: ROBERT POORTEN
ten unsere Verhaltensweisen, Mus- schiebungen. Es ist einfach nicht funktioniert nur über Masseneffek-
ter und Konventionen. Dadurch so, dass der Staat oder die Gesell- te, nicht individuell. Aber das pas-
lernen sie uns kennen und werden schaft die Entwicklung von KI fein- siert nicht, weil diese Möglichkeiten
Routinen elegant bewältigen kön- steuern könnten. Im Gegenteil: Die und Systeme Teil unserer Kultur
nen, weil sie einen statistischen Technologien entwickeln ständig sind. Aktuell ist die Forschung an
Blick darauf haben. Man wird sich neue Anwendungsbereiche und der Reihe zu sagen, welche Ände-
daran gewöhnen, dass selbstler- Verwertungsmöglichkeiten. rungen unseres Lebensstils eigent-
nende Algorithmen uns in Form lich nicht gut sind für Menschen.
persönlicher Assistenten oder Ava- Das sehen Sie als Volkswirt und Und dann muss man daraus
tare stets begleiten: Im Ohr viel- Philosoph ganz entspannt? Schlüsse ziehen, die sozial- oder
leicht oder an der Brille – ich setze Es lässt sich nicht verbieten. rechtspolitisch umgesetzt werden,
sie auf und irgendwann wieder ab. KI-Geräte und Systeme sind mitt- Datenschutz zum Beispiel. Aber
Von einer bestimmten Stufe an lerweile so eingewoben in den Technologie ist nie zuerst politisch
sind diese Avatare so intelligent, modernen Lebensstil und das Ver- befragt worden, sondern immer
dass wir mit ihnen kommunizieren halten – wenn Sie mit der Position über Unternehmer in die Gesell-
können. kommen, darüber müsse demo- schaft gekommen. Dampfmaschine,
kratisch entschieden werden, Eisenbahn, Elektrizität, Auto – deren
Was sollen diese Systeme denn werden vier von fünf Bürgern sagen: Einsatz liegen keine politischen
leisten? Ja, wir wollen das! Die Moral hat Entscheidungen zu Grunde. Das ist
Sie analysieren unser Verhalten, an dieser Stelle keine wirkliche überhaupt kein Demokratie-Thema.
unseren Sprachgebrauch, unsere Adresse: Wer soll sie denn umset- Das ist ein Produktions-Konsum-
Routinen und Stereotypen. Gekop- zen? Thema. Natürlich können wir kultur-
pelt mit Sensoren auf der Haut kritisch sagen: Wollen wir das? Aber
oder im Körper implantiert, werden Der Rechtsstaat. wo gibt es den Hebel zu sagen: Das
sie zum Beispiel genaue Medikati- Bestimmte Rechte an persönlichen wollen wir nicht? Für solche innova-
onsdaten liefern. Wünschenswert Daten werden politisch bereits tiven Prozesse gibt es keine Hebel. →
6 login | 01_2019 login | 01_2019 7
TITEL
→ Sie sprachen eingangs davon, und durchkämmt werden kann. logisch verfügbarer Evolutions- Nicht an Schulen. Es gibt einzelne
dass wir von intelligenten Ma- „Ich“ dagegen ist das Können, das schritt der Menschheit – in etwa Lehrer, die in diese Richtung gehen,
schinen lernen könnten, indem mit dem, was mein Avatar weiß, vergleichbar mit der Erfindung der aber kein Lehramtskandidat wird
wir mit ihnen kommunizieren. besser umgehen kann. Schriftzeichen vor 10 000 Jahren. dafür ausgebildet. Was ich sehe,
Wie soll ich mir das vorstellen? Das hilft mir, mit meinem Gehirn ist, dass die Schüler längst begon-
Die wirkliche Interaktion beginnt Können Sie ein Beispiel dafür anders arbeiten zu können als vor- nen haben, es selbst so zu machen.
dort, wo nicht nur der Algorithmus nennen? her. Das ist für mich ein Evolutions- Sie holen sich alles aus dem Netz
lernt, uns immer besser zu verste- Nehmen wir an, ich schreibe ein schritt – nur, dass nicht der Körper – das tun sie jetzt schon, allerdings
hen, sondern wir beginnen, vom Buch über die Welt der Porzellan- sich weiterentwickelt, sondern unstrukturiert, spontan und nicht
Algorithmus zu lernen. Weil uns tassen und Porzellanmanufakturen. Menschen im Zusammenhang mit systematisch. Ich halte den momen-
Maschinen so gut beobachten, kön- Dann sage ich zu meinem Avatar, einer Technologie. Von dieser Aus- tanen Zustand für eine schwierige
nen wir daraus lernen, uns besser nennen wir ihn Otto: „Otto, such weitung des Denkraums erwarte Übergangsphase.
zu verhalten, das heißt, zusammen mir alle Porzellanmanufakturen ich mir etwas. Und ich frage mich,
mit den Maschinen ein Verhaltens- der Welt zusammen. Gib mir Bilder wieso sich die Kritik dermaßen auf Wäre es unfair, wenn mein Avatar
niveau zu erreichen, dass weder und Interpretationen über Produk- dem privaten Konsumfeld abarbei- statt meiner in der Prüfung ant-
die Maschinen noch wir allein je tionsweisen, Mengen, Varietäten, tet – statt die Felder zu sehen, wo wortet?
erreichen könnten. Die Avatare Preise“, und so weiter. Warum soll KI für uns genutzt werden könnte, Nein. Es ginge in der Prüfung ja
werden unser zweites Ich, das uns ich das stundenlang im Internet wo noch Gestaltungsmöglichkeiten nicht mehr darum, Gelerntes abzu-
in vielen Lagen berät, was sinn- suchen? Oder ich sage ihm: „Nenn bestehen. fragen – alles, was man wissen
vollerweise zu tun, zu entscheiden, mir alle Artikel und Bücher, die im kann, zieht sich Otto aus der Cloud.
wie zu reagieren wäre. Die eigent- letzten Jahr über neue Wachstums- Woran denken Sie? Dazu müssten die Prüfungen eben
liche Kompetenz ist die Verknüp- theorien geschrieben worden sind.“ An Bildung und Schulen. Warum völlig anders aussehen. Bildung
fung des Avatars mit dem Netz und Und wenn ich die Liste innerhalb sollen denn nicht alle Schüler einen beruht dann nicht mehr auf massi-
der Cloud. Der persönliche Assis- kürzester Zeit habe: „Gib mir von kleinen Agenten haben, der ihnen vem persönlichem Wissen – das
tent wäre kein blinder Automat, diesen Büchern eine kurze Zusam- beim Lernen hilft? leistet der Avatar – sondern auf
sondern ein aus der Biografie- menfassung. Worauf kommt es an?“ Können, das heißt auf dem Umgang
begleitung erwachsener Teil des Und dann weiß ich sehr schnell: Brauchen wir denn dann über- mit dem Wissen: auf Problem-
Ichs, der uns in manchen Aspekten Aha, das ist der Raum, in dem ich haupt noch Schulen? bewusstsein, Reflexion und Lö-
besser kennt als wir uns selbst. jetzt denken muss. Darauf kann ich Ja, um gemeinsam darüber zu sungskompetenz. Dazu brauchen
meine eigene Theorie aufbauen. reden und herauszufinden: Was ist wir die Datenverarbeitungsmög-
Was meinen Sie mit „besser Und wenn ich das getan habe, kann relevant? Um überhaupt Urteile lichkeiten persönlicher Avatare –
kennen“? ich sagen: „Otto, prüf doch mal, ob bilden zu können und Probleme zu schließlich wird unser Leben als
In Fragen der kognitiven Stringenz, andere nicht schon was Ähnliches lösen. Das müssen wir alle lernen. Menschen einer globalen hoch-
in der Erinnerung und der Breite geschrieben haben.“ Das spart mir Dann sind wir ausgebildet für die technisieren Gemeinschaft, in der
des präsenten Wissens. Besser ken- wochenlange Recherche. Wissensgesellschaft. Man macht im alles mit allem verflochten ist,
nen hieße auch: Dass unser Avatar Unterricht nur noch das, worüber nicht einfacher, sondern immer Birger Priddat ist seit 2017 Seniorprofessor
uns auf Widersprüche aufmerksam Sie setzen darauf, dass künst- man tatsächlich reden muss, um es komplexer. Und der Avatar ist da-
für Wirtschaft und Philosophie der Wirtschaftsfakultät
macht, Paradoxien aufzeigt, Erfah- liche Intelligenz Ihnen beim zu verstehen. bei nicht nur ein persönlicher
rungen einspielt, die wir vergessen Denken hilft? Assistent, sondern wächst und ent- der Universität Witten/Herdecke. Von 1991 bis 2003
haben: Der Avatar weiß ja alles, Nein, ich setze darauf, dass ich Lernen tut man dann mit seinem wickelt sich mit mir. Nur wir beide und von 2009 bis 2016 war er dort auf dem Lehrstuhl
was wir jemals gesagt, getan und damit mehr Zeit zum Denken habe. smarten Assistenten? zusammen sind Homo Digitalis. Das
für Volkswirtschaft und Philosophie. Von 2003 bis 2007
kommuniziert haben. Er belügt uns Diese Systeme können alles, was Genau. Das kann man Zuhause zu denken, fällt uns sehr schwer;
nicht und führt uns Konflikte vor publiziert ist, danach untersuchen, machen oder wo auch immer. Wenn wir sehen Mensch und Maschine oft lehrte er an der Zeppelin Universität in Friedrichshafen
Augen, wo wir es vorziehen würden ob es für mich relevant ist. man etwas nicht versteht, fragt man noch als Gegensätze. (Mitgründer). Seine Forschungsgebiete sind Institutio-
zu verdrängen. Er fordert uns damit Otto. Und Otto sagt: „Du verstehst
zu Offenheit uns selbst gegenüber Aber wodurch lernen sie denn, nenökonomie, Theoriegeschichte sowie Wirtschafts-
das mit der Thermodynamik nicht? Und Sie sehen es mehr als
heraus und ermöglicht uns mehr was relevant ist und was nicht? Ich zeig dir das mal. Wo glaubst du, symbiotische Intelligenz. ethik und politische Philosophie. Darüber hinaus forscht
Selbsterkenntnis. Wir können nicht Durch mich! Ich sage etwa „ah, das liegt das Problem?“ Durch solche Genau. Die nicht zuletzt davon er über die Zusammenhänge zwischen Kultur, Kunst
mehr unschuldig verdrängend ist interessant“, und rede mit dem Dialoge wird Lernen viel persönli- abhängt, dass wir immer Strom
handeln. System und das System beginnt cher. Und Otto merkt sich auch die und Energie haben werden. und Ökonomie. Birger Priddat lebt mit seiner Frau in
allmählich zu verstehen, was ich eigene Lernkurve, dafür braucht Witten.
Welche Aufgabe bleibt uns als will. Es wird der ausgelagerte Teil man keine Lehrer mehr.
Mensch? meines Gehirns, mein Komplemen-
Der Avatar ist der Speicher des tärgehirn mit Zugriff auf die Cloud. Sehen Sie Ansätze, wo das schon
Wissens, das jederzeit neu sortiert Das ist gewissermaßen ein techno- gemacht wird?
8 login | 01_2019 login | 01_2019 9
TITEL
deep learning | Viel dazugelernt
Sprachroboter wie das Übersetzungsprogramm DeepL aus Köln
gelten seit langer Zeit als Vorhut der KI-Revolution. Jetzt sind sie da.
TEXT: BERND MÜLLENDER
Vor knapp zwei Jahren ging der Übersetzungsdienst eigene Programme, sogenannte Crawler entwickelt,
einer kleinen Kölner Firma online. Er nennt sich DeepL mit denen Suchroboter das Netz nach bilingualen
und versprach, besser zu sein als alles bisher Dage- Satzpaaren durchkämmt haben, also Übersetzungen
wesene. Den Beweis dafür lieferte ein Blindtest. Die von Texten quer durch alle mögliche Sprachen, die
Erfinder von DeepL ließen 100 Sätze von Google, schon existieren. Die Ausbeute ist immens. „Der
Microsoft, Facebook und dem eigenen Programm über- Grundgedanke war“, erklärte einer der zehn DeepL-
setzen. Professionelle Übersetzer kürten dann den Programmierer kürzlich dem Spiegel, „wenn man
Sieger – ohne zu wissen, welcher Text von wem stammt. etwas übersetzen will, hat es wahrscheinlich irgend-
Das überraschende Ergebnis: DeepL gewann dreimal jemand schon mal gemacht. Man muss es nur finden.“
häufiger als alle anderen. Intelligentes Recycling als Erfolgsrezept.
Nachdem DeepL diese Datenmengen aufgespürt hatte,
galt es, sie aufzubereiten, zu sortieren, teils auch von
DER WISSENSDURST DER NUTZER Hand, zu indizieren und sinnvoll zu kombinieren. Die
Daten werden kuratiert, heißt das. So entstand die Basis
MACHT DIE KÜNSTLICHE für ein neues neuronales Sprachnetz. Die Programme
werden laufend trainiert. Auf welche Weise? Das ist ein
INTELLIGENZ VON DEEPL IMMER noch größeres Betriebsgeheimnis. Der Clou des neuro-
nalen Sprachnetzes besteht jedenfalls darin, dass der
Sprachroboter durch jede neue Suchanfrage weiter
SCHLAUER. lernt, sein inneres Wörterbuch erweitert, Übersetzungs-
alternativen ergänzt. Kurz: Jede Suchanfrage spinnt
das neuronale Netz feiner, was entscheidend ist für den
Das Prinzip ist bei allen Sprachrobotern gleich: In ein aktuellen Qualitätsvorsprung von DeepL.
Textfeld wird der Originaltext eingespeist, daneben
© akg-images / MPortfolio / Electa
erscheint in Windeseile – dank neuronaler Netze – die Die künstlichen neuronalen Netze sind so gebaut und
entsprechende Übersetzung. Noch treten dabei immer programmiert, dass jedes Wort in Vektoren dargestellt
wieder Fehler auf, aber diese Systeme werden ständig wird, in vieldimensionalen Räumen. Offenbar nehmen
besser. Mittlerweile werde global mehr Sprache ma- einzelne Wörter in den monströsen neuronalen Sprach-
schinell übersetzt als von Menschen, schätzen Experten. netzen bis zu tausend Dimensionen ein; ähnliche Be-
„Die Qualität hat dazu geführt, dass jetzt auch profes- griffe existieren im engmaschigen Sprachennetz in der
sionelle Übersetzungsdienste bereit sind, damit zu Nähe. So verstehen die neuronalen Netze Synonyme
arbeiten“, sagt Martin Volk, Professor am Institut für von Wörtern. Das ist ein riesiger Vorteil gegenüber der
Computerlinguistik der Uni Zürich. Die Texte von DeepL statistischen Methode, für die „Katze“ und „Katzen“ Der Turmbau zu Babel blieb bekanntlich unvollendet, weil
gehen in Millisekunden zu einem Mega-Rechner in zwei vollkommen unabhängige Begriffe sind. „Es ist Gott eine große Sprachverwirrung über das Menschengeschlecht brachte,
Island. Der schafft in einer Sekunde eine Million Wörter toll, dass diese Netze mit Vektoren rechnen können“,
mit der wir uns bis heute herumschlagen. Künstliche Intelligenz hat das
zu übersetzen; das entspricht fünf Billiarden Rechen- sagt Josef van Genabith, Lehrstuhlinhaber für Trans-
operationen. nationale Sprachtechnologie an der Universität des Potenzial, die alttestamentliche Zumutung des vielsprachigen Nichtver-
Saarlandes. „Man kann zum Beispiel den Vektor von stehens auf der Welt zu lindern. Schon heute werde global mehr Sprache
Wieso ist DeepL eigentlich so gut? Details verrät das ‚Japan‘ nehmen. Subtrahiert man den Vektor von maschinell übersetzt als von Menschen, schätzen Experten.
Unternehmen nicht. Was man weiß: Die Firma hat ‚Sushi‘ und addiert ‚Deutschland‘, dann kommt →
10 login | 01_2019 login | 01_2019 11
TITEL
→ ‚Bratwurst‘ raus.“ Aus den einzelnen Wörtern baut Deep Learning
das System eine neuronale Repräsentation für den
ganzen Satz, den es dann übersetzt. So erkennt es den Der Begriff bezeichnet maschinelles Lernen,
Kontext besser, weil einzelne Satzteile nicht unabhän- das auf der Vernetzung künstlicher Neuronen
gig voneinander übersetzt werden. basiert, grob vergleichbar mit denen im
menschlichen Gehirn. Diese künstlichen neu-
Fachleute mutmaßen, DeepL nutze als erster Anbieter
konvolutionale Netzwerke, das heißt: sich auf- und ronalen Netze werden mit riesigen Mengen
zusammenfaltende Systeme von Wörtern und Wort- von Daten gefüttert. So sind sie imstande,
umgebungen, variabel vieldimensional verwoben. Verknüpfungen und Häufigkeiten festzustel-
Zumindest hat DeepL diese Falttechnik im hochdimen-
sionalen Raum und dort in tiefen verborgenen Schich- len, ihr Wissen für neue Funktionen zu nutzen
ten bislang nicht dementiert. und selbstständig zu lernen. Übersetzung,
Bilderkennung, Textinterpretation oder aber
Der Erfolg erstaunt auch die Macher. Manches, so einer
die Wahrscheinlichkeit eines Kreditkarten-
der DeepL-Programmierer, „können wir selbst nicht
restlos erklären.“ Vor allem das Übersetzungspaar betrugs sind Fähigkeiten, die diese Systeme
Chinesisch/Spanisch funktioniert besser als erwartet – sich aneignen können. Nötig sind dazu ge-
und keiner weiß so recht, warum. Es könne ein wenig waltige Mengen an Daten.
nervös machen, schrieb der Spiegel, „dass eine Techno-
logie mit so weitreichendem Potenzial in den Händen
von ein paar Mathematikern liegt, ob in Köln oder
Kalifornien, die selbst nicht genau wissen, was ihre Schnittstelle für Profis
Geschöpfe so treiben.“
Neben der Gratisübersetzung kürzerer Texte
Offenbar lernt DeepL tatsächlich autonom, so kommu- stellt DeepL eine Programmierschnittstelle
nizierte es auch einmal die Firma: Learning by doing
zur Verfügung. So kann die Technik auch in
mit jeder Übersetzungsanfrage. Neue Sprachmuster
werden erkannt und verarbeitet, die schon nächstes anderen Produkten wie digitalen Assistenten,
Mal helfen können. Wir Nutzer füttern also die Maschine Wörterbüchern, Sprachlern-Anwendungen
‒ und sie kann mit besserem Output verdauen. Unser und professionellen Übersetzungsprogrammen
Wissensdurst macht die künstliche Intelligenz intelli-
eingesetzt werden. Auch die regio iT greift
genter. DeepL-Gründer Gereon Frahling hat 2017 bei
einem internen Vortrag an der Universität Paderborn für ihren Alexa-Skill für den Bürgerservice auf
gesagt, er habe einmal auf die Frage „Wann übersetzt diese Schnittstelle zurück.
die Maschine besser als ein professioneller Übersetzer?“
vor kurzem noch „niemals” geantwortet. Das würde
er mittlerweile nicht mehr sagen.
»NIMMT MAN DEN VEKTOR VON JAPAN,
SUBTRAHIERT DEN VEKTOR VON
1979 tauchte der Babelfish im
SUSHI UND ADDIERT DEUTSCHLAND, Roman „Per Anhalter durch die
Galaxis“ auf. Dieses von Autor
DANN KOMMT BRATWURST RAUS.« Douglas Adams erfundene Wesen
Josef van Genabith, Sprachtechnologe übersetzt für seinen Nutzer alle
© Douglas Adams / BBC Studios
Sprachen, sobald man ihn sich ins
Ohr setzt. 2019 sind Übersetzungs-
roboter wie DeepL nah dran,
Douglas Adams Traum vom poly-
glotten Babelfish einzulösen.
12 login | 01_2019 login | 01_2019 13
TITEL
MORDSTREIFEN
spielen | Kawalali eilaf – oder wie
ich versuchte, DeepL auszutricksen
HELL ALAAF
Mit mancher Redewendung oder mit Wortspielen tut sich das
mit neuronalen Netzen arbeitende Übersetzungsprogramm
DeepL noch schwer. Doch den sprachlichen Alltag bewältigt es
immer besser. Ein Selbstversuch von Bernd Müllender.
Ja, das wollen wir doch mal sehen! Diese Maschine will sich also in den chen zu ändern. Überraschung: Ein paar Wochen später liefert DeepL schon
Labyrinthen hochsensibler Sprachen versuchen, vor allem in den beson- Mordstreifen für Moordstrookje. Ist das Programm durch meine neugierige
deren Feinheiten der Sprache von Schiller, Goethe und meinetwegen auch Anfrage tatsächlich wissensdurstig geworden ‒ und hat tief in seinen algo-
Angela Merkel. Deutsche Sprache – schwere Sprache, verstehst du, lieber rithmischen Falt-Räumen quasi in einem virtuellen Wörterbuch nachge-
DeepL-Roboter? Ja, das tut er: German language, difficult language. Auch guckt?
französisch: Langue allemande, langue difficile oder spanisch: Lengua
alemana, lengua difícil. Russisch glauben wir einfach mal: Немецкий язык, Make the world Greta again ist einer der Slogans rund um den Klima-
EVERYONE ONLY HEARS WHAT
сложный язык. Rückübersetzt wird es zu: Deutsche Sprache, komplexe protest der jungen Schwedin Greta Thunberg. DeepL holt ganz groß aus:
Sprache. Machen Sie die Welt wieder zu Greta. Pons und Google haben den gleichen
Vorschlag. Wortspiele sind aber auch schwierig, gell? Apropos „gell“ : Da
Natürlich ist es wohlfeil, eine Maschine austricksen zu wollen. Bei kreati- könnte man im Englischen doch auf isn‘t it? kommen. Tut DeepL aber nicht
ven Marketing-Texten, technischen Übersetzungen, Redewendungen, bei und bietet stattdessen shrill an. Das heißt schrill. It is not.
DEUTSCHE SPRACHE
KOMPLEXE SPRACHE
Literatur, Ironie und besonders Lyrik muss auch der smarteste Apparat
schwächeln. Zwischen den Zeilen zu lesen bleibt Domäne des Menschen. Kölle Alaaf lässt DeepL in allen Sprachen ahnungslos unübersetzt, bietet
So heißt es. Auch bei internationalen juristischen Feinheiten wird man im Englischen aber eine Alternative an: Hell Alaaf. Dass ein Kölner Überset-
nicht so schnell alles Vertrauen in Big Data setzen. Immer mit dem Hin- zungsprogramm so etwas erlaubt! Karnevalistisch gesehen gewinnt das
weis: noch. polyglottere Google, das auch Arabisch im Programm hat. Da heiße Kölle
THEY UNDERSTAND
Alaaf: kawalali eilaf. Keine wirkliche Übersetzung, aber immerhin ein origi-
Ein nächster Test. Liberté, Egalité, Fraternité übersetzt DeepL perfekt, neller Versuch.
auch wieder zurück, selbst wenn man Englisch dazwischenschaltet. Pro-
bleme gibt es mit Einigkeit und Recht und Freiheit sind des Glückes Unter- Machen wir es etwas länger und schwerer, mit einem Textabschnitt aus
pfand. Ins Französische übersetzt und wieder zurück, wird es zu: Einheit, Spiegel online zum ewigen Thema Brexit. Da heißt es: Der Begriff, der mit
Gerechtigkeit und Freiheit sind die Garantie für Glück (bei Google Trans- dem Brexit häufig in einem Atemzug genannt wird, ist „Chaos“. Auch bei
late heißt es sogar völlig glücklos: Einheit und Recht und Freiheit sind die Anne Will tauchte er im Titel auf: „Streit um den Brexit ‒ wer kann das Chaos
Chance des Engagements). Was alles in vielfacher Hinsicht den Gedanken noch verhindern?“ Immerhin wurden in der Talkshow aber noch zwei Alter-
der deutschen Nationalhymne nur streift. Auf Englisch bietet DeepL für nativen in den Sprachgebrauch eingespeist: Als „Schlamassel“ beschrieb
des Glückes Unterpfand pledge of happiness an, Glückspfand oder Kate Connolly, die Berlin-Korrespondentin des britischen Guardian und
Glücksgelübde. Schon besser. des Observer, die Situation. Und die Fraktionsvorsitzende der Linken im
Bundestag, Sahra Wagenknecht, sprach von „Kladderadatsch“. Was zu-
In Flandern wurde Moordstrookje zum Wort des Jahres 2018 erklärt. mindest zeigte: Chaos ist nicht alternativlos.
Moordstrookje heißt wörtlich übersetzt Mordstreifchen und bezeichnet
den gefährlichen, mit Strichellinien abgegrenzten Fahrradweg auf Auto- Die Übersetzung ins Englische mit DeepL gelingt gut, Schlamassel wird
fahrbahnen, in Deutschland euphemistisch Sicherheitsstreifen genannt. zu mess, das offenbar unbekannte Kladderadatsch blieb in Anführungs-
DeepL kann mit Moordstrookje nichts anfangen. Strook kennt DeepL als zeichen unübersetzt, aber: Plötzlich ist ohne erkennbaren Grund die Rede
Streifen, bei Strookje bleibt das Programm bei Streifen statt auf Streif- vom „Dispute over the Brexite“. Bitte? Das derzeit englischste Wort aller →
14 login | 01_2019 login | 01_2019 15
TITEL TITEL
→ in „Brexite“ umzutaufen gibt eine glatte Note 6 für
denken | Warum sind Computer
YOU SHOULDN‘T PRAISE THE DAY
BEFORE THE EVENING
die künstliche Intelligenz. Bei der Rückübersetzung
folgt dann „Streit um den Brexiten ‒ wer kann noch
das Chaos verhindern?“ Bei diesem Thema scheinen „dumm wie Brot“?
also nicht nur die EU, Theresa May und alle anderen
stur und nicht lernbereit, auch DeepL ändert seine Markus Gabriel, Professor für Erkenntnistheorie an der
Übersetzung Wochen später nicht um ein Wort.
Universität Bonn, über natürliche Intelligenz und künst-
Neue Aufgabenfelder für Sprachroboter sind in Arbeit: liche Dummheit. ILLUSTRATION: SUSANN MASSUTE
Simultandolmetschen zum Beispiel. Da bilden Dialekte
noch eine Hürde für die Sinnerfassung (Welcher Rech-
ner wird wohl als Erster Schottisch verstehen oder
Öcher Platt?) – und Homonyme, also gleich klingende
Wörter: Ob ein Redner gerade von „l’éthique“ oder
„les tics“ spricht („Ethik“ oder „nervöse Zuckungen“),
kann eine Maschine kaum unterscheiden. Niest ein
Redner oder schnäuzt sich, ist die künstliche Intelligenz
ratlos. Womöglich wird sie sogar Bauklötze staunen.
DeepL täte das auf Englisch so: be astonished at buil-
ding blocks. Über Bausteine erstaunt sein. Nun gut.
Trotzdem: Unter Zuhilfenahme künstlicher Intelligenz
kann man grandiose Ergebnisse beim Übersetzen auch
haarig komplizierter Textbausteine erzielen. Selbst
Schreibfehler wie gramdios sind keine Porblem. Am
Ende gehören alle Mistakes ausgemistet!
Findet auch DeepL, merzt im Englischen gleich die
bürokratische Zuhilfenahme aus, bemerkt absichtliche
Schreibfehler und stolpert auch nicht über den einge-
schmuggelten Anglizismus mistake: „Nevertheless:
With the help of artificial intelligence, you can achieve
WE‘LL MAKE IT
grandiose results when translating even hairily compli-
cated text modules. Even spelling mistakes like gram-
dios are no problem. In the end, all mistakes should be
mucked out!“
Zuletzt noch mal was Klassisches: Friedrich Schiller
schrieb: Man sollt‘ den Tag nicht vor dem Abend loben:
You shouldn‘t praise the day before the evening. Sehr
gut, DeepL. Wobei: Es hört doch jeder nur, was er ver-
steht. Meint Johann Wolfgang von Goethe. Auf Englisch
bei DeepL: Everyone only hears what they understand.
Wieso they? Ach, reden wir mit der Kanzlerin: Wir Professor Gabriel, jeder Taschenrechner ist dem menschlichen
schaffen das. We‘ll make it, sagt der Kölner Roboter.
Gehirn überlegen, oder?
Thanke dir, DeepL.
MARKUS GABRIEL | Nein, nicht wirklich, das ist nur eine Illusion.
Wir verwenden Taschenrechner, Smartphones, Suchmaschinen und
Wer es noch nicht kennt:
Computersimulationen, um unser eigenes Wissen zu erweitern.
www.deepl.com
Die Geräte selbst nehmen dabei nicht daran Anteil, was wir mit ihnen
tun. Ein Schachprogramm spielt in Wahrheit kein Schach, →
16 login | 01_2019 login | 01_2019 17
TITEL TITEL
„Nur weil Menschen sich selbst
für intelligent halten, glauben
sie, sie seien in der Lage, gefähr-
lich intelligente Maschinen zu
bauen“, behauptet der Computer
Golem in einem Roman von
Stanislaw Lem. Hat Golem recht?
Ja, das ist völlig richtig. Wir sind wissenschaft |
allerdings nicht wirklich imstande,
gefährlich intelligente Maschinen
zu bauen. Die Gefahren der Digita-
Der Hype um den Turingtest
lisierung entstammen unserem
Gebrauch der Maschinen und nicht Können Maschinen denken? Diese Frage treibt
deren Intelligenz. Denn sie haben die KI-Forschung seit Jahrzehnten um. Alan Turing
keine.
→ sondern wir spielen sozusagen hat dafür einen Test entwickelt: Bisher ist jeder
mit uns selbst. Ein Taschenrechner Was halten Sie von der These, Computer daran gescheitert. Wieso eigentlich?
etwa berechnet ja nichts von dass die Maschinen immer virtu-
selbst, sondern nur, indem wir ihn osere Roboter bauen werden und TEXT: MARTIN RASPER
verwenden. Und dann geht in ihm künstliche Intelligenz schließlich
nichts bewusst vor. Er ist innerlich die Weltherrschaft übernehmen
so intelligent wie ein Stück Brot. wird?
Das ist reine Science Fiction. Die
Sie wenden sich gegen die Vor- Technologie, die wir als „künstliche
stellung, nach der Denken als Intelligenz“ bezeichnen, ist zwar
Vorgang der Informationsverar- durchaus gefährlich, aber vor allem
beitung verstanden wird. Was dadurch, dass wir glauben, sie sei
ist Denken denn dann? gefährlich. Denn hinter jeder KI
Denken ist eine Sinnesmodalität, stecken ökonomische und Macht-
so ähnlich wie das Hören, Fühlen, interessen, die wir nicht durch-
Sehen, Tasten und unser Gleichge- schauen. Wir brauchen also eine
wichtssinn. Mittels des Denkens neue Form der Aufklärung, die mit
stellen wir uns vor, wie die Wirklich- der Einsicht beginnt, dass wir Men-
keit beschaffen ist. Unsere Sinnes- schen Tiere sind, die keine sein wol-
organe sind keine Computer, die len und deswegen auf ihre Geräte
mit Codes arbeiten, sondern Ele- magische Fähigkeiten projizieren.
mente unseres Organismus, der zu
uns als geistigen Lebewesen gehört. Dieses Interview ist zuerst in Psychologie
Unser Denken folgt keinem Algo- Heute, 3/2019, erschienen.
rithmus und keinen allgemeinen
Regeln der Datenverarbeitung.
Allenfalls untersteht es der Logik,
die sagt, wie man denken soll,
wenn man aus wahren Gedanken
neue wahre Gedanken ableiten
möchte. Doch wir denken dabei
nicht dauernd logisch, sondern
© Wayne J Grundy / Alamy Stock Foto
begehen Denkfehler. Kurzum:
Unser Denken ist ein fehleranfälli-
ger Sinn wie das Sehen.
18 login | 01_2019 login | 01_2019 19TITEL
»ICH GLAUBE, DASS SICH BIS
ENDE DES 20. JAHRHUNDERTS
DIE ALLGEMEINE MEINUNG
SO VERÄNDERT HABEN WIRD,
DASS DIE BEHAUPTUNG,
© Aclosund Historic / Alamy Stock Foto
MASCHINEN KÖNNEN DENKEN,
KEINEN WIDERSPRUCH MEHR
© Mark Dunn / Alamy Stock Foto
ERREGT.« Alan Turing, 1950
Schieferskulptur Alan Turings
im Bletchley Park, nordöstlich Da hat der englische Mathemati-
ker Alan Turing der digitalen Welt
te die Entwicklung der künstlichen
Intelligenz. Doch obwohl Computer
zu übersetzen; noch schwieriger,
in einer menschlichen Sprache
Das Leben des Alan Turing
von London, wo Turing im
etwas ganz schön Unangenehmes und ihre Anwendungen seither sinnvolle eigene Sätze zu bilden – Er trug lieber einen Pyjama unter dem Mantel als einen Anzug. Auf Pollen
Zweiten Weltkrieg den Enigma- eingebrockt: 1950 formulierte der große Fortschritte gemacht haben, aber auch das funktioniert zuneh- reagierte er allergisch, weshalb er im Frühjahr beim Radfahren auch schon
Code knackte (vorige Seite). geniale Kryptologe, der als einer steht der fast siebzig Jahre alte mend besser. Es gibt passable Über- mal eine Gasmaske aufsetzte. Vor allem aber war Alan Turing (1912 – 1954)
der Väter des Computers gilt, und Turingtest ähnlich störrisch im setzungsprogramme, computer- ein genialer englischer Mathematiker.
Der englische Mathematiker
den Enigma-Code der Deutschen Cyberspace herum wie Weltkriegs- generierte Lyrik und Belletristik,
beschäftigte sich bereits in den im Zweiten Weltkrieg mit entschlüs- bunker neben schicken, neuen die zumindest lesbar sind, sowie Mit Algorithmen beschäftigte sich Turing bereits in den 1930er Jahren.
1930er-Jahren mit Algorithmen selte, sein „Imitation Game“: Ein Wohngebieten – und scheint sich virtuelle Sprachbots. Damals ersann er eine Maschine, die nach einer vorgegebenen Regel Nullen
und denkenden Maschinen. Im Mensch kommuniziert über Tasta- ebenso wie die überflüssigen Bun- und Einsen auf einem unendlichen Band liest und schreibt: Es war das
tur und Bildschirm mit einem Men- ker aus Beton nur schwer entfer- Was diese jedoch nicht tun, ist sinn- Prinzip des Computers. Mit 27 Jahren entschlüsselte Turing im Auftrag des
Bild der von Turing konzipierte
schen und einem Computer und nen zu lassen. voll zu kommunizieren. Also tat- britischen Geheimdienstes während des Zweiten Weltkriegs die Funksprü-
Pilot Ace Computer von 1950. muss herausfinden, welcher von sächlich zu verstehen, was jemand che der deutschen Marine und knackte den Enigma-Code.
beiden sein menschliches Gegen- Wie kann es sein, dass bis heute sagt und wie er es meinen könnte,
über ist. Ist er sich nicht sicher, wer kein Computer den Turingtest be- das Gesagte in verschiedene Kon- Turing gilt auch als Vater der künstlichen Intelligenz. „Können Maschinen
Mensch und wer Maschine ist, hat steht? Ein Grund dafür ist, dass texte einzuordnen und Untertöne, denken?“ lautet der Titel eines Aufsatzes. Statt sich mit philosophischen
der Computer gewonnen – und den Aufgaben, die Computer traditio- Ironie, Doppeldeutigkeiten und Fragen herumzuschlagen, die mit dieser Frage verknüpft sind, nennt Turing
so genannten Turingtest bestanden. nellerweise lösen, numerischer Art Anspielungen wahrzunehmen. Das eine denkende Maschine eine, die sich im „Imitation Game“ bewährt, dem
sind. Sie lassen sich in Zahlen aus- ist eine harte Nuss, selbst fürs vir- nach ihm benannten Turingtest.
Turing wollte mit seinem Spiel her- drücken und in Bits oder Pixel zer- tuelle Superhirn. Beziehungsweise
ausfinden, „wann der Computer legen. So lassen sich Schriftzeichen seine Entwickler. Weil er Sex mit einem Mann hatte, wurde Turing 1952 zunächst festgenom-
anfängt zu denken“ – wobei ihm leicht in Grafik auflösen und digital men und zu einer Hormonbehandlung verurteilt. Zwei Jahre später nahm
durchaus klar war, dass man dafür darstellen; deshalb war der Schrift- Denn Sprache ist hochkomplex. er sich das Leben. Vor fünf Jahren wurde sein Leben fürs Kino verfilmt:
zunächst einmal definieren müsste, setzer einer der ersten Berufe, die Weil sie einerseits gewissen Regeln „The Imitation Game – Ein streng geheimes Leben“ ist eine stark dramati-
was Denken überhaupt ist. Was durch die Digitalisierung entfielen. folgt, andererseits an Kultur ge- sierte Filmbiografie mit Benedict Cumberbatch in der Titelrolle. –FAB–
schwierig ist. Auch das war Turing Schon schwieriger ist es, Wörter bunden ist. Und Kultur ist unlogisch.
bewusst. Sein Turingtest stimulier- aus einer Sprache in eine andere Schon in jedem längeren Satz, →
20 login | 01_2019 login | 01_2019 21TITEL TITEL
kolumne | Wäre die Welt perfekt,
könnten wir sie den Algorithmen
überlassen
TEXT: MANUELA LENZEN | ILLUSTRATION: SUSANN MASSUTE
© Maurice Savage / Alamy Stock Foto
Der Turingtest ist nicht unumstritten. Seit
Jahrzehnten gibt es heftige Diskussionen da- such, sich mit Mitsuku zu unterhal- am Problem vorbei. Die Frage lautet:
ten, führt schnell zur Frustration. Ist Intelligenz immer das, was Ma-
rüber, ob das Bestehen des Turingtests einen Denn Mitsuku ist unfassbar dumm. schinen gerade noch nicht können?
sinnvollen Durchbruch für die KI-Forschung Sie weiß auf die simpelsten Fragen Welche Tests müssten Maschinen
bedeuten würde. Mittlerweile gibt es Alterna- keine befriedigende Antwort, vor bestehen, damit wir ihnen so etwas
allem, weil sie keine Zusammen- wie tatsächliche Intelligenz zuge-
tiven wie den Lovelace-Test, bei dem eine KI
hänge herstellt. Sie ist nicht in der stehen?
Kreativität beweisen muss und den Metzinger- Lage, auf ihren Gesprächspartner
Test, bei dem eine KI mit eigenen Argumenten einzugehen; sie merkt nicht, wenn Diese Fragen sind keine philosophi-
in die Diskussion um künstliches Bewusstsein ein Dialog sich im Kreis zu drehen schen Spitzfindigkeiten. Zum einen
beginnt; sie hat kein Gefühl dafür, braucht KI wie jedes Forschungsfeld
eingreifen und überzeugen muss.
wie aufeinanderfolgende Sätze klare Ziele: Der Turingtest war ein
inhaltlich zusammenhängen; sie netter Anfang. Jetzt wird es Zeit für
erkennt nicht, wenn man sich auf eine neue Generation von Heraus-
etwas bezieht, das ein paar Sätze forderungen. Zum anderen könnten
→ erst recht in jeder längeren Un- vorher gesagt wurde; sie kann derartige Tests nicht nur zeigen,
terhaltung schwingt unendlich viel nicht unterscheiden, ob ein simp- wie nah die Maschinen uns wirklich
Wissen mit, das nicht in den Wör- les „what?“ bedeutet, dass man gekommen sind – sondern auch viel
Sicher scheint, dass auf absehbare Zeit die Furcht vor der Macht-
tern selbst enthalten ist. ihren letzten Satz akustisch nicht über uns selbst verraten. Denn wer
verstanden hat oder inhaltlich die Intelligenz von Computern ver- ergreifung der Maschinen ins Reich der Fantasie gehört. Auch
Wer sich mit einem Sprachbot, nichts damit anzufangen weiß. messen will, muss unweigerlich die lernende Systeme können aus ihrem vorgegebenen Aufgaben-
einem Kommunikationsroboter, Kurz, Mitsuku ist nicht in der Lage, Frage beantworten: Was verstehen bereich nicht aussteigen und sich neue Betätigungen suchen, sie
unterhält, weiß das. Etwa mit dem eine Konversation zu führen. wir eigentlich unter Intelligenz? bleiben die Spezialisten, als die sie entworfen wurden. Die Frage
hochgelobten japanischen Chatbot
ist also nicht, was die Maschinen mit uns tun werden, sondern
Mitsuku, der mehrmals den Loebner Bis künstliche Intelligenz so weit
Preis gewann, einen der wichtigs- ist, wird es noch eine Weile dauern. was wir mit den Maschinen tun. →
ten Wettbewerbe für Turingtests. Und genau deshalb ist der Turing-
Selbst der wohlmeinendste Ver- test längst irrelevant, denn er geht
22 login | 01_2019 login | 01_2019 23TITEL
»
»
Die Gefahr der künstlichen Intelligenz
→ Um sie zu beantworten, benötigen wir konkrete liegt nicht darin, dass Maschinen mehr Manchmal vergessen wir, wie viel wir künstlichen Gehilfen gewünscht haben: Sie nehmen
Vorschläge, welche Tätigkeiten, welche Handgriffe, und mehr wie Menschen denken, Feuersteinen und Rädern, Funken und uns gefährliche, langweilige und gesundheitsschäd-
welche Teile eines Berufsbildes mit intelligenter Tech- sondern dass Menschen mehr und mehr Pflügen, Motoren und Computern verdanken, liche Arbeiten ab. In dieser Welt ist es zugleich gelun-
nik unterstützt oder ersetzt werden könnten. Idealer- wie Maschinen denken. wie tief wir der Technologie gegenüber in der gen, die verbleibende Arbeit und die Einkommen so
weise kämen solche Vorschläge von Menschen, die Schuld stehen. fair zu verteilen, dass alle Menschen deutlich weniger
Joseph Weizenbaum, Informatiker, Kybernetiker
diese Tätigkeiten verrichten, oder entstünden zumin- arbeiten müssen und ihnen mehr Zeit für all die Dinge
und Gesellschaftskritiker Luciano Floridi, Professor für Philosophie und
dest in Kooperation mit ihnen. Daneben benötigen zur Verfügung steht, die jetzt auf der Strecke bleiben:
wir Utopien, Entwürfe für unsere Zukunft mit der Informationsethik der University of Oxford von der Sorge um Kinder, kranke und alte Menschen
künstlichen Intelligenz. Utopien verstanden als Ge- über das Engagement für das Gemeinwesen bis hin zu
dankenexperimente, wohin die Reise gehen könnte, dem, was man einfach gern tut. In dieser Welt werden
nicht als Vorlage für eine Diktatur von Besserwissern, Kinder mehr Zeit für ihre Entwicklung haben und
wie Utopien sie immer wieder herausgefordert haben. nicht mehr gezwungen sein, möglichst schnell mög-
lichst viele verwertbare „Kompetenzen“ zu erwerben.
Wie könnte eine solche utopische Zukunft aussehen? Der Mensch mit seiner Fähigkeit, andere und sich
Vielleicht so: Große Datenbestände stehen – sicher selbst immer wieder zu überraschen, wird in dieser
anonymisiert – allen zur Verfügung. Internet und Welt im Mittelpunkt stehen.
digitale Kommunikation werden von einem internatio-
nalen, demokratisch legitimierten Konsortium ver- „Erzähl mir alles über die Borgs!“ Kaum jemand, der
waltet; jemandes Daten abzugreifen ist ein No-Go vor vielen Jahren beim Betrachten von „Raumschiff
wie heute das Öffnen eines zugeklebten Briefes. Apps Enterprise“ davon geträumt hat, wie schön es wäre,
und Assistenzsysteme arbeiten tatsächlich für die eine Maschine zu haben, der man seine Wünsche ein-
Nutzer und vertreten ihre Interessen. Roboter in fach zurufen kann, wird sich vorgestellt haben, dass
Gestalt von Menschen oder Tieren gelten als vulgär eine solche Technologie es nötig machen könnte, die
und fantasielos, für Zweifelsfälle gibt es einen Clip im Gesellschaft insgesamt neu zu denken. Doch ange-
Ohr, der Auskunft gibt, mit wem wir es zu tun haben. sichts der neuen Möglichkeiten der Digitalisierung
zeichnet sich genau dies ab. Es ist nicht abzusehen,
In dieser vorstellbaren Welt haben Menschen ein wie eine Gesellschaft, die vor allem auf Profitmaxi-
realistisches Verhältnis zu den Möglichkeiten der mierung setzt, in diese utopische Richtung steuern
intelligenten Technik gefunden und leben mit der KI, könnte. Eher scheint sie sich in die Richtung einer
wie wir mit der Elektrizität: Sie wissen, wo sie von weiteren Aufspaltung zu entwickeln, mit gut ausge-
ihr abhängig sind, nehmen dies hin, weil sie denken, bildeten Menschen in attraktiven Jobs und mit gutem
»
dass es das wert ist, und versuchen, sich so gut wie Einkommen und einem Rest, der nur noch dort ge-
»
möglich abzusichern. braucht wird, wo Menschen einfache Tätigkeiten billi-
ger ausführen als Maschinen. Hier gegenzusteuern
Ich gehöre dem Lager an,
In dieser realisierbaren Welt haben teilautonome, Künstliche Intelligenz ist nicht und eine demokratische und sozialverträgliche Per-
sichere und umweltfreundliche Fahrzeuge den Ver- das sich um Superintelligenz spektive zu entwickeln, während manche anderen
das Problem, wir sind das
kehrsinfarkt abgewendet. Sie gehören zur städti- Sorgen macht. Staaten auf weitere Liberalisierung oder auf Diktatur
Problem. Es gibt auch keinen
schen Infrastruktur und kommen auf Anforderung und Überwachung setzen, ist eine der großen Heraus-
Kampf zwischen Mensch und Bill Gates, Microsoft-Gründer
herbei, gliedern sich in den Verkehrsfluss ein und forderungen der Zukunft.
Maschine, denn Maschinen sind
bringen einen, wohin man möchte. Sie stehen nicht
leer herum und nehmen Fußgängern und Radfahrern ein Teil von uns. Wir müssen Wäre die Welt perfekt, dieser Gedanke stammt von
»
Platz und Sicht. Klug organsierte regionale Produkt- einfach lernen, uns über unser der amerikanischen Mathematikerin Cathy O’Neil,
und Stoffkreisläufe entlasten Verkehrswege und Handeln bewusst zu werden. Von könnten wir sie den Algorithmen überlassen. Da dem
Umwelt. Leistungsfähige Rechenmaschinen organi- daher: Die Argumentationslinie, Wer sich um menschliche Werte kümmert, nicht so ist, werden wir unsere Lebensweise immer
sieren eine weitgehend dezentrale Stromproduktion; dass Intelligenz immer sollte eine menschenzentrierte KI-Forschung wieder neu aushandeln müssen. Dabei können uns
eine durch Big-Data-Analysen verbesserte und indi- gefährlicher wird, ist richtig. Aber smarte Systeme ein wenig helfen, abnehmen können
in den Mittelpunkt stellen. Die KI-Systeme
vidualisierte Medizin kann Früherkennung und Hei- die Singularität ist schon vor sie uns diese Aufgabe nicht.
der nächsten Generation müssen sozialer,
lungschancen vieler Erkrankungen erhöhen.
zehntausend Jahren passiert. erklärbarer und verantwortungsvoller werden. Die Philosophin und Wissenschaftsjournalistin Manuela Lenzen
In dieser utopischen Welt tun die intelligenten Maschi- Joanne Bryson, Informatikprofessorin Tibor Bosse, Präsident der Gesellschaft für ist Autorin des Buches „Künstliche Intelligenz: Was sie kann und
nen das, was sich die Menschen seit der Antike von an der Princeton University Künstliche Intelligenz in den Beneluxstaaten was uns erwartet“, C.H. Beck Verlag 2018.
24 login | 01_2019 login | 01_2019 25INSIDE OUT
verwaltung |
Wieso gibt es noch keinen
digitalen Bürger-Assistenten?
Während viele Verwaltungen noch dabei sind, ihre
Prozesse zu digitalisieren, stehen neue Anwendungen
mit künstlicher Intelligenz schon in den Startlöchern.
VERWALTUNGEN DIGITAL TRANSFORMIEREN
Es ist ein Unterschied, ob eine Demokratie noch jung und frisch ist wie in
Estland, oder ob es in einem Staat wie Deutschland Verwaltungsprozesse
gibt, die seit Jahrzehnten analog gut und reibungslos funktionieren. Länder
wie Estland haben mehr Spielräume. Aber auch Deutschland muss seinen
Status Quo hinterfragen, um seinen Platz als Wirtschaftsstandort zu be-
haupten. Auch bei uns gibt es Gesetze und kommunale Satzungen, die
lange Zeit nicht in Frage gestellt wurden. Durch die digitale Transformation
öffentlicher Verwaltungen ändert sich das nun.
Die digitale Transformation kann nach Innen und Außen zu einer schlanken
Ein Alexa-Skill und effizienten Verwaltung beitragen, Prozesse korrigieren und im Sinne
der Bürgerinnen und Bürger neu und besser gestalten. Was fehlt, ist eine
für Bürger praxisnahe Debatte: Es wird noch viel zu wenig darüber geredet, wo Digi-
Die regio iT hat einen Alexa-Skill mit talisierung der Verwaltung und den Bürgern wirklich nützen kann.
Schnittstellen zu ihrem Serviceportal
entwickelt. Hierüber kann der Bürger KI UND BÜRGERSERVICE
Yasmeen Babar arbeitet als im Portal hinterlegte Dienstleistungen,
Die Verwaltung sollte sich noch stärker als bisher mit den Bürgern beschäf-
Consultant und Projektleiterin für die Einrichtungen und Ansprechpartner
tigen und fragen: Was wünschen sich Bürgerinnen und Bürger eigentlich?
regio iT. In dieser Funktion berät sie Ver- ganz einfach abfragen: „Wo beantrage Wie können wir als Verwaltung ihren Alltag vereinfachen? Ist es noch zeit-
waltungen, die ihre Prozesse digitalisie- ich einen Personalausweis?“ oder gemäß, dass Bürger vorstellig werden müssen, um etwas zu beantragen
„Wie viel kostet die Ausstellung einer oder sich bescheinigen zu lassen, wenn wir als Verwaltung bereits über die
ren möchten und leitet Projekte zur
entsprechenden Daten verfügen? Wieso gibt es nicht längst so etwas wie
Einführung und Erweiterung von Service- Geburtsurkunde?“
einen digitalen Bürger-Assistenten, nennen wir ihn Bruno, der jeden Bürger
portalen. Sie spricht mehrere Sprachen und jede Bürgerin sowie ihre Kinder durchs Leben begleitet? Das ist meine
fließend und hat einen Bachelor in KI-Vision für eine zeitgemäße Verwaltung.
Business Studies. Hier sitzt sie in einem
Bruno, die Bürger-App, wird von selbst aktiv und sagt mir, welche Verwal-
der Think-Tank-Rooms der regio iT. tungsakte anstehen, je nach Lebenslage: Ich gebe den Geburtstermin
meines Kindes ein und erfahre, wann ich die Geburtsurkunde beantragen
muss, wann das Kinder- und Erziehungsgeld und welche Kita für mich
infrage kommt – verbunden mit dem Online-Antrag, der die notwendigen
© Georg Helmes
Unterlagen aus meinem persönlichen virtuellen Dokumenten-Safe auto-
matisch verknüpft und mir das Suchen und Beifügen dieser Unterlagen
künftig erspart. Bruno sagt mir auch, wo ich Hilfe und Ansprechpartner →
26 login | 01_2019 login | 01_2019 27INSIDE OUT INSIDE OUT
Delbrück wird nachgefragt | Siri, Susi oder Alexa?
Smart City
Mitarbeiterinnen und Mitarbeiter der regio iT
Für die Stadt Delbrück im Kreis Paderborn über ihren Umgang mit Sprachassistenten.
hat die regio iT ein nachhaltiges Netz für das
ILLUSTRATION: OLIVIER ARCIOLI
Internet der Dinge (Internet of Things) aufge-
baut. Das Internet der Dinge steht hier für die
© Georg Helmes
Haben Sie schon einmal mit einem Sprachbot
Vernetzung von unterschiedlichen Zählern (Kommunikationsroboter) kommuniziert,
und Geräten von und für Kommunen. Inte- zum Beispiel als Gesprächspartner an einer
Service-Hotline oder in einem Online-Shop?
grierte Sensoren machen es möglich, die Da-
→ finden kann und gibt mir Informationen, die junge Eltern interessieren tenströme aus unterschiedlichen Bereichen 61 % Ja.
könnten. Umgekehrt hat aus meiner Sicht ein KI-System, das im Alltag 3% Regelmäßig.
wie Umwelt, Energie, Verkehr und Sicherheit 31 % Nein.
keine Abhilfe schafft, in der Verwaltung nichts zu suchen. Wichtig ist auch,
zu erfassen, zusammenzubringen und zu 5% Möglicherweise – ohne zu
dass die Verwaltung transparent ist und offenlegt, hinter welchen Prozes-
bemerken, dass die Antwort von
sen künstliche Intelligenz steckt und welche Daten übermittelt werden. analysieren. Das ist nicht nur wirtschaftlich,
Nutzen Sie virtuelle Assistenten einem Roboter gegeben wurde.
Darüber müssen Bürgerinnen und Bürger die Kontrolle haben, wenn sie sondern sorgt auch an vielen Stellen für mehr
wie Alexa, Siri, Cortana und Co?
Vertrauen in die digitale Verwaltung haben sollen.
Transparenz als bisher.
40 % Ja.
49 % Nein.
VERWALTUNG DARF NICHT DISKRIMINIEREN. Gemeinsam mit Vertretern aus Verwaltung, 1% In nächster Zeit bestimmt.
KI KANN DABEI HELFEN Bürgern, Industrie, Gewerbe, Landwirtschaft 10 % Habe ich überlegt, mich
aber dagegen entschieden.
und Dienstleistungsbetrieben aus Delbrück
Bei Verwaltungsprozessen ist es wichtig, alle Bürger gleich zu behandeln.
KI-Systeme sind dort sinnvoll, wo sie im Interesse aller Bürger eingesetzt hat die regio iT zahlreiche Anwendungsfälle
werden, zum Beispiel bei der Datenanalyse und Steuerfahndung, um für erprobt: Dazu gehören zum Beispiel Messun-
mehr Steuergerechtigkeit zu sorgen. Im hessischen Finanzministerium gen des Grundwasserpegels, Energie-Moni-
wurde eine Forschungsstelle zur Anwendung von künstlicher Intelligenz
eingerichtet. Dadurch dass KI angewendet wird, um Daten zu analysieren, toring und die Überwachung von Glatteis auf
sollen Unregelmäßigkeiten und Steuerkriminalität erkannt und aufge- Straßen. Die neue Vernetzung soll auch dabei
deckt werden. helfen, Kleinkläranlagen, Regenrückhalte-
becken und Grundwasser zu kontrollieren und
Auch Polizei und Ordnungsämter können unterstützt werden: In Stadien
werden Personen gezählt, Bildmaterial wird gesichtet und durch prädiktive somit besser zu steuern und die Auslastung
Halten Sie Sprachbots, die per
An der Umfrage beteiligten sich 75 von 420 Beschäftigten der regio iT.
Analysen erhält man frühzeitig Informationen, an welcher Stelle etwas von Gebäuden auszuwerten.
aus dem Ruder laufen könnte und kann früher eingreifen. Text oder Stimme mit Menschen
Zwei Drittel der Beteiligten waren männlich, ein Drittel weiblich.
kommunizieren, für intelligent?
12 % Ja.
KI IST EINE SCHLÜSSELTECHNOLOGIE 62 % Nein.
Sollte es KI-Anwendungen wie 26 % Darüber habe ich mir
Starke KI ist ein Hype. Die Zukunft sehe ich in Assistenzsystemen für die virtuellen Sprachassistenten, noch keine Gedanken
tägliche Arbeit und Routineaufgaben, also in schwacher KI. Schwache KI Chatbots oder Social Media Bots gemacht.
schafft Entscheidungsgrundlagen durch Datenanalyse, sie funktioniert verboten werden, ihre Identität zu
unterstützend und verselbstständigt sich nicht. Darüber sollten wir uns verbergen und sich als Menschen
den Kopf zerbrechen: An welchen Stellen wollen wir diese Unterstützung, auszugeben?
wo halten wir sie für nicht brauchbar und welche Maßstäbe sollen dafür
gelten? Je weitreichender die Konsequenzen, desto geringer die Fehler- 71 % Ja.
toleranz. KI ist Statistik, das darf man nie vergessen. Das sollte uns auch 29 % Nein.
die Angst vor ihr nehmen.
© Stadt Delbrück
PROTOKOLL: MIRJA NIEWERTH-HALIS | FOTOS: GEORG HELMES
28 login | 01_2019 login | 01_2019 29Sie können auch lesen
