Künstliche Intelligenz - ESG-NACHRICHTEN - ISF München
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
ESG-NACHRICHTEN 1–3/2020 Künstliche Intelligenz Ethische Orientierung Menschenbild 4.0 aus KI in der Arbeitswelt – Mensch, Tier, Maschine: Natürliche im digitalen Zeitalter universitärer Sicht und der Mensch? und künstliche Intelligenzen Heinrich Bedford-Strohm Werner Schneider Norbert Huchler Inge Kirsner
Bestellung von Werbematerialien
Lesezeichen, Postkarten, Pin, Aufkleber, ...
Die Bestellungen gehen schriftlich Bestellformular Neue Materialien sind in Vorbereitung
per Mail an:
Menge: Artikel: Preis:
esg@bundes-esg.de B Lesezeichen (21 x 7 cm) »Neu im Studium?«
E Plakat (29,7 x 84 cm) »zeit für begegnung«
oder per Post an: F Plakat (29,7 x 84 cm) »lass uns gemeinsam suchen«
G Plakat im Format A2 ESG + Hahn-Logo 0,50 €
ESG H Plakat im Format A2 ESG-Deutschlandkarte
in der Geschäftsstelle der aej J Mini-Aufkleber (Ø 1,4 cm – Blatt à 48 Stück) nur Hahn ohne Abb. 0,20 €
Otto-Brenner-Straße 9 K ESG-Hahn-Pin (Ø ca. 2,2 cm) 1,50 €
30159 Hannover L Schlüsselbänder/Namensbänder (roter Hahn, schwarzes Band) 2,00 €
Telefon: 0511.12 15 – 0 M ESG Tasche (Baumwolltasche) ab 10 St. Mengenrabatt: 8,00 Euro 10,00 €
N ESG Bleistift (50er Packung) 15,00 €
O ESG Post it im Format A7 (20er Packung) 20,00 €
P Mini-Display-Reiniger für Smartphones (weiß, roter Hahn)
Alle Preisangaben sind inklusive Mehrwertsteuer und zuzüglich Versandkosten ab 2,95 € innerhalb Deutschlands.
Die Versandkosten richten sich nach Versandart, Größe und dem Logistikdienstleister.3
Editorial
Liebe
Leser*innen,
in der DDR gab es ein sehr populäres Kinderlied, Auch das Thema des Heftes ist nicht das erwartete.
das ich allerdings nie so ganz verstanden hatte: Vielmehr hat das Thema der letzten Hauptamt-
lichenkonferenz, die noch kurz vor Corona in
Wenn Mutti früh zur Arbeit geht, Augsburg stattfinden konnte, ein solches Echo
Dann bleibe ich zu Haus. ausgelöst, dass wir uns spontan entschlossen
Ich binde eine Schürze um haben, das Thema der HAK auch zum Thema des
Und feg die Stube aus. Heftes zu machen. Passend dazu, stellt die ESG
Augsburg ihre Arbeit und ihre Geschichte vor.
Das Essen kochen kann ich nicht, Des ursprünglich geplanten Themas rites de
Dafür bin ich zu klein. passage werden wir uns dann im nächsten Heft
Doch Staub hab ich schon oft gewischt. annehmen.
Wie wird sich Mutti freun� Begegnungen mit Menschen aus und in Indien
sind längst fester Bestandteil des ESG-Lebens.
Wieso geht das Kind nicht in den Kindergarten? Neues Terrain erkundete dagegen die ESG Osna-
Oder in die Schule? Jetzt, in Zeiten von Corona, brück in Vietnam, ein Land, auf das die USA im
ist plötzlich alles klar: Mutti ist alleinerziehend Vietnamkrieg zwei- bis dreimal mehr Bomben
und systemrelevant (Krankenschwester, Kassie- abwarfen als im Zweiten Weltkrieg.
rerin in der Kaufhalle) und Kindergärten und In der Geschäftsstelle herrscht reges Kommen
Schulen sind geschlossen. Dass das Kind mal und Gehen: neue Kolleginnen stellen sich vor
unbeaufsichtigt zu Hause bleibt, war in Ordnung, und Anna-Sophie verabschiedet sich.
Helikoptereltern und der Spätgebärenden Tanz Wir gedenken des 250. Geburtstages Friedrich
ums Kind waren noch nicht erfunden. Und Ober- Hölderlins und die Löser*innen des Weihnachts-
flächendesinfektion ist ja auch nicht unwichtig. rätsels brennen sicher schon darauf zu erfahren,
Uns, die wir nicht systemrelevant sind, hat das ob sie gewonnen haben.
Virus, das praktischerweise an allem schuld ist,
für Monate unbeaufsichtigt ins Home Office Eine anregende Lektüre wünscht
verbannt und die ansätze erscheinen nun mit
einiger Verzögerung, da sie zwar gedruckt, aber
nicht hätten ausgeliefert werden können.
Uwe-Karsten Plisch
1–3 20204
Inhalt
Thema: Künstliche Intelligenz
Umschlag Titelmotiv: Franck V. on Unsplash
Umschlagrückseite: Michael Dziedzic on Unsplash
Thema Verband
6 Ethische Orientierung im digitalen Zeitalter 34 Corinnas Columne
Ansprache am 17.2.20 bei der ESG-Hauptamtlichen- In Zeiten von Corona …
konferenz in Augsburg
Heinrich Bedford-Strohm 35 Von allen Seiten umgibst du mich – Mensch und Welt
im Zeichen der KI
10 Menschenbild 4.0 aus universitärer Sicht Eindrücke von der Hauptamtlichenkonferenz in Augsburg,
Grußwort auf der ESG-Hauptamtlichenkonferenz 17.-20. Februar 2020
Werner Schneider
37 Studienfahrt der ESG Osnabrück nach Vietnam
13 KI in der Arbeitswelt – und der Mensch? vom 16. – 30. September 2019
Norbert Huchler Lore Julius
18 Mensch, Tier, Maschine: 40 Fachtagung für Mitarbeitende aus
Natürliche und künstliche Intelligenzen den Sekretariaten der ESGn
Inge Kirsner Corinna Hirschberg
22 Lese- und Filmliste für Zeiten, in denen 41 Hello German friends
man plötzlich Zeit hat ... ESG-Indienaustausch 2020
Inge Kirsner Laura Lehnert und Jan Thelen
24 Gott schuf den Menschen zu seinem Bilde ... 43 Auf dem Weg zu einer Kirche der
Bibelarbeit zur HAK 2020 in Augsburg Gerechtigkeit und des Friedens
Uwe-Karsten Plisch ESG-Jugenddelegierte bei der EKD-Synode
Doreen Dieck
ESG stellt sich vor 44 Hackathon #glaubengemeinsam
Doreen Dieck
32 Campus und Kirche in Augsburg (1970-2020)
Tabea Baader 45 Save the Date
Einladung zur 6. ordentlichen Vollversammlung des
Verbandes der Evangelischen Studierendengemeinden
in Deutschland (ESG)
1–3 20205
Inhalt
Menschen und Nachrichten Ankündigungen
46 Kommen und Gehen 57 Kloster auf Zeit für Studierende 2020
62 Abkürzungsverzeichnis / Impressum
Bücher und Materialien
48 Poetry
Friedrich Hölderlin (1770-1843)
49 Auflösung Weihnachtsrätsel
50 Mit Studierenden predigen
Ein Projekt und das Buch dazu
Matthias Freudenberg
52 Martin Niemöller - Ein Held mit Einschränkungen
Rezension von Sebastian Dittrich
55 Nicht-Glauben oder Neu-Glauben?
Rezension von Sebastian Dittrich
Foto: by Michael Dziedzic on Unsplash
1–3 20206
Künstliche Intelligenz Thema
Ethische Orientierung im
digitalen Zeitalter
Ansprache am 17.2.20 bei der ESG-Hauptamtlichenkonferenz
in Augsburg
Heinrich Bedford-Strohm
Einleitung die Untergangspropheten, die schon bei als auch im privaten Miteinander. Jede
der Einführung der Eisenbahn warnten, dritte Ehe in den USA startet im Netz. Der
Wie nachhaltig die digitale Revolution un- dass die Geschwindigkeit von 25 km/h digitale Wandel inspiriert zu ungeahn-
ser persönliches und unser öffentliches der Menschenseele Verderben sein wird. ten Fortschrittsphantasien. Ja – sogar das
Leben berührt und verändert hat, kann Was wir heute brauchen ist eine nüchterne Menschenbild scheint sich zu verändern.
man sehen, wenn man heute in eine belie- Analyse der Chancen und Risiken, um die Der Titel eines in den letzten Jahren in-
bige Zeitung schaut. Wir stehen an vielen Digitalisierung verantwortlich gestalten tensiv diskutierten Buches illustriert dies
Stellen vor den Herausforderungen, die zu können. deutlich: „Homo Deus“ heißt es und wurde
sich aus der digitalen Revolution ergeben. von Noah Yuval Harari geschrieben.
Manchmal beobachten wir Phänomene Die Rasanz der Veränderungen
wie etwa eine zunehmende Erregungskul- Digitalisierung – das ist meine These – ist
tur, die unserer Demokratie nicht guttut, Noch in den 70er Jahren erstellte ich als weder Verheißung noch Verhängnis. Sie
und spüren, dass sie viel mit der digitalen Schulsprecher meines Gymnasiums, in muss und kann verantwortlich gestaltet
Revolution zu tun hat, ohne dass wir genau Handarbeit Plakate und Aufrufe. Einige werden.
sagen können, warum das so ist. dieser Werke habe ich mir aufbewahrt. Der
Das Phänomen, das wir gegenwärtig künstlerische Wert bleibt begrenzt. In den Wer kennt mich am besten? Digitale
erleben, hat schon Emile Durkheim, der frühen 80er Jahren wurde ich, frisch an der Allmachtsphantasien
Nestor der französischen Soziologie als Universität eingeschrieben, stolzer Besitzer
„Anomie“ bezeichnet und analysiert. Bei einer Schreibmaschine. Bei einem Aus- Wer kennt mich am besten? Das ist eine
ihm ging es am Ende des 19. Jahrhunderts tausch-Jahr in Berkeley kam ich erstmals wichtige Frage. Wenn er mir Gutes will, ist
um die sozialen Folgen der Industrialisie- mit einer neuen Technologie in Berührung. es wunderbar, dass er mich kennt. Denn
rung. Durkheim sieht Anomie als einen Zu- Die studentische Friedensgruppe, in der er versteht mich und kann mir beistehen.
stand der sozialen Desintegration. Die alte ich dort aktiv war, lud zu ihren Treffen mit Wenn er mir böse will, kann er meine
Ordnung geht verloren. Der gesellschaft Einladungen, die auf Computern getextet, Schwächen und Verletzlichkeiten aller-
liche Zusammenhalt gerät in Gefahr. Lange gelayoutet und professionell ausgedruckt dings auch ausnutzen.
gewachsene soziale Regeln finden keine waren. Ich merkte: Computer waren nicht Wer kennt mich am besten? Ich weiß
Beachtung mehr. Neue Regeln, die mit der nur etwas für Snobs, die sich einen beson- nicht, wie Sie diese Frage beantworten
veränderten Situation Schritt zu halten ders modernen Anstrich geben wollten, würden. Ich muss nicht lange zögern mit
vermögen, müssen sich erst herausbilden. sondern ein hilfreiches Mittel, um bürger- meiner Antwort: meine Frau kennt mich
Genau in dieser Situation sind wir heute. schaftliches Engagement wirkungsvoller am besten. Weit über dreißig Jahre sind wir
Deswegen ist es wichtig, dass wir eine zu gestalten. Wieder zurück in Deutsch- schon gemeinsam durchs Leben gegangen.
öffentliche Diskussion um die Ethik der land begann ich, an meiner Dissertation zu Sie erkennt, wie es mir geht, manchmal
Digitalisierung führen. Nur so ist es mög- arbeiten, und kaufte mir meinen ersten schon, bevor ich es selber weiß.
lich, zwei Versuchungen im Umgang damit Computer. Schnell wurde er für mich Eine Studie, die Facebook vor eini-
nicht zu erliegen: der Verteufelung auf der unverzichtbar. gen Jahren durchgeführt hat, scheint Stoff
einen Seite und der euphorischen Beju- Wenn man mir zu dieser Zeit gesagt dazu herzugeben, meine Gewissheit in
belung auf der anderen Seite. In unserer hätte, wie sehr der Computer und die digi- dieser Hinsicht etwas zu bremsen. Diese
Geschichte hat es ja immer beides gege- tale Technologie insgesamt unser Leben Studie hat nämlich ergeben, dass der Al-
ben: Die Fortschrittsoptimisten, die alles ändern und prägen würden: Ich hätte es gorithmus von Facebook schon heute
Neue begrüßen und mitunter ein goldenes noch in den 80er Jahren nicht für möglich die Persönlichkeit von Menschen besser
Zeitalter, die Befreiung des Menschen und gehalten. Und doch ist es so gekommen. einschätzt als deren Freunde, Eltern und
das Ende allen Kummers verheißen. Und Und das sowohl im öffentlichen Diskurs Partner. Immerhin 86220 Freiwillige haben
1–3 20207
Thema Künstliche Intelligenz
bei der Studie mitgemacht, indem sie einen Fall sehr präzise, vor welcher grundsätzli- will mit seiner Luganer Firma NNAISENSE
umfangreichen Fragebogen zu ihrer Per- chen ethischen Herausforderung in Folge eine Allzweck-Künstliche Intelligenz ent-
sönlichkeit ausfüllten. Auch ihre Arbeits- des digitalen Wandels wir uns sehen. wickeln. Sie soll alle Probleme zu lösen, die
kollegen, Freunde, Familienangehörigen der Mensch selbst nicht lösen kann. Am
und Partner wurden befragt. Das Erstaun- Künstliche Intelligenz Anfang – so Schmidhuber beim Evange-
liche war, dass der Algorithmus nur zehn lischen Medienkongress in München – ist
Facebook-Likes benötigte, um die Vorher- Mit dem Thema Künstliche Intelligenz sind ein neuronales Netzwerk „dumm wie ein
sagen der Arbeitskollegen zu übertreffen. wir seit langem vertraut. Aber bisher waren Baby“. Dann lernt es immer mehr dazu und
70 Likes brauchte er, um die Einschätzun- es Science-Fiction-Filme, aus denen wir wird immer intelligenter. Schon jetzt –
gen der Freunde zu toppen. 150, um besser das Thema kennen. Es zeichnet sich immer sagt er – gibt es Roboter, die sich selbst
zu sein als die Familienangehörigen. Und mehr ab, dass manches, was wir bisher Ziele setzen können, um die Welt zu ver-
300 Likes, um die Vorhersagen der Ehe- wirklich nur als Fiction gesehen haben, bessern. Diese Roboter sind kleine Wissen-
partner zu übertreffen. tatsächlich Wirklichkeit werden könnte. schaftler, die mit „künstlicher Neugier“ ihr
Es gibt gute Gründe, darüber zu er- Die Verarbeitung der Datenmengen nimmt Wissen über die Welt erweitern. Schmid-
schrecken, welche Einsicht und so auch dermaßen rasant zu, dass sie dem mensch- huber sagt voraus, dass die technologische
Macht diejenigen über uns haben, die über lichen Gehirn irgendwann ebenbürtig oder Evolution sich deutlich schneller entwi-
Daten von Milliarden Menschen verfügen. sogar überlegen sein könnte. In mancher ckeln werde als die biologische Evolution.
Die Akteure sind für uns verborgen. Sie Hinsicht gilt das ja bereits jetzt. Aber werden Menschenähnliche Künstliche Intelligenz
haben kein Gesicht, auch wenn sie „face- Roboter wirklich irgendwann Bewusstsein hält er schon in 30 Jahren für möglich.
book“ heißen. Man muss sich das klar- haben? Wir sollten auf keinen Fall den ethischen
machen: Ein Unternehmen, das, für uns Humanoide Roboter kennen wir schon Wert eines menschendienlichen technolo-
im alltäglichen Kontakt ganz und gar ge- seit geraumer Zeit. In die Schnittstelle gischen Fortschritts in Frage stellen. Die
sichtslos, behauptet, es kenne uns besser zwischen Mensch und Maschine ist in Fol- Digitalisierung kann segensreiche Wir-
als unsere Ehepartner. Von Eric Schmidt, ge der Digitalisierung und gerade auch kung entfalten, wenn sie neue medizini-
ehemals Top-Manager von google und ihrer medizinischen Anwendungen aber sche Therapien ermöglicht, wenn durch
alphabet, sind in diesem Zusammenhang eine bisher nicht gekannte Bewegung Fernüberwachung eine Herzattacke so
folgende bemerkenswerte Sätze überlie- gekommen. früh wie möglich entdeckt werden kann,
fert: „We know where you are. We know 2016 feierte der damalige Spitzen- wenn durch digitale Technik Bewegungs-
where you`ve been. We can more or less manager von google Sebastian Thrun eu- einschränkungen überwunden werden
know what you`re thinking about.” Mit phorisch den neuen digitalen Übermen- können.
einer solchen öffentlichen Äußerung ist schen: „durch künstliche Intelligenz wird Aber die digitale Reproduktion von
eines klar dokumentiert: Durch die un- es uns möglich sein, noch stärker als bisher Menschen oder auch Teilen von uns Men-
geahnten Möglichkeiten des Zugriffs auf über die natürlichen biologischen Grenzen schen wirft die gleichen schwerwiegen-
unsere Daten droht sich unser Konzept unserer Sinne und Fähigkeiten hinaus zu den Fragen auf, wie seinerzeit das Klonen.
von Privatheit fundamental zu verändern. gehen. Wir werden uns an alles erinnern, Wieviel menschliche Produktivkraft in der
Natürlich kann man diskutieren, ob jeden kennen, wir werden Dinge erschaffen künstlichen Erschaffung von menschlichem
Schmidts Äußerung auch in Zeiten der können, die uns jetzt noch völlig unmög- Leben ist noch vereinbar mit der grund-
Europäischen Datenschutzgrundverord- lich oder gar undenkbar erscheinen” (zi- legenden christlichen Überzeugung, dass
nung noch zutrifft. Oder ob seine Worte tiert bei Precht, 80). wir Menschen zum Bilde Gottes geschaffen
nicht eher den Allmachtsphantasien einer Der deutsche Wissenschaftler Jürgen sind und nicht zum Bilde eines anderen
digitalen Gründerelite entspringen. Seine Schmidhuber, der von vielen als „Papst der Menschen? Wie werde ich als Pfarrer rea
Äußerungen beschreiben aber in jedem Künstlichen Intelligenz“ bezeichnet wird, gieren, wenn ein Roboter, der mit allen Ge-
1–3 20208
Künstliche Intelligenz Thema
sichtszügen eines Menschen ausgestattet Säugetiere und Vögel nutzen, um rasch wird, sondern für ihn war die Frage: „Cur
ist, mit großer Ernsthaftigkeit ein Taufbe- Wahrscheinlichkeiten des Überlebens und Deus homo?“ Warum wurde Gott Mensch?
gehren vor mich bringt? der Reproduktion zu berechnen. Gefühle In Jesus – so seine Antwort – begegnet
Die Beschäftigung mit den unter- beruhen nicht auf Intuition, Inspiration uns die radikale Liebe zum Mitmenschen.
schiedlichen Dimensionen der Digitalisie- oder Freiheit – sie basieren auf Berech- Und in Jesus, dem Gekreuzigten und Auf-
rung macht deutlich: Die Theologie ist nung“ (Harari 2018, 78f.). Angesichts des erstandenen, begegnet uns verletzte und
aufgefordert, Kernüberzeugungen der rasanten technologischen Fortschritts, so versehrte Menschlichkeit. Gottes mensch-
christlichen Anthropologie neu zur Sprache Harari, werden ausgefeilte Algorithmen in liche Gestalt weist uns den Weg zum wahren
zu bringen. der Zukunft die gesellschaftliche Kontrolle Menschsein. Darin hat die Menschenwürde
über uns Menschen erlangen. ihren tiefsten Grund.
„Was ist der Mensch, dass du seiner Die biblische Tradition redet anders. Der Mensch – in dieser Annahme kon-
gedenkst?“ Anthropologische Sie definiert den Menschen nicht aus sich vergieren philosophische Überlegungen
Überlegungen selbst heraus, sondern immer zuerst in mit religiösen Überzeugungen – darf nie-
seiner Zugehörigkeit zu und in seiner Un- mals allein Mittel zum Zweck sein. Er muss
Für uns als christliche Theologinnen und terschiedenheit von Gott. Der Mensch ist immer zugleich Zweck an sich sein. Er hat
Theologen ist das biblische Zeugnis das „wenig niedriger als Gott“, aber eben doch eine Würde, die ihm niemand nehmen kann.
Fundament unseres Nachdenkens über die niedriger. Darin spiegelt sich einerseits das Was einen Preis hat, so die berühmten
Anthropologie. Staunen des Menschen darüber, dass Gott Worte von Immanuel Kant, „an dessen
„Wenn ich sehe die Himmel, deiner ihn zum Herrn gemacht hat „über Gottes Stelle kann … etwas anderes als Äquivalent
Finger Werk, den Mond und die Sterne, die Hände Werk“. Andererseits wird dieser gesetzt werden; was dagegen über allen
du bereitet hast: was ist der Mensch, dass Mensch zugleich in und trotz dieser Herr- Preis erhaben ist, mithin kein Äquivalent
du seiner gedenkst, und des Menschen Kind, schaft über die geschaffene Welt daran verstattet, das hat eine Würde“. Wie ak-
dass du dich seiner annimmst? Du hast ihn erinnert, dass er niedriger als Gott ist, dass tuell diese Worte im Zeitalter der Digitali-
wenig niedriger gemacht als Gott, mit Ehre er eben kein homo deus ist, sondern ein sierung sind, ist nun deutlich geworden. Je
und Herrlichkeit hast du ihn gekrönt.“ homo sapiens. Wenn er wirklich sapiens mehr unsere Kommunikation, unser Leben
Die Verse stammen aus Psalm 8. Dieses ist, dann darin, dass er sich zu unterschei- überhaupt, in Zeiten der digitalen Trans-
Gebet aus dem Psalter des Alten Testa- den weiß von und bezogen weiß auf Gott, formation von der Logik ökonomischer
mentes beantwortet auf seine ganz und obwohl ihm so viel Macht und Herrschaft Profitmaximierung getrieben ist, desto
gar eigene Weise diese fundamentale Frage: in der Schöpfung Gottes gegeben ist. Dass stärker gerät das grundlegende Konzept von
Was ist der Mensch? er bereit ist zur Verantwortung. Verant- christlicher Menschenwürde unter Druck.
Es gibt ganze Bibliotheken, die diese wortung für die Welt, für die Vögel unter Und ein Weiteres: Die Verletzlichkeit
Frage zu beantworten versuchen: Heute dem Himmel und die Fische im Meer, die als konstitutives Element des Menschseins
verstehen manche den Menschen als eine Gott geschaffen und ihm zur Fürsorge an- ernstzunehmen, bedeutet eine klare Absage
komplizierte, aber im Prinzip berechen- vertraut hat, ebenso wie für die Algorith- an das Menschenbild des Transhumanismus,
bare Algorithmusmaschine, als Spielball men der Gegenwart, die der Mensch selbst das hinter vielen der menschlichen All-
komplizierter biochemischer Zufälle, deren sich erdacht hat. machtsphantasien im digitalen Zeitalter
Freiheit nur vorgegaukelt ist. Gefühle – so „Was ist der Mensch? Der große pro- steht. Nicht die Perfektion menschlicher
Yuval Noah Harari – sind nicht irgendeine testantische Theologe Karl Barth hat diese Existenz ist die Grundlage für das Leben
spezifisch menschliche Eigenschaft und urmenschliche Frage ganz von dem Men- des Menschen, sondern die Zusage von
spiegeln keineswegs irgendeine Art von schen Jesus Christus her beantwortet. Für Gottes Liebe zu uns Menschen. Auch die
‚freiem Willen‘ wider. „Gefühle sind viel- ihn richtete sich nicht der Blick auf den menschliche Endlichkeit bleibt aufgehoben
mehr biochemische Mechanismen, die alle „Homo Deus“, den Menschen, der zum Gott in dieser Liebe.
1–3 20209
Thema Künstliche Intelligenz
Die berühmte Geschichte von der Vertrei-
bung von Adam und Eva aus dem Paradies
enthält dazu eine wichtige Einsicht. Nach-
dem die beiden vom Baum der Erkenntnis
gegessen haben und aus dem Paradies
vertrieben worden sind, stellt Gott die
Cherubim an den Eingang des Paradieses, Heinrich Bedford-Strom (4. vl.) zusammen mit Prof. Kovács, Prof. Schneider, Anne Lüters und OKR Blumtritt
um den Weg zu dem anderen Baum, dem auf der ESG-Hauptamtlichenkonferenz in Augsburg
Baum des Lebens, zu bewachen: „Nun aber,
dass der Mensch nur nicht ausstrecke seine
Hand und nehme auch von dem Baum des wie sie uns in manchen Entwürfen digitaler Gestaltung aber können wir nicht an die
Lebens und esse und lebe ewiglich!“ Gott Welten wieder neu begegnet. Roboter delegieren. Für die müssen wir
setzt die Grenze. Der Mensch soll nicht Unsere Überlegungen zur Anthropo- Menschen selbst sorgen. Hier liegt die
unsterblich werden. Für mich ist das keine logie haben gezeigt: Kein Algorithmus Grenze, die wir nicht überschreiten dürfen.
Strafe, sondern ein Akt der Liebe Gottes. kann emergente Prozesse abbilden. Ge-
Als Menschen können und sollen wir wohl schichte ist ein offener Prozess. Die Vision Schluss
Grenzen überwinden; eine aber bleibt. Das einer Welt, in der Algorithmen die Kontrol- Es ist nicht Google, sondern Gott, zu dem
Ewige bleibt Gott allein vorbehalten. le über uns Menschen übernehmen, sind wir mit Psalm 139 sagen dürfen: „Ich sitze
menschliche Allmachtsphantasien. Wir oder stehe auf, so weißt du es; du ver-
Wertschätzung für Emergenz und das zeigen unser Menschsein genau darin, dass stehst meine Gedanken von Ferne. Ich
Handeln Gottes in der Welt wir Verantwortung übernehmen. Roboter gehe oder liege, so bist du um mich und
können keine Verantwortung übernehmen. siehst alle meine Wege!“ (Psalm 139,2f.).
Ist der Mensch bloß eine Sequenz von Algo- Gegenüber allen Visionen, die uns Denn trotz aller Digitalisierung, trotz aller
rithmen? Oder ist er ein Geschöpf Gottes, Menschen und die uns umgebende Welt Algorithmen und Künstlicher Intelligenz –
das sich in dynamischer Kommunikati- zu einer berechenbaren und transparenten Gott kennt mich besser als ich mich selbst
on mit Gott und mit seinem Nächsten Summe von Algorithmen werden lassen kenne, weil das am Ende nicht an einer
befindet? wollen – ob man das nun als Verheißung Datenmenge hängt, die jemand über mich
Das Konzept der Emergenz, wie es ins- oder Verhängnis verstehen will – wird aufbieten kann, sondern an der Tiefe der
besondere Michael Welker in die Theologie nicht nur die theologische Anthropologie Beziehung, die durch Liebe wächst und
eingeführt hat, hilft bei der Beantwortung immer wieder das Geheimnisvolle, das mir mein Geheimnis, meine Besonderheit,
dieser Frage. Emergenz beschreibt in der Unverfügbare, das Verletzliche und die in meine Einzigartigkeit lässt. Gott kennt
Wissenschaft das Phänomen einer neuen, der Beziehungsfähigkeit sich gründende mich am besten, aber unter allen Men-
bislang unvorhergesehen Ordnungsstruk- und ausdrückende tiefe Freiheit unseres schen ist es meine Frau, die mich am bes-
tur. Hier entsteht eine „neue Qualität, … Menschseins betonen. Liebe lässt sich nicht ten kennt, – und das soll auch so bleiben.
die nicht aus den Eigenschaften der Kom- auf Algorithmen reduzieren. Und Liebe ist
ponenten herleitbar ... ist, die aber den- untrennbar verbunden mit Verantwortung. Prof. Dr. Heinrich Bedford-Strohm ist
noch allein in der Wechselwirkung der Es gibt keinen Grund, die atemberau Landesbischof der Evangelisch-Lutherischen
Komponenten besteht“ (zitiert nach Wel- benden Entwicklungen bei den Forschungen Kirche in Bayern und Ratsvorsitzender der
ker, Reich Gottes 506). Emergenz ist die zur Künstlichen Intelligenz zu verteufeln. Evangelischen Kirche in Deutschland.
wissenschaftliche Grundlage für die Kritik Sie sind weder Verheißung noch Verhäng-
einer simplen szientistischen Verkürzung nis. Sie können und müssen verantwort-
unserer Lebensrealitäten auf Kausalketten, lich gestaltet werden. Die verantwortliche
1–3 202010
Künstliche Intelligenz Thema
Menschenbild 4.0 aus universitärer Sicht
Grußwort auf der ESG-Hauptamtlichenkonferenz
Werner Schneider
Sehr geehrter Herr Landesbischof Bedford- Blockkonstellation von West gegen Ost; laufen allesamt insoweit nach eingängigen
Strohm, sehr geehrter Herr Kollege Vize als junge Erwachsene, dann mehr oder Mustern, als der technologische Wandel
präsident Kovács, sehr geehrte Damen weniger schon mitten im Leben stehend, einerseits im Sinne eines Fortschritts mit
und Herren, erlebten sie die große soziopolitische entsprechenden ‚Paradieserzählungen‘
Transformation des Zerfalls des Ostblocks; bzw. Verheißungen und Utopien flankiert
ich darf Sie, auch im Namen der gesamten und sie werden seit den Nuller-Jahren in wird, andererseits solche Reden natürlich
Universitätsleitung, herzlich zur Bundes- einer neuen globalisierten Welt des soge- umgehend apokalyptische Gegennarrative
Hauptamtlichenkonferenz in der Friedens- nannten Turbokapitalismus mit all seinen im Sinne von diversen Weltuntergangssze-
stadt Augsburg begrüßen! widersprüchlichen Begleiterscheinungen narien, Dystopien etc. auf den Plan rufen.
Ein thematisches Grußwort zum Men- langsam älter. Und vor allem erleben sie Wichtig dabei – so Grundwald: Beiden
schenbild 4.0 aus Sicht der(!) Universi- seit ihrer Kindheit einen immer weiter gemeinsam sei die Botschaft eines jeweils
täten ist nicht einfach, denn allein schon sich beschleunigenden und umfassenderen auf seine Art übermächtig wirkenden
der Blick auf eine(!) Universität zeigt: was technologischen Wandel – Stichworte wie Technikdeterminismus, der ausblendet,
könnte die Perspektive dieser Universität Mediatisierung, Digitalisierung etc. künden verschleiert, dass wir – wir als Gesellschaft
– gleichsam oberhalb der vielfältigen, davon. – es sind, die den technologischen Wandel
unterschiedlichen Blickwinkel der Diszi- Armin Grunwald, Technikphilosoph initiieren und gestalten – leider häufig in
plinen und Fakultätsinteressen – kenn- und Technikethiker an der Universität der dominierenden Sichtweise, dass wir
zeichnen? Und dann noch die Sichtweise Karlsruhe (auch Jahrgang 1960!), hat Ende eben nicht(!) gestalten, also nicht(!) agieren,
der – Plural! – Universitäten (mit ihren Dezember im SZ-Feuilleton (SZ, 27.12.2019) sondern bestenfalls nicht hinderlich sein
unterschiedlichen Forschungsprofilen etc.) unter der Überschrift „Gretchenfrage 4.0, sollten bzw., wenn überhaupt, nur noch
einfangen zu wollen, macht die Sache noch Wie hältst du’s mit der künstlichen Intelli- irgendwie reagieren könnten.
schwieriger. genz? Technologiedebatten sind die neuen Diese Überlegungen möchte ich auf-
Gleichwohl werde ich das in den Systemdebatten“ 1 einen – wie ich finde greifen, um die Thematik Mensch und Welt
nächsten Minuten versuchen und möchte sehr eindrücklichen – Beitrag geliefert, in im Zeichen der künstlichen Intelligenz aus
aber warnend vorausschicken, dass meine dem er folgenden Gedanken entwickelt: Sicht ‚der Universitäten‘ in den Blick zu
eigene fachliche Herkunft die Soziologie Mit der Transformation der 1990er – dem nehmen. Um ‚als Gesellschaft‘ – also nicht
ist und damit wird der Sozialwissenschaft- Zerfall der Blockaufteilung der Welt, der nur als Politik, Wirtschaft, Wissenschaft,
ler unweigerlich durch das zu Sagende Globalisierung etc. – wurden die bis dahin sondern bspw. auch unter Einbezug der Zi-
hindurchscheinen. Und ich bin Jahrgang geführten und nun mehr oder weniger ob- vilgesellschaft u.a. – gestalten zu können,
1960 – das sind die mittlerweile als an- solet gewordenen politisch-ökonomisch d.h. Definitionsmacht, Handlungsmacht,
rollender Pflegeberg gefürchteten Baby- dominier ten Systemdebatten ersetzt Gestaltungsmacht zu behalten bzw. zu-
Boomer, die aber nicht nur das ‚Viele‘ als durch mehr oder weniger hochfliegen- rückzugewinnen, muss KI vor allem ra-
gemeinsames Kohorten-Merkmal haben, de Technikdebatten. Die Diskussion um dikal entmystifiziert als technologische
sondern auch folgende Sozialisationser- Künstliche Intelligenz (KI) ist gleichsam Entwicklung im Sinne eines Forschungs-
fahrung teilen: Sie sind geboren worden die jüngste Welle dieses veränderten gegenstands gesehen werden. Im Rahmen
auf dem Höhepunkt des Kalten Krieges; ‚framings‘, dieses Rahmen-Shifts in den universitärer Grundlagenforschung gilt es,
groß geworden in der alles dominierenden gesellschaftlichen Diskursen. Diese ver- Wissen über sie zu erzeugen und darauf
1 Vgl. auch Grunwald, Armin: Gretchenfrage 4.0; Süddeutsche Zeitung, 26.12.2019; https://www.sueddeutsche.de/kultur/kuenstliche-intelligenz-
gretchenfrage-4-0-1.4736017 (Zugriffsdatum 17.4.2020).
1–3 202011
Thema Künstliche Intelligenz
aufbauend zu erkunden, welche Chan-
cen und Risiken mit der Entwicklung und
Weiterentwicklung von KI verbunden sind.
Und natürlich sind wir angehalten, dieses
Wissen weiterzuvermitteln, um neue Ge-
nerationen von WissenschaftlerInnen mit
der Thematik vertraut zu machen.
Soweit so gut und banal: Dass sich an
der Universität Augsburg unsere Fakultä-
ten für Angewandte Informatik sowie für
Mathematik, Naturwissenschaften und
Technik mit der Thematik auseinanderset-
zen, liegt auf der Hand. Wie nicht zuletzt
der kürzlich – am 3.2.2020 in Garching bei
München – von der Bayerischen Staats-
regierung veranstaltete Hightech Summit Werner Schneider (vorn links) auf der ESG-Hauptamtlichenkonferenz in Augsburg
zeigt, hat auch die Politik das Thema
längst auf ihrer Agenda. 2 Da bislang jedoch ließen sich für viele weitere Disziplinen Menschenbilder als solche, sondern deren
hauptsächlich Schlagworte wie Innovati- entsprechende Blickwinkel und damit ein- praktisches, also handlungsrelevantes
on, Entwicklung, Wettbewerbsfähigkeit hergehende eigenständige, aber immer im Einwandern und Ausgreifen in und mit-
oder Standortsicherung – also letztlich trans- und interdisziplinären Zusammen- tels gesellschaftlicher Institutionen – und
die ökonomische Nutzbarmachung von hang zu verhandelnde Fragestellungen damit bis hinein die Alltagswelten der
KI – den Diskurs prägten, braucht es eine benennen. Menschen.
deutlich breitere Diskussion. Dabei geht Das Motto der ESG-Hauptamtlichen- Zu beachten ist dabei schließlich,
es nicht um das Pflegen von prinzipieller konferenz „Menschenbild 4.0“ verweist dass mit KI nicht nur die Frage nach der
Bedenkenträgerei, sondern um das voll- uns seinerseits nicht zuletzt auf die hohe Mensch-Maschine-Interaktion neu zu
umfängliche, kritische Ausloten der Mög- Relevanz philosophisch-ethischer und so- stellen und zu beantworten ist, sondern
lichkeiten und Grenzen der praktischen ziologischer Fragestellungen. Ich meine, sich zum einen vor allem unser (bislang
Ausgestaltung von KI-Einsätzen. es lohnt, sich hierfür kurz folgende Über- mechanistisch dominiertes) ‚Maschinen-
Hier zeigt sich die Bedeutung der legungen zu vergegenwärtigen: Technolo- Verständnis‘ weiter ‚digitalisieren‘ wird.
Volluniversitäten im Hinblick auf die Erfor- gischer Wandel verändert nicht per se die Und zum anderen wird die dabei span-
schung und Entwicklung von KI. Es reicht ‚Natur des Menschen‘, aber die Perspektive nende Frage nicht so sehr sein, wie der
nicht aus, InformatikerInnen und Ingeni- des Menschen auf sich selbst und die Welt. Mensch mit dem technologischen System
eurInnen, bestenfalls noch flankiert vom Genauer gesagt: Mit einem technolo- KI interagieren wird, sondern wie sich KI
kritisch kommentierenden ‚Alibi-Ethiker‘, gischen Wandel stehen zwar immer schon in die Mensch-Mensch-Interaktion ein-
das Feld zu überlassen. Vielmehr ist es vorherrschende Menschenbilder zur Dis- schreiben wird (z.B. im alltäglichen Aus-
notwendig, eine Vielzahl unterschiedlicher position, wenngleich sich historisch zeigt, tausch zwischen Arzt und Patient) ebenso
Disziplinen in die Diskussion einzubinden dass es eben nicht per se technologischer wie in die Ver-hältnisse verschiedener
sowie trans- und interdisziplinäre Projekte Wandel ist, der Menschenbilder verändert. gesellschaftlicher Gruppen zueinander.
zu fördern, um die Forschung verantwor- Vielmehr umgekehrt prozessieren gesell- Sobald KI diesen Weg ‚in die Gesellschaft‘
tungsbewusst und vertrauenswürdig vor- schaftlichen Diskurse diesen Wandel, in- gehen wird, werden sich nicht nur Men-
antreiben zu können. Beispielhaft sei auf dem sie mittels veränderter Sichtweisen schenbilder weiter verändern, sondern
die Bedeutung der Rechtswissenschaften des Menschen auf sich und seine Welt im vor allem und wichtiger: Herrschaftsver-
verwiesen, wenn es darum geht, die durch Sinne neuer Ideen letztlich überhaupt erst hältnisse, Machtbeziehungen und soziale
KI neu aufgeworfenen juristischen Fragen die kulturellen Bedingungen für technolo Ungleichheitsstrukturen.
(z.B. bei Unfällen von selbstfahrenden gische Innovationen und deren praktischen Es ist vermutlich vergleichsweise
Autos) zu bewerten. Welche rechtlichen Einsatz schaffen. unstrittig, dass KI-Entwicklungen immer
Grenzen wollen, sollen und müssen wir Entscheidend für den gesellschaft- dann zu begrüßen sind, wenn sie uns bspw.
bei KI-Anwendungen setzen? Analog lichen Wandel sind dabei weniger die medizinische Fortschritte ermöglichen,
2 Vgl. https://www.stmwk.bayern.de/allgemein/meldung/6443/hightech-summit-bayern-bietet-spannende-einblicke-in-die-technologien-von-morgen.html
(Zugriffsdatum 17.4.2020).
3 Vgl. z.B. https://taz.de/Yuval-Noah-Harari-im-Zukunftsgespraech/!167783/ (Zugriffsdatum 17.4.2020).
1–3 202012
Künstliche Intelligenz Thema
denken wir etwa an die Krebsforschung. nale und transnationale Arbeitsteilung eben Volluniversitäten in ihrer disziplinären
Hier kann – ein entsprechendes staatliches haben wird, mit entsprechenden Implika- Gesamtheit und die gleichberechtigte
Gesundheitssystem oder hinreichendes tionen auf die Verteilung materieller und Perspektive aller Disziplinen. Disziplinen,
Vermögen auf dem privaten Bankkonto immaterieller Ressourcen und, in weiterer für die – ebenso wie für die Universitäten
vorausgesetzt – jeder Mensch von den Folge, auf die Sozialpolitik, Bildungspolitik – mit der Weiterentwicklung der KI eben-
durch KI ermöglichten, neuartigen An- etc. Verschärft wird diese Entwicklung falls neue Herausforderungen, aber auch
wendungen profitieren. Deutlich schwie- dadurch, dass bereits seit Mitte der 1990er neue Chancen verbunden sind. Und: Ich
riger wird es hingegen, wenn wir uns in Jahre – wiederum von den Baby Boomern selbst bin gar nicht so skeptisch, wenn es
Erinnerung rufen, dass die meisten auf KI gleichsam selbst miterlebt – eine wachsende um das Menschenbild 4.0 geht, denn eines
beruhenden Maschinen und Anwendun- digitale Kluft (digital gap) beziehungsweise wird sich aus meiner Sicht insbesondere im
gen derzeit für Staaten und Unternehmen eine digitale Spaltung (digital divide) diag- Blick auf die ‚Natur des Menschen‘ auch in
entwickelt werden. Denn wem und wozu nostiziert wurde, wonach sich bestimmte Zukunft nicht ändern: Menschen werden
dienen diese dann, wenn es sich um tota- Bevölkerungsgruppen wesentlich in ihrem zum Menschen, erfahren sich als Men-
litäre Staaten, um rein gewinnorientierte Zugang zu und ihrer Nutzung von moder- schen erst im und durch den Austausch
Firmen ohne gesellschaftliches Verant- nen Technologien unterscheiden. Hier ist mit anderen Menschen – und nicht mit KI-
wortungsbewusstsein handelt? Wer legt durch die zunehmende Bedeutung von KI Systemen; sei es am Lebensbeginn, in der
mit welcher Intention durch selbstlernende eine weitere Verschärfung von sozialen Kindheit und Jugend, aber auch über das
Algorithmen und Programmcodes fest, Ungleichheiten im nationalen und trans- ganze Erwachsenenalter im Austausch mit
welche Entscheidungen sie treffen sollen? nationalen Rahmen zu befürchten – mit dem Lebenspartner, der Familie, Freunden,
Und wie beeinflusst dies das zukünftige womöglich weitreichenden Folgen für den Nachbarn, Kollegen etc.; und vor allem
Verhältnis nicht nur von Mensch und Ma- sozialen Frieden. wieder im Alter, in der Krankheit, am Le-
schine, sondern vor allem von Mensch zu Wer dient im Verhältnis zwischen bensende. Solange wir dieses nicht aus
Mensch? Mensch und Maschine bzw. im Verhältnis dem Auge verlieren, mache ich mir keine
Dem israelischen Historiker Yuval Noah von Mensch-Mensch-Maschine dann aber Sorgen um das Menschenbild in Zeiten von
Harari verdanken wir den Hinweis, dass wem? Muss etwas passieren – und wenn KI. Wir stecken mittendrin in einem span-
Karl Marx eine sehr viel bessere Leitfigur ja: was? –, damit ‚der Mensch‘, wenngleich nenden und keineswegs nur technologi-
als Steven Spielberg sei, was die Gefah- vielleicht nicht mehr in den selben, uns schen, sondern vielmehr grundlegenden
ren der KI angehe. 3 Diese Gefahren wären heute noch selbstverständlich erscheinen- gesellschaftlichen Wandel und wir sollten
nämlich nicht die autonomen Roboter, die den Merkmalen als einzigartig und uner- diesen aufmerksam und informiert – besser:
die Menschheit vernichten wollten (wie die setzlich gesehen, gleichwohl weiterhin im kundig gestalten!
Baby Boomer aufgrund ihrer Kino-Erfah- Zentrum unserer gesellschaftlichen und Ich darf Sie noch einmal alle in Augs-
rung seit den früheren 1980ern bestens politischen Aufmerksamkeit bleibt und burg willkommen heißen und wünsche
vor Augen haben), sondern jene, die un- demokratische Werte und Institutionen Ihnen eine gelungene Veranstaltung!
sere Jobs übernähmen. Im 21. Jahrhundert nicht durch technologische Systeme in Vielen Dank!
wäre folglich nicht mehr die Ausbeutung Frage gestellt werden?
eines Teils der Bevölkerung das Problem, Um diese und weitere Fragen zu be- Professor Dr. Werner Schneider ist
sondern deren Irrelevanz und damit wo- antworten brauchen wir, aus Sicht der Professurinhaber für Soziologie mit
möglich deren Ausschluss aus der ökono- Universitäten, vor allem (und wie oben Berücksichtigung der Sozialkunde und
mischen Wertschöpfungskette. Über Har- bereits benannt) weitergehende, unab- Vizepräsident der Universität Augsburg
iris Sichtweise lässt sich natürlich trefflich hängige und nicht nur angewandte, son-
diskutieren, unstrittig erscheint hingegen, dern Grundlagenforschung – also uni-
dass KI große Auswirkungen auf die natio versitäre Forschung. Wir brauchen dazu
1–3 202013
Thema Künstliche Intelligenz
KI in der Arbeitswelt
– und der Mensch?
Norbert Huchler
KI wird zunehmend breit eingesetzt. Dabei bei eGovernment, Versicherungen, Banken gen sind jedoch wenig tragfähig. Denn
sind die Auswirkungen auf die Menschen, und administrativen Tätigkeiten allge- es kommt auf die konkrete Gestaltung
die Arbeit und die Gesellschaft weitest- mein), den Personalbereich, insbeson- an, wie sich KI-Systeme nach ihrer Imple-
gehend noch unklar. Um die Potenziale dere bei der Suche und Beurteilung von mentierung auswirken. Aber wie kann
und die Risiken des Einsatzes von KI ein- Bewerber*innen und auch bei der Ver- sichergestellt werden, dass KI im Sinne
schätzen zu können, ist es wichtig, sich haltensvorhersage bestehender Beschäf- einer nachhaltigen Entwicklung des/der
auch mit dem zu beschäftigen, was KI im tigter („predictive analytics“) und nicht Einzelnen und der Gesellschaft eingesetzt
Unterscheid zum Menschen kann oder zuletzt auch die Kundeninteraktion; z.B. werden? Wie kann mittels KI der Schatz
nicht kann. Erst diese Verschiedenheit im Callcenter oder durch Kommunikations- „Datengold“ gehoben und zugleich der
ermöglicht ein komplementäres nach- programme („bots“). Datenschutz gesichert werden? Aber auch:
haltiges Zusammenwirken von Mensch Welche neuen Machtverschiebungen ent-
und Technik. Dagegen für die Nichtbeach- Fragen der Auswirkung von KI stehen hierdurch in Richtung derer, die
tung dieser Unterschiede zu zahlreichen über die Systeme und die Daten verfügen?
Folgeproblematiken. Dabei sind die Auswirkungen größtenteils Die Praxis zeigt: Die Antworten auf
noch unklar: Hat KI positive oder negative diese und viele weitere Fragen hängen
Einsatzbereiche von KI Auswirkungen auf den Arbeitsmarkt? Wie von der jeweiligen spezifischen Ausge-
verhält sich Stellenabbau durch Rationali- staltung der Systeme und ihres Einsatzes
Neuere Systeme der Künstlichen Intelli- sierung zu Stellenaufbau durch neue Ar- ab. Schon kleinste Variationen können hier
genz (KI), insbesondere lernende Systeme, beit rund um KI? Wie schnell geschieht gewünschte Effekte zu ungewünschten
werden zunehmend in der Arbeitswelt ein- hier der Wandel und was bedeutet das für umschlagen lassen. Dies macht die Ent-
gesetzt, um Situationen zu erfassen, Daten Qualifizierung? wicklung von (z.B. gesetzlichen) Rahmen-
auszuwerten, Entwicklungen vorherzu- Was kennzeichnet die Tätigkeiten, die regelungen kompliziert und limitiert diese
sagen und Prozesse teilautonom selbst für, rund um und jenseits von KI weiterhin eventuell auch.
zu steuern oder gar zu optimieren. Dabei oder neu benötigt werden? Gibt es eine
stehen zahlreiche Einsatzbereiche von KI digitale Spaltung zwischen kreativen, inno- Und der Mensch?
aktuell in der Diskussion: nicht nur „intel- vativen Berufen und „emotionsbezogenen“
ligente“, lernende, anpassungsfähige und Berufen, die wenig von KI betroffen sind, In politischen öffentlichen Papieren heißt
kollaborative Robotersysteme, sondern auf der einen und übriggebliebenen Hilfs- es oft schnell und vermeintlich bestimmt:
vor allem sogenannte „Wissensarbeit“ tätigkeiten auf der anderen Seite? Oder „Die Digitalisierung geht nur mit den Be-
vom Wissensmanagement über Assistenz- braucht es nicht vielmehr weiterhin Fach- schäftigten“, „Wir müssen die Menschen
systeme für die Arbeitsorganisation bis arbeit, um KI-Systeme überhaupt in die mitnehmen“ und „Die Mitarbeiter stehen
zur Unterstützung einer „datengetriebe- Praxis zu bringen? im Mittelpunkt“. Solche normativen Set-
nen“ Entscheidungsfindung. Dies betrifft In der breiten Diskussion stehen oft- zungen sind wichtig, um Orientierung zu
zum Beispiel: KI für die Produktionssteu- mals die Vorstellungen gegenüber, dass bieten. Entsprechende „Ethik-Leitfäden“,
erung, -planung und -optimierung, die KI-Systeme allein durch ihre technische was KI bewirken oder nicht bewirken soll,
Optimierung der Personaleinsatzplanung Eigenart also quasi „automatisch“ zu einer geben einen Rahmen vor und können als
durch Auswertung und Abgleich von Pro- Aufwertung von Tätigkeiten, Entlastung, grobe Leitplanken dienen. Aber solange
zessanforderungen mit Personaldaten Gesundheit und Motivation führen oder nicht systematisch dargelegt wird, was KI
(Matching von „tasks“ und „skills“), das im Gegenteil systematisch zu einer Ein wirklich kann und was sie nicht kann und
Lagermanagement und die Intralogistik engung von Handlungsräumen und neuen wofür der Mensch gebraucht wird und wofür
(autonome Fahrzeuge), die automatisierte Belastungen (digitaler Taylorismus). Diese nicht, so lange hängt solchen normativen
Sachbearbeitung („Dunkelverarbeitung“ „technikdeterministischen“ Betrachtun- Setzungen ein wenig der Charakter eines
1–3 202014
Künstliche Intelligenz Thema
frommen Wunsches an. Wo macht welche Daher bietet sich ergänzend eine wei- von KI-Systemen, die sich nicht so einfach
Mensch-Technik-Konstellation auf Dauer tere Idee an, die der „komplementären – z.B. über mehr Rechenleistung und Da-
Sinn, sowohl auf arbeits- bzw. betrieblicher Arbeitsteilung“. Eine Möglichkeit, eine ten – „beheben“ lassen:
Ebene wie auch für die Gesellschaft? Welche menschengerechte Gestaltung von KI-
direkten sowie mittel- und längerfristigen Systemen in Entwicklung und Einsatz nor- Erfassungs-, Verarbeitungs-, Integrations-
Folgen und unbedachten Nebenfolgen mativ (wünschenswert) und funktional und Ressourcenprobleme: Was im Labor,
müssen mit einkalkuliert werden? Dabei (aus der Sache begründet) abzusichern, ist in der Simulation oder Einzelumsetzung
ist es fundamental, die Voraussetzungen die Orientierung an einer Arbeitsteilung technisch machbar ist, ist nicht genau so in
für einen realistischen Blick auf KI in der zwischen Mensch und Technik, die auf den der Breite umsetzbar. Es kommt zu Über-
tatsächlichen praktischen Anwendung zu jeweiligen Kompetenzen bzw. Eigenschaften tragungs- und Komplexitätsproblemen
schaffen. beruht. Sie müssen sich also unterscheiden im Zusammenspiel von Soft- und Hard-
Wie steht es um die Realisierbarkeit und sollten sich gewinnbringend wech- ware (Umwelteinflüsse, Interferenzen,
der „KI-Versprechen“ in Bezug auf Opti- selseitig (komplementär) ergänzen bzw. Aufschaukelungen, Unschärfen) und zu
mierung und Praktikabilität? Was kann bestärken und in ihrer Weiterentwicklung völlig neuartigen Problematiken bei der
KI? Und was kann KI nicht? Wie wirken befördern. Die Spielräume und Potenziale Implementierung in die soziale Umwelt
KI-Systeme mit ihrer komplexen materiel- eines solchen Ansatzes sind umso größer, (Interessen, Nutzungs- und Aneignungs-
len und sozialen Anwendungsumgebung je mehr Differenzen zwischen den jeweili- formen, Widerstände). Viel diskutiert wer-
zusammen? Wo und wie macht KI im Ge- gen „Kompetenzen“ an wichtigen Punkten den Grenzen technischer Erfassbarkeit und
samtsystem Arbeit Sinn? des Zusammenwirkens von Mensch und Ver-arbeitung, die Tücken wahrscheinlich-
Technik ausgemacht werden können. Das keitsbasierter Bearbeitung unvollständi-
Komplementäre Arbeitsteilung heißt, ein solcher Ansatz benötigt eine ger Informationen (Korrelationen statt
systematische Auseinandersetzung mit Kausalität, Fehlschlüsse, falsche Pfade).
Um hier voranzukommen, bieten sich den Grenzen von KI-Systemen, die in der Immer neue Parameter verschlechtern
begriffliche Hilfskonstrukte an, wie zum aktuellen Diskussion zu kurz kommt. Erst auch die Performance von KI/lernenden
Beispiel die Überlegung, dass KI nur die- über ein Verständnis der Grenzen von KI Systemen (Datenqualität). KI-Systeme sind
jenige Arbeit automatisieren und dem kann der Schritt zu einem funktionalen weiter-hin abhängig von ihrer (Software-
Menschen abnehmen soll, die belastend Zusammenwirken getan werden. bzw. Lern-)Architektur (Nicht-Wissen,
und demotivierend ist, also zum Beispiel „Vorurteile“). Letztlich spielen dann auch
stark repetitive Arbeit. (Und nicht Routine, Grenzen von KI (Folge-)Kosten und begrenzte Ressourcen
die man sich erst aneignet.) Und dass KI Seit der Begriff der „künstlichen Intelli- eine Rolle, nicht nur ökonomische und ma-
dort als „Werkzeug“ bzw. „Assistenzsys- genz“ geprägt wurde, gibt es auch eine terielle Ressourcen, sondern zum Beispiel
tem“ wirken soll, wo es um motivierende, Auseinandersetzung mit den Grenzen auch die begrenzte menschliche Aufmerk-
qualifizierende und gesunde Arbeit geht. von KI – insbesondere in Abgrenzung zu samkeit und die limitierte Komplexität an
Dies stellt eine sinnvolle Zielsetzung zur „menschlicher Intelligenz“. Je-doch fehlt Verbindungen jeglicher Art.
Orientierung dar, wird aber so in der Praxis es hier bislang an einer systematischen
nicht wirksam, da auch qualifizierte Arbeit Zusammenschau und einer Ausweitung Logische Probleme, Dilemmata und Neben-
einem ständigen Rationalisierungs- und über den Vergleich mit dem Menschen folgen: Hinzu kommen Dilemmata (z.B.
Optimierungsprozess unterworfen ist und hinaus. Zudem wird hier in der Regel von „Ironies of Automation“) und Eigenheiten
auch mit eigenen Belastungsaspekten ein- „noch nicht“ überwundenen Grenzen ge- technischer Wandlungsprozesse, Neben-
hergeht. Umgekehrt werden die Anforde- sprochen: „Das KI-System ist an diesem folgenproblematiken und Risikospiralen,
rungen rund um vermeintlich „einfache“ Punkt noch nicht so gut wie der Mensch, die für KI noch nicht ausreichend heraus-
Arbeit systematisch unterschätzt. aber bald …“ Es gibt jedoch auch Grenzen gearbeitet sind. Zum Beispiel das Dilemma,
1–3 202015
Thema Künstliche Intelligenz
gensinn, Gespür, Könnerschaft, aber auch leistung. Die KI eignet sich dadurch aber
die Fähigkeit, Bedeutung und Sinn zuzu- eben nicht Intuition an. Ebenso verhält
weisen, bei Widersprüchen dennoch zu es sich bezüglich menschlicher Kreativi-
handeln, zu innovieren und auch Fehler tät und Sinnverstehen im Unterschied zu
zu machen etc., sind Bereiche, in denen semantischen Technologien bzw. Ontolo-
spezifisch menschliche Fähigkeiten, die gien zur Erstellung oder Auswertung von
auf nicht explizier- bzw. formalisierbarem Texten und Bildern. Auch bei motorischen
implizitem Wissen beruhen offensichtlich Tätigkeiten wie Schlüsseleinstecken, Fahr-
werden. Erfahrungswissen und Kompe- radfahren oder Fußballspielen etc. gehen
tenzen (im Unterschied zu Qualifikationen) Menschen gänzlich anders vor als KI-ba-
sind Bestandteil des Arbeitsvermögens des sierte bzw. lernenden Robotersysteme. Die
Menschen, das zu einem ganzheitlichen, Bearbeitungsprozesse unterscheiden sich
subjektivierenden und objektivierenden, systematisch bezüglich Wissensaufbau,
gegenstandsbezogenen Arbeitshandeln Wissenszugriff und -verarbeitung, Output
befähigt – im Unterschied zur maschinellen bzw. Handeln etc. Die eigentliche Frage ist
Bearbeitung. dann, was hat sich verändert, wenn eine KI
eine Tätigkeit „über-nimmt“? Was bleibt
Wenn Grenzen nicht berücksichtigt liegen? Was kommt hinzu? Mit welchen
werden – Folgen für die Arbeitswelt Folgen?
Autonome Systeme und Arbeit
Perspektiven, Herausforderungen und Nun besteht jedoch das Problem, dass Substituierungsbias: Ohne eine systema-
Grenzen der Künstlichen Intelligenz in diese „Grenzen“ dennoch übersehen, ig- tische Bezugnahme auf die Grenzen von
der Arbeitswelt noriert und über-schritten werden kön- KI wird auch das Substituierungspotenzial
nen – mit entsprechenden Folgen für den systematisch überschätzt. Ursache ist die
dass technische Automatisierung immer Prozess, das Ergebnis, die Mitarbeiter, das Konzentration auf die formalen, digital
mit neuer Arbeit einhergeht; vorher, wäh- Unternehmen, die Gesellschaft. leicht abbildbaren Kerntätigkeiten und die
renddessen (gewährleistend oder auch Ausblendung der Komplexität und Unsi-
kompensierend) und danach. Die Voraus- Dass dies ständig geschieht, zeigt sich cherheit der Arbeit (z.B. informelle Antei-
setzungen, die Bearbeitung wie auch das unter anderem an den folgenden Prob- le, „stille Leistungen“, Arbeitsvermögen
Ergebnis verändern sich – mit entsprechen- lembereichen: etc.) sowie die Konzentration auf explizites
den Folgen. Wissen und das Ignorieren von Erfahrung,
Äquivalentenbias: Technische Teil-Auto- Kompetenzen, impliziter Kommunikati-
Nicht-Formalisierbarkeit von Teilen huma- matisierung ist oftmals nur ein funktio- on etc. Es wird nicht nur die Komplexi-
ner Arbeitskraft: KI ist auf Formalisierung nales Äquivalent (dasselbe Ziel wird er- tät der bestehenden Arbeit unterschätzt
(Informatisierung) angewiesen, das heißt: reicht) menschlicher Arbeit, sehr selten sondern auch die der Auswirkungen von
auf eine Übersetzung der Wirklichkeit eine Simulation (Nachahmung des Wegs KI-Implementierungen. Die reichhaltige
in die „Zeichensprache“ der Maschinen zur Erreichung des Ziels) von menschlicher Dynamik des Wandels von Arbeit durch
(01010010). Es gibt eine breite Auseinan- Arbeit, aber keine technische Aneignung KI-getriebene Teilautomatisierung mit ih-
dersetzung darüber, was prinzipiell „nicht“ von menschlichen Kompetenzen. So löst ren Verschiebungen, Neu-schneidungen
übersetzbar in die „Zeichenlogik“ (Daten) die Go-Spiel-KI (AlphaGO) ein Problem, das und Umgewichtungen von Arbeit wird
ist. Kreativität, Spieltrieb, Initiative, Spon- Menschen mit Intuition und Improvisation nur teilweise erfasst. Die Folge ist eine
tanität, Empathie, Widerständigkeit, Ei- lösen, mittels enormer Daten und Rechen- systematische Unterschätzung der „Ge-
1–3 202016
Künstliche Intelligenz Thema
Technik dem Menschen ähnlich zu gestal-
ten (Humanisierung der Technik), ist ja
nicht nur ein Inspirations- und Innovati-
onstreiber (von der Natur lernen), son-
dern basiert auch auf dem Gedanken, dass
Menschen sich nicht der Technik anpassen
und so entfremden sollen, sondern dass
sich die Technik an den Menschen und
damit an seine Lebenswelt anpassen soll
– insbesondere an der Schnittstelle, zum
Beispiel durch intuitive Sprachsteuerung.
Das Problem ist, dass dieser vor allem
auf Erleichterung (z.B. Usability) abzie-
lende Ansatz oftmals mit einer starken
Industrieroboter (KUKA IR 160/60, IR601/60 von 1983), Quelle: wikipedia De-Qualifizierung, einer Einengung von
Aneignungs- und Handlungsmöglichkei-
währleistungsarbeit“, die rund um und Selbst-Disziplinierung bzw. -zurichtung ten und Entmündigung von Kritikfähig-
zwischen der Entwicklung und dem Nut- an der Schnittstelle zu KI-Systemen, ge- keit einhergeht. Zugleich greift auch die
zens von KI-Systemen geschieht. Damit rade wenn sie auf intuitive Nutzerfüh- damit verbundene Idee der Herstellung
geht auch die typische verzerrt-negative rung und ein auf das Nutzererlebnis aus- von Akzeptanz, emotionaler Bindung und
Prognose der künftigen Notwendigkeit gerichtetes Design setzen. Dies betrifft Vertrauen über Ähnlichkeit zu kurz. Zum
von Facharbeit einher. auch die Anpassung von Entscheidungs- einen ist es in vielen Kontexten – vor al-
und Denkstrukturen, zum Beispiel durch lem im Arbeitszusammenhang – durchaus
Standardisierungsbias: Teilautonome KI- BigData-basierte Expertensysteme für rational, in Ähnlichkeit auch ein Bedro-
Systeme funktionieren am besten in hoch die Entscheidungsfindung in Wirtschaft, hungspotenzial zu erkennen. Zum anderen
standardisierten Umwelten. Insofern ist Politik und im Privatleben. Eine einseiti- kann eben gerade eine komplementäre
ihre Umsetzung begleitet von einem eher ge Anpassung an ein „datengetriebenes“ – also auf Verschiedenheit basierende –
impliziten ständigen Drang hin zur Stan- probabilistisches Handeln auf Basis von Unterstützung durch KI Akzeptanz und
dardisierung bzw. Anpassung der Umwelt Wahrscheinlichkeiten und auf Kosten von Vertrauen fördern, wenn sie den Menschen
an die Bedarfe der Technik und einer Re- Erfahrung, Sinnverständnis und Gespür „arbeitsteilig“ nützlich ist und positiv in
duktion von Vielfalt. So lässt sich zum Bei- überträgt geradezu die Defizite techni- seiner erfahrenen Wirkmächtigkeit be-
spiel das autonome Fahren umso leichter schen „Handelns“ (Fehlschlüsse, Determi- fördert. Dabei sind Menschen dazu fähig,
realisieren, je homogener, abgestimmter niertheit, Architekturabhängigkeit etc.) Objekte auch unabhängig von Ähnlichkeit
und regelgeleiteter der Verkehr und das auf das menschliche Handeln und geht auf zu „subjektivieren“ (wie Subjekte zu be-
Verkehrsverhalten sind. Auch „emotions- Dauer mit einer Entfremdung vom Gegen- handeln) und mit ihnen emotionale Bin-
sensible“ KI-Systeme in Bewerbungsge- stand und De-Qualifizierung einher. dungen aufzubauen; wie es sich seit jeher
sprächen werden umso mehr gewünschte im Umgang mit Maschinen zeigt, vor allem
Resultate produzieren, je mehr sich die Akzeptanz-, Vertrauens- und Humanisie- wenn sie durch diese bestärkt werden (Hu-
Menschen in Sprache, Mimik und Ges- rungsbias: Dass die Grenzen von KI nicht manisierung durch Technik).
tik an den von der KI zugrunde Geleg- berücksichtigt werden, ist oft auch mit
ten Kategorien orientieren. Dies birgt ein einem fehlgeleiteten Verständnis von Risiko- und Verantwortungsbias: Ohne eine
großes Gefahrenpotenzial bezüglich einer „Humanisierung“ verbunden. Die Idee, die realistische Einschätzung der Möglichkei-
1–3 2020Sie können auch lesen
