Maschinelle Intelligenz - Evolution oder Lebensqualität
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Informatik Spektrum (2021) 44:238–246
https://doi.org/10.1007/s00287-021-01382-8
HAUPTBEITRAG
Maschinelle Intelligenz – Evolution oder Lebensqualität
Hubert Österle1
Angenommen: 7. Juni 2021 / Online publiziert: 3. August 2021
© Der/die Autor(en) 2021
Zusammenfassung
Die maschinelle Intelligenz durchdringt und verändert alle Lebensbereiche. Die Integration der digitalen Services in Su-
perapps verschiebt die Macht von Individuen, von konventionellen Unternehmen und von Staaten hin zu Internetgiganten,
die ihre Ressourcen dafür einsetzen, die digitalen Dienste so weiterzuentwickeln, dass ihr Kapital und ihre Macht weiter-
wachsen. Auf diese Weise treibt das Kapital die soziotechnische Evolution.
Konsumerismus, psychische Erkrankungen, Wohlstandskrankheiten, politische Polarisierung, Machtverschiebung zu Kon-
zernen u. a., negative Konsequenzen einer rein kapitalgetriebenen Entwicklung verlangen nach Steuerungsmechanismen im
Sinne der Lebensqualität. Die riesigen Datensammlungen der digitalen Dienste ermöglichen es, die Treiber der Lebensqua-
lität besser verstehen zu lernen, messbar zu machen und damit die soziotechnische Evolution zum Wohle der Menschen
zu lenken. Darin liegen die Chancen einer Disziplin Life Engineering.
Leben mit maschineller Intelligenz grierter werden die Personen- und Sachdaten. Es entsteht
ein so umfassendes, detailliertes, exaktes und aktuelles Bild
Derzeit nutzen Menschen je nach Technikaffinität und Le- des Menschen (Digital Twin, Quantified Self), wie es noch
bensumständen monatlich ungefähr 6 SmartPhone-Apps1 nie existiert hat. Es umfasst die Kontakte, die Termine, die
[1], in Einzelfällen aber bis zu 100. Das sind Apps wie z. B. Finanzen, die sportlichen Aktivitäten, das Schlafverhalten,
Videoconferencing, Navigation und Payment. Stark wach- die Interessen oder Umgebungsdaten wie die Luftqualität
sende Bereiche sind Gesundheit (Schlaf etc.), Wohnung und enthält sogar Daten wie die Hautoberflächenspannung
(Beleuchtung usw.), Fahrzeug (Kollisionswarnung usw.), oder die DNA, für die der Mensch keine natürlichen Sinne
Verkehr (Fußgängererkennung etc.) und öffentliche Verwal- besitzt.
tung (z. B. Steuererklärung). Noch nie gab es ein derart breites und detailliertes Ver-
In 10–20 Jahren werden Superapps (fast) alle Dienste zu- haltenswissen. Die Megaportale leiten aus den riesigen Da-
sammenfassen, die ein Individuum benötigt. Wir sind uns tensammlungen Verhaltenswissen ab. Sie schlagen in der
meist gar nicht bewusst, wie viele digitale Services uns in Navigation ungefragt die Route nach Hause oder ins Bü-
allen Lebensbereichen bereits heute, im Jahre 2021, beglei- ro vor oder liefern uns aufgrund unseres Leseverhaltens
ten. Sensorik, 5G, die Robotik, das maschinelle Lernen, die oder unserer Freunde Nachrichten, die zu unserer politi-
Integration (Standardisierung, Verknüpfung, Bereinigung) schen Ausrichtung passen.
der Benutzerdaten und einfachere Mensch-Maschine-Ko- Noch nie gab es eine derart enge Kooperation zwischen
operation werden bis zum Jahre 2030 leistungsfähige und Menschen und Maschinen. Die Megaportale messen ihren
umfassende Lebensassistenten aus einer Hand für Gesund- Erfolg u. a. an der Zeit, die ein Benutzer mit ihren Services
heit, Mobilität, Arbeit, Unterhaltung usw. ermöglichen. verbringt, also die Zeit, die zur Beeinflussung des Individu-
Je stärker die erwähnten Dienste zur Superapp einer do- ums zur Verfügung steht. Schon immer versuchten Politik,
minanten Internetplattform zusammenwachsen, desto inte- Religion und Unternehmen, das Verhalten der Menschen
über Erziehung, Werbung, Vorschriften und Sanktionen zu
lenken. Noch nie hatten sie allerdings ein derart ausgefeiltes
1 neben den durch das Betriebssystem vorinstallierten. Instrumentarium zur Verfügung. Menschen kommunizieren
Hubert Österle
immer mehr mit ihren Maschinen als mit den Menschen,
hubert.oesterle@unisg.ch sodass die Maschinen das Verhalten der Menschen nach
und nach steuern können, zu deren Vorteil wie zu deren
1
Universität St. Gallen, St. Gallen, Schweiz Nachteil.
KInformatik Spektrum (2021) 44:238–246 239
(Glück, Freude) oder Wehe (Unglück, Leid), also die Le-
bensqualität, ausmacht. Damit beschäftigt sich die Philo-
sophie schon seit Platon, zunehmend aber auch die Psy-
chologie, Soziologie, Ökonomie, die Neurowissenschaften
und die noch junge Glücksforschung. Zur Beurteilung von
digitalen Services diene hier ein stark vereinfachtes Mo-
Abb. 1 Mensch als lernendes dell der Lebensqualität (zur Vertiefung siehe [4]), das den
System
Menschen als lernendes System mit dem Ziel hoher Le-
bensqualität versteht.
Jede Wahrnehmung trägt bewusst oder unbewusst zum
Die maschinelle Intelligenz verändert unser Leben so Wissen des Menschen bei (siehe Abb. 1). Die Aktion „Post
schnell und grundlegend, dass wir von einem Evolutions- auf Instagram“ erzeugt beispielsweise die Wahrnehmung,
sprung sprechen müssen, keinem biologischen, aber ei- wie oft der Post angeklickt wurde und wie viele Likes und
nem soziotechnischen. Die digitalen Dienste assistieren den Kommentare er erhält. Positive Rückmeldungen befriedigen
Menschen in allen Lebensbereichen und schaffen neue For- das Bedürfnis nach Anerkennung (Status) und erzeugen ein
men der Produktion (z. B. globale Arbeitsteilung) und des Gefühl der Freude. Beleidigende Reaktionen bedienen die-
Konsums von Gütern und Dienstleistungen (z. B. virtuel- selben Bedürfnisse, lösen aber Leid aus. Aktion, Wahrneh-
le Welten). Sie ersetzen oder verändern die Mechanismen mung, Bedürfnis und Gefühl bilden einen Wissensbaustein
der Gesellschaft (Meinungsbildung, Mitbestimmung, Be- (Verhaltensmuster) [5].
strafung und Belohnung von Verhalten usw.). Die Bedürfnisse des Menschen sind teilweise ererbt und
Ein eher kleiner Teil der Menschen beschreibt vor allem teilweise erworben. Das Bedürfnis nach Status innerhalb
die positiven Seiten der Technisierung, also beispielsweise der Gemeinschaft ist ererbt und sorgt für die Selektion
das Besiegen von Krankheiten, die Beseitigung von Hunger, der besten Gene in der Fortpflanzung. Die Verbindung von
die Rettung der Umwelt und nicht zuletzt ein friedvolles Rückmeldungen in Instagram mit dem Streben nach Rang
Zusammenleben der Menschen [2, 3]. Weitaus mehr Men- innerhalb der Gruppe (Status) wird durch die Sozialisati-
schen klagen primär über die Gefahren und haben Angst on erworben und bildet ein Verhaltensmuster „Instagram
vor Überwachung, Stress durch Beschleunigung, Polarisie- Post“.
rung und Hass, Komplexität und Überforderung, ja letztlich Abb. 2 fasst einige Erkenntnisse der Psychologie [6]
vor Entmenschlichung und Unterwerfung unter Maschinen. und benachbarter Wissenschaften [7] zu 13 Bedürfnissen
Doch auf welche digitalen Dienste wollen wir verzichten? zusammen. Diese Auswahl von untereinander abhängigen
Wie können wir dafür sorgen, dass die digitalen Dienste die Faktoren wirkt bei aller Sorgfalt, mit der sie zusammen-
Lebensqualität der Menschen erhöht? getragen worden sind, willkürlich und grob, hilft aber,
Derzeit bestimmt eine viel zu emotionale Sicht auf die menschliches Verhalten zu erklären. Wenn die Grund-
maschinelle Intelligenz die öffentliche und wissenschaft- bedürfnisse der Selbst- und Arterhaltung, beispielsweise
liche Diskussion. Wir benötigen eine Disziplin Life Engi- Nahrung und Sicherheit, erfüllt sind, richtet der Mensch
neering, welche die technologische Entwicklung erfasst, die seine Kraft auf die Differenzierung von seinen Artgenossen
Auswirkungen auf die Lebensqualität rational zu verstehen etwa durch Aussehen, Macht oder Wissen. Er will seinen
lernt und daraus Handlungsanleitungen für die Individuen, Rang erhöhen und so attraktivere Fortpflanzungspartner
die Wirtschaft und die Gesellschaft ableitet. Dieser Aufsatz gewinnen. So sorgt die Evolution dafür, dass die stärksten
ist ein Versuch dazu. Gene selektiert und weitergegeben werden. Das Glück der
Die Entwicklung ist nicht aufzuhalten, sondern wird sich Menschen ist nicht das Ziel der Evolution, sondern das
noch beschleunigen. Maschinelle Intelligenz, also die Men- Mittel zur Steuerung des menschlichen Verhaltens.
ge aller digitalen Services, ermöglicht und schafft neue Me- Ein Problem der Bedürfnisbefriedigung liegt im Kampf
chanismen zur Steuerung von Individuen, Unternehmen und zwischen Hedonia und Eudaimonia. Hedonia ist das unmit-
Gesellschaft. Eine Disziplin Life Engineering muss die Ge- telbare und kurzfristige Gefühl, beispielsweise ein Erfolg
fahren, vor allem aber die Chancen der maschinellen Intel- in einem Videospiel. Häufig wird Hedonia mit Lust gleich-
ligenz erkennen und sie zum Wohle der Menschen gestalten. gesetzt. Eudaimonia ist die längerfristige Zufriedenheit mit
sich selbst und dem Lebenssinn (vor allem im Bedürfnis
Selbstwert). Unbeschränktes Spielen von Videogames er-
Der evolutionär gesteuerte Mensch zeugt kurzfristige Lust an kleinen Erfolgserlebnissen (vor
allem Bedürfnis Macht), nimmt dem Spieler aber beispiels-
Wenn die Menschen die maschinelle Intelligenz zu ihrem weise die Zeit zum Lernen oder zur Pflege von physischen
Wohle nutzen wollen, müssen sie verstehen, was das Wohl
K240 Informatik Spektrum (2021) 44:238–246
Abb. 2 Bedürfnisse des Men-
schen
Freundschaften und damit zur längerfristigen Zufriedenheit Die soziotechnische Evolution nutzt Glück und Unglück,
mit sich selbst. um die Entwicklung zu treiben. Die Lebensqualität der Men-
Das Netzwerk der Bedürfnisse ist ein rudimentäres neu- schen ist nicht das Ziel, sondern das Mittel der Evolution.
ronales Netzwerk, das in viele Ebenen von neuronalen Net- Die maschinelle Intelligenz erfasst immer detailliertere Da-
zen zu verfeinern ist. Datensammlungen helfen, Verhaltens- ten jedes Menschen und leitet daraus ein Verhaltensmodell
muster zu prüfen und weiterzuentwickeln. Die Megaportale aus Bedürfnissen, Aktionen, Wahrnehmungen, Gefühlen und
leiten daraus das Verhaltenswissen, z. B. in Form des Know- Wissen ab. Aus Sicht der Wirtschaft ist dies ein Konsum-
ledge Graphs von Google, ab, mit dem sie die Beeinflus- modell und aus Sicht der Ethik ein Lebensqualitätsmodell.
sung der Menschen in Werbung und Verkauf steuern. Das Der Politik bietet das Verhaltensmodell neue Instrumente
skizzierte Lebensqualitätsmodell mit den 13 Bedürfnissen zur Steuerung der Gesellschaft.
kann als Aggregation unzähliger Verhaltensmuster gesehen
werden. Die Komponenten und Zusammenhänge vollstän-
dig zu erkennen, ist eine Aufgabe, welche nicht nur den Autonomie und Manipulation des Menschen
Menschen, sondern auch die heutigen Möglichkeiten des
maschinellen Lernens bei Weitem überfordert. Wir müssen Wenn die Maschine besser als der Mensch weiß, welche
uns bis auf Weiteres mit eher einfachen und isolierten Ver- Lebensmittel er kaufen sollte, kann sie ihm den Einkauf
haltensmustern wie etwa „Schlafqualität und Gesundheit“ abnehmen. Wenn die Maschine aus den Persönlichkeits-
zufriedengeben. merkmalen den richtigen Partner fürs Leben findet, kann
Damit kommen wir zu zentralen Fragen des Einsatzes der Mensch die Auswahl der Maschine überlassen. Spätes-
der maschinellen Intelligenz zum Wohle der Menschen. tens hier beginnt die Angst vor dem Verlust der Autonomie,
Weiß das Individuum, was gut oder schlecht für seine Le- der Punkt, an dem die Emotionen besonders hochgehen.
bensqualität ist? Weiß die Wissenschaft, welches Verhalten Eine Befragung von 240 sogar weitgehend technikaffinen
zu Glück oder Unglück führt? Und wenn es der Mensch Personen hat dies deutlich gezeigt [8].
weiß, hat er die Konsequenz zur Umsetzung? Schaltet der Die Angst vor dem Unbekannten und Unverstandenen ist
Mensch beispielsweise für ein paar Stunden am Tag alle stärker als die Vernunft. Autonomie (Freiheit, Souveränität
digitalen Kommunikationskanäle ab, wenn er weiß, dass er usw.) ist eines der stärksten Anliegen der Ethik. Doch freier
mehr Zeit für die Verarbeitung und weniger Zeit für die Wille ist eine seit eh und je heftig umstrittene Vorstellung,
Aufnahme von Informationen aufwenden sollte, um zufrie- die gerade mit Blick auf die maschinelle Intelligenz erneut
dener zu werden? Am Schluss stellt sich die Frage: Welche zu überdenken ist. Was treibt die Entscheidungen des Men-
digitalen Dienste sollen entwickelt werden und wer reali- schen? Es sind seine Bedürfnisse, die er durch seine Gene
siert in diesen seine Interessen? ererbt oder durch seine Umgebung und Erfahrung erlernt
hat. Ererbte Bedürfnisse, die in unseren Genen angelegt
KInformatik Spektrum (2021) 44:238–246 241
sind, führen zu Gefühlen wie Liebe, Eifersucht, Rache und Die maschinelle Intelligenz forciert eine besondere Form
Lust. Wie das Verhalten der Menschen ständig zeigt, sind der Beeinflussung, das Nudging. Dieses verwendet nicht
diese Gefühle meist stärker als die Vernunft, schränken also starre Vorschriften und finanzielle Anreize, sondern gibt
die freie Entscheidung des Menschen weitgehend ein. kleine, nichtmonetäre Anstöße (Nudges), um das Verhalten
Erlernte Bedürfnisse (Muster) entstehen zum Teil aus der der Menschen zu beeinflussen. Das kann der Hinweis auf
persönlichen Erfahrung des Menschen. Wenn sich jemand einen „guten Zweck“ sein, wenn beim Verkauf von Konzert-
in TikTok präsentiert, lernt er, dass sich seine Vergleichs- tickets die Weitergabe von 10 % des Erlöses für die Aus-
personen dort ebenfalls von der besten Seite zeigen. Die bildung von Straßenkindern versprochen wird. Das kann
Entscheidung aufgrund der eigenen Erfahrungen kann man aber auch das Ranking in einer Fitnessgruppe sein, die ihre
am ehesten als autonom bezeichnen, denn sie folgt den Ver- Trainingsperformance ins Netz stellt. Nudging steht für die
haltensmustern, die der Mensch selbst erkannt hat. Letztlich Ansprache aller nichtfinanziellen Bedürfnisse mit dem Ziel
sind es aber Muster, die aus den Genen und der Umgebung der Verhaltensbeeinflussung. Suyanto et al. [9] beschreiben
abgeleitet sind. Ein allgegenwärtiges erlerntes Bedürfnis ist Nudging als lifestyle-based social engineering und plädie-
das nach Kapital. Digitale Dienste bedienen dies beispiels- ren dafür als Ergänzung zu den staatlichen Zwangsmaß-
weise mit Preisvergleichen und Verdienstmöglichkeiten et- nahmen, beispielsweise bei der Umsetzung von Hygiene-
wa durch Posts. vorschriften, wie sie mit Covid-19 vereinbart werden.
Ein großer Teil der erlernten Bedürfnisse wird uns von Das Social Scoring, das China in einigen Regionen er-
unseren Mitmenschen vermittelt. Die Sozialisation in der probt, gibt ein gesellschaftlich erwünschtes Verhalten vor.
Umgebung, in der wir aufwachsen und leben, vermittelt uns Es ahndet säumiges Zahlungsverhalten oder den Verstoß ge-
vielfach unbewusst Regeln und Werte, wie wir in der Ge- gen Verkehrsregeln und es belohnt die Tätigkeit in sozialen
sellschaft erfolgreich leben. Die schulische Erziehung, die Einrichtungen und systemkonformes Verhalten. Das Social
Religionen und die Ethik formalisieren die Verhaltensmus- Scoring könnte gewissermaßen als Weiterentwicklung des
ter, wie z. B. die Behandlung eines Geschäftspartners, und Strafgesetzbuchs interpretiert werden. Es sanktioniert nicht
wollen unser Verhalten an ihre Vorstellungen anpassen. Die nur Fehlverhalten, sondern belohnt auch erwünschtes Ver-
Medien, also Videos, Filme, Fernsehen, Zeitungen, Bücher halten.
usw. präsentieren uns Vorbilder (Influencer), von denen wir Das „Social Scoring“ der westlichen Demokratien ver-
Werte (z. B. Statussymbole) und Verhaltensweisen überneh- wendet das Zahlungsverhalten (z. B. Schufa), das Flensbur-
men. ger Zentralregister für Verkehrssünder, die Schadenshistorie
Die Konsumforschung hat ein vielfältiges Instrumenta- des Fahrzeuglenkers bei der Versicherung, das Vorstrafen-
rium zur Manipulation hervorgebracht und die Digitalisie- register, Schul- und Arbeitszeugnisse, die Datensammlung
rung liefert den Turbo dafür. Die omnipräsente Werbung des Employment Screening, die 360°Grad-Bewertung von
kennt das generelle sowie das individuelle Kaufverhalten, Mitarbeitern oder die Informationen des Tenant-Screenings
unsere Präferenzen und unsere finanziellen Verhältnisse, so- usw. Wie man aus den Erfolgsberichten der Polizei ableiten
dass sie uns jene Produkte und Dienste anbietet, die den kann, überprüft diese in der Terrorabwehr auch systemge-
größten Verkaufserfolg erwarten lassen. Sie spricht dabei fährdendes Verhalten, indem sie die Surfhistorie im Inter-
jene, uns selbst häufig unbewussten Bedürfnisse an, die uns net, die Mitgliedschaft in bestimmten sozialen Netzwerken
zum Kauf verleiten. Wenn die Werbung unsere Finanzen, und die Benutzung des Dark Nets überwacht.
unseren Beruf und Freundeskreis, unsere Einkaufshistorie Die Wirkung der maschinellen Intelligenz zur Verhal-
und unsere Foto- und Videosammlung kennt, kann sie bei- tensbeeinflussung, insbesondere im Nudging, wird biswei-
spielsweise einen prestigeträchtigen Urlaub auf den Baha- len als libertärer Paternalismus bezeichnet. Die Väter die-
mas in bunten Farben ausmalen. ser Richtung, Thaler und Sunstein, wollen damit erreichen,
Die sozialen Netze sind ein Ort der Selbstdarstellung dass der Mensch zu einem Verhalten gestupst wird, aber
und des meist unbewussten Vergleichs unter Freunden und die Freiheit behält, sich gegen den Stupser zu entscheiden.
Bekannten. Vermitteln die Einweg-Medien wie das Kino Sie vertreten damit explizit das Ziel, dass nicht nur das Ka-
die Statussymbole von unerreichbaren Idolen, so stellen die pital, sondern alle Bedürfnisse zum Wohle des Menschen
sozialen Medien die Mitglieder einer Gemeinschaft neben- bedient werden. Sie gehen allerdings nicht darauf ein, dass
einander, verstärken die Wirkung durch Interaktion (Kom- das Verhaltenswissen, aufgrund dessen sich das Individuum
mentare, Applaus, Likes usw.) und treiben die Teilnehmer allenfalls gegen den Nudger entscheidet, durch alle oben
wie nie zuvor in einen Wettbewerb der Attraktivität (Be- beschriebenen Beeinflussungen entstanden ist.
dürfnis Rang) durch eindrucksvolle sportliche Leistungen, Gene, Gesetze, Erziehung, Sozialisation, Medien, Wer-
durch den Erwerb von Statussymbolen (Bedürfnis Ausse- bung, Nudging und Social Scoring bestimmen die Bedürf-
hen), durch Positionen in Politik und Vereinen sowie beruf- nisse und den Handlungsspielraum des Menschen. Das digi-
lichen Aufstieg (Bedürfnis Macht). tale Abbild des Menschen verstärkt die Instrumente der Be-
K242 Informatik Spektrum (2021) 44:238–246
einflussung. Was bleibt von der Autonomie des Menschen? den Kunden, ein andermal aber zu hohen Verlusten nur
Wer bestimmt, wonach gesteuert wird? für den Kunden führen.
Das Kapital erzeugt fast zwangsweise Konsumeris-
mus mit allen Konsequenzen. Die Digitalisierung för-
Kapital als Steuerungsinstrument der dert den Vergleich mit Freunden und Vorbildern und
Evolution stellt die Menschen damit in der Freizeit wie im Beruf
in das Hamsterrad der Evolution durch Selektion. Aus
Wie ich die Grundgedanken zum Life Engineering vor 10 Sicht des Anbieters bedeutet mehr meist auch besser.
Jahren einer Gruppe von Wirtschaftsinformatikstudenten Begleiterscheinungen sind Umweltzerstörung, Stress,
vorgestellt habe, reagierten diese mit Unverständnis, das ein Verschuldung sowie gesundheitliche Schäden wie Adi-
Student wie folgt zusammenfasste: „Wenn die Menschen positas und Depression bis hin zum Drogenkonsum.
das konsumieren, was ihnen nützt, und wenn die Wirtschaft Hedonia durch Chats in sozialen Medien ist stärker als
die digitalen Dienste anbietet, die von den Konsumenten ge- Eudaimonia durch Meditation.
wünscht werden, dann ist für beide gesorgt und die Welt in Die Digitalisierung verändert die Lebensgewohnheiten.
Ordnung.“ Ständige Erreichbarkeit, Verlust der Trennung von Beruf
Das erwartete Payback einer Investition entscheidet, wel- und Privatleben, E-Mail und Social Networking bis spät
che Dienste und welche Unternehmen sich durchsetzen, der in die Nacht, aber auch Unterhaltung durch Videos und
tatsächliche Payback liefert die Kraft für die Weiterent- Gaming, verändern den Lebensrhythmus. Das schlägt
wicklung und Vermarktung. Das iPhone von Apple und die sich nicht selten in Schlafproblemen und als Folge davon
Suchmaschine Google von Alphabet sind die besten Bei- in depressiven Stimmungen nieder.
spiele dafür. Das Kapital wird zum Treibstoff der Evolution Die digitalen Medien prägen immer stärker das Weltbild
und hat die materielle Situation weiter Teile der Weltbe- und die Werte der Konsumenten. Sie vermitteln uns nicht
völkerung verbessert. Der Wettbewerb von Millionen von nur Statussymbole, die unseren Konsum anregen, son-
Entwicklern und Unternehmern zusammen mit den Ent- dern auch Inhalte (Meinungen), die zu unserer Einstel-
scheidungen von Milliarden von Konsumenten erzeugt eine lung passen und diese damit verstärken. Sie tragen mit
Kreativität, die unseren materiellen Wohlstand überhaupt Filterblasen zur Polarisierung bei, wie beispielsweise der
erst ermöglicht. Die libertären Denker betonen, dass die amerikanische Wahlkampf 2020 gezeigt hat. Um derarti-
Menschen die Autonomie besitzen, für sich selbst zu ent- gen Gefahren entgegenzuwirken, schlägt u. a. Stray vor,
scheiden, was für sie am nützlichsten ist. Es gibt allerdings die Algorithmen der maschinellen Intelligenz auf die Be-
Gegenargumente: dürfnisse von Gemeinschaften auszurichten [11]
Digitale Services, ob sie die Suche von wissenschaftli-
Die Digitalisierung erzeugt eine Komplexität [10], wel-
chen Publikationen, die maschinelle Übersetzung oder
che die Individuen überfordert, sodass sie die Konse-
die Navigation betreffen, nehmen dem Menschen Kom-
quenzen vieler Entscheidungen nicht mehr abschätzen
petenz und Entscheidungen ab, sodass er von den Ser-
können. Das wird uns bei der Zustimmung zur Verwen-
vices abhängig wird.
dung von Cookies und zu den Allgemeinen Geschäfts-
Ein noch viel zu wenig beachtetes und verstandenes
bedingungen eines digitalen Service immer wieder vor
Phänomen ist die Machtverschiebung [12]. Technolo-
Augen geführt. Welcher Konsument versteht denn noch
giegiganten wie Facebook, Apple, Microsoft, Amazon,
die Deckungen seiner Fahrzeugversicherung, die die Ver-
Netflix und Google, aber auch Baidu, Ant, JD, Aliba-
sicherer aus der Analyse riesiger Schadensdatenbanken
ba und Tencent setzen sich in vielen Belangen gegen
und allenfalls von Persönlichkeitsmerkmalen abgeleitet
sogenannte souveräne Staaten durch, gleich ob es um
haben, um ihr Schadensrisiko zu minimieren?
Steuern, Datenschutz oder Verbraucherschutz geht. Sie
Unternehmen und Konsumenten haben teilweise kon-
besitzen jeweils fast monopolartige Macht und verhin-
kurrierende Ziele. Der RoboAdvisor einer Bank emp-
dern in ihren Ecosystemen das Aufkommen von kleinen,
fiehlt ein derivatives Produkt der Bank, welches das
innovativen Unternehmen [13]. Sogar ein global tätiger
Bedürfnis des Kunden nach einem schnellen Zuwachs
Konsumgüterkonzern muss sich damit beschäftigen, ob
des Kapitals (Gier) anspricht. Der Kuchen, der zwischen
Amazon seine Produkte durch Eigenmarken ersetzen
Bank und Kunde zu verteilen ist, bleibt aber immer
kann und er damit u. U. nur noch zum Lieferanten von
gleich. Wenn dann noch eine Erfolgsbeteiligung der
niedrigmargigen Massenwaren wird. Ein Autohändler
Bank ins Spiel kommt, die nur bei Gewinnen und nicht
berichtet davon, dass seine Gebrauchtwagen in Google
bei Verlusten schlagend wird, geht die Bank u. U. Risi-
praktisch nicht auffindbar sind, wenn er nicht bereit ist,
ken ein, die einmal zu hohen Gewinnen für die Bank und
für jeden Klick auf seine Website einen Betrag an Google
zu überweisen. Mit ihren Mitteln zur Meinungsbildung
KInformatik Spektrum (2021) 44:238–246 243
bzw. -beeinflussung gefährden die Megaportale die De- boriertes Modell der Lebensqualität kann aber auch die
mokratie und den Markt. Ansätze der positiven Psychologie, die Erkenntnisse der
Neurowissenschaften, ja sogar bewährte Konzepte von
Die soziotechnische Evolution treibt über das Kapital die Religionen wie die zehn Gebote oder die buddhistische
Entwicklung von Wissen, Technik und Regeln für Wirtschaft Meditation zu einer Anleitung zur Eudaimonia, also zum
und Gesellschaft. Der wirtschaftliche Erfolg eines digita- dauerhaften Glück durch Zufriedenheit mit sich und der
len Service entscheidet, ob er entwickelt und betrieben wird. Umwelt zusammenfassen und die Basis für einen digi-
Wenige Megaportale bestimmen die Entwicklungsrichtung. talen Lebensassistenten bilden, der uns beobachtend und
intervenierend durch das tägliche Leben begleitet.
Soll die maschinelle Intelligenz die Lebensqualität er-
Lebensqualität als Steuerungsinstrument höhen, so muss sie aus den Verhaltensdaten ein operatio-
des Menschen nalisierbares Modell der Lebensqualität „lernen“ und an-
hand dessen die Individuen, die Unternehmen und die Ge-
Utilitaristen wie Jeremy Bentham gehen davon aus, dass sellschaft anleiten.
Glück das oberste Ziel der Menschen ist. Die Menschen
versuchen, all ihre Bedürfnisse möglichst intensiv und dau-
erhaft zu befriedigen. Dies ist auch die Botschaft von Tha- Life Engineering
ler und Sunstein, die durch Nudging die Aufmerksamkeit
der Menschen auf alle Bedürfnisse lenken wollen. Die Re- Die Menschheit steht vor der Wahl, die soziotechnische
duktion auf einen Teil der Bedürfnisse wie Kapital, Macht Evolution am Kapital oder aber an der Lebensqualität aus-
und Gesundheit erzeugt Defizite bei den vernachlässigten zurichten (Abb. 3).
Bedürfnissen. Da der Mensch ein ausgeprägtes Bedürfnis Das Kapital ist bis heute der wirkungsvollste Treiber der
nach Arterhaltung (Gesundheit, Sex, Fortpflanzung, Sicher- technologischen Entwicklung. Die Megaportale nutzen ihre
heit, Gemeinschaft) besitzt, liegt ihm das Gemeinwohl oder Datensammlungen, ihre Modelle des Kaufverhaltens, ihren
mindestens das Wohl seiner Gemeinschaft am Herzen. Die dominanten Kundenzugang und ihr Kapital, um ihre Diens-
Ausrichtung an den Bedürfnissen bedeutet daher ganz im te weiterzuentwickeln. So bieten sie ihren Kunden einen
Sinne des Utilitarismus nicht reinen Egoismus, sondern Le- überlegenen Nutzen und steigern damit den Unternehmens-
bensqualität für alle, mindestens aber die eigene Gemein- wert, wie dies von ihren Aktionären gefordert wird. Was
schaft. hilft es, wenn ein Unternehmen die Lebensqualität in den
Diese Interpretation der Lebensqualität entspricht der Mittelpunkt stellt, damit aber den Antrieb und die Ressour-
Vorstellung, dass die soziotechnische Evolution nicht nur cen für die Entwicklung verliert, sodass kapitalgetriebene
die stärksten Exemplare der Menschen selektiert, son- Unternehmen eine überlegene Technologie entwickeln, die
dern dass sich jene Technologien und Organisationsformen früher oder später von allen übernommen werden muss (sie-
durchsetzen, die der Menschheit als Ganzes den größ- he dazu auch den Beitrag von Falk und Riemensperger in
ten Nutzen bringen. Nach diesem Prinzip sind auch die diesem Heft). In der technologischen Entwicklung gilt das
komplexen Organisationen von Termitenbauten oder Bie- Prinzip: Führe oder werde geführt.
nenvölkern entstanden, da die Evolution nicht allein das In den letzten Jahren verfolgen zahlreiche Initiativen die
Individuum, sondern die Gattung entwickelt. Lebensqualität der technologischen und ökonomischen Ent-
Sämtliche ethischen Prinzipien lassen sich auf die hier
behandelten 13 Bedürfnisse abbilden, wenn wir zur notwen-
digen Abstraktion bereit sind. Ungleichheit kann beispiels-
weise bedeuten, dass ein Individuum durch das Kapital oder
die Macht anderer gehindert wird, ein bestimmtes Kranken-
haus aufzusuchen, dass deswegen die Bedürfnisse Rang und
Selbstwert leiden und u. U. das Bedürfnis Gesundheit nicht
befriedigt werden kann. Das ethische Prinzip der Gleichheit
schützt diese Bedürfnisse, widerspricht aber den Bedürfnis-
sen der Menschen, die von einer Besserstellung profitieren.
Ein stark verfeinertes Modell der Lebensqualität könnte
es erlauben, die vielerorts diskutierten Prinzipien der Di-
gitalethik (siehe Beitrag Spiekermann in diesem Heft) zu
operationalisieren, zu konkretisieren und letztlich durch
konkrete Handlungsanweisungen zu ersetzen. Ein ela- Abb. 3 Kapital (Evolution) versus Lebensqualität
K244 Informatik Spektrum (2021) 44:238–246
wicklung. Beispiele sind das Ethically Aligned Design mit Onlineverhalten des Nutzers und seinem Wohlbefinden her-
den IEEE 7000™ Standards, die ISO Norm 26000 zur Cor- stellen, braucht sie neben Daten wie dem Herzrhythmus
porate Social Responsibility, die ESG-Kriterien (ecological, unter anderem Informationen über die genutzten Funktio-
social, governance) der OECD [14], Datenschutz, Verbrau- nen (z. B. bei der Organisation einer Bahnreise) oder das
cherschutz und in letzter Zeit die europäische oder nationa- Bedienverhalten (z. B. Fehler bei der Eingabe).
le Gesetzgebung zur Digitalisierung wie die DSGVO (Da- Dienstanbieter kämpfen zusätzlich mit der Schwierig-
tenschutz-Grundverordnung). Sie zielen alle darauf ab, die keit inkompatibler Datenwelten. Ist es schon mühsam, syn-
eindimensionale Steuerung der soziotechnischen Evolution taktisch unterschiedlich strukturierte Daten zusammenzu-
durch das Kapital um weitere Dimensionen der Lebensqua- führen, ist es noch viel anspruchsvoller, die Daten anderer
lität zu erweitern. Dienste semantisch richtig zu interpretieren, selbst wenn sie
Die Initiativen leiden daran, dass keine belastbaren Mo- mit aufwändigen Ontologien dokumentiert sind. Deshalb
delle der Lebensqualität vorhanden sind, dass die Ethik we- will die Europäische Union mit GAIA-X, basierend auf der
nig operationalisierbare und damit überprüfbare Werte lie- IDS-Software-Infrastruktur, Datenräume für konkrete Öko-
fert, dass der Marktzugang für innovative Dienste mit der systeme schaffen (siehe Beitrag von Otto und Burmann in
Lebensqualität im Zentrum meist aussichtslos ist und dass diesem Heft). Für die europäische Wirtschaft wie für die
die Marktdominatoren ihre Interessen vielfach selbst in der Verbraucher von besonderer Bedeutung ist der Mobilitäts-
Politik durchzusetzen vermögen. datenraum, der das Ökosystem Mobilität auf ein neues Ni-
Die Digitalisierung ist nicht nur eine gewaltige Heraus- veau heben soll.
forderung, sondern bietet ein wirkungsvolles Instrumenta-
rium, die kapitalgetriebene Steuerung von Wirtschaft und Verhaltenswissen
Gesellschaft um viele Aspekte der Lebensqualität zu erwei-
tern. Eine Disziplin Life Engineering kann dazu die Grund- Digitalisierung zum Wohle der Menschen setzt voraus, dass
lagen liefern. wir wissen, was dieses Wohl ausmacht. Die riesigen Da-
tensammlungen der digitalen Dienste versetzen uns in die
Datenzugriff Lage, Verhaltensmuster und damit verbundene Indikatoren
für die Lebensqualität zu untersuchen. Die Entwicklung ei-
Anbieter digitaler Dienste mit dem Ziel der Lebensquali- nes operationalisierbaren Lebensqualitätsmodells kann auf
tät müssen den gleichen Zugang zu den Daten bekommen, viele Erkenntnisse, beispielsweise der Psychologie [16, 17],
wie ihn heute Dienste mit einem ausschließlichen Kapital- zurückgreifen, eine systematische Suche nach Mustern, die
ziel besitzen. Der Artikel 20 der DSGVO verlangt, dass alle oben angesprochenen Faktoren der Lebensqualität ein-
ein Dienstanbieter auf Verlangen des Benutzers dessen Da- bezieht, könnte sich zwar als bahnbrechende Opportunität
ten an einen anderen Dienstanbieter weitergeben muss. Im der Digitalisierung herausstellen, steckt aber bislang bes-
Idealfall könnte ein neuer Dienst Zugang zu allen Daten tenfalls in den Kinderschuhen.
aller digitalen Dienste eines Nutzers bekommen. Eine Stu- Dagegen unterhalten die Megaportale riesige KI-Abtei-
die des BIDT (siehe Beitrag von Kuebler-Wachendorff et lungen, die neben dem Fachwissen der involvierten Wissen-
al. in diesem Heft) berichtet dagegen, dass das Recht auf schaftsbereiche alle Techniken des maschinellen Lernens
Datenportabilität in praxi weitgehend wirkungslos ist, da nutzen, um Verhaltensmuster im Konsum abzuleiten. Sie
die exportierenden Dienstanbieter die Datenweitergabe er- betrachten dieses Wissen als Kern ihres Geschäftsmodells
schweren, die importierenden Dienstanbieter kaum auto- und setzen es daher im Wettbewerb ein.
matisierte Datenübernahme anbieten und die Benutzer we-
nig über ihr Recht wissen. Das Privacy Paradox [15], nach Digitale Dienste
dem Benutzer persönliche Daten beispielsweise in sozialen
Netzwerken fast bedenkenlos preisgeben, gleichzeitig aber Internetnutzer verwenden gewöhnlich nicht mehr als
die Wichtigkeit des Datenschutzes betonen, erschwert den 5–10 Apps zusätzlich zu den in iOS und Android vor-
Neueintretern im Markt den Datenzugriff. installierten [18]. Sollen digitale Dienste mit dem Ziel der
Die DSGVO differenziert nicht zwischen historischen Lebensqualität die Benutzer erreichen, müssen sie Zugang
Daten, die in den Datenbanken der Dienste liegen, und den zum Kunden erhalten, was auf den Widerstand der Platz-
Echtzeitdaten, die zum Zeitpunkt der Nutzung eines Diens- hirsche stößt, wie beispielsweise der Rechtsstreit zwischen
tes entstehen. Ein digitaler Dienst kann zwar auf die API dem Spielehersteller Epic Games und Apple sowie Google
des Apple HealthKit oder des Google Fit zugreifen, ist dann [19] zeigt.
aber auf die von Apple oder Google bereitgestellten Da-
ten (Herzrhythmus, Bewegung usw.) beschränkt. Will eine
neuartige App beispielsweise den Zusammenhang zwischen
KInformatik Spektrum (2021) 44:238–246 245
Politische Implementierung Bedeutet Life Engineering mehr staatliche Regulierung?
Ohne gesellschaftlichen Konsens wird es nicht gehen, aber
Der skizzierte soziotechnische Evolutionssprung verändert ohne marktwirtschaftliche Mechanismen auch nicht. Es gilt,
unsere Gesellschaft derart grundlegend, dass wir alle ge- das Kapital als Treiber der Entwicklung zu nutzen und
sellschaftlichen Kräfte benötigen, um die wissenschaftli- gleichzeitig die Ziele der Lebensqualität zu verfolgen.
chen Erkenntnisse einer Disziplin Life Engineering wirk-
sam zu machen, wenn wir die Entwicklung zum Wohle der
Menschen und nicht nur des Kapitals steuern wollen. Es Nachsatz
geht um Meinungsbildung, um Ausbildung, um politische
Programme von Parteien, um Konsumentenschutzgesetzge- Eine Disziplin Life Engineering stellt uns vor enorme emo-
bung, um zivilgesellschaftliche Aktivitäten und um interna- tionale Herausforderungen. Wir müssen akzeptieren lernen,
tionale Abstimmung, da einzelne Staaten nicht gegen die dass umfassenden Datensammlungen und Maschinenlernen
Macht der Megaportale ankommen. fundierte Erkenntnisse zum Verhalten der Menschen liefern
Life Engineering liefert die wissenschaftliche Grundlage können, auch wenn diese zunächst nur sehr einfache Mus-
für gesellschaftliches Handeln. ter, wie beispielsweise zu Videogaming und Schlafqualität,
betreffen. Wir müssen akzeptieren lernen, dass viele Ein-
flüsse unsere scheinbar autonomen Entscheidungen bestim-
Datennutz statt Datenschutz men, dass derzeit die Internetgiganten die größten Daten-
sammlungen, das meiste Verhaltenswissen und die Kanäle
Die DSGVO wird teilweise als europäische Vorzeigeleis- zur Monetarisierung dieses Wissens besitzen und uns da-
tung gefeiert und teilweise als bürokratisches Monster zum mit im Sinne des Kapitals steuern. Wir müssen die Chance
Vorteil der Megaportale anstelle der Bürger [20] verdammt. erkennen, die wir als Gesellschaft haben, dieselben Res-
Möglicherweise sollte der Datenschutz grundsätzlich durch sourcen zum Wohle der Menschen einzusetzen.
Datennutz ersetzt werden. Nicht die Sammlung von Da- Wenn Sie, lieber Leser, den Überlegungen zum Life En-
ten ist zu begrenzen, sondern die Nutzung. Ein Modell gineering wenigstens in Teilen zustimmen, dann gestatten
könnte sein, dass Datentreuhänder den Zugriff auf sämtli- Sie mir 2 letzte Fragen: Wer hat das Recht zur Steuerung
che Personendaten für alle Anbieter von digitalen Services der Menschen? Und wer hat die Pflicht zur Steuerung der
mit Zustimmung der betroffenen Person ermöglichen, dass Menschen? Ein empirisches Stimmungsbild zu diesen und
dann aber kontrolliert wird, ob die Daten nur in dem Sinn ähnlichen Fragen findet sich auf www.lifeengineering.ch.
verwendet werden, den der Dienstanbieter nach staatlichen
Funding Open access funding provided by University of St.Gallen
Vorgaben deklariert hat. Wirtschaft und Wissenschaft arbei-
ten seit Längerem an derartigen Konzepten („self-sovereign Open Access Dieser Artikel wird unter der Creative Commons Na-
identity“) und Lösungen [21]. Welchen Wert Personenda- mensnennung 4.0 International Lizenz veröffentlicht, welche die Nut-
zung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in
ten haben, lässt sich daraus erahnen, dass Google jährlich jeglichem Medium und Format erlaubt, sofern Sie den/die ursprüng-
8–12 Mrd. USD an Apple dafür bezahlt, dass Apple in iOS lichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link
die Google-Suchmaschine vorinstalliert [22]. zur Creative Commons Lizenz beifügen und angeben, ob Änderungen
Wie dringlich weniger Emotion und mehr Rationalität vorgenommen wurden.
in der Diskussion sind, zeigt das aktuelle Beispiel der eID Die in diesem Artikel enthaltenen Bilder und sonstiges Drittmaterial
in der Schweiz. Das Schweizer Parlament hat beschlossen, unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern
eine EU-kompatible staatlich überwachte Identifikation zu sich aus der Abbildungslegende nichts anderes ergibt. Sofern das be-
treffende Material nicht unter der genannten Creative Commons Lizenz
schaffen, den Betrieb des Identifikationsservices aber priva- steht und die betreffende Handlung nicht nach gesetzlichen Vorschrif-
ten Anbietern zu überlassen. Gegen diese privatwirtschaft- ten erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des
liche Lösung wurde das Referendum ergriffen, das im März Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
2021 vom Volk angenommen wurde, sodass der Datennutz Weitere Details zur Lizenz entnehmen Sie bitte der Lizenzinformation
aus der eID in der Schweiz wahrscheinlich um Jahre ver- auf http://creativecommons.org/licenses/by/4.0/deed.de.
zögert wird. Und dies in einem Land mit 8,6 Mio. Ein-
wohnern, von denen 96 % im Internet aktiv sind, 6,5 Mio.
einen E-Mail-Account bei Google, Apple usw. besitzen, Literatur
sich 4,5 Mio. in sozialen Netzwerken wie Facebook enga-
gieren [23] und so ein Vielfaches der Daten ohne staatliche 1. eMarketer, (2015) How many apps do Smartphone owners use?—
emarketer. https://www.emarketer.com/Article/How-Many-Apps-
Kontrolle an kapitalgetriebene Unternehmen und außerhalb Do-Smartphone-Owners-Use/1013309. Zugegriffen: 15-Nov-2016
des Schweizer Hoheitsgebiets preisgeben. 2. Schmidt E, Cohen J (2013) The new digital age. Reshaping the fu-
ture of people, nations and business. Alfred A. Knopf, London
K246 Informatik Spektrum (2021) 44:238–246
3. Diamandis PH, Kotler S (2012) Abundance: the future is better than 14. OECD (2017) Investment governance and the integration of envi-
you think. Free Press, New York ronmental, social and governance factors
4. Österle H (2020) Life Engineering. Mehr Lebensqualität dank ma- 15. Gerber N, Gerber P, Volkamer M (2018) Explaining the privacy
schineller Intelligenz? Springer Nature, Wiesbaden paradox: a systematic review of literature investigating privacy atti-
5. Österle H (2020) Why do you use Instagram? www.medium.com. tude and behavior. Comput Secur 77:226–261
Zugegriffen: 20-Dez-2020 16. Kuss DJ, Griffiths MD (2017) Social networking sites and addicti-
6. Reiss S (2004) Multifaceted nature of intrinsic motivation: the theo- on: ten lessons learned. Int J Environ Res Public Health. https://doi.
ry of 16 basic desires. Rev Gen Psychol 8(3):179–193 org/10.3390/ijerph14030311
7. Schröder M (2020) Wann sind wir wirklich zufrieden? Bertels- 17. Berryman C, Ferguson CJ, Negy C (2018) Social media use and
mann, München mental health among young adults. Psychiatr Q 89(2):307–314
8. Österle H (2021) Leben mit maschineller Intelligenz. Ergebnis- 18. Bitkom (2019) Smartphone-Nutzung in Deutschland
se einer Online-Umfrage. https://de.lifeengineering.ch/post/leben- 19. Sokolov DA (2020) App-Store-Monopol: Epic Games verklagt ne-
mit-maschineller-intelligenz-1. Zugegriffen: 08-Apr-2021 ben Apple auch Google, heise online. https://www.heise.de/news/
9. Suyanto B, Egalita N, Sugihartati R (2020) Facing the new reality App-Store-Monopol-Epic-Games-verklagt-neben-Apple-auch-
of post Covid-19: a demand for lifestyle-based social engineering. Google-4870598.html?view=print. Zugegriffen: 04-Nov-2020
J Talent Dev Excell 12(1):2333–2342 20. Ramge T, Mayer-Schönberger V (2020) Machtmaschinen. Warum
10. Mertens P, Bissantz N (2021) Hänschenklein oder Mondscheinso- Datenmonopole unsere Zukunft gefährden und wie wir sie brechen.
nate? Geraten wir in eine Komplexitätskrise? Murmann,
11. Stray J (2020) Aligning AI optimization to community well-being. 21. Abiteboul S, André B, Kaplan D (2015) Viewpoint : managing your
Int J Community Well Being 3(4):443–463 digital life. Commun ACM 58(5):32–35
12. Chen M, Grossklags J (2020) An analysis of the current state of the 22. W. Daisuke and J. Nicas, Apple, Google and a Deal That Controls
consumer credit reporting system in China. Proc Priv Enhancing the Internet, The new York Times, 25-Nov-2020.
Technol 4:89–110 23. Internetnutzung in der Schweiz. (2020) https://de.statista.com/
13. Philippon T (2019) The great reversal. How America gave up on statistik/studie/id/31508/dokument/internetnutzung-in-der-schweiz-
free Marktes. Belknap Press, Cambridge statista-dossier/. Zugegriffen: 01-Dec-2020
KSie können auch lesen
