KÜNSTLICHE INTELLIGENZ - "SMARTE" ARBEIT UND - Rosa-Luxemburg-Stiftung
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
PHOEBE V. MOORE KÜNSTLICHE INTELLIGENZ UND «SMARTE» ARBEIT
Phoebe V. Moore KÜNSTLICHE INTELLIGENZ UND «SMARTE» ARBEIT ZUR POLITISCHEN ÖKONOMIE DER MENSCH-MASCHINE-INTEGRATION
2
INHALT Einleitung 5 TEIL I: Die gute alte Künstliche Intelligenz 11 Die autonome Maschine? 19 TEIL II: KI-erweiterte Tools und Anwendungen am Arbeitsplatz 25 People Analytics 27 Cobots 32 Chatbots 35 Wearables 36 Plattformen und Gig-Work 38 TEIL III: Wer sind die «smarten» Arbeiter*innen? Wer sollten sie sein? 47 Datenschutz 48 Selbstoptimierung 51 Autonomie 54 LITERATUR 59
EINLEITUNG
Wirtschaftlich fortgeschrittene Staa – europaweite Stärkung und Ver-
ten befinden sich derzeit in einem netzung von KI-Forschungszent-
Wettlauf miteinander, um Künstli- ren;
che Intelligenz (KI) schnellstmög- – Einrichtung einer Plattform für «KI
lich in möglichst viele Industrien auf Abruf», die allen Nutzer*innen
und Gesellschaftssphären zu integ- in der EU Zugang zu einschlägi-
rieren. Der Forschung und Entwick- gen KI-Ressourcen bietet;
lung in diesem Bereich werden rie- – Förderung der Entwicklung von
sige Fördergelder in Milliardenhöhe KI-Anwendungen in Schlüsselbe-
zur Verfügung gestellt. reichen.
Bisher führten die USA das Rennen Kürzlich, im Februar 2020, ver-
an, dicht gefolgt von China und Isra- öffentlichte die Kommission das
el (Delponte 2018). In China erhofft «Weißbuch zur Künstlichen Intelli-
man sich durch den Einsatz von KI genz – ein europäisches Konzept für
bis 2030 einen Anstieg des Brutto- Exzellenz und Vertrauen». KI wird
inlandprodukts um 26 Prozent. Die dort wie folgt definiert:
USA zielen auf eine Steigerung um «KI [ist] ein Bestand an Technolo-
14,5 Prozent ab (PwC 2018). 2018 gien, die Daten, Algorithmen und
kündigte die Europäische Kommis- Rechenleistung kombinieren. Fort-
sion an, dass die Investitionen im schritte in der Informatik und die zu-
KI-Bereich im Zuge des Forschungs- nehmende Verfügbarkeit von Daten
und Innovationsprogramms «Ho- sind daher der Schlüsselfaktor für
rizont 2020» bis Ende 2020 um den derzeitigen Aufstieg der KI.»
70 Prozent erhöht werden und sie (Europäische Kommission 2020: 2)
somit in diesem Jahr 1,5 Milliarden Die Einleitung des EU-Papiers be-
Euro betragen sollen (Europäische tont die mit KI verbundenen Vorteile,
Kommission 2018). Dadurch sol- wie etwa Fortschritte in der Gesund-
len folgende Maßnahmen gefördert heitsfürsorge und Krankheitsprä-
werden: vention sowie Effizienzsteigerungen
5der Landwirtschaft, Anpassungs- len oder globale Ranglisten letzten
fähigkeit an den Klimawandel und Endes beruhen. Trotzdem werden
Sicherheitsvorteile für Europäer*in- an vielen Arbeitsplätzen Projekte
nen. Die Definition enthält außer- gestartet, bei denen unterschied-
dem einen für die vorliegende Ana- liche KI-erweiterte Anwendungen
lyse zentralen Aspekt: KI steigert eingesetzt werden, um die Produk-
«die Effizienz von Produktionsanla- tivität zu steigern, so zum Beispiel
gen durch vorausschauende War- in der industriellen Produktion, der
tung» (ebd.: 1). Gemeint sind Fälle, Gig-Economy und der Büroarbeit.
in denen KI eingesetzt werden kann, Aus diesem Grund scheint es immer
um festzustellen, wann Änderungen wichtiger, die aktuellen und zukünf-
an einer Maschine vorgenommen tigen Auswirkungen der KI auf die
werden müssen, um zu verhindern, Arbeit, Arbeitnehmer*innen und Ar-
dass sie Schaden nimmt oder aus- beitsplätze zu untersuchen.
fällt. Relevant ist dies insbesondere KI ist alles andere als ein neues Kon-
in Zusammenhang mit Sicherheit zept, wie man das angesichts der
und Gesundheitsschutz am Arbeits- jüngsten Flut staatlicher Investitio-
platz (Moore 2019a). nen und Interventionen annehmen
Im Weißbuch werden als weitere könnte – sie stößt bloß in den letz-
Vorteile von KI positive Geschäfts- ten zehn Jahren auf erneuertes In-
entwicklung sowie Produktivitäts- teresse. Der Begriff «Artificial In-
und Effizienzsteigerung genannt, telligence» (Künstliche Intelligenz)
wobei KI als Schlüsselfaktor für die wurde 1955 geprägt, als eine Grup-
Stärkung der Wettbewerbsfähig- pe von Wissenschaftlern und Fach-
keit der EU-Staaten gilt. Tatsäch- leuten einen Förderantrag bei der
lich vertritt ein Großteil der auf hö- Rockefeller Foundation einreich-
herer staatlicher und institutioneller te, um im Sommer 1956 eine zwei-
Ebene verfassten Berichte die An- monatige Konferenz am Dartmouth
sicht, dass KI zu mehr Produktivi- College in New Hampshire, USA,
tät, Wirtschaftswachstum und all- durchzuführen. Im Antrag schrie-
gemeinem Wohlstand führen wird, ben Dr. John McCarthy und seine
ähnlich wie der Taylorismus früher Kollegen:
als Versprechen für «Wohlstand für «Die Studie soll von der Annahme
alle» galt. ausgehen, dass jeder Aspekt des
Wie es auch schon beim Tayloris- Lernens oder jedes weitere Merk-
mus der Fall war, versäumen aktuel- mal menschlicher Intelligenz sich im
le Diskussionen auf Führungsebene Prinzip so genau beschreiben lässt,
jedoch oft, den direkten Zusammen- dass eine Maschine hergestellt
hang zwischen Produktivität und werden kann, die diese simuliert.»
Wohlstand im abstrakten Sinne und (McCarthy u. a. 1955)
der alltäglichen (und allnächtlichen) Die bahnbrechende Konferenz soll-
menschlichen Arbeit zu sehen, auf te auf Grundlage der im Förderan-
der nationale Wachstumskennzah- trag beschriebenen Aufgaben (siehe
6S. 16 f.) in verschiedene Workshops Um sich dieser Frage anzunä-
eingeteilt werden, die sich mit einer hern, befasst sich die Analyse mit
Reihe von Forschungsfragen und jenen Bereichen, in denen sich KI
Problemen beschäftigen: 1. die Ent- immer mehr in menschliche Erfah-
wicklung von Computerprogram- rungswelten einnistet und in denen
men, die dem menschlichen Gehirn menschliche Arbeit fortwährend
ähneln und über vergleichbare Spei- von neuen und immer invasiveren
cherkapazitäten und Geschwindig- Technologien durchleuchtet wird,
keit verfügen; 2. Sprachgebrauch; die nicht einmal tatsächlich von KI
3. die Entwicklung neuronaler gesteuert werden, jedoch als sol-
Netze, die Konzepte formen können; che gelten. Quantifizierung und die
4. theoretische Überlegungen zum Erhebung von Kennzahlen und Ana-
Umfang einer Rechenoperation; lysen am Arbeitsplatz waren schon
5. die Entwicklung von Maschinen, immer Teil der Unternehmensfüh-
die sich selbst verbessern können; rung. Allerdings ermöglicht eine nie
6. die technologische Fähigkeit zur dagewesene Bandbreite maschinel-
Abstraktion und 7. der Einsatz von ler Verfahren nun, dass diese Prak-
Zufälligkeit und Kreativität. Die Ro- tiken noch viel intensiver genutzt
ckefeller Foundation würdigte die werden können. Die neuen Tech-
Relevanz des Forschungsvorhabens nologien, die derzeit in Tätigkeiten
durch die Finanzierung der Work- am Arbeitsplatz integriert werden,
shops. kann man streng genommen nicht
Die Anfänge der KI-Forschung kon- als KI bezeichnen (siehe Interview
zentrierten sich auf die Entwicklung mit Maike Pricelius S. 52 f.); den-
von Maschinen, die sich genau wie noch sind die Fähigkeiten der Ma-
Menschen verhalten sollten. Diese schine zur Datenerfassung und -ver-
Analyse soll das Augenmerk jedoch arbeitung sowie zur datenbasierten
wieder auf die Menschen richten – und vermeintlich autonomen Ent-
nicht nur auf die Menschen als all- scheidungsfindung fortgeschritte-
gemeine, biologische Kategorie, ner als je zuvor. Trends in der Daten-
sondern auf die Menschen als Ar- sammlung und -verarbeitung sind
beiter*innen. Dabei geht es um die Teil einer wachsenden «Überwa-
Frage, was in Anbetracht der zuneh- chungsgesellschaft» (Lupton 2012)
menden Verbreitung von smarten und eines sich verbreitenden «Über-
Maschinen heutzutage «smarte» wachungskapitalismus» (Zuboff
Arbeiter*innen ausmacht. Insbe- 2019). Diese Analyse beschäftigt
sondere gilt es, sich mit der folgen- sich damit, was bei diesen Entwick-
den kontroversen Frage zu beschäf- lungen konkret auf dem Spiel steht.
tigen: Welche Fähigkeiten werden Die Analyse beleuchtet nicht alle
die «smart(est)en» Arbeiter*innen Bedeutungen von KI in allen Ein-
an den Tag legen müssen, wenn KI zelheiten, sondern beschäftigt sich
zunehmend am Arbeitsplatz einge- vorrangig mit den Eigenschaften,
setzt wird? die die Künstliche Intelligenz von
7Maschinen insbesondere in den tisierung haben die heutigen Ar-
Bereichen a) Datensammlung und beitsbedingungen und Beschäf-
-verarbeitung sowie b) Entschei- tigungsverhältnisse unweigerlich
dungsfindung kennzeichnen. An verändert. Der zweite Teil der Analy-
erster Stelle soll also die Form der se befasst sich ausführlicher damit,
«Intelligenz» definiert werden, welche KI-gestützten Tätigkeiten
die von Maschinen im Zeitalter am Arbeitsplatz derzeit geläufig
der Künstlichen Intelligenz erwar- sind und welche Formen der Intel-
tet wird. Aus diesem Grund be- ligenz die KI-erweiterten Tools und
fasst sich der erste Teil zunächst Anwendungen emulieren. Dieser
mit den Begründern des KI-Dis- Teil weist auf die Risiken hin, die
kurses und ihren Auffassungen solche Verfahren für die Arbeitsver-
von Intelligenz. Der Blick auf die hältnisse darstellen, sowie auf ei-
verschiedenen technologischen nige Vorteile, die durch sie erreicht
KI-Entwicklungsstadien und ihre werden können. Vor diesem Hinter-
Implikationen für verschiedene Be- grund stellt der dritte Teil abschlie-
reiche des menschlichen Lebens ßend folgende Fragen: a) Wer sind
gestattet uns aufzuzeigen, welche die «smarten» Arbeiter*innen und
maßgebenden Auswirkungen KI welche Erwartungen stellt man an
mittlerweile auf den Arbeitsplatz sie?; und b) Wer «sollten» sie sein,
hat. Durch KI-erweiterte Tools und um einen kritischen Umgang mit
Anwendungen wurde eine stren- den aktuellen kapitalistischen Ver-
gere Überwachung möglich und hältnissen zu entwickeln, in denen
Automatisierung und Halbautoma- sie leben?
8TEIL I:
DIE GUTE ALTE KÜNSTLICHE
INTELLIGENZ
Zunächst wird das Augenmerk auf und philosophischen Dimensionen
ein Thema gerichtet, das zwar von dieser Debatte außer Acht. Grund-
besonderer Relevanz ist, allerdings legende Überlegungen zur Arbeits-
im jüngsten KI-Hype unterzugehen weise des menschlichen Gehirns
droht. Es geht um die Frage, was werden von der zeitgenössischen
passiert – genauer: was auf dem KI-Forschung weitgehend vernach-
Spiel steht und welchen Risiken die lässigt. Nichtsdestotrotz projizieren
Menschen ausgesetzt sind –, wenn sowohl Ingenieur*innen und Desi-
die kritische Auseinandersetzung gner*innen von Software als auch
mit KI als vermeintlich weltweiter deren Nutzer*innen – in den unten
Fortschrittsmotor ausbleibt. Die angeführten Beispielen also Perso-
meisten von akademischen oder nalfachleute und Führungskräfte –
staatlichen Expert*innen geführten unbewusst Formen von Intelligenz
gesellschaftlichen Debatten drehen auf Maschinen, ohne sich jedoch
sich um Aspekte der Ethik, Transpa- eingehend damit zu befassen, wie
renz, Diskriminierung und Interpre- sich diese Vorstellungen in der Pra-
tation, allerdings lassen sie dabei xis niederschlagen (siehe hierzu die
die tiefergehenden ontologischen folgende Aufzählung S. 12 f.).
11FORMEN DER MASCHINENI NTELLIGENZ
UND KAPITALISTISCHE NORMEN
Autonom
Maschinen und Systeme mit autonomer Intelligenz sind in der Lage,
ohne menschliches Eingreifen und menschliche Kontrolle zu entschei-
den und zu handeln. Autonomie ist das oberste Ziel aller KI-Innovatio-
nen. Datenerfassung und -verarbeitung sind wesentliche Methoden
bei der Entwicklung maschineller Autonomie: Maschinen erlernen an-
hand der Daten die Fähigkeiten einer «universellen» oder «starken» KI,
das heißt, sie können sich wie Menschen verhalten.
In der Praxis: Maschinenintelligenz gilt der Menschenintelligenz als
überlegen und kann zur Entscheidungsfindung am Arbeitsplatz und
bei der Personalauswahl eingesetzt werden, sodass menschliche Qua-
litätsurteile nicht mehr nötig sind.
Kollaborativ und assistiv
Kollaborative Roboter (Cobots) und tragbare Technologien in Waren-
lagern und Produktionsanlagen sollen Menschen dabei unterstützen,
sicherzustellen, dass Produkte ihren vorgesehenen Ort erreichen.
Chatbots werden dagegen in Callcentern eingesetzt, um Menschen
dadurch zu unterstützen, dass sie Erstanfragen online beantworten.
Sie übernehmen eine Aufgabe, die früher von Menschen erledigt
wurde, und verringern somit die Kosten für menschliche Arbeit.
In der Praxis: Derartige Praktiken dienen der Senkung der Arbeitskos-
ten und sind darauf ausgerichtet, durch die Halbautomatisierung von
Arbeitsschritten einen Mehrwert zu generieren, der der Steigerung des
Unternehmensgewinns dient.
Präskriptiv und prädiktiv
People-Analytics-Daten ermöglichen algorithmische Prozesse, die im
Einstellungsverfahren bestimmte Erwartungen hinsichtlich der Eigen-
schaften von Bewerber*innen formulieren und datenbasierte voraus-
schauende Aussagen über deren Verhalten machen.
In der Praxis: People Analytics ist darauf ausgelegt, die Unterneh-
mensführung bei Personalentscheidungen zu unterstützen, sodass
sich die Notwendigkeit subjektiver menschlicher Einschätzungen er-
übrigt (Cherry 2016). Damit reduziert sich die Verantwortung der Un-
ternehmensführung und möglicherweise auch ihre Sorgfaltspflicht.
Da die Daten anhand bereits existierender Praktiken erfasst werden,
konnte zum Beispiel geschlechtsspezifische Diskriminierung wieder-
holt nachgewiesen werden; der «Technochauvinismus» (Broussard
122018), der die Hierarchien eines männlich dominierten kapitalisti-
schen Systems stützt, wird hier wahrscheinlich an der Tagesordnung
bleiben.
Deskriptiv
In der algorithmischen Geschäftsführung können große Datensät-
ze eingesetzt werden, um arbeits- und leistungsbezogene Deutun-
gen und Darstellungen anzufertigen, über die die Arbeiter*innen zwar
nicht in Kenntnis gesetzt werden, die aber dennoch für Zwecke der
Performance Analytics genutzt werden.
In der Praxis: Darstellungen, die anhand großer Datensätze über die
Arbeiter*innen ermittelt werden, werden zur Einschätzung von Be-
schäftigten, für Talentprognosen und andere Entscheidungen einge-
setzt und führen ebenfalls dazu, dass sich die Verantwortung der Un-
ternehmensführung verringert.
Affektiv
KI-erweiterte Pflegeroboter kommen bereits in der Altenpflegeindus-
trie in Japan zum Einsatz. In Zukunft werden Chatbots wahrschein-
lich in der Lage sein, auf Menschen einzugehen, ähnlich wie man es
beim ersten Chatbot Eliza gesehen hat, oder sie werden beispielsweise
dafür eingesetzt, die Emotionen von Bewerber*innen in Video-Inter-
views zu deuten.
In der Praxis: Dies könnte zu einem Rückgang bezahlter Pflegearbeit
und psychologischer Betreuungsdienste führen.
Dies ist vor allem von Bedeutung, diese Vorstellungen auf unser Men
wenn sich die Voraussagen über schenbild aus und welche Folgen
Verbreitung und Tragweite von KI haben KI und unser fortlaufendes
bewahrheiten und wir uns tatsäch- Streben nach maschineller Intelli-
lich in eine Beziehung wechselsei genz für den Arbeitsalltag?
tiger Spiegelung mit Maschinen Eine ernsthafte Auseinandersetzung
begeben (Moore 2019b). Um die Risi mit dieser Thematik bedarf eines his-
ken hervorzuheben, die mit der Ver torischen Rückblicks. In den 1950er
nachlässigung dieses Sachverhalts Jahren beschäftigten sich Wissen-
langfristig einhergehen können, schaftler im Rahmen des bereits
setzt diese Analyse an der Frage an, erwähnten «Dartmouth Summer
was «Intelligenz» im KI-Kontext tat Research Project on Artificial Intelli-
sächlich bedeutet: Wie wirken sich gence» mit der Möglichkeit, eine «in-
13telligente» Maschine zu entwickeln, Kommunikation im Förderantrag
die ein Vorläufer dessen ist, was als einen Prozess, bei dem «verall-
wir heutzutage «smarte» Maschine gemein[ert wird, wobei] ein neues
nennen. Aus den Beschreibungen Wort und einige Regeln [zugelas-
der Workshops geht deutlich her- sen werden, und] Sätze, die dieses
vor, dass die Wissenschaftler sich Wort enthalten, sowohl auf weite-
darüber im Klaren waren, dass das re Wörter schließen lassen als auch
menschliche Denken eine durch- aus anderen Wörtern hervorgehen»
aus komplexe Angelegenheit ist. (McCarthy u. a. 1955). Programmie-
Trotzdem waren sie höchst zuver- rer*innen sollten also in der Lage
sichtlich, dass sich relativ einfach sein, Computer dahingehend weiter-
eine Maschine entwickeln ließe, die zuentwickeln, dass sie kommunizie-
menschliches Verhalten und Den- ren, denken und abstrahieren sowie
ken imitieren kann – die also dazu in intentionaler Weise Schritte einlei-
fähig ist, kreativ und imaginativ zu ten können, um sich selbst zu «ver-
denken, bedeutungsvolle Gesprä- bessern», und sich im Großen und
che zu führen und aus komplexen Ganzen anhand maschineller Künst-
Daten Abstraktionen und Konzep- licher Intelligenz genauso wie Men-
te herzuleiten. Sie beschrieben schen verhalten können.
In den 1950er Jahren beschäftigten sich Wissenschaftler mit der
Möglichkeit, eine «intelligente» Maschine zu entwickeln, die ein Vor-
läufer dessen ist, was wir heutzutage «smarte» Maschine nennen.
Angesichts der Vorstellungen, die den 1950er Jahren auf die Fähig-
Wissenschaftler*innen von intelli- keiten von Maschinen blickte, dau-
genten (bzw. smarten) Maschinen erten die damit verbundenen Expe-
haben, sind Überlegungen dazu rimente und Untersuchungen um
nötig, was denn nun genau einen einiges länger als die zunächst ge-
Menschen zu einem intelligenten planten zwei Monate. Tatsächlich
Wesen macht. Intelligente Techno- konnte die Forschung bis zum heu-
logien, wie zum Beispiel maschinel- tigen Tag in keinem der damals vor-
les Lernen, Algorithmen, Robotik, gesehenen Bereiche konklusive Er-
Emotionserkennung und eine Reihe gebnisse erzielen. Seither haben die
von KI-erweiterten Techniken, die Debatten und Experimente rund um
kollaborative, assistive, prädiktive KI mehrere Entwicklungsphasen
und präskriptive Intelligenz voraus- durchlaufen – von hochgesteckten
setzen, kommen zunehmend am Ar- Hoffnungen, dass sich Maschinen
beitsplatz zum Einsatz (vgl. Moore entwickeln lassen, die sich wie Men-
2019a). schen verhalten und über gleich-
Trotz der anfänglichen Zuversicht, wertige Intelligenz verfügen, bis hin
mit der man bei den ersten Work- zu tiefster Enttäuschung. Aufgrund
shops am Dartmouth College in entmutigender oder fehlgeschlage-
14ner Experimente fielen über lange schung in dieser Phase auf rationa-
Zeiträume – von 1974 bis 1980 und listischen Annahmen aufbaute, die
1987 bis 1993 – viele Fördergelder auf Descartes und Leibniz zurück-
weg. Heutzutage werden diese Pha- gehen und die besagen, dass der
sen als «KI-Winter» bezeichnet. Der- menschliche Geist im Grunde auf
zeit befinden wir uns zweifelsohne der Fähigkeit beruht, Repräsentatio-
in einem «KI-Frühling», in dem KI ein nen und Symbole von Tätigkeitsbe-
neues Zeitalter technologischer In- reichen zu formen (Dreyfus 1972).
novation einläuten soll, wenn nicht Dreyfus war dagegen der Auffas-
gar eine neue Zivilisationsstufe. sung, dass Repräsentationen der Re-
Die Frühphase der KI-Forschung von alität selbst zu Theorien der Bereiche
den 1950er bis zu den 1980er Jah- werden, in denen Wissen und Intel-
ren – die man auch die Epoche der ligenz angesiedelt sind. GOFAI-For-
«Good old fashioned AI» (GOFAI, scher*innen gingen davon aus, dass
dt.: gute alte künstliche Intelligenz) menschliches Denken anhand von
nennt – war von einer Faszination festgelegten, kontextfreien Eigen-
für die maschinelle Nachbildung schaften eines Bereichs und be-
menschlicher Intelligenz bestimmt. stimmten Prinzipien beschrieben
Die Wissenschaftler am Dartmouth werden kann. Die Theorien dieser
College wollten ein maschinelles Bereiche regeln alle Interaktion, wo-
Verhalten mit möglichst mensche- durch wiederum die Verstehbarkeit
nähnlichen Zügen entwickeln, er- des jeweiligen Bereichs erklärt wer-
läuterten dabei aber kaum, was den soll. Dieser theoretische Ansatz
menschliche Intelligenz ausmacht, wird auch als «Repräsentationalis-
womöglich in der Annahme, dass mus» bezeichnet, der davon aus-
es, wenn auch nur intuitiv, allgemein geht, dass allem Verstehen ein Sys-
bekannt sein müsste. Hubert Drey- tem von Grundvorstellungen und
fus (1929–2017), Philosophiepro- Überzeugungen zugrunde liegt, das
fessor an der Berkeley Universität, vom Denken womöglich nicht expli-
kritisierte diese Auslassung scharf. zit wahrgenommen wird, aber den-
Er wies darauf hin, dass die KI-For- noch existiert.
Die kapitalistische Produktionsweise und Klassenverhältnisse müs-
sen bei der KI-Entwicklung mitgedacht werden.
Ein solches Verständnis des schaftlichen Folgen und wirtschaft-
menschlichen Denkens mag zwar lichen Probleme ignoriert, die zu-
eine mögliche Grundlage für eine tage treten würden oder werden,
Theorie der Intelligenz sein, jedoch wenn die menschliche Intelligenz
haben GOFAI-Wissenschaftler*in sich durch maschinelle Intelligenz
nen und ihre Nachf olg er*inn en ersetzen lässt. Eine Auseinander-
ihre weiteren Implikationen außer setzung mit der Entwicklung von
Acht gelassen und auch die gesell- KI muss auch die kapitalistische
15Produktionsweise und ihre Voraus- Klassenverhältnissen. All diese As-
setzungen miteinbeziehen: Pro- pekte müssen bei der KI-Entwick-
duktionsmittel und produktivitäts- lung mitgedacht werden. Diese
steigernde Mittel, menschliche gesellschaftlichen Verhältnisse stüt-
Arbeitskraft, Infrastruktur, die ver- zen sich wiederum auf bestimm-
fügbaren wissenschaftlichen und te Weltanschauungen – darunter
philosophischen Erkenntnisse, die etwa die Voraussetzung kompetiti-
Eigentumsverhältnisse und die ge- ven Handelns; das Streben danach,
sellschaftlichen Produktionsverhält- ein Wachstumsmodell im Rahmen
nisse, einschließlich Entwicklungen globaler, maskulin geprägter Hie
bei der Gestaltung von beruflichen rarchien zu errichten und auszuwei-
Positionen und Arbeitsplätzen, von ten; die unhinterfragte Annahme,
Arbeitsverhältnissen (Arbeitgeber- Tauschverhältnisse seien naturge-
Arbeitnehmer-Beziehung und jewei geben und kämen in Konzepten wie
lige Rechte und Pflichten) und von Geld zum Ausdruck.
ANTRAG FÜR DAS DARTMOUTH FORSCHUNGS-
PROJEKT ZU KÜNSTLICHER INTELLIGENZ
IM SOMMER 1956 (MCCARTHY 1955)
Automatische Computer
Wenn eine Maschine eine Tätigkeit ausführen kann, dann kann ein au-
tomatischer Rechner so programmiert werden, dass er die Maschine
simuliert. Die Geschwindigkeit und Speicherkapazität heutiger Com-
puter mögen noch nicht ausreichen, um viele der komplexeren Funk-
tionen des menschlichen Gehirns zu simulieren, jedoch liegt unser
größtes Hindernis nicht in der mangelnden Kapazität von Maschinen,
sondern in unserer Unfähigkeit, Programme zu schreiben, die in der
Lage sind, das vorhandene Potenzial voll auszuschöpfen.
Wie muss ein Computer programmiert werden, um eine Sprache
zu benutzen?
Man kann mutmaßen, dass ein großer Teil des menschlichen Denkens
darin besteht, Wörter anhand von Regeln der Folgerung und Annahme
anzuwenden. Eine Verallgemeinerung besteht also darin, ein neues
Wort und einige Regeln zuzulassen, wobei Sätze, die dieses Wort ent-
halten, sowohl auf weitere Wörter schließen lassen als auch aus ande-
ren Wörtern hervorgehen. Diese Idee wurde bis dato nicht weiter präzi-
siert und auch nicht anhand von Beispielen untersucht.
16Neuronale Netze
Wie kann eine Gruppe von (hypothetischen) Neuronen so angeordnet
werden, dass sie ein Konzept bilden? Neben anderen haben Uttley,
Rashevsky und seine Forschungsgruppe, Farley und Clark, Pitts und
McCulloch, Minsky, Rochester und Holland bereits wesentliche the-
oretische und experimentelle Vorarbeit zur Lösung dieses Problems
geleistet. Es wurden vorläufige Ergebnisse erzielt, allerdings bedarf die
Realisierung weiterer theoretischer Untersuchungen.
Theoretische Überlegungen zum Umfang einer Rechenoperation
Ist ein wohldefiniertes Problem gegeben (bei dem sich mechanisch
testen lässt, ob eine vorgeschlagene Antwort richtig oder falsch ist),
wäre ein Lösungsweg, alle möglichen Antworten nacheinander auszu-
probieren. Diese Methode ist ineffizient. Um sie auszuschließen, muss
ein Kriterium für die Effizienz einer Rechenoperation gefunden wer-
den. Aus den Überlegungen wird hervorgehen, dass die Effizienz einer
Rechenoperation sich erst ermitteln lässt, wenn eine Methode zur
Messung der Komplexität der Rechenmaschine gegeben ist. Letzteres
lässt sich anhand einer Theorie der Komplexität von Funktionen errei-
chen. Einige Zwischenergebnisse zu diesem Problem haben Shannon
und McCarthy vorgelegt.
Selbstoptimierung
Eine wahrhaft intelligente Maschine wird wahrscheinlich in der Lage
sein, Vorgänge auszuführen, die man am besten mit dem Begriff der
Selbstoptimierung beschreiben kann. Diesbezüglich wurden bereits
einige Pläne umrissen, die eine nähere Untersuchung verdienen.
Wahrscheinlich lässt sich diese Frage auch abstrakt untersuchen.
Abstraktionen
Einige «Abstraktionsweisen» lassen sich genauer definieren als ande-
re. Es bietet sich an, direkte Versuche dazu anzustellen, wie diese klas-
sifiziert und wie maschinelle Methoden formuliert werden können, um
aus sensorischen und anderen Daten Abstraktionen zu entwickeln.
Zufälligkeit und Kreativität
Eine recht attraktive und doch eindeutig unvollständig formulierte Hy-
pothese lautet, dass der Unterschied zwischen kreativem und unkre-
ativem kompetenten Denken darin liegt, dass Ersteres mit einem ge-
wissen Maß an Zufälligkeit angereichert ist. In anderen Worten: Die
wohlbegründete Vermutung oder die Ahnung sind nichts weiter als
kontrollierte Zufälligkeit in sonst geordnetem Denken.
17Intelligenz ist keineswegs eine ho- «das menschliche Denken […] ist
mogene Kategorie. Trotzdem konn- mit Bewusstsein und Identität ver-
te die sogenannte symbolische und bunden, die definieren, wer wir sind
konnektionistische KI-Forschung [...]. Intelligenz ist die zentrale We-
nie genau feststellen oder sich da- senseigenschaft des menschlichen
rauf einigen, welches die wichtigs- Geistes […]. Sie ermöglicht uns,
ten Merkmale von Intelligenz sind. unsere Welt und auch uns selbst zu
John Haugeland (1985), der auch verstehen, zu erkunden und in be-
den Begriff GOFAI prägte, schrieb deutendem Maße zu formen.» (Hut-
intelligenten Wesen folgende Eigen- ter 2012: 67)
schaften zu: Auch die KI-Forschung vertritt, so
– erstens die Fähigkeit, auf intelli- Hutter, diese Auffassung, da es «ihr
gente Art und Weise mit Dingen ultimatives Ziel ist, Systeme zu ent-
umzugehen, wobei sich Intelli- wickeln, deren grundlegende In-
genz darin ausdrückt, rational telligenz menschliches Niveau er-
über sie nachzudenken (auch un- reicht oder gar darüber hinausgeht»
terbewusst); und (ebd.).
– zweitens die Fähigkeit, intern/au- 1956 war die zentrale Prognose
tomatisch Symbole zu verarbeiten. und Hoffnung, die auch heute noch
Damit sich Intelligenz als solche weithin gehegt wird, dass Maschi-
manifestieren kann, bedarf es also nen nicht nur fähig sind zu lernen,
eines Gedächtnisvermögens und sondern dazu auch noch autonom
der spezifisch menschlichen Fähig- in der Lage sind. Diese Fähigkeit
keit, Gedanken und Ideen zu verar- macht sie zu intelligenten – smar-
beiten und aus diesen Ideen eine ten – Maschinen. Daraus ergibt sich
Analyse zu formulieren; der Fähig- die Frage, was passiert, wenn Ma-
keit, eigene Entscheidungen zu schinen vollständig bewusst wer-
treffen und nicht nur zwischen ver- den und dann angeblich alle intel-
schiedenen Optionen zu wählen; ligenten Tätigkeiten automatisiert
sowie Empathiefähigkeit und Emp- werden können? Wird das zur Folge
findungsvermögen. Dies ist vor haben, dass die Menschheit selbst
allem insofern relevant, als Maschi- aufhört, zu lernen und nach Wegen
nen weitere Formen von Intelligenz zu suchen, die menschliche Intelli-
zugeschrieben werden, wie zum genz jenseits eines maschinenorien-
Beispiel kollaborative und prädiktive tierten Verständnisses zu verorten?
Fähigkeiten, die im Rahmen assis- Oder werden smarte Maschinen
tiver und präskriptiver Funktionen uns mehr Zeit geben, um unsere ei-
zum Ausdruck kommen (siehe Auf- gene Intelligenz weiterzuentwickeln
zählung auf S. 12 f.). und kreativen und erfreulichen Tä-
Marcus Hutter, der die weithin be- tigkeiten nachzugehen – sofern die
kannte Theorie «universeller KI» Maschinen natürlich mitspielen
entworfen hat (siehe dazu weiter und darin «einwilligen», sich von
unten), argumentierte später: uns versklaven zu lassen? Wenn die
18Menschheit und unsere vermeint- tisch auch dazu führen, dass wir den
lich einzigartigen Fähigkeiten, uns Maschinen unterlegen werden. Die
Wissen anzueignen und einander GOFAI-Forschung hat diese Fragen
zu vermitteln, sich gänzlich auto- nicht in letzter Konsequenz durch-
matisieren lassen, kann das theore- dacht.
Werden smarte Maschinen uns mehr Zeit geben, um unsere eigene
Intelligenz weiterzuentwickeln und kreativen und erfreulichen Tä-
tigkeiten nachzugehen – sofern die Maschinen natürlich mitspielen
und darin «einwilligen», sich von uns versklaven zu lassen?
Egal, ob es sich um staatliche In- Computer und andere Maschinen
vestitionen in die KI-Entwicklung Aufgaben erledigen, die Menschen
handelt oder den Einsatz algorith- eigentlich tun wollen oder gar tun
musbasierter Entscheidungsfin- müssen, um ihr Überleben zu si-
dung in der Plattformökonomie – im chern, wie es zum Beispiel bei der
Zentrum aller KI-Debatten sollte die kapitalistischen Lohnarbeit der Fall
Frage stehen, was passiert, wenn ist.
DIE AUTONOME MASCHINE?
Die Debatte um die Erwartungen, und unbeliebte Kriege weiter an der
die Menschen gegenüber Maschi- Tagesordnung sind).
nen haben, hat sich zwar im Laufe Von «universeller» KI spricht man,
der Zeit und mit neuen Forschungs- wenn ein einziger universeller
erkenntnissen gewandelt, derzeit Agent lernen kann, sich in einer
scheint es jedoch Konsens darüber beliebigen Umgebung optimal zu
zu geben, dass Maschinen gänzlich verhalten; wenn zum Beispiel ein
autonom sein sollten. Roboter universelle Fähigkeiten
Direkte Vergleiche mit mensch- wie etwa Laufen, Sehen und Spre-
lichem Denken, Wesenszügen chen unter Beweis stellt. Heutzu-
und Fähigkeiten sind in der KI-For- tage wird mit zunehmender Spei-
schung fast völlig in den Hinter- cherkapazität von Computern und
grund geraten. Problematisch ist immer komplexer werdenden Pro-
das insofern, als dass KI ein drama- grammen eine solche universelle
tisches Comeback im öffentlichen KI immer wahrscheinlicher. Auch
Diskurs erlebt und für Konzerne sehr die KI-Definition der Europäischen
interessant geworden ist, ganz ab- Kommission betont die autono-
gesehen davon, dass riesige staat- men Aspekte, die von intelligenten
liche Förderprogramme für sie in und smarten Maschinen erwartet
Aussicht gestellt werden (und das, werden. «Künstliche Intelligenz be-
obwohl vielerorts Austeritätspolitik zeichnet Systeme mit einem ‹intel-
19ligenten› Verhalten, die ihre Um- deln, um bestimmte Ziele zu errei-
gebung analysieren und mit einem chen» (Europäische Kommission
gewissen Grad an Autonomie han- 2018; Hervorh. d. A.).
Die KI-Definition der Europäischen Kommission betont die autono-
men Aspekte, die von intelligenten und smarten Maschinen erwar-
tet werden.
In einem weiteren Bericht aus dem eine Kehrtwende hinsichtlich des
Jahr 2018 mit dem Titel «Europäi- Bewertungsmusters, anhand des-
sche Exzellenz in Künstlicher Intelli- sen «intelligentes Verhalten» in der
genz, der Weg zu einer integrierten Ideengeschichte und auch in der
Vision» wird KI als «Sammelbegriff GOFAI-Forschung bisher eingeord-
für Techniken, die mit Datenanaly- net wurde – das heißt, die Perspek-
se und Mustererkennung zusam- tive auf KI dreht sich. Anstatt dass
menhängen» bezeichnet (Delponte Maschinen an Menschen orientiert
2018: 11). Der Bericht wurde vom werden, wird vielmehr von Arbei-
Ausschuss für Industrie, Forschung ter*innen erwartet, sich nicht nur
und Energie des Europäischen Par- von Maschinen überwachen und
laments in Auftrag gegeben und un- anleiten zu lassen, sondern darüber
terscheidet KI insofern von anderen hinaus auch maschinelles Verhalten
digitalen Technologien, als «KI von zu imitieren und davon zu lernen,
ihren Umgebungen lernen, um au- denn die Maschine gilt nun als uni-
tonome Entscheidungen treffen zu versell zuverlässiger Rechner.
können» (ebd.). Dabei ist auch der Autonomie-Be-
Diese Definition zeigt, dass KI-Sys- griff keineswegs statisch und die
teme und Maschinen an Arbeits- Handlungsfähigkeit der Menschen
plätzen integriert werden und dort deckt sich nicht unbedingt mit jener
viel schneller und präziser als Men- von Maschinen. Ausgehend von
schen Entscheidungen treffen und dieser Überlegung blickt die vorlie-
Prognosen aufstellen können, wenn gende Analyse darauf, welche Fol-
sie sich menschenähnlich verhalten gen sich aus der Datenerfassung
und für die Arbeiter*innen assistive am Arbeitsplatz ergeben und wel-
Funktionen übernehmen – und das, cher Stellenwert dieser Praxis bei-
so die Hoffnung, völlig autonom. gemessen wird, die letztlich eine
Die Intelligenzformen und Verhal- zentrale Triebfeder für KI-Entwick-
tensweisen, die man KI-erweiterten lung und KI-Innovation ist. Auch
Tools und Anwendungen am Ar- wenn es verschiedene KI-Definiti-
beitsplatz zuschreibt, beruhen auf onen gibt, eint sie dennoch der As-
der technologisch autonomen Ent- pekt der Datenerfassung und -ver-
scheidungsfindung. Hier zeigt sich arbeitung.
20Auch wenn es verschiedene KI-Definitionen gibt, eint sie dennoch
der Aspekt der Datenerfassung und -verarbeitung.
Die vorliegende Analyse soll Wis- lich schönen neuen und nach wie
senschaftler*innen, politische vor kapitalistischen Arbeitswelt
Entscheidungsträger*innen, Ar- bedeuten kann. Der folgende Teil
beitsplatzgestalter*innen und Füh- analysiert, wie KI-erweiterte Daten-
rungskräfte dazu anregen, eine kri- sammlung und -verarbeitung am
tische Perspektive auf den Einsatz Arbeitsplatz neue Zuschreibungen
von KI am Arbeitsplatz zu entwi- von Autonomie bedingen und wie
ckeln. Der Fokus soll darauf liegen, sich diese Entwicklung auf das Ar-
was «Intelligenz» in dieser vermeint- beitsverhältnis auswirkt.
21TEIL II:
KI-ERWEITERTE TOOLS
UND ANWENDUNGEN
AM ARBEITSPLATZ
Maschinen werden gezielt einge- die Entwicklung ausgefeilterer KI-
setzt, um Arbeit und Produktivität Tools ermöglichen – und die eventu-
zu überwachen sowie Informatio- ell den gewünschten Fortschritt für
nen über die Arbeiter*innen preis- die Menschheit bedeuten oder eben
zugeben, die auf umfangreichen auch nicht.
Datensätzen basieren und daher KI-erweiterte Programme am Ar-
vertrauenswürdiger und präziser beitsplatz sind an bestimmte For-
sind als die herkömmlichen qualita- men maschineller autonomer Intelli-
tiven Evaluierungen, die früher zum genz geknüpft, die letzten Endes alle
Beispiel durch Leistungsbewer- durch kapitalistische Normen im Ar-
tungssysteme und menschliches beitsverhältnis bestimmt sind. Die-
Feedback erfolgten. Daten dienen ser Teil der Analyse gibt empirische
verstärkt dazu, Arbeiter*innen zu Einblicke in die Bereiche, in denen
überwachen und Personalabteilun- KI-gestützte Anwendungen in den
gen bei Entscheidungen in Bezug Arbeitsplatz integriert werden, und
auf Arbeiter*innen zu unterstützen. ordnet diese dann wiederum be-
Allein die Tatsache, dass Menschen stimmten Formen von Intelligenz zu,
zunehmend zur Ressource für das die von Maschinen erwartet werden.
Training von Maschinen werden, Zudem wird beschrieben, wie sich
lässt die vermeintliche Unabwend- diese Entwicklungen jeweils auf das
barkeit der Datenerfassung schon Arbeitsverhältnis auswirken. Als Ge-
in fragwürdigem Licht erscheinen. genstück zu den möglichen Risiken,
Die erfassten Daten können zu gro- die mit der Einführung von KI am Ar-
ßen Datensätzen gebündelt wer- beitsplatz verbunden sind, werden
den, die wiederum im Laufe der Zeit auch mögliche Vorteile angeführt.
Letzten Endes sind all diese Formen maschineller Intelligenz durch
kapitalistische Normen im Arbeitsverhältnis bestimmt.
25Die Formen der Intelligenz, die Ma- Einsatzbereiche und ihre absehba-
schinen heutzutage zugeschrieben ren oder bereits eingetretenen Fol-
werden, sind keineswegs neutral gen in einem spezifisch kapitalis-
und haben direkte Auswirkungen tischen Kontext. Wie aus Tabelle 1
am Arbeitsplatz. Die Aufzählung auf hervorgeht, kommt ein von der kapi-
S. 12 f. und Tabelle 1 geben einen talistischen Norm profitorientierter
Überblick über die verschiedenen Akkumulation unabhängiger KI-Ein-
Typen maschineller Intelligenz, ihre satz selten bis gar nicht vor.
TABELLE 1: FORMEN KÜNSTLICHER INTELLIGENZ
AM ARBEITSPLATZ
Technologie Plattformen People Analytics, Cobots, Wearables
(Algorithmen, Chatbots (Filmen von (RFID, Dashboards,
Künstliche Intelligenz Interviews, Software, Tablets, GPS, Daten
[KI], maschinelles KI, ML, Emotions brillen/HoloLens)
Lernen [ML] ) erkennung)
Intelligenzform prädiktiv, affektiv, assistiv, assistiv,
präskriptiv, prädiktiv, deskriptiv kollaborativ
deskriptiv
Wo/Was zuhause, Büro, Callcenter Produktionsanlage,
draußen (Dienstleistungs Warenlager
(Gig-Work) sektor) (manuelle Arbeit)
Entscheidungs Human Resource (HR), Performance Monitoring (PM),
findung Micromanagement (MM)
Selbst wenn KI-erweiterte Tools po- zierung und Entwürdigung führen.
tenzielle Vorteile für Arbeiter*innen Teil II der Analyse widmet sich die-
haben, können diese neuen tech- sen Aspekten auch anhand empi-
nologischen Entwicklungen auch rischer Fallbeispiele zur digitalen
zu schlechteren Arbeitsbedingun- Überwachung und ihrer Funktions-
gen, Diskriminierung, Dequalifi- weise.
26PEOPLE ANALYTICS
People Analytics (PA) wird vorwie- denen Quellen ermittelt, die nicht
gend im Personalwesen angewen- einmal zwingend aus traditionel-
det und bezeichnet generell den Ein- len Arbeitsstätten hervorgehen.
satz von Big Data und KI, um Muster So werden auch zunehmend Ho-
zu identifizieren und datensiloüber- meoffice-Daten erfasst, da Arbei-
greifend zu vergleichen: Durch ma- ter*innen insbesondere bedingt
schinelles Lernen und Algorithmen durch die COVID-19-Pandemie
sind Computerprogramme in der immer häufiger von zu Hause aus
Lage, Vergleichsdaten zu generie- arbeiten. Tastaturanschläge, So-
ren, die das Management zur Ent- cial-Media-Nutzung, Anzahl und
scheidungshilfe heranziehen kann Inhalt von Telefongesprächen,
und die Arbeitgeber*innen dabei Browserverlauf, persönliche An-
helfen können, die Beschäftigten- wesenheit, Standortdaten und Be-
performance sowie Aspekte der wegungen am Arbeitsplatz werden
Personalplanung, des Talentma- anhand von GPS und E-Mail und
nagements und des Betriebsma- sogar anhand von Stimmlage und
nagements zu messen, aufzuberei- Gestik im Rahmen soziometrischer
ten und zu verstehen (vgl. Collins/ Analysen von Führungskräften und
Fineman/Tsuchida 2017). Personalabteilungen gesammelt
Für Dashboards 1 werden Analy- (Moore 2018a u. 2018b).
seprogramme entwickelt, die die Für ein «Quantified-Workplace»-
datensiloübergreifende Visualisie- Projekt, das von einem multinatio-
rung bestimmter Muster in den ver- nalen Unternehmen durchgeführt
arbeiteten Daten auf eben diesen wurde, stellten Arbeiter*innen und
Dashboards ermöglichen. Anhand Management alle Daten ihrer Das-
grafischer oder tabellarischer Dar- hboards zur Verfügung, die tags-
stellungen extrem abstrakter Bilder über und abends anhand von Fit-
können Führungskräfte sogenannte Bit-Armbändern erfasst wurden
engagement areas konkret nachver- (Moore 2018b). Heutzutage würde
folgen, verbessern und verwalten. ein solches Experiment wohl aus
Dazu gehören Kategorien wie Di- Datenschutz- und Privatsphäre-
versität, Lohngerechtigkeit, Mitar- gründen infrage gestellt, da diese
beiterbindung, Nachfolgeplanung, Bereiche mittlerweile durch die
Recruiting-Kennzahlen, insbeson- Datenschutz-Grundverordnung
dere bezüglich der Dauer des Ein- (DSGVO) weit ausführlicher ab-
stellungsverfahrens, des aktuellen gedeckt werden als durch frühere
Stands von Kandidatenpools und Richtlinien.
der Leistung verschiedener Einstel-
lungsressourcen (Starner 2017).
1 Ein Dashboard ist eine grafische Schnittstelle, die in
Die Daten über die Arbeiter*in- der Regel einen schnellen Überblick über zentrale Kenn-
nen werden dabei aus verschie- zahlen und Statistiken ermöglicht.
27Cherry weist darauf hin, dass trotz Die Tatsache, dass Menschen in
der angeblichen Objektivität bei Mainstream-Darstellungen von
People Analytics ein hohes Diskri- People Analytics oft als «Problem»
minierungsrisiko besteht. People auftauchen, ist insofern aufschluss-
Analytics ermöglicht es dem Ma- reich, als sie suggeriert, dass das
nagement, «neue quantitative Da- Urteil der Maschine aufgrund der
tenpools aufzubauen, die wiederum bereits erwähnten deskriptiven,
mit dem Erfolg des Unternehmens präskriptiven und prädiktiven Intel-
und den Einstellungspraktiken in ligenzformen dem Menschen über-
Beziehung gesetzt werden können», legen sei. Dahingegen bietet eine
und Daten dafür zu nutzen, «Ent- Studie des Chartered Institute of
scheidungen über Arbeitsplätze Personal and Development (CIPD)
zu treffen und die subjektiven Ent- eine treffendere Klassifizierung die-
scheidungen von Manager*innen zu ser personenbezogenen Aspekte,
übernehmen» (Cherry 2016: 7). Bei da hier die möglichen Risiken für
People-Analytics-Maßnahmen wird Arbeiter*innen hervorgehoben wer-
erwartet, dass Maschinen dem Ma- den. Dort werden die «personen-
nagement bei Personalentscheidun- bezogenen Risiken» in sieben Kate-
gen assistieren oder die subjektiven gorien eingeteilt (Houghton/Green
Beurteilungen des Managements 2018):
gänzlich ersetzen und dass sie – wie – Talentmanagement
Cherry warnt – erlauben, prädikti- – Gesundheit und Sicherheit
ve und deskriptive Einschätzungen – Mitarbeiterethik
über die Arbeiter*innen zu erstellen. – Diversität und Gleichstellung
Einer Studie von Deloitte zufolge – Beziehungen zwischen Mitarbei-
bewerten 71 Prozent der internati- ter*innen
onalen Unternehmen People Ana- – Betriebskontinuität
lytics als bevorzugtes Instrument – Reputation.
im Personalwesen. Tatsächlich er- Doch vielleicht sind Menschen
möglicht der Einsatz von PA dem nicht das einzige «Problem» von
Management, «Echtzeitanalysen je People Analytics. Angesichts der
nach betrieblichem Bedarf unmittel- ursprünglichen Definition von KI,
bar zu erstellen» und «ein tieferge- der zufolge Maschinen sich wie
hendes Verständnis von Problemen Menschen verhalten sollen, ist es
und möglichen Handlungsmaßnah- nicht überraschend, wenn Maschi-
men» im Umgang mit sogenann- nen es dem diskriminierenden und
ten people issues (Collins/Fineman/ voreingenommenen Handeln von
Tsuchida 2017) zu entwickeln. In Menschen gleichtun. In anderen
anderen Analysen des Personalma- Worten: Die Grundlage maschinel-
nagements werden diese Aspekte len Lernens sind die in die Maschi-
auch als «menschliche Risiken» und ne eingespeisten Daten, und wenn
manchmal sogar als «menschliche diese Daten in der Vergangenheit
Probleme» bezeichnet. von diskriminierenden Einstel-
28lungs- und Kündigungspraktiken so die krankheitsbedingten Fehlzei-
geprägt waren, dann ist auch von ten zu verringern. Durch den investi-
den Ergebnissen eines algorithmi- gativen Aspekt von People Analytics
schen Prozesses nichts anderes zu könnten Arbeitgeber*innen feststel-
erwarten. Sofern die über die Arbei- len, wenn Beschäftigte sich von der
ter*innen gesammelten Daten nicht Arbeit distanzieren, und daraufhin
durch qualitative Informationen nach sinnvollen Lösungen suchen,
über ihre individuellen Lebenserfah- um die Bindung der Beschäftigten
rungen und durch Gespräche mit zu stärken.
den Arbeiter*innen ergänzt werden, Wenn Arbeiter*innen auf sämtliche
sind unfaire Beurteilungen stets ein Daten zugreifen könnten, die im
mögliches Risiko. Solche Fälle wur- Rahmen von People Analytics über
den bereits aufgedeckt, etwa bei sie gesammelt werden – so wie es
Amazon, wo Recruiting-Daten ver- die DSGVO vorsieht –, könnten sie
wendet wurden, die sich diskrimi- diese für mehr Selbstbestimmung
nierend auswirkten, indem sie die nutzen. Zudem könnten die Daten
Lebensläufe von Männern gegen- von Arbeitnehmervertretungen
über denen von Frauen bevorzug- und Arbeitnehmer*innen selbst ge-
ten (Dastin 2018). nutzt werden, um Lohnerhöhungen
Sofern sie nicht mit Vorsicht einge- zu fordern, wenn sie zum Beispiel
setzt wird, kann People Analytics tat- nachweisen können, dass sie per-
sächlich zu Diskriminierung führen. manent Überstunden leisten, oder
Im Idealfall könnten allerdings auch um anhand datenbasierter Krank-
Algorithmen entworfen werden, die heits- oder Stresslevels mehr Frei-
Diskriminierung beseitigen. Zudem zeitansprüche geltend zu machen.
könnten auf maschinellem Lernen Mit Zugriff auf die Daten über ihre
basierende Tools etwa Arbeitge- Arbeitsmuster könnten Arbeiter*in-
ber*innen dabei helfen, Krankheits- nen und ihre Vertreter*innen also
muster innerhalb der Belegschaft ein neues Verhandlungsfeld zur
zu erkennen und ihren Zusammen- Gestaltung der Arbeitsverhältnisse
hang mit den Arbeitsbedingungen erschließen – da Zahlen bekannt-
nachzuvollziehen. Arbeitgeber*in- lich nicht lügen, könnten Überstun-
nen könnten sich dann mit örtlichen den angemessen entlohnt werden,
Arbeitervertreter*innen, Betriebs- Krankheitsausfälle würden ernst
räten oder Gewerkschaften austau- genommen und könnten deutlicher
schen, um geeignete Änderungen mit den Arbeitsbedingungen in Be-
am Arbeitsplatz herbeizuführen und ziehung gesetzt werden.
Da Zahlen bekanntlich nicht lügen, könnten Überstunden angemes-
sen entlohnt werden, Krankheitsausfälle würden ernst genommen
und könnten deutlicher mit den Arbeitsbedingungen in Beziehung
gesetzt werden.
29Oft ist es jedoch so, dass die prä- den, die Bereiche zu identifizieren,
diktiven Algorithmen, die bei Peo- in denen sich ihre Leistung verbes-
ple Analytics für Prognosen zum sert hat, sowie ihre persönliche Ent-
Einsatz kommen, als sogenannte wicklung zu fördern und ihre Moti-
«Black Boxes» (Pasquale 2015) be- vation zu steigern.
trachtet werden, da die meisten Ein möglicher progressiver Nutzen
Menschen ihre Arbeitsweise nicht von People Analytics könnte auch in
komplett nachvollziehen können. der Entwicklung eines Algorithmus
Nichtsdestotrotz werden Compu- zur Beseitigung von Vorurteilen lie-
terprogramme dazu autorisiert, gen – eine alles andere als einfache
Ausnahmen vorherzusehen bzw. Aufgabe. Bei Strafrechtssystemen
sogenannte «predictions by excep- wird bereits mit Risikobewertungen
tion» (Agarwal/Gans/Goldfarb 2018) experimentiert, wobei KI Gerich-
zu erstellen.2 Bei People Analytics ten und Bewährungsausschüssen
schreiben Betriebsleitungen der KI dabei helfen soll, Vorurteile auszu-
also prädiktive Fähigkeiten zu, ohne räumen. In der Arbeitswelt wird je-
dass die daran beteiligten Prozesse doch kaum ausdrücklich darüber
von Menschen gänzlich verstanden diskutiert, wo und wie die Algo-
werden. rithmen-Entwicklung dabei helfen
Trotzdem verhelfen KI-gestützte kann, Diskriminierung zu erkennen
Einstellungspraktiken Führungs- und zu beseitigen (ob nun zum Bei-
kräften zu vermeintlich objektiven spiel anhand von Quotensystemen,
Einsichten über (potenzielle) Ar- Einstellungspraktiken, transparen-
beitnehmer*innen, sofern sie Zu- ten Beförderungsverfahren oder
griff auf die Daten über sie haben. dergleichen).
Dies kann große Auswirkungen auf Wie deutlich wird, können sich die
die Entwicklung individuell zuge- Stärken der KI also auch als Schwä-
schnittener Maßnahmen zum Ar- chen erweisen. Der fortgeschritte-
beitsschutz und zur Risikovermei- ne Einsatz von Datensätzen kann
dung haben. Die algorithmische dahingehend operationalisiert wer-
Entscheidungsfindung im Rah- den, dass genau das zum Vorschein
men von People Analytics könnte kommt, was Programmierer*innen
Beschäftigte jedoch auch dahin- sichtbar machen wollen. Man sollte
gehend unterstützen, dass Leis- sich dessen bewusst sein, dass Pro-
tungsfeedback und Leistungsent- grammierer*innen eben nicht mit
lohnung sowie Arbeitskosten an
Unternehmensstrategie und Un-
terstützung für bestimmte Gruppen 2 «Prediction by exception» bezeichnet Prozesse, bei
denen Computer große Datensätze verarbeiten und da-
von Arbeiter*innen angepasst wür- durch in der Lage sind, zuverlässige und auf routine-
den (Aral u. a. 2012, zit. in Hough- und regelmäßigen Daten basierende Vorhersagen zu
machen, die aber auch Sonderfälle identifizieren und
ton/Green 2018: 5). Arbeiter*innen Nutzer*innen sogar per Benachrichtigung «mitteilen»
können, dass Systemüberprüfungen fällig sind oder
sollten durch den Zugang zu neuen dass menschliche Unterstützung oder Intervention ge-
Datenformen darin bestärkt wer- boten ist.
30einer sogenannten Black Box arbei- te Aufgabe mit einer Reihe festge-
ten, sondern dass sie eine bestimm- legter Ziele zu erfüllen haben.
Die Stärken der Künstlichen Intelligenz können sich auch als
Schwächen erweisen.
Wenn also die algorithmische Ent- die gerade erst ihre Ausbildung ab-
scheidungsfindung im Rahmen von geschlossen haben und sich auf
People Analytics keinerlei mensch- Stellen bei multinationalen Un-
liche Interventionen und ethische ternehmen bewerben. Ein zentra-
Erwägungen miteinschließt, dann les Element dabei ist, dass Bewer-
könnte dieses im Personalwesen ber*innen dazu aufgefordert sind,
eingesetzte Tool die Arbeiter*innen sich bei der Beantwortung der vom
erhöhten strukturellen, körperli- Unternehmen gestellten Fragen zu
chen und psychologischen Risiken filmen. Die Fragen werden im Vor-
und Stressfaktoren aussetzen. Wie aus verschickt und es wird eine Frist
sollen Arbeiter*innen sichergehen, zur Beantwortung gesetzt, wobei
dass Entscheidungen fair, genau die dabei eingesetzte Software nur
und transparent getroffen wer- eine einzige Aufnahme zulässt.
den, wenn sie keinen Zugriff auf die Zahlreiche Unternehmen und Ein-
Daten haben, über die ihre Arbeitge- richtungen setzen bereits auf die-
ber*innen verfügen? Wenn Arbei- ses Verfahren, darunter auch Nike,
ter*innen das Gefühl haben, dass Unilever und Atlanta Public Schools.
Entscheidungen auf Zahlen und Zwar nicht alle, aber zumindest die
Daten basieren, die für sie nicht ein- drei genannten Unternehmen nut-
sehbar sind und auf die sie keinen zen dabei auch Softwareprodukte,
Zugriff haben, führt das zu erhöhten die es Arbeitgeber*innen mithilfe
psychosozialen Belastungen wie von KI-Technologien erlauben, die
Stress und Angst. Dies ist beson- bei der Interviewaufzeichnung von
ders besorgniserregend, wenn die den Bewerber*innen gesendeten
durch People Analytics gesammel- verbalen und nonverbalen Signale
ten Daten zur Umstrukturierung von zu bewerten.
Arbeitsplätzen, zum Wegfall von Ein solches Produkt wurde auch von
Arbeitsstellen oder zu Änderungen der Firma HireVue entwickelt und
von Stellenprofilen und dergleichen von über 600 Unternehmen einge-
führen. setzt. Ziel ist es, Verzerrungen zu
KI-Tools kommen im Rahmen von reduzieren, die zum Beispiel dann
People Analytics auch in sogenann- entstehen können, wenn Bewer-
ten Assessment-Centern zum Ein- ber*innen beim Interview erschöpft
satz. Dabei handelt es sich um ein sind oder wenn Personalverantwort-
zunehmend beliebteres Interview- liche Bewerber*innen aufgrund von
verfahren, das vor allem auf junge Alter, Hautfarbe oder sonstigen Ei-
Bewerber*innen zugeschnitten ist, genschaften bevorzugen. Nichts-
31destotrotz wurde bereits nachge- Alter oder der Geschlechtsidentität
wiesen, dass sich die Präferenzen von Individuen verbunden werden,
früherer Personalverantwortlichen die nicht weiß und männlich sind,
auch bei People Analytics in Einstel- dagegen schlechter abschneiden.
lungsverfahren niederschlagen kön- Das Filmen von Bewerbungsge-
nen und dass heterosexuelle weiße sprächen ist eine Form von People
Männer ceteris paribus bevorzugt Analytics, die auf deskriptiver und
werden, wie aus einem Bericht des prädiktiver Maschinenintelligenz
Business Insider hervorgeht (Felo- beruht. Diese Tatsache ist für Job-
ni 2017). Wenn die in einen Algo- kandidat*innen und Arbeiter*innen
rithmus eingespeisten Daten über natürlich mit erheblichen Risiken
längere Zeit von einem dominan- verbunden und hat eine Objektivie-
ten Vorurteil geprägt sind, kann das rung des Arbeitsverhältnisses zur
dazu führen, dass die Mimik, die sich Folge, die auch zur mangelnden
mit jenen der «Eigengruppe» deckt, Kommunikation zwischen Bewer-
tendenziell positive Bewertungen ber*innen und Arbeiter*innen mit
erhält, während andere Signale, die ihren (potenziellen) Arbeitgeber*in-
mit der sexuellen Präferenz, dem nen führen kann.
COBOTS
Es besteht die Annahme, dass Ar- einen menschlichen Arm direkt er-
beiter*innen am Fertigungsband setzt. Die Halbautomatisierung, die
im Zuge der Automatisierung durch durch KI-gestützte Roboter ermög-
Roboter ersetzt werden. In vielen licht wird, bedeutet dagegen, dass
Fällen ist das bereits durch roboter- Maschinen bestimmte Arbeitsas-
gesteuerte Prozessautomatisierung pekte oder Teilaufgaben für Men-
(RPA) geschehen. Derzeit erfolgen schen in möglichst assistierender
solche Prozesse über Software und und kollaborativer Weise überneh-
Hardware, das heißt, die Abläufe men.
sind in die Maschinen einprogram- Amazon verfügt über 100.000 KI-er-
miert. Eine präzise autonome Ent- weiterte Cobots (kollaborative Ro-
scheidungsfindung ist technisch boter), die es dem Konzern ermög-
bisher nicht möglich, doch die in- licht haben, die Einarbeitungsphase
telligente Prozessautomatisierung für neue Mitarbeiter*innen auf unter
(IPA) zeichnet sich schon am Hori- zwei Tage zu verkürzen. Airbus und
zont ab (siehe Interview mit Maike Nissan setzen auf Cobots, um die
Pricelius, S. 52 f.). Bei den Diskussio- Produktion zu beschleunigen und
nen rund um RPA wird KI also oft mit die Effizienz zu steigern. Cobots
Automatisierung verwechselt. Au- werden heutzutage in die Arbeitsab-
tomatisierung im eigentlichen Sinn läufe von Produktionsanlagen und
liegt etwa vor, wenn ein Roboterarm Warenlagern integriert, wo sie größ-
32Sie können auch lesen
