Swiss Insights News - #04 KI-Chatbots und Ethik - Geht das zusammen?
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Swiss
Insights
News
KI-Chatbots und Ethik –
#04 Geht das zusammen?Swiss Insights News #04 2
3 Swiss Insights News #04
KI-Chatbots und Ethik –
Geht das zusammen?
Was eine KI lernt und ob sie adäquate Antworten auf Fragen der User
liefert, müssen ihre Betreiber permanent überprüfen. Auch ein Ethik-
Check ist sinnvoll, ganz besonders wenn die KI einen Chatbot steuert
und so einen Teil der Kundenkontakte eines Unternehmens pflegt.
Digitale Technologien wie die künstliche Intelli- dem Fokus auf «Human» wird beim Life Engi-
genz (KI) setzen sich zunehmend durch. Es gibt neering nicht die Gesellschaft als Einheit, son-
Sophie Hundertmark unterschiedliche Ansichten darüber, was KI leis- dern der einzelne Mensch als zentraler Punkt
Doktorandin Institut für Finanz- ten kann und was nicht. Problematisch ist, dass der Betrachtung gesehen.
dienstleistungen Zug (IFZ),
selbstständige Chatbot-Beraterin
es keine Anforderungen an die Transparenz der
Zürich KI gibt, ja nicht einmal klar ist, was genau mit KI Bessere KI-Chatbots dank dem Turing-Test?
gemeint ist. Beeinflusst durch die technologischen und
Das Herzstück der heutigen KI sind die Daten, wissenschaftlichen Fortschritte in der KI sowie
mit denen sie gefüttert wird. Doch im Gegen- durch die wachsende Akzeptanz nicht-mensch-
satz zu Öl, mit dem sie oft verglichen werden, licher Kommunikationspartner hat in letzter
sind diese Daten lebendig, weil sie auch von uns Zeit die Zahl der Unternehmen zugenommen,
Menschen produziert werden. Sind die Daten welche Chatbots oder Conversational Agents
unvollständig, veraltet oder gar falsch, lernt die (CAs) zur Automatisierung ihrer Kundenkon-
KI auf falschen Annahmen, was letztlich zu un- taktpunkte einsetzen. Man kann eigentlich
befriedigenden Leistungen und Unmut bei den schon sagen, dass KI-basierte CAs wie Ama-
Nutzern führt. zons Alexa oder Apples Siri zu einer wichtigen
Darüber hinaus können Datensätze bestimmte Serviceschnittstelle zwischen Anbietern und
Verzerrungen, Vorurteile und Voreingenommen- Nutzern geworden sind.
heiten enthalten, die zu Diskriminierung führen, Zunächst sieht es so aus, als ob diese Digitalen
insbesondere bei Entscheidungen, die auf per- Assistenten dazu entwickelt werden, ihre Nutzer
sonenbezogenen Daten basieren. im Alltag als intelligente persönliche Assistenten
Hubert Österle hat die Disziplin des Life Engi- zu unterstützen. Die Chatbots simulieren dabei
neering entwickelt, um genau solchen Gefahren die menschliche Kommunikation und können
oder Problemen entgegenwirken zu können. Er im Vergleich zu anderen Software-Lösungen
berücksichtigt dabei auch ethische Aspekte der menschliche Eigenschaften besser annehmen.
KI-Entwicklung und -Nutzung. Laut Österle H. Um zu testen, ob ein Conversational Agent so
(Österle H. , 2020) besteht die Aufgabe des Life gut ist wie ein menschlicher Gesprächspartner,
Engineering darin, Regeln für digitale Systeme können Unternehmen den bereits existieren-
zu entwickeln, die auf das menschliche Wohl- den Turing-Test anwenden. Dieser 1950 von
befinden ausgerichtet sind. Life Engineering ist Alan Turing entwickelte Test beschreibt eine
eine Weiterentwicklung des Business Enginee- Möglichkeit, die Intelligenz von Maschinen
ring, jedoch mit einem anderen Fokus: statt auf zu testen. Beim Turing-Test unterhält sich ein
dem Unternehmen (Gewinnorientierung) liegt menschlicher Fragesteller mit zwei bis drei
der auf der Gesellschaft (Lebensqualität). Mit anderen Gesprächspartnern. Die KonversationSwiss Insights News #04 4
findet ausschliesslich per Chat statt. Das Inte- Der Ethik-Check für Conversational Agents ist
ressante an dem Gespräch ist, dass einer der in zweifacher Hinsicht neu. Zum einen gibt es
Gesprächspartner eine Maschine ist und die weder in der Forschung noch in der Praxis aner-
anderen ein oder zwei echte Menschen. kannte und weit verbreitete Richtlinien für Chat-
Der Fragesteller weiss nicht, hinter welchem bot-Projekte. Zum anderen gibt es, abgesehen
Gesprächspartner sich die Maschine verbirgt. vom Turing-Test, keine Benchmarks oder ande-
Der Interviewer hat die Aufgabe, mindestens re Tests, die Conversational Agents bewerten
zehn Minuten lang intensiv Fragen zu stellen. und gleichzeitig Optimierungsmöglichkeiten
Am Ende muss er entscheiden, welcher seiner aufzeigen. Unser Projekt kombiniert beide
Gesprächspartner ein Mensch und welcher Aspekte in einer Anwendung.
eine Maschine ist. Im Gegensatz zum Turing-Test, bei dem ein
Wenn der Fragesteller nicht eindeutig heraus- Mensch mit einer Conversational AI chattet,
findet, wer eine Maschine ist, hat der Chatbot soll unser Ethik-Check am Ende direkt von ei-
oder die Maschine den Turing-Test bestanden. nem Chatbot durchgeführt werden. Der Chat-
Allerdings werden beim Turing Test keinerlei bot verfügt dann über die definierten Ethik-
ethische Aspekte berücksichtigt. Es geht nicht regeln, weiss, welche Fragen er stellen muss
darum, ob sich ein Conversational Agent für den und kann die Antworten des zu testenden Chat-
User ethisch korrekt verhält, sondern nur, wie bots mit den von uns definierten Benchmarks
nah sein Verhalten dem eines durchschnittli- abgleichen und bewerten. Das Ergebnis ist
chen menschlichen Gesprächspartners kommt. ein vollautomatischer Ethik-Check, der zudem
transparent ist, da er genau aufzeigt, welche
Der Ethik-Check für Bots Kriterien in welchem Umfang in den Entschei-
In einem interdisziplinären Projekt möchten wir dungsprozess eingeflossen sind.
nun die Ideen des Life Engineerings und den Bevor eine Ethikprüfung stattfinden kann, muss
daraus resultierenden Ideen zur Entwicklung definiert werden, was ethisch korrekt bedeutet.
ethischer Systeme mit denen des Turing-Tests Ethik ist nicht universell. Ethik ist etwas, das
kombinieren. Das Ziel ist ein Ethik-Check für sich ständig weiterentwickelt und stark von der
Chatbots. Kultur geprägt ist.
Inspiriert vom Turing-Test, der herausfinden Wir definieren daher zuerst ethische Standards
soll, wie menschenähnlich sich eine KI verhält, für eine spezifische Region. Als erste haben wir
wollen wir ethisch korrekte Bots identifizieren den deutschsprachigen Raum ausgewählt. Wir
und denjenigen, die es noch nicht sind, Hinwei- nennen diese Region Smart Region, da wir un-
se zur Optimierung geben. Um ethisch korrekte sere Standards auf der Grundlage der Ideen von
Bots als solche zu definieren, müssen wir zu- Smart Cities entwickeln wollen. Diese beziehen
nächst festlegen, was ethisch korrekt in unse- die Bürgerinnen und Bürger typischerweise in
rer Sprache und Kultur bedeutet. Und wir müs- den Prozess der Ideenfindung und Entwicklung
sen berücksichtigen, dass sich diese Werte im ein.
Laufe der Zeit ändern können. Mit Hilfe der verschiedenen Forschungsme-
Anschliessend müssen wir Verfahren definie- thoden Literaturrecherche, Umfragen, Exper-
ren, wie die zuvor entwickelten ethischen Kri- teninterviews und Fokusgruppen werden wir
terien gemessen werden können. Darauf folgt ethische Standards für Chat- und Voicebots
eine Bewertung, der sich jeder Bot unterziehen entwickeln und erste Ansätze präsentieren, wie
kann, um eine Einschätzung des Zustands sei- diese gemessen werden können.
ner ethischen Korrektheit einschliesslich eines Für die Fokusgruppen werden Experten aus
eventuellen Verbesserungspotenzials zu erhal- verschiedenen Disziplinen ausgewählt. Im Mit-
ten. Die Bewertung wird zunächst von Men- telpunkt stehen Psychologie, Datenschutz, In-
schen durchgeführt, es ist aber denkbar, dass formatik, Digitalisierung, Bildung, Data Science,
in Zukunft auch Bots in der Lage sein werden, Marketing, Wirtschaft. Um sich ändernden ethi-
die Bewertung vornehmen. schen Werten gerecht zu werden, integrieren5 Swiss Insights News #04
wir einen Mechanismus zur kontinuierlichen Prinzipien definiert. Nun geht es darum, das
Anpassung an die aktuell geltenden Normen. Feedback unserer definierten Smart Region zu
In weiteren Iterationen können konkrete Metho- bekommen und dazu wurde unser so genannter
den oder Fragen entwickelt werden, um heraus- Evaluation Bot entwickelt. Dieser Bot stellt alle
zufinden, wie ethisch korrekt sich ein Bot ver- von uns gefundenen Design-Prinzipien vor und
hält. Anbieter, meist Unternehmen, die Bots für fragt die Nutzer nach ihrer Einschätzung zur
ihre Kunden und Mitarbeiter einsetzen, erhalten ethischen Wichtigkeit der jeweiligen Prinzipien.
zudem Anregungen, wie sie ihre Bots ethisch
korrekter reagieren lassen können. Da die Evaluation immer noch läuft, freuen wir
An diesem Punkt haben wir wahrscheinlich uns natürlich über alle User, die sich fünf bis
eine weitere Herausforderung, nämlich dass zehn Minuten Zeit nehmen und ihr Feedback
viele KI-Projekte auf spezifische Anwendungs- unserem Evaluation Bot mitteilen. Der Bot kann
fälle ausgerichtet sind. Wir müssen es also hier besucht werden: https://eggheads.ai/
schaffen, die ethische Korrektheit trotz dieser chat/2738
Einschränkungen zu messen, und möglicher-
weise Regeln dafür definieren. Die Autorin
In der ersten Phase wird die ethische Prüfung Sophie Hundertmark gehört zu den ersten
von Menschen durchgeführt. Die Menschen Master-Studentinnen in der Schweiz, die zu
chatten mit dem Bot, stellen die relevanten Chatbots geforscht haben. Seitdem arbeitet sie
Fragen, notieren die Antworten und bewerten als selbständige Chatbot Beraterin und ist zudem
diese anhand eines zuvor festgelegten Bewer- wissenschaftliche Mitarbeiterin an der Hochschule
tungsrasters. In weiteren Phasen soll das Chat- Luzern. Anfang 2020 hat sie ihren eignen Chatbot
ten und die Ethikprüfung von einem Chatbot Podcast gestartet, unter welchem alle zwei Wochen
übernommen werden, sodass langfristig die eine neue Folge herauskommt. Ende 2020 ist
gesamte Ethikprüfung voll automatisiert wer- ihr erstes Buch erschienen «Digitale Freunde»,
den kann. ein praxisnahes Sachbuch über Chatbots. Seit
Sobald eine KI einen anderen Bot bewerten 2021 ist Sophie Doktorandin an der Universität
muss, werden wir auf die Ansätze der Fuzzy- Fribourg und forscht und publiziert regelmässig zu
Logik und des Computing With Words (CWW) Conversational Agents und Ethics.
zurückgreifen. Fuzzy-Systeme können mit un-
scharfen Daten umgehen und sind daher sehr Kontakt
gut geeignet, wenn es darum geht, die Äusse- Sophie Hundertmark
rungen von Menschen oder Bots zu charakteri- +41 78 900 5346, sophie@hundertmark.ch
sieren oder ihre ethische Reife zu testen.
Forscher, die Fuzziness anwenden, ordnen
Wörter nicht nur in Kategorien ein, sondern be-
rücksichtigen auch ihre Position innerhalb der
Kategorie.
Darüber hinaus ist Computing With Words ein
auf der Fuzzy-Logik basierendes Rechensys-
tem, in dem die Objekte der Berechnung vor al-
lem Wörter, Sätze und Propositionen aus einer
natürlichen Sprache sind, wie wir sie in unseren
Chat-Gesprächen verwenden.
Entwicklungsstand des Ethik-Checks
Auf Basis einer ersten Literaturrecherche ha-
ben wir erste Design-Richtlinien für ethischeSwiss Insights News #04 6
7 Swiss Insights News #04
Swiss Insights
Swiss Insights ist der Verband und die Interessensvertretung
aller Unternehmen, die Daten und prädiktive Modelle
im Rahmen von Marketing, Innovationsprozessen,
Kundenservice, Angebotsgestaltung, Kommunikation und
Zielgruppendefinitionen erheben, analysieren, einsetzen und
daraus Handlungsempfehlungen ableiten.
Swiss Insights pflegt einen aktiven Dialog mit der Markt- und Sozialforschung klar von Wer-
politisch und gesellschaftlich wichtigen Akteu- bung und Direktmarketing ab. Hierzu führt der
ren und fördert den Austausch mit anderen nati- Verband das Qualitätslabel «Market & Social
onalen und internationalen Fachorganisationen. Research by Swiss Insights».
Eine der Hauptaufgaben des Verbands ist die Darüber hinaus engagiert sich Swiss Insights
Förderung der Markt-, Meinungs- und Sozial- dafür, dass die Nutzung von Daten und die
forschung im Allgemeinen und der Wissen- Anwendung von datengetriebenen Modellen
schaftlichkeit im Besonderen. Er entwickelt, transparent, nachvollziehbar und in diesem Sin-
definiert und unterhält strenge Leitlinien zur ne fair gestaltet wird. Hierfür wurde das Label
Qualitätssicherung und grenzt sich im Bereich «Data Fairness by Swiss Insights» geschaffen.
Herausgeber und Kontakt
Swiss Insights, Swiss Data Insights Association, Gruebengasse 10, 6055 Alpnach, Switzerland
+41 44 3501960, info@swiss-insights.ch, www.swiss-insights.chSwiss Insights News #04 8
Unsere Mitglieder
Im Verband sind alle relevanten Markt- und So- Die Corporate Mitglieder sind Unternehmen, die
zialforschungsinstitute unter einem Dach or- sich für den fairen Umgang mit Auskunftsperso-
ganisiert. Alle Mitgliedsinstitute unterliegen ei- nen und Auftraggeber sowie für den Schutz der
nem strengen Regelwerk von schweizerischen Privatsphäre engagieren.
und internationalen Normen.
Corporate Member, die das Label Data Fairness
Mitgliedsinstitute dürfen das Label Market & by SWISS INSIGHTS tragen, stehen für den wis-
Social Research by SWISS INSIGHTS und je senschaftlichen, seriösen und respektvollen Um-
nach Tätgikeitsgebiet das Label Data Fairness gang mit Daten ein.
by SWISS INSIGHTS tragen.
Die Mitgliederliste finden Sie auf der nachfol-
Die Mitgliederliste finden Sie auf der nachfol- genden Seite.
genden Seite.9 Swiss Insights News #04 amPuls Market Research gfs.bern. Menschen. Meinungen. Märkte. Hirschengraben 49, 6000 Luzern 7 Effingerstrasse 14, Postfach, 3001 Bern +41 41 612 14 14 / info@ampuls.ch +41 31 311 08 06 / info@gfsbern.ch www.ampuls.ch www.gfsbern.ch amrein+heller MarktforschungsTreuhand AG gfs-zürich, Markt- & Sozialforschung Südweid 7, 6274 Eschenbach Riedtlistrasse 9, 8006 Zürich +41 748 63 70 / contact@ah-feedback.ch +41 44 360 40 20 / gfs@gfs-zh.ch www.ah-feedback.ch www.gfs-zh.ch Bilendi Schweiz AG gfs-befragungsdienst Reinhardstrasse 19, 8008 Zürich Schaffhauserstrasse 491, 8052 Zürich +41 79 801 88 80 / contact.ch@bilendi.com +41 44 360 26 40 / info@gfs-bd.ch www.bilendi.ch www.gfs-bd.ch Boomerang Ideas AG GIM Suisse AG Sihlquai 131, 8005 Zürich General-Wille-Strasse 10, 8002 Zürich +41 44 500 88 60 / raphael@boomerangideas.com +41 44 283 18 18 / info@g-i-m.ch www.boomerangideas.com www.g-i-m.ch Constant Dialog Happy Thinking People AG Alte Steinhauserstrasse 33, 6330 Cham Staufacherstrasse 101, 8048 Zürich +41 41 310 05 40 / info@constant-dialog.ch +41 44 204 16 26 / contact-zurich@happythinkingpeople.com www.constant-dialog.ch www.happythinkingpeople.com DemoSCOPE Data + Research INNOFACT (Schweiz) AG Research & Consulting Klusenstrasse 17, 6043 Adligenswil Flurstrasse 50, 8048 Zürich +41 41 375 40 00 / demoscope@demoscope.ch +41 43 931 77 82, Info@innofact.ch www.demoscope.ch www.innofact.ch dr-ouwerkerk ag – just-medical! Instight Institute AG Blegistrasse 5, 6340 Baar Bergstrasse 138, 8032 Zürich +41 41 766 11 55 / info@just-medical.com +41 44 387 90 90 / info@insightinstitute.ch www.pharmaagentur.ch www.insightinstitute.ch Gallup AG intervista Reinhardstrasse 19, 8008 Zürich, Optingenstrasse 5, 3013 Bern +41 78 891 31 15 / office@gallup.swiss +41 31 511 39 00 / anfragen@intervista.ch www.gallup.swiss www.intervista.ch gff Swiss Research Services IPSOS Suisse SA Baarerstrasse 25, 6300 Zug 11, Chemin du Château-Bloch, 1219 Le Lignon +41 41 560 01 60 / gut@gff.ag, +41 22 591 06 00 / Contact_Switzerland@ipsos.com www.gff.ag www.ipsos.com/de-ch GfK Switzerland AG Kantar Media Switzerland AG Suurstoffi 18A, 6343 Rotkreuz Bahnhofstrasse 4, 3073 Gümligen +41 41 632 91 11 / info.ch@gfk.com +41 31 537 79 00 / ch.panel@kantarmedia.com www.gfk.ch / www.gfk.com www.kantarmedia.com
Swiss Insights News #04 10 LINK TX Group AG Baslerstrasse 60, 8048 Zürich Werdstrasse 21, 8021 Zürich +41 41 367 73 73 / zurich@link.ch +41 44 248 41 11 www.link.ch www.tx.group Marketagent.com Schweiz AG BSI Business Systems Integration AG Seefeldstrasse 19, 8008 Zürich Täfernweg 1, 5405 Baden +41 43 555 06 50, schweiz@marketagent.com +41 58 255 90 00, info@bsi-software.com www.marketagent.com www.bsi-software.com M.I.S. Trend SA Pont Bessières 3, 1005 Lausanne +41 21 320 95 03 / info@mistrend.ch www.mistrend.ch onlineumfragen.com GmbH Kernserstrasse 15, 6056 Kägiswil +41 44 500 50 54 / info@onlineumfragen.com www.onlineumfragen.com POLYQUEST AG Flurstrasse 26, 3014 Bern +41 31 335 64 00 / info@polyquest.ch www.polyquest.ch Publicom AG Alte Landstrasse 55, 8802 Kilchberg +41 44 716 55 11 / publicom@publicom.ch www.publicom.ch Qualitest AG, Institut für Marketing- und Sozialforschung Rosenberghöhe 3, 6004 Luzernr +41 41 712 12 21 / qualitest@qualitestag.ch www.qualitestag.ch SensoPLUS Industriestrasse 16, 6300 Zug +41 41 710 71 61 / info@sensoplus.ch www.sensoplus.ch NielsenIQ (Switzerland) GmbH Park 4, 6039 Root D4 +41 41 445 64 64 / nielsen-ch@nielsen.com www.nielsen.com TransferPlus AG Market Research Haldenstrasse 11, 6006 Luzern +41 41 618 33 11 / transfer@transferplus.ch www.transferplus.ch
Sie können auch lesen
