Technikdesign und Diversität - Künstliche Intelligenz für eine demokratische Öffentlichkeit?

Technikdesign und Diversität
Künstliche Intelligenz für eine demokratische
               Öffentlichkeit?
   PD Dr. Jessica Heesen / Laura Schelenz

Was konstituiert Öffentlichkeit?

                 1. Normen
                 2. Aufmerksamkeit
                 3. Technik

J. Heesen                               2021 Universität Tübingen

1. NORMEN

J. Heesen   2021 Universität Tübingen

Ein normativer Begriff von
Öffentlichkeit
• Gemeinwohlorientierung als
  (kontrafaktischer) Leitgedanke politischen
  Handelns.
• Die Bestimmung des Gemeinwohls
  legitimiert sich konzeptuell aus dem
  öffentlichen Diskurs.

J. Heesen                            2021 Universität Tübingen

Ein normativer Begriff von
Öffentlichkeit
• Zugänglichkeit für alle
• Alle Themen dürfen durch jeden und jede
  aufgebracht werden
• Kommunikative Erzeugung von Macht
  durch Prozesse der Selbstorganisation sowie
  die Befähigung zu Kritik und Kontrolle
  staatlicher Institutionen.

J. Heesen                            2021 Universität Tübingen

Habermas, Jürgen:
Strukturwandel der
Öffentlichkeit.
Untersuchungen zu einer
Kategorie der bürgerlichen
Gesellschaft. Mit einem
Vorwort zur Neuauflage
1990. Frankfurt a. M. 5. Aufl.
1996 [1962].

                                 https://german.princeton.edu/blog/may-day-lecture-by-jurgen-habermas/

Volonté generale
(Allgemeiner Wille)

 Rousseau 1762

Legitimation durch Verfahren
„Man kann daraus ersehen, daß weniger die
Zahl der Stimmen als das sie einigende
Gemeininteresse den Willen allgemein macht:
denn bei dieser Einrichtung unterwirft sich jeder
notwendigerweise den Bedingungen, die er den
andern auferlegt …“
(Rousseau 1762, Reclamausgabe 1988, 34)

J. Heesen                               2021 Universität Tübingen

Gefährdungen eines normativen
Öffentlichkeitsbegriffs
•    Superpluralismus / Infobesity
•    Hate Speech
•    Überwachung
•    Manipulation der Meinungsbildung
•    Marginalisierungen und Silencing

J. Heesen                               2021 Universität Tübingen

Wer (und was) erringt Macht in
              digitalen Öffentlichkeiten?

             Wer kann sich an Öffentlichkeit
            beteiligen und wer wird sichtbar?

 Es geht nicht nur um den „zwanglosen
   Zwang des besseren Arguments“
         (Habermas 1971, 137).

J. Heesen                               2021 Universität Tübingen

2. AUFMERKSAMKEIT

J. Heesen           2021 Universität Tübingen

Libertärer
Diskursraum

• Für die Medienkommunikation ist die Gewinnung von
  Aufmerksamkeit in hervorgehobener Weise
  strukturbildend.
• Aufmerksamkeitsfaktoren der Massenmedien:
  Diskontinuierung, Quantifizierung, Konfliktdarstellung
  (Skandalisierung) oder Prominenz prägen die
  (allgemein verständlichen) Inhalte der
  Massenmedienkommunikation.
• Aufmerksamkeitsfaktoren in Sozialen Medien:
  (individuelle) Sichtbarkeit trotz bzw. wegen
  Algorithmen, Gesichtserkennung, Bedürfnisadaption,
  Zugriffszahlen (audience gatekeeping), Rentabilität.

J. Heesen                                     2021 Universität Tübingen

3. TECHNIK

J. Heesen    2021 Universität Tübingen

• Technik strukturiert die Formen des
  Identitätsmanagements wie auch die Verteilung von
  Aufmerksamkeit und die Sichtbarkeit von Individuen
  wie auch gesellschaftlichen Gruppen.

• Das Technikdesign bestimmt mit über
  gesellschaftliche Partizipations- und
  Gestaltungschancen durch Öffentlichkeit und
  Kommunikation.

J. Heesen                                   2021 Universität Tübingen

(Digitale) Öffentlichkeiten
in der Praxis

Technikdesign für neue Öffentlichkeiten
 Forschungsprojekt entwickelt KI-gestützte Algorithmen
 basierend auf Diversität von Nutzer*innen

 → Wie designt man soziotechnische oder digitale
 Öffentlichkeiten, sodass sie für alle zugänglich sind und
 dem Gemeinwohl dienen?

L. Schelenz                                    2021 Universität Tübingen

Schwarzer Feminismus
  •     Gender & Race
  •     Mehrfachdiskriminierung
  •     Intersektionalität
  •     Unterdrückung
  •     Widerstand

L. Schelenz                       2021 Universität Tübingen

Schwarzfeministische Kritik

• Strukturelle Ungleichkeit
  wird in digitalen
  Öffentlichkeiten verstärkt

• Beispiel Google

L. Schelenz                    2021 Universität Tübingen

Google Suche nach “black hair”
2. Januar 2021

L. Schelenz                      2021 Universität Tübingen

Banksy, Central London (until 2008)   Film Documentary starring Joy Buolamwini

L. Schelenz                                                           2021 Universität Tübingen

Algorithmische Diskriminierung
als Bedrohung von Öffentlichkeit

Datensätze verzerrt → Schwarze Frauen
unterrepräsentiert

Technik-Entwickler-Teams bestehen vorrangig aus weißen
und asiatischen Männern (Silicon Valley)

Konsequenzen für unterrepräsentierte Gruppen:
• Fehlidentifikation bei der Gesichtserkennung, Risiko
  disproportionaler Verhaftung
• Marginalisierung in der digitalen Öffentlichkeit

L. Schelenz                                  2021 Universität Tübingen

Ansätze für gerechtes Design

L. Schelenz                    2021 Universität Tübingen

Quellen
Collins, Patricia Hill. Black Feminist Thought. Knowledge, Consciousness, and
the Politics of Empowerment. 2nd ed. New York, London: Routledge, 2000.

Campolo, Alexander; Crawford, Kate. Enchanted Determinism: Power without
Responsibility in Artificial Intelligence. Engaging Science, Technology, and
Society, [S.l.], v. 6, p. 1-19, jan. 2020,doi:https://doi.org/10.17351/ests2020.277.

Constanza-Chock, Sasha. Design Justice. Community-led Practices to Build the
Worlds We Need. Cambridge: The MIT Press (Information Policy), 2020.

Der AMS-Algorithmus ist ein „Paradebeispiel für Diskriminierung“, futurezone.
Technology News, 17.10. 2018, https://futurezone.at/netzpolitik/der-ams-
algorithmus-ist-ein-paradebeispiel-fuer-diskriminierung/400147421

Habermas, Jürgen: Strukturwandel der Öffentlichkeit. Untersuchungen zu einer
Kategorie der bürgerlichen Gesellschaft, mit einem Vorwort zur Neuauflage
1990. Frankfurt a. M. 5. Aufl. 1996.
Habermas, Jürgen: Vorbereitende Bemerkungen zu einer Theorie der
kommunikativen Kompetenz, in: Jürgen Habermas; Niklas Luhmann (Hg.),
Theorie der Gesellschaft oder Sozialtechnologie – Was leistet die
Systemforschung? Frankfurt a.M., 1971: 101-141.
Kant, Immanuel, Die Metaphysik der Sitten, Rechtslehre § 46, in: Immanuel
Kant. Werke VIII, Schriften zur Ethik und Religionsphilosophie 2 (Hg. v. Wilhelm
Weischedel), [1797] Frankfurt a. M. 1956, 432.
Kantayya, Shalini. Coded Bias. Documentary. USA, 2020.
Noble, Safiya Umoja. Algorithms of Oppression. How Search Engines Reinforce
Racism. New York: New York University Press, 2018.
Rousseau, Jean-Jacques: Du contrat social ou Principes du droit politique. Vom
Gesellschaftsvertrag oder Grundsätze des Staatsrechts. Französisch/Deutsch,
Stuttgart 2010 (sowie Zitat aus Reclam-Ausgabe von 1988).

Kontakt:

Internationales Zentrum für Ethik in den Wissenschaften (IZEW)
Forschungsschwerpunkt Medienethik und Informationstechnik (Leitung)
Universität Tübingen
Wilhelmstr. 19, 72074 Tübingen

PD Dr. Jessica Heesen
jessica.heesen@uni-tuebingen.de

Laura Schelenz
laura.schelenz@uni-tuebingen.de