Digitaler Big Brother - Die Zeitschrift
←
→
Transkription von Seiteninhalten
Wenn Ihr Browser die Seite nicht korrekt rendert, bitte, lesen Sie den Inhalt der Seite unten
Überwachungsgigant China
Digitaler Big Brother
Chinas Sozialkreditsystem ist noch weit weg von der totalen Überwachung.
Doch was dort gerade entsteht, geht uns alle an
Von Mareike Ohlberg
W ie Orwell und Black Mirror –
so wird Chinas gesellschaftli-
ches Bonitätssystem häufig beschrie-
den sie verglichen mit Szenarien aus
George Orwells 1984 und der düste-
ren britischen Science-Fiction-Serie
ben. Die Realität ist bürokratischer „Black Mirror“.
und komplexer, aber nicht unbedingt Die Angst vor einem neuen Über-
weniger bedenklich. Vieles von dem, wachungsstaat ist nicht unberechtigt:
was in China derzeit entsteht, knüpft Wenn Künstliche Intelligenz in den
an globale Trends an. Gerade deshalb Dienst eines autoritären Regimes ge-
lohnt es sich, genauer hinzuschauen. stellt wird, entsteht im schlimmsten
Nur dann können wir an den rich- Fall ein digitaler Big Brother, der fast
tigen Stellen ein Gegenmodell ent- alles über den Menschen weiß, der
wickeln, bevor sich das chinesische mit intransparenten Algorithmen
Großprojekt zum internationalen eine Punktzahl errechnet und die
Vorreiter entwickelt. schlecht Bewerteten gnadenlos aus
Seit 2014 arbeitet China intensiv der Gesellschaft ausstößt.
am Aufbau eines gesellschaftlichen Fragt man Chinesen zu diesem
Bonitätssystems. Der Plan: Das Ver- Thema, stößt man überraschender-
halten von Bürgern wie auch von Un- weise jedoch häufig auf eine gegen-
ternehmen soll umfassend dokumen- teilige Einschätzung: Viele finden es
tiert und bewertet werden. Vieles gut, dass „den Unehrlichen“ jetzt end-
wird, so die Vision der Regierung, in lich Schranken gesetzt würden, denn
Zukunft per Fernüberwachung, mit- nach offizieller chinesischer Darstel-
hilfe von Big Data und automatisiert lung soll das Sozialkreditsystem“ da-
stattfinden. Wer die internationale bei helfen, Gesetzesverstöße oder be-
Debatte zum Thema verfolgt, weiß: trügerisches Verhalten zu entdecken
Chinas Pläne sind für uns der Inbe- und zu sanktionieren. In einer Um-
griff der Dystopie. Nicht selten wer- frage der China-Expertin Genia Kost-
60 IP • März / April 2019Digitaler Big Brother
ka von der Freien Universität Berlin Ausbau von schwarzen Listen für Ge-
befürworten im vergangenen Jahr cir- setzesverstöße, separate Bonitätssys-
ca 80 Prozent der Chinesen das Pro- teme für einzelne Branchen und Be-
jekt. Andere haben von dem System rufsgruppen, finanzielle Bonitätsaus-
noch nie gehört – und das, obwohl die kunftsdienste von Dritt anbietern,
Regierung fast all ihre Pläne öffent- ähnlich der deutschen Schufa, sowie
lich zur Verfügung stellt. Dieser Wi- tatsächliche Bürgerbewer-
derspruch in der Wahrnehmung wird tungspiloten, die bisher Der allumfassende
in westlichen Ländern häufig darauf jedoch nur lokal an einem
Rahmen wird nicht
zurückgeführt, dass Chinesen eben kleinen Teil der Bevölke-
kein Konzept von Privatsphäre hät- rung getestet werden. Ne- bis 2020 fertig sein
ten oder aber systematisch fehlinfor- ben den Plänen und Pilo-
miert seien. ten der Regierung beteiligen sich au-
Diese Erklärung mag in Teilen ßerdem diverse privatwirtschaftliche
stimmen, ist aber unbefriedigend. Unternehmen, deren Rolle in den Plä-
Um die Diskrepanz besser zu verste- nen der Regierung nicht genau defi-
hen, ist es nötig, das Bonitätssystem niert ist. Hierzu später mehr.
genauer unter die Lupe zu nehmen. Häufig liest man, das System solle
Was also passiert in China? Müssen bis 2020 fertig sein. Zwar hat die Re-
wir uns vor einem digitalen Big Bro- gierung in ihrem 2014 veröffentlich-
ther fürchten? Und: Wie betrifft uns ten Hauptplan einige Meilensteine
das System eigentlich genau? bis 2020 definiert, diese sind jedoch
größtenteils entweder sehr vage for-
Viele Systeme, nicht eines muliert oder haben wenig mit einer
Das Wichtigste: Das eine gesellschaft- digitalen Dystopie zu tun.
liche Bonitätssystem gibt es nicht und Dort stehen zum Beispiel Ziele
wird es auch in Zukunft erst einmal wie „Unternehmen dazu anleiten,
nicht geben. Diese Erkenntnis steckt die Selbstdisziplin bei der Preisfest-
bereits im chinesischen Begriff: She- legung zu stärken“ oder „den Auf-
hui xinyong tixi wird häufig wört- bau einer Kultur der Ehrlichkeit för-
lich als „Sozialkreditsystem“ über- dern“. Fest steht: Eine einheitliche
setzt. Der Begriff „tixi“ (System) be- Bürgerbewertung auf nationaler Ebe-
zieht sich jedoch explizit nicht auf ein ne, die für alle Chinesen gleicherma-
in sich geschlossenes Programm, son- ßen gilt und zentral gelenkt ist, wird
dern auf einen institutionellen und es bis 2020 nicht geben. Stattdessen
regulatorischen Rahmen, der weitere können wir dann mit einem weite-
Untersysteme und -projekte umfasst. ren Regierungsdokument rechnen,
Das gesellschaftliche Bonitätssys- das neue Ziele definiert.
tem muss also in erster Linie als ein In China selbst ist die Berichter-
politischer Rahmen verstanden wer- stattung zum gesellschaftlichen Boni-
den. Allein auf zentraler Ebene sind tätssystem überwiegend positiv, was
über 40 einzelne Ministerien und Ab- angesichts der starken staatlichen
teilungen involviert, die unterschiedli- Kontrolle über fast sämtliche Medi-
che Interessen verfolgen und an diver- en wenig überrascht. Die chinesische
sen Mechanismen und Maßnahmen Regierung will ihrer Bevölkerung das
arbeiten. Dies beinhaltet den Auf- und System schmackhaft machen. Hier
IP • März / April 2019 61Überwachungsgigant China
lohnt es sich, auf die offizielle Begrün- ist die effizientere Durchsetzung von
dung zu schauen. Denn es ist zu er- Regierungsvorgaben und -vorschrif-
warten, dass China auch versuchen ten. Der Weg dahin ist die stärkere
wird, sein System international zu Selbstregulierung auf Seiten der Bür-
vermarkten und dabei ähnliche Ar- ger und Unternehmen. Anreize und
gumente anführen könnte. Strafen sollen sie dazu bewegen, ihr
Ursprünglich inspiriert ist die Idee Verhalten eigenständig zu kontrollie-
eines Bonitätssystems zumindest teil- ren und anzupassen.
weise von Auskunftsdiensten wie der Die Anstrengungen sind in erster
Schufa in Deutschland und FICO in Linie noch wirtschaftlich motiviert.
den USA. Der Grundgedanke: Es Das System hat jedoch durchaus eine
herrscht zu wenig Vertrau- politische Dimension, denn die Ins-
Chinas Medien loben en auf dem chinesischen trumente verschaffen der Regierung
Markt, weil über die Kre- auch neue Möglichkeiten, politische
und preisen das Sys-
ditwürdigkeit von Markt- Abweichler abzustrafen. Aus chinesi-
tem als Allheilmittel teilnehmern kaum etwas scher Sicht steht die Nutzung des Sys-
bekannt ist. Dementspre- tems für politische Zwecke nicht im
chend waren die ersten Pilotprojek- Widerspruch zur Durchsetzung von
te, die China Anfang der 2000er Jahre Umweltstandards oder Arbeitsrecht.
anstieß, konzentriert auf die Landbe- Schließlich handelt es sich ja in allen
völkerung und Mikrounternehmen, Fällen um geltendes Recht – auch die
also genau jene Gruppen, über die be- „Gefährdung der nationalen Sicher-
sonders wenige finanzielle Transakti- heit“ oder „der nationalen Einheit“
onsdaten vorlagen. sind in China strafbar.
Seitdem wurde die Begründung
für die Notwendigkeit des gesell- Bürokratie und Big Data
schaftlichen Bonitätssystems bedeu- Schnell vermischt sich die westliche
tend erweitert. In chinesischen Medi- Berichterstattung zu Chinas gesell-
en wird das System als Allheilmittel schaftlichem Bonitätssystem mit all-
für sämtliche „Vertrauensprobleme“ gemeinem Unbehagen gegenüber den
in China angepriesen. Es soll zum neuen Möglichkeiten, die Künstliche
Beispiel verhindern, dass Firmen be- Intelligenz (KI) und Big Data eröff-
wusst Geldstrafen in Kauf nehmen, nen. Regierungsdokumente bezeu-
weil es für sie günstiger ist, diese zu gen, dass Peking der vermeintlichen
zahlen als gesetzeskonform zu han- Objektivität fortschrittlicher Techno-
deln. Hier argumentiert die chinesi- logie wie KI und komplexen Algorith-
sche Regierung, dass man ohne das men große Bedeutung beimisst. Gera-
System Verstöße gegen Umweltaufla- de in den Bereichen, in denen Chinas
gen, Arbeits- und Markenrecht oder große IT-Unternehmen mitmischen,
aber Lebensmittelskandale nicht wird der Einsatz von KI bereits flei-
in den Griff bekommen könne. Das ßig getestet.
kommt in der Bevölkerung natürlich Andererseits fallen einige der der-
erst einmal gut an. zeit landesweit umgesetzten Maß-
Das wichtigste Ziel sämtlicher un- nahmen, wie die Einführung ei-
ter dem Etikett „gesellschaftliches Bo- ner „einheitlichen gesellschaftlichen
nitätssystem“ laufenden Initiativen Bonitätsnummer“ für alle Bürger
62 IP • März / April 2019Digitaler Big Brother
Bild nur in
Printausgabe verfügbar
und Unternehmen eher in die Ka- Liste stehen, dürfen zum Beispiel kei-
tegorie der Grundlagenarbeit. Die- ne Privatschulen mehr besuchen. Be-
se Nummer ist zunächst einmal Vor- denklich ist auch die Praxis, die Na-
aussetzung für die behördenübergrei- men und Fotos von Individuen auf
fende Zusammenführung von Daten, schwarzen Listen öffentlich bekannt-
denn bis vor Kurzem haben sich chi- zugeben.
nesische Ministerien nur selten aus- Auch für Unternehmen werden
getauscht. schwarze Listen geführt. Darauf lan-
det, wer zum Beispiel drei Jahre in
Schwarze Listen als Vorreiter Folge seinen Jahresbericht nicht ab-
Landesweit gibt es in China noch kei- liefert. Ebenso geahndet werden zwei
ne Bürgerbewertungen. Stattdessen Markenrechtsverletzungen binnen
experimentiert die Regierung mit di- fünf Jahren, der Katalog an Vergehen
versen schwarzen Listen. Darauf lan- wird beständig ausgeweitet. Sankti-
den zum Beispiel Chinesen, die einen onen betreffen sowohl die Firma als
Gerichtsbescheid mit Zahlungsauffor- auch den Geschäftsführer.
derung ignorieren. Die Idee erinnert Neben den schwarzen Listen ar-
an einen Schufa-Eintrag, die Folgen beiten außerdem diverse Behörden an
sind jedoch schwerwiegender: Wer internen Ratings für Unternehmen.
auf der Liste steht, darf keine Flugti- Wer gut bewertet ist, profitiert von fi-
ckets buchen, keine Hochgeschwin- nanziellen Vorteilen und vereinfach-
digkeitszüge nutzen und nicht mehr ten Verfahren. Schlecht bewertete
in Hotels der gehobenen Klasse über- Unternehmen werden mit zusätzli-
nachten. Das System nimmt sogar chen Kontrollen, Einschränkungen
ganze Familien in Sippenhaft: Kin- für die Geschäftsführung und weite-
der, deren Eltern auf der schwarzen ren Nachteilen bestraft.
IP • März / April 2019 63Überwachungsgigant China
Auch wenn die meisten Chinesen ten haben und können Rückschlüs-
noch nicht bewertet werden, gibt es se ziehen, wen sie getroffen haben.
Dutzende Städte, in denen Bürgern Durch die in China weitverbreitete
bereits Punktzahlen zugewiesen wer- Nutzung von mobiler Zahlung kön-
den, die ihre „Vertrauens- nen sie außerdem ein detailliertes
Online-Rechnungen würdigkeit“ messen. Pro- Profil des Konsumverhaltens eines
vinzregierungen und Pi- jeden Nutzers erstellen. Der genaue
bezahlt man besser
lotstädte müssen sich grob Algorithmus ist, wenig überraschend,
pünktlich an den von der Zentral- Betriebsgeheimnis.
regierung vorgegebenen Diese Projekte der privaten Kon-
Rahmen halten, können ihre Tests zerne sind jedoch selbst in China
aber durchaus flexibel gestalten. Dem- umstritten. So war sich Alibaba 2015
entsprechend unterschiedlich sind die noch sicher, dass es schnell eine Li-
Pilotprojekte für die Bewertung der zenz erhalten würde. 2017 verweiger-
Bürger denn auch gestaltet. te die chinesische Zentralbank diese
unter Verweis auf mögliche Interes-
Öffentliche Pilotprojekte senkonflikte. Das Projekt besteht wei-
In der Stadt Rongcheng zum Beispiel ter, eine schlechte Punktzahl bringt
existieren sehr genau ausformulierte jedoch, zumindest offiziell, derzeit
Kataloge mit Kriterien für Pluspunk- keinerlei Nachteile.
te oder Punktabzug. Bei der Überwa-
chung setzt die Kommune in der Pro- Fluchen bringt schlechte Werte
vinz Shandong bisher eher auf tradi- Konkrete Folgen für Kunden haben
tionelle Methoden als auf Künstliche die großen Datensammlungen pri-
Intelligenz: Die Bürger sollen sich ge- vater IT-Unternehmen vor allem da,
genseitig überwachen und „Fehlver- wo Lokalregierungen mit Firmen ko-
halten“ melden. operieren. In der Stadt Suzhou in der
Neben diesen offiziellen Regie- Provinz Jiangsu zum Beispiel schlägt
rungspiloten gibt es Testprojekte von sich die Intransparenz der kommer-
Privatunternehmen. Das bekanntes- ziellen Piloten bereits auf Regie-
te Beispiel hierfür ist die App Sesa- rungsprojekte nieder: Während in
me Credit, die einer Tochterfirma des Rongcheng die zu Punktabzug füh-
chinesischen IT-Giganten Alibaba ge- renden „Vergehen“ relativ klar be-
hört. Die App bewertet ihre Nutzer nannt werden, sind bei den öffent-
mit zwischen 350 und 950 Punkten, lich-privaten Kooperationen in Suz-
basierend auf einer Reihe von Krite- hou die Bewertungskriterien teils
rien, darunter Online-Käufe, demo- sehr vage gehalten.
grafische Angaben, die pünktliche Be- So heißt es zum Beispiel: „Fluchen
zahlung von Rechnungen sowie das in Computerspielen oder eine nicht
soziale Netzwerk. eingehaltene Online-Bestellung eines
Auch die chinesischen Tech-Rie- Taxis könnte Ihren Score beeinflus-
sen – neben Alibaba auch der Inter- sen.“ Wenn sich diese Art der Koope-
netkonzern Tencent – tragen dazu ration im ganzen Land durchsetzt,
bei, den digitalen Big Brother Wirk- ist die furchterregende Vision einer
lichkeit werden zu lassen. Sie wissen, vollständigen Überwachung nicht
wo ihre Kunden sich wann aufgehal- mehr fern.
64 IP • März / April 2019Digitaler Big Brother
Noch ist das Großprojekt eines tätssystems, sollten sie sich weigern,
gesellschaftlichen Bonitätssystems „Taiwan“ fortan als „Taiwan, Chi-
in China nur in kleinen Teilen um- na“ in ihrem Angebot aufzulisten.
gesetzt und unfertig. Es ist jedoch Deutschen Stiftungen in China wur-
falsch zu glauben, dass die Dystopie de ebenfalls angedroht,
eines totalen Überwachungsstaats sie müssten sich dem ge- Der Parteistaat kann
nur in literarischen und filmischen sellschaftlichen Bonitäts-
über das System
Vorbildern – oder eben eines Tages in system unterwerfen. Dies
der Volksrepublik – real wird. Denn scheint nun abgewendet. Druck ausüben
zum einen werden auch ausländische Bereits jetzt hat der chine-
Bürger und Unternehmen in China in sische Staat auch andere Mittel, um
das System integriert. Dass schwar- politische Vorgaben durchzusetzen.
ze Listen ebenfalls für Ausländer Was also ist der Vorteil eines gesell-
gelten, zeigt die chinesische Regie- schaftlichen Bonitätssystems?
rung offen in einem von vielen Car- In erster Linie schafft es Spiel-
toons, mit denen sie das System be- raum für den Parteistaat, subtil
wirbt. Darauf ist zu sehen, wie ein Ja- und kontinuierlich Druck auszu-
paner, der C hina verlassen hat, ohne üben. Man muss ausländischen Fir-
seine Schulden zu begleichen, direkt men nicht mehr mit dem Ausschluss
nach seiner Wiedereinreise aufgegrif- vom chinesischen Markt oder gravie-
fen wird. renden Strafen drohen, sondern hat
Bei Bürgerbewertungen und der ein flexibleres Instrument zur Hand.
Aufzeichnung von Informationen Das ist besonders dann von Vorteil,
über einen längeren Zeitraum gestal- wenn nicht nur bei Chinas traditio-
tet sich die Lage derzeit noch etwas nell sensiblen Themen wie Taiwan
schwieriger, denn Ausländer erhal- oder Tibet, sondern auch im Kleine-
ten bisher keine lebenslang gültige ren beeinflusst werden soll, ob und
„einheitliche gesellschaftliche Boni- wie ausländische Firmen und NGOs
tätsnummer“, die das System zur Zu- sich äußern dürfen.
ordnung der Daten braucht. Doch ei-
nes Tages könnten dazu auch Tech- Internationaler Exportschlager?
niken der Gesichtserkennung dienen Die chinesische Regierung ist bereits
oder die Fingerabdrücke, die inzwi- seit einigen Jahren bemüht, ihr poli-
schen bei jeder Einreise nach China tisches System vor allem in Entwick-
genommen werden. lungsländern als Alternative zu west-
lichen Demokratien und Wirtschafts-
Politische Zensur ordnungen zu bewerben. Schon seit
Ausländische Unternehmen mit Sitz Jahren wirbt die Volksrepublik unter
in China werden wie jedes chinesi- dem Label „Internetsouveränität“
sche Unternehmen in das System in- für ihr Zensursystem. Für viele, be-
tegriert. Dies kann auch dazu genutzt sonders autoritär regierte Länder ist
werden, politisch motivierte Geset- chinesische Hilfe bei der Unterdrü-
ze weltweit durchzusetzen. So droh- ckung unliebsamer Nachrichten at-
te Chinas Regierung Anfang des Jah- traktiv. Da liegt es nahe zu vermu-
res ausländischen Airlines mit Kon- ten, dass auch Teile des gesellschaftli-
sequenzen im Rahmen des Boni- chen Bonitätssystems auf diesem Weg
IP • März / April 2019 65Überwachungsgigant China
Bild nur in
Printausgabe verfügbar
in andere Länder exportiert werden um entsteht, sondern in vielerlei Hin-
könnten. sicht einem globalen Trend folgt. Aus-
Bisher scheint dies nicht zu gesche- sagen, dass ein System wie in China
hen. Der Grund liegt vor allem darin, in demokratischen Ländern niemals
dass das System in China selbst noch entstehen könnte, erscheinen beim
nicht weit genug fortgeschritten ist, Blick auf die Details wenig zutref-
um es im Ausland zu verkaufen. Es fend, denn die Verwendung intrans-
steht jedoch außer Frage, dass ein sol- parenter, automatisierter Bewertun-
ches System, wenn es sich als erfolg- gen hat auch in westlichen Ländern
reich herausstellt, auch für andere au- teils gravierende Auswirkungen für
tokratische Länder interessant wäre. jene, denen der allmächtige Algorith-
Zumindest für chinesische Überwa- mus ein schlechtes Zeugnis ausstellt.
chungstechnologie, die unabhängig In den USA geriet ein Algorithmus
von dem gesellschaftlichen Bonitäts- namens COMPAS in die Kritik, mit
system entwickelt wird, gibt es bereits dem die Rückfallwahrscheinlichkeit
einen Markt: Gesichtserkennungska- von Straftätern vorhergesagt werden
meras chinesischer Firmen sind als soll. Das Problem: programmierter
Teil so genannter Smart Cities in Län- Rassismus. Verwendet werden die-
dern wie Russland, Kasachstan und ses und ähnliche Programme trotz-
der Ukraine schon verbreitet. dem noch.
Der Glaube, dass Algorithmen
Teil eines globalen Trends objektiv, fair und somit unantast-
Was China derzeit aufbaut, kann und bar sind, ist nicht nur in China ver-
sollte als Extrem benannt werden. breitet. Zu Recht hat deshalb die ge-
Gleichzeitig gilt es zu verstehen, dass meinnützige Organisation Algorithm
das Großprojekt nicht in einem Vaku- Watch die Initiative OpenSCHUFA
66 IP • März / April 2019Digitaler Big Brother
g estartet, die das Bewertungsverfah- dig ist es aber, im eigenen Einfluss
ren der Schufa rekonstruieren und bereich bessere Standards zu setzen
Aufmerksamkeit auf das Problem in- und zu versuchen, diese durch Aus-
transparenter Algorithmen lenken tausch und Dialog zu verbreiten.
soll. Auch vielen Chinesen ist nicht
völlig egal, was in Punkto Überwa-
Attraktive Einzelteile des Systems chung ihrer Privatsphäre
Eine differenzierte Debatte über das durch den Auf bau des ge- Europas Zivilgesell-
gesellschaftliche Bonitätssystem, die sellschaftlichen Bonitäts-
schaften stehen für
Chinas Ambitionen weder übertreibt systems passiert. Aber
noch verharmlost und die ins Detail diejenigen, die entschei- Transparenz
geht, ist dringend notwendig. dende Bestandteile des
Möglicherweise wird ein in sich Systems kritisch sehen, haben keine
geschlossenes, einheitliches Bürger- Möglichkeit, sich zu vernetzen. Der
bewertungssystem in ein paar Jahren europäische Vorteil ist hier die funk-
zum Exportschlager werden. Wahr- tionierende Zivilgesellschaft, die sich
scheinlicher ist es, dass China ande- für die Belange von Bürgerinnen und
re Länder oder die Privatwirtschaft Bürgern sowie für mehr Transparenz
inspiriert, Einzelkomponenten des einsetzen kann.
Systems für sich nutzbar zu machen. Diesen Vorteil und diese Verant-
Dies würde wiederum Chinas Behör- wortung sollten europäische Akteu-
den helfen, das System zu rechtferti- re nutzen, um weiterhin an den rich-
gen und weiter auszubauen. Deshalb tigen Stellen Standards für den ethi-
ist es unverzichtbar, gerade die kleine- schen und transparenten Umgang
ren Entwicklungen mit Blick auf das mit Daten und Künstlicher Intelli-
gesellschaftliche Bonitätssystem wei- genz zu schaffen. Nur so können sie
terzuverfolgen. dazu beitragen zu verhindern, dass
Wenn China sich entscheidet, mit die Überwachungsszenarien, die sich
dem Äquivalent eines Schufa-Ein- in C
hina mit Macht und Akribie an-
trags Betroffene durch Bloßstellen deuten, eines Tages auch weltweit sa-
und Kritisieren zu bestrafen oder lonfähig werden.
wenn es seine Bürger zu mehr gegen-
seitiger Überwachung anhält, dann Dr. Mareike Ohlberg
ist das verstörend, aber von Euro- ist wissenschaftliche
pa aus schwer zu verhindern. Auf Mitarbeiterin des
Mercator Institute
die Verwertung großer Datenmen- for China Studies
gen oder die algorithmische Bewer- (MERICS) in Berlin.
tung von chinesischen Bürgern kön-
nen europäische Akteure nicht direkt
Einfluss nehmen. Dringend notwen-
IP • März / April 2019 67Sie können auch lesen
