SI_News_05 KI Regulierung China_Seite_01

KI-Regulierung in China – Vorbild für den Westen?

Seit dem 1. März 2022 reguliert China Algorithmen, die Inhalte filtern, Suchergebnisse steuern, Preise festlegen und Videos empfehlen. Könnte das als Vorbild für die Regulierung in westlichen Ländern dienen?

In China wird zunächst ausprobiert, innoviert und entwickelt und später erst reguliert. Diese Vorgehensweise war im vergangenen Jahr auch bei der Regulierung der Tech-Unternehmen zu beobachten. Nachdem die chinesischen Digitalunternehmen in den letzten Jahren recht frei wachsen und sich entfalten konnten, wurden sie dem Staat nach und nach zu mächtig, was zu umfassenden Regulierungen geführt hat.

Besonders betroffen waren Didi Chuxing mit einem daraus resultierenden Delisting von der US-Börse, aber auch Tech-Giganten wie Alibaba, Meituan und Pinduoduo, die hohe Bussgelder bezahlen mussten. Ausserdem griff die Regierung stark in den Bereich E-Commerce ein. So erhielt Chinas Livestreaming-Queen Viya eine Geldstrafe von über 200 Millionen US-Dollar wegen Steuerhinterziehung.

Auf der einen Seite verfolgte die chinesische Regierung das Ziel, mehr Kontrolle zu erlangen und die Macht der immer einflussreicheren privaten Unternehmen einzuschränken. Westliche Medien berichteten vor allem negativ über die Tech-Regulierungen. Dabei übersahen sie, dass damit auch tatsächlich wettbewerbswidrige Praktiken und illegale Informationsveröffentlichungen unterbunden werden sollten.

So waren bis vor Kurzem auf vielen chinesischen Plattformen Links und Bezahlmethoden anderer Anbieter nicht zugelassen. WeChat enthielt beispielsweise keine Links zum Alibaba-Ökosystem und Tmall liess die Bezahlung mit WeChat Pay nicht zu. Ausserdem gab es in den sozialen Medien viele Skandale um den Missbrauch und die illegale Veröffentlichung von Nutzerdaten. Teil der Regulierung waren Richtlinien, die in der Vergangenheit gefehlt hatten.

Gibt es in China einen Datenschutz?

Oft wird im sogenannten Westen angenommen, dass es in China keinen Datenschutz gibt. Die Wahrheit ist aber, dass Daten in China anders geschützt werden als im Westen. In der kollektivistischen chinesischen Gesellschaft ist das Gemeinwohl wichtiger als das Individuum und eine vertrauenswürdige Gesellschaft ist bedeutender als die Privatsphäre des Einzelnen. Das führt dazu, dass sich die chinesische Bevölkerung bisher wenig Gedanken darüber machte, wer ihre Daten sammelt und wozu. Das war eine gute Grundlage für die schnelle Entwicklung der Digitalisierung und vor allem der Künstlichen Intelligenz in China.

In den letzten Jahren konnten die chinesischen Bürger:innen allerdings immer öfter beobachten, wie Unternehmen ihre personenbezogenen Daten sammelten und ausnutzten. Sie reagierten mit zahlreichen Klagen gegen Firmen und Plattformen wegen Datenmissbrauchs. Dies hatte zur Folge, dass der chinesische Staat neue Gesetze zur Erhöhung der Datensicherheit und zum Schutz persönlicher Daten erliess. Seit 2021 gibt es in China beispielsweise ein Zivilgesetzbuch, das unter anderem die Nutzung persönlicher Daten regelt. Auch Gesetze wie das Data Security Law oder das Personal Information Protection Law sind Folgen des gestiegenen Bewusstseins für Datenschutz.

Das führt dazu, dass sich der chinesische Datenschutz zunehmend der DSGVO annähert. Privatsphäre wird allerdings nach wie vor nicht als ein persönliches Recht, sondern als Staatsgut angesehen. Persönliche Daten sind somit vor Privatunternehmen und anderen Staaten geschützt, sie stehen der chinesischen Regierung aber weiterhin zur Verfügung.

Um dem Datenmissbrauch durch private Tech-Unternehmen vorzubeugen, räumte die Regierung im vergangenen Jahr wie bereits erwähnt in Chinas Tech-Szene auf und verschärfte die Regulierung. Das hatte beispielsweise zur Folge, dass die neueste Version der Messaging-App WeChat eine Liste in den Einstellungen enthält, in der die gesammelten Daten (einschliesslich der Kontakte und des Standorts) der Nutzer:innen aufgeführt sind, damit diese einen besseren Überblick darüber erhalten, welche Informationen über sie der Plattform zur Verfügung stehen. Damit will WeChat-Betreiber Tencent die neuen, strengen Anforderungen an den Datenschutz erfüllen.

Im Jahr 2022 werden vermutlich weitere grosse chinesische Technologieunternehmen Umstrukturierungen vornehmen, um Bereiche mit sensiblen Daten auszugliedern und damit den neuen Regeln besser zu entsprechen. Betroffen könnten E-Commerce-Riesen wie Pinduoduo, Ride-Hailing-Apps und möglicherweise sogar Elektroauto-Unternehmen wie NIO oder Xpeng sein. Der regulatorische Druck wird noch zunehmen, da China eine harte Linie in Bezug auf die Datenhoheit und den Einsatz von Algorithmen verfolgt.

Die Regulierung von Algorithmen seit dem 1. März 2022

Seit dem 1. März 2022 ist es Unternehmen in China untersagt, personenbezogene Daten zu verwenden, um Nutzer:innen unterschiedliche Preise für ein Produkt oder eine Dienstleistung anzubieten. In der Vergangenheit kam es beispielsweise immer wieder vor, dass in Ride-Hailing-Apps wie Didi Chuxing die Preise für die Kund:innen aufgrund der vorherigen Fahrten oder des Smartphone-Modells des Nutzers variierten. Diese Diskriminierung soll nun durch eine Regulierung jener Algorithmen verhindert werden, die Inhalte filtern, Suchergebnisse steuern, Preise festlegen oder Videos empfehlen.

Unternehmen müssen in Folge dessen die Nutzer:innen nun darüber benachrichtigen, wenn sie auf ihren Plattformen Algorithmen verwenden, um Empfehlungen abzugeben. Ausserdem sollen die User:innen eine Opt-Out-Möglichkeit erhalten und sich gegen die Nutzung von personenbezogenen Daten in Empfehlungsalgorithmen entscheiden können. Die Option, solche Empfehlungen abzulehnen, wird derzeit insbesondere in den Bereichen Ride-Hailing, E-Commerce, Social Media und Streaming eingesetzt.

Unternehmen sollen in ihren Apps die Nutzer:innen auch nicht zur Sucht oder zu übermässigem Konsum verleiten. So führen Tech-Giganten wie ByteDance (Betreiber von Tiktok und anderen KI-basierten Plattformen) beispielsweise neue Funktionen ein, um mit den Regulierungen konform zu sein. Auf Douyin (chinesische Version von Tiktok) bekommen die User:innen seit Kurzem 5 Sekunden lange Videos zu sehen, wenn sie zu viel Zeit in der App verbracht haben. Diese Kurz-Videos fordern sie auf, sich abzumelden, um nicht süchtig nach den algorithmisch kuratierten Feeds zu werden.

Zum einen sind diese Regulierungen eine Top-Down-Eindämmung der Macht der grossen Tech-Plattformen durch die chinesische Regierung. Die Einschränkung von Empfehlungsalgorithmen ermöglicht es zudem, die Verbreitung von Inhalten in den sozialen Medien besser zu kontrollieren. Zum anderen können die Regulierungen aber auch als Bottom-Up-Aufrufe aus der Bevölkerung angesehen werden, denn die chinesischen Bürger:innen verlangen zunehmend nach mehr Kontrolle über ihre persönlichen Daten und sie wollen wissen, wie die Tech-Unternehmen diese einsetzen und weiterverwenden.

Doch diese neuen Regulierungen von Algorithmen beinhalten auch erhebliche technische Herausforderungen. In der Theorie sind die vorgesehenen Einschränkungen sehr umfassend und weitreichend. Wie kann aber das Verhalten eines Algorithmus, das mit neuem Input ständig dazulernt, genau überwacht werden? Und wie kann sichergestellt werden, dass Algorithmen nach Ansicht der Behörden richtig eingesetzt werden? Es ist noch nicht abzusehen, wie diese Regulierungen in der Praxis genau umgesetzt werden.

China als Vorbild für westliche Länder?

Eine weitere Frage bleibt offen: Facebook, Google und Co. werden in der westlichen Digitallandschaft immer mächtiger und stehen oft im Verdacht, sich wettbewerbswidrig zu verhalten, Desinformation zu betreiben und Daten zu missbrauchen. Inwieweit kann die chinesische Regulierung als Modell und Vorbild für westliche Länder dienen?

Auch die EU versucht seit mehreren Jahren, die Macht und den Einfluss der Tech-Unternehmen einzuschränken. Doch sie stösst damit oft an ihre Grenzen, denn es ist nicht einfach, die richtigen Massnahmen und ein passendes Regelwerk zu finden. Es gibt viele Diskussionen und Entwürfe, die Schwierigkeit liegt aber vor allem in der Verabschiedung der Verordnungen. Oft dauert es mehrere Jahre, bis theoretische Diskussionen zur tatsächlichen Implementierung von handfesten Regulierungen führen. Dazu kommen rechtliche Herausforderungen und die Abwehr durch die Tech-Giganten. China hingegen führt solche Änderungen sehr schnell ein. Die Regulierung von Algorithmen wurde im Herbst 2021 das erste Mal öffentlich diskutiert. Innerhalb weniger Monate arbeiteten die Zuständigen die Regeln aus, die am 1. März 2022 bereits in Kraft getreten sind.

Vielleicht kann in Zukunft genau dieser «China Speed» und die Regulierung von KI und Algorithmen in China als Inspiration und Vorbild für westliche Länder dienen. Wenn solche Richtlinien in jenem grossen Ausmass in China funktionieren, werden sie vielleicht auch für andere Länder adaptierbar sein. Das chinesische Modell wird aufgrund des Misstrauens gegenüber gewissen chinesischen Technologien wahrscheinlich nicht direkt akzeptiert werden. Es ist aber möglich, dass es beispielsweise europäischen Gesetzgebern als Inspiration dient. Denn obwohl das Modell nicht eins zu eins übernommen werden wird, kann die Entwicklung in China auf jeden Fall erste Impulse für westliche Lösungen liefern.

Alexandra Stefanov
Sinologin und Gründerin von China Impulse

info@china-impulse.de | www.china-impulse.de

Die Autorin
Alexandra Stefanov hat Sinologie und Transkulturelle Studien in Heidelberg (DE), Tianjin (CN) und Shanghai (CN) studiert. Sie ist Gründerin von China Impulse, Co-Autorin des Buchs «Digitalisierung Made in China – Wie China mit KI und Co. Wirtschaft, Handel und Marketing transformiert», Co-Herausgeberin des Magazins «China im Blickpunkt» und Host des Podcasts «China Impulse – Zukunftstrends aus dem Reich der Mitte». Mit China Impulse macht Alexandra Stefanov Unternehmen fit für die Zukunft, indem sie ihnen die neusten Digitalisierungstrends aus China präsentiert und digitale Best Practices an die Hand gibt. Im Rahmen von Vorträgen, Workshops, Beratungen, Podcast-Interviews und einem monatlichen Tech-Newsflash gibt sie Einblicke in die chinesische Digitalwelt und zeigt auf, was wir in Europa daraus für unsere eigene Digitalisierung lernen können.

Download Artikel
Swiss Insights News #05

Alle SWISS INSIGHTS News finden Sie hier: SWISS INSIGHTS NEWS

Share this post