Chinas Überwachungsstaat: Künstliche Intelligenz und High Tech im Dienste der Kontrolle

Informationen von Amnesty international
Amesty: Operation Adlerauge – China perfektioniert seinen Überwachungsstaat. „Chinas Führung setzt auf Kontrolle – möglichst total und immer digitaler: Bis 2020 sollen in allen Großstädten Gesichtserkennungskameras installiert sein. Die Modernisierung des Überwachungsstaats geht einher mit traditionellen Formen der Repression: Nonkonforme Bürger müssen ständig mit Verhaftung rechnen.“

Amnesty: DIE DIKTATUR ERFINDET SICH NEU. „30 Jahre nach der Niederschlagung der Demokratiebewegung auf dem Pekinger Tiananmen-Platz ist China die zweitgrößte Volkswirtschaft der Welt. Der Wohlstand hat bisher kein Streben nach Freiheit ausgelöst. Doch gilt diese Formel auch künftig?“

Amnesty: DER DRESSIERTE MENSCH. „Chinas Führung plant, bis 2020 alle größeren Plätze des Landes mit Kameras zur Gesichtserkennung ­auszustatten. Die Daten fließen in ein ausgefeiltes System sozialer Kontrolle.“

Amnesty: „DEUTSCHE ZU SORGLOS GEGENÜBER CHINA“. Die Politologin Katrin Kinzelbach über den Menschenrechtsdialog der EU mit China.

Informationen über die Überwachung in China in der ZEIT:

„Das Volk hat Worte und du löschst sie“ (ZEIT-Abo). Enzyklopädie der Internet-Zensur: Die ZEIT veröffentlicht ein Lexikon der in China verbotenen Begriffe – und erklärt, warum im warmen Frühling keine Blumen blühen dürfen.
Wir sehen dich! „Chinas Regime ist dabei, den perfekten digitalen Überwachungsstaat aufzubauen. Warum haben die Bürger nichts dagegen?“
Die KP liest immer mit. „In China kann man überall bargeldlos bezahlen und wird dabei lückenlos überwacht. Die Regierung hat ein leichtes Spiel: Für Datenschutz interessiert sich kaum jemand.“
Marxisten an der Macht „Chinas Kommunisten herrschen wie eine leninistische Kaderpartei. Doch neben althergebrachten Methoden setzen sie auf eine totale Überwachung mittels digitaler Systeme.“
Die Big-Data-Diktatur „China plant, die Aktivitäten seiner Bürger lückenlos durch Datenspeicherung und Gesichtserkennung zu überwachen. Jeder bekommt ein Punktekonto zugewiesen. Hier entsteht die Welt der Zukunft.“ So weit ist es nicht gekommen: Ein einheitliches Punktekonto für alle Bürger/innen ist nach heutigem Wissen nicht entstanden, das Sozialkreditsystem richtet sich vor allem an Unternehmen. Die Überwachung mit Kameras, Gesichtserkennung und Zensur wurde aber stark ausgebaut. (Quelle)

Die Süddeutsche Zeitung über Chinas Überwachungsstrategie:

Volle Kontrolle „Die Tech-Giganten Google und Apple schränken die Freiheit ihrer Nutzer in China ein. Das Geschäftspotenzial, das die Konzerne im staatlich regulierten Internet sehen, ist größer als moralische Skrupel.“
Wie China seine Bürger überwacht (SZ-Podcast) „In China erfüllt sich der Traum aller autoritären Herrscher: die totale Überwachung des eigenen Volkes. Wie erfolgreich die neuen Methoden sind, erklärt Kai Strittmatter im Podcast.“

Wie weit weg ist China?

Eine Antwort darauf gibt vielleicht die Lektüre von Marc Elsbergs 2014 erschienenen Roman „ZERO – denn sie wissen, was du tust“. Der Roman mag literarisch gesehen eher flach sein, spannend ist er dennoch – und inhaltlich, technologisch und gesellschaftlich von wachsender Bedeutung. Hier kannst Du den Roman bestellen – mal nicht bei A…

„ZERO – denn sie wissen, was du tust“ – Manipulation wird Alltag und wir haben uns daran gewöhnt

Die technologischen Möglichkeiten der Überwachung werden heute bereits umfassend genutzt. Der Missbrauch auch in demokratischen Staaten ist belegt und die Entwicklung ist seit den Enthüllungen von Edward Snowden sicher weiter vorangeschritten. Auch die Möglichkeit, aus dem Internet-Nutzerverhalten hoch valide Persönlichkeitsprofile zu erstellen und Vorhersagen über das Verhalten und die Beeinflussbarkeit zu machen, wurde und wird angewendet. Um Persönlichkeitsprofile zu erstellen, genügt schon die Analyse von Likes. Nimmt man die Auswahl von Texten, Videos, die Kontakte und vieles andere hinzu, sind die Analysen in Teilen zutreffender, als das Wissen des Analysierten um sich selbst (vgl. Johari-Fenster). Dass dieses Wissen für die Personalisierung von Werbung genutzt wird, ist bekannt und wird weithin akzeptiert.

Die nächste Frage ist: (Wie) wird dieses Wissen um die Vorlieben, Abneigungen, Verhaltenstendenzen von Menschen genutzt, um diese gezielt zu beeinflussen. Dass dies geschieht ist zumindest für die sogenannten Filterblasen belegt. Um den Nutzer möglichst lange im eigenen System zu halten (und damit mehr Werbung schalten zu können), werden ihm Inhalte gezeigt, die seinen Vorlieben und Interessen mutmaßlich am besten entsprechen. Aber lassen sich auf diesem Weg auch Meinungen und Verhalten manipulieren? Die Möglichkeiten dazu sind schon heute vielfältig, schon die Auswahl der Nachrichten, der Suchergebnisse, der Video-Vorschläge usw. können die Aufmerksamkeit schrittweise in eine bestimmte Richtung lenken.

Marc Elsbergs Roman geht der Frage nach, ob durch die Nutzung von Ratgeber-Apps („ActApps“) das Verhalten der Nutzer direkt beeinflusst oder gar gesteuert werden kann – und zwar ohne, dass er dies bemerkt. Das Fazit: Das Wissen der Datensammler ermöglicht in nie gekannter Weise die Manipulation von Menschen. Je mehr Lebensbereiche das Internet durchdringt, desto umfassender werden die Möglichkeiten der Manipulation.

Und regt sich deshalb jemand auf? Die meisten gehen mit einem Schulterzucken darüber hinweg. Selbst aus China hört man, dass die Leute das „Social Credit System“ oft durchaus positiv sehen – macht es das Leben doch scheinbar einfacher. Viele sehen darin einen Schutz vor Betrug und Korruption. (Quelle) Man weiß besser, woran man ist. Und wenn die Leute hierzulande bereitwillig ihre Daten hergeben? Sollen Sie doch, es zwingt sie doch keiner.

Ganz so einfach ist es aber nicht: „…Offiziell gibt man bei Nutzung dieser Dienste inzwischen oft sein Einverständnis zu diesem Handel, meist jedoch, ohne sich der wahren Bedeutung und des Werts dieser Daten bewusst zu sein (der in diesem Handel nicht beziffert wird) und meist auch, ohne die Bedingungen des Handels nur gelesen oder gar verstanden zu haben. Abgesehen davon hat man im Allgemeinen keine Wahl, ob man den Deal eingehen will – wenn man den Dienst nutzen möchte, muss man mit seinen Daten bezahlen. Es handelt sich also um ein sehr asymmetrisches Verhältnis zwischen den beiden Vertragspartnern, da die Alternative in diesen häufig von Quasimonopolisten dominierten Märkten oft den Verzicht auf eine vergleichbare Dienstleistung und damit eine deutliche Benachteiligung bedeutet. ..“ (Zitat aus: Macht und Wert, ein Vortrag von Marc Elsberg, 2016)

Besonders pikant: Die großen Internet-Player sind in der Lage, selbst den Diskurs zu lenken, der über sie, den Umgang mit unseren Daten und die Erlaubnis, Menschen zu manipulieren geführt wird – wenn er denn überhaupt geführt wird.

Illegitime Macht ist gefährliche Normalität

Wir brauchen keine Verschwörungs-„Theorien“

Big Brother: Die Allgegenwart digitaler Kontrolle

Wirtschafts-Monopole: The winner takes it all

Demokratische Kontrolle und Begrenzung von Macht

Können KI-Chatbots Wahlen beeinflussen? Die Studien von 2025

Elsbergs Roman fragt, ob Apps unser Verhalten unbemerkt steuern können. Im Dezember 2025 haben zwei große Studien (in den Fachzeitschriften Nature und Science) genau das für Wahlen getestet. Chatbots sollten Menschen in den USA, Kanada, Polen und Großbritannien von Kandidaten/innen oder Positionen überzeugen.

Ergebnis: Die Gespräche verschoben Meinungen um einige Prozentpunkte. Das ist viel, denn Wahlen werden oft knapp entschieden. Beunruhigend: Je überzeugender die KI war, desto mehr falsche Behauptungen machte sie. Einschränkung: Die Teilnehmenden wussten, dass sie mit einer KI sprachen.

Quellen: Scientific American