15. April 2019
Denys Sokolow

In einem wichtigen ethischen Schritt für die Tech-Welt haben chinesische Start-ups Algorithmen entwickelt, mit denen die Regierung Angehörige einer überwiegend muslimischen Minderheit aufspürt. Die chinesische Regierung hat internationale Verurteilung wegen ihres harten Vorgehens gegen ethnische Muslime in ihrer westlichen Region verurteilt, einschließlich des Festhaltens von einer Million von ihnen in Haftlagern.

Nun zeigen Dokumente und Interviews, dass die Behörden auch ein riesiges, geheimes System fortschrittlicher Gesichtserkennungstechnologie einsetzen, um die Uiguren, eine weitgehend muslimische Minderheit, zu verfolgen und zu kontrollieren. Es ist das erste bekannte Beispiel einer Regierung, die künstliche Intelligenz absichtlich für die Profilierung von Rassen einsetzt, sagten Experten.

Die Gesichtserkennungstechnologie, die in Chinas schnell wachsende Netzwerke von Überwachungskameras integriert ist, sucht aufgrund ihres Erscheinungsbildes ausschließlich Uiguren und hält Aufzeichnungen über ihr Kommen und Gehen für die Suche gespeichert. Die Praxis macht China zu einem Pionier beim Einsatz von Technologien der nächsten Generation, um die Menschen zu beobachten und möglicherweise eine neue Ära des automatisierten Rassismus einzuleiten.

Die Technologie und ihre Verwendung zur Kontrolle der elf Millionen Uiguren Chinas wurden von fünf Personen beschrieben, die über direkte Kenntnis der Systeme verfügten und Anonymität forderten, weil sie Vergeltungsangst befürchteten. Die Open Media Society überprüfte auch Datenbanken, die von der Polizei verwendet wurden, Beschaffungsunterlagen der Regierung und Werbematerialien von KI Unternehmen, die die Systeme herstellen.  Die Polizei wende jetzt Gesichtserkennungstechniken an, um Uiguren in wohlhabenden östlichen Städten wie Hangzhou und Wenzhou sowie in der Küstenprovinz Fujian anzuvisieren, sagten zwei der Menschen. Die Strafverfolgung in der zentralchinesischen Stadt Sanmenxia entlang des Gelben Flusses betrieb ein System, das dieses Jahr über einen Monat hinweg die Muslime überprüfte. Polizeidokumente zeigen, dass sich die Nachfrage nach solchen Fähigkeiten ausbreitet. Fast zwei Dutzend Polizeibehörden in 16 verschiedenen Provinzen und Regionen in ganz China suchten seit 2018 nach einer solchen Technologie. Die Strafverfolgungsbehörden aus der zentralen Provinz Shaanxi hatten im vergangenen Jahr beispielsweise die Absicht, ein intelligentes Kamerasystem zu erwerben, das „die Gesichtserkennung unterstützen sollte, um uigurische / nicht-uigurische Attribute zu identifizieren.“

Einige Polizeibehörden und Technologieunternehmen bezeichneten die Praxis als „Identifikation von Minderheiten“, obwohl drei der Befragten sagten, dieser Ausdruck sei ein Euphemismus für ein Instrument, mit dem ausschließlich Uiguren identifiziert werden sollten. Uiguren unterscheiden sich oft von Chinas Mehrheitsbevölkerung in Han und ähneln eher Leuten aus Zentralasien. Solche Unterschiede machen es für Software einfacher, sie herauszufiltern.

Demokratien haben seit Jahrzehnten ein nahezu Monopol auf Spitzentechnologie. Heute beginnt eine neue Generation von Start-ups, die auf die autoritären Bedürfnisse Pekings ausgerichtet ist, die Richtung für aufkommende Technologien wie künstliche Intelligenz zu setzen. Ähnliche Tools könnten Verzerrungen basierend auf Hautfarbe und Ethnizität an anderer Stelle automatisieren.

„Nehmen Sie die riskanteste Anwendung dieser Technologie, und die Chancen stehen gut, dass jemand sie ausprobieren wird“, sagte Clare Garvie, eine Mitarbeiterin am Center on Privacy and Technology bei Georgetown Law. „Wenn Sie eine Technologie entwickeln, die Menschen anhand einer ethnischen Zugehörigkeit klassifizieren kann, wird sie jemand verwenden, um diese ethnische Zugehörigkeit zu unterdrücken.“

Aus technologischer Sicht ist die Verwendung von Algorithmen zur Kennzeichnung von Personen aufgrund der Rasse oder ethnischen Zugehörigkeit relativ einfach geworden. Unternehmen wie I.B.M. werben mit Software, die Menschen in große Gruppen einteilen kann.

China hat jedoch Neuland betreten, indem es eine ethnische Gruppe zu Strafverfolgungszwecken identifiziert hat. Ein chinesisches Start-up, CloudWalk, stellte ein Beispiel für die Vermarktung seiner eigenen Überwachungssysteme vor. Die Technologie könne „sensible Gruppen von Menschen“ erkennen.