Amnesty-Untersuchung zum Einsatz von Gesichtserkennungstechnologie in Hebron und Ost-Jerusalem

Gesichtserkennung im öffentlichen Raum bedroht eine Reihe von Menschenrechten. Das zeigen Analysen und Recherchen von Amnesty International aus den vergangenen Jahren. Ein neuer Bericht veranschaulicht die Auswirkungen von Massenüberwachung durch Kameras und weitere Technologien in den besetzten palästinensischen Gebieten.

Die Massenüberwachung des öffentlichen Raumes durch Gesichtserkennungstechnologie ist weltweit ein wachsendes Problem. Sie verletzt durch ihre invasive und anlasslose Art die Privatsphäre aller Menschen, die sich in diesem Raum bewegen. Die allgegenwärtige Überwachung hat eine einschüchternde Wirkung und kann Menschen beispielsweise davon abhalten, an Demonstrationen teilzunehmen oder sensible Orte wie eine Familienplanungsklinik oder andere Beratungsstellen aufzusuchen. In Ländern mit schlechter Menschenrechtslage kann sie auch dazu führen, dass Menschenrechtsverteidiger*innen sich nicht mehr im öffentlichen Raum treffen können, ohne sich selbst und andere zu gefährden. Amnesty International setzt sich daher seit mehreren Jahren für ein generelles Verbot von Gesichtserkennungstechnologie ein und recherchiert in verschiedenen Ländern zu den Auswirkungen ihres Einsatzes.

In jüngster Zeit hat Amnesty International eine Kampagne zur Ächtung der Technologie auf UN-Ebene gestartet und setzt sich aktuell auch für ein Verbot in der Europäischen Union bei den laufenden Verhandlungen zur EU-KI-Verordnung ein. Des weiteren fordert Amnesty International von der französischen Regierung, ihre Pläne zur Einführung von umfassender Gesichtserkennung bei den Olympischen Spielen 2024 aufzugeben.

Nach Amnesty-Enthüllungen u.a. zum Export der Technologie aus EU-Staaten nach China und Recherchen zu ihren Auswirkungen in Indien und den USA veröffentlicht Amnesty International nun eine Untersuchung ihres Einsatzes im israelisch kontrollierten Teil von Hebron (H2) und Ost-Jerusalem mit dem Titel "Automated Apartheid: How Facial Recognition fragments, segregates and controls Palestinians in the OPT".

Die Recherchen in Hebron wurden durch die israelische Organisation Breaking The Silence unterstützt, die Interviews mit ehemaligen israelischen Militärangehörigen vermittelte und auch die Ergebnisse eigener Interviews zur Verfügung stellte. Außerdem arbeitete Amnesty International mit Nadera Shalhoub-Kevorkian, Professorin der Hebrew University von Jerusalem, der Tampere Universität Finnland, dem Israeli Committee Against House Demolitions, Article 19 und anderen Nichtregierungsorganisationen zusammen.

Hebron (H2)

Im Rahmen des Hebron-Protokolls von 1997 wurde die Stadt in zwei Teile geteilt: den von der Palästinensischen Autonomiebehörde verwalteten Teil H1 und den zivilrechtlich als auch in Sicherheitsbelangen unter israelischer Kontrolle stehenden Teil H2. In H2, dem ehemaligen Stadtzentrum, leben rund 33.000 Palästinenser*innen sowie etwa 800 israelische Siedler*innen in sieben völkerrechtswidrigen Siedlungen. Seit der Gründung der israelischen Siedlungen in Hebron (H2) haben israelische Behörden rigorose Einschränkungen für die dort lebenden Palästinenser*innen eingeführt. Der H2-Teil von Hebron ist heute als "militärisches Gebiet" eingestuft, zu dem nur Palästinenser*innen Zugang haben, die dort als Einwohner*innen registriert sind.

Die als "Smart City Initiative" bezeichnete, umfassende Überwachung beruht auf zahlreichen Kameras entlang der Straßen, an Gebäuden, Straßenlaternen, Überwachungstürmen und Dächern. In einigen Straßen Hebrons ist etwa alle 100 Meter eine Überwachungskamera installiert. Allein der Checkpoint 56 auf der Shuhada Straße verfügt über mindestens 24 audio-visuelle Überwachungsinstrumente und weitere Sensoren. Nach Angabe eines Researchers der israelischen Nichtregierungsorganisationen Breaking The Silence ist "das Hebron Smart City System eine weitere Verschärfung der Art, wie wir Palästinenser*innen in Hebron kontrollieren." Breaking The Silence beschreibt das System als "eine neue Ebene der Massenüberwachung, weil es Jeden jederzeit überwacht."

Das System umfasst Überwachungstürme mit Videokameras, weitreichende Kameras in Straßen, Geräuscherkennungssysteme, Gesichtserkennungstechnologie an Checkpoints sowie private Überwachungssysteme israelischer Siedler*innen. Es ermöglicht damit die anlasslose Identifikation von Menschen, die unter keinem Verdacht stehen, sondern einfach nur ihrem Alltag nachgehen.

Die Grundlage hierfür stellt das von der "Washington Post" 2021 enthüllte System "Wolf Pack" dar: Eine weitreichende Datenbank von Fotos und weiteren Informationen (etwa Autokennzeichen, Familienmitglieder) von Palästinenser*innen im Westjordanland. Das System "Blue Wolf", über das Amnesty International Informationen von ehemaligen israelischen Soldat*innen, aus Medienrecherchen und aus einem Lehrvideo des Militärs erhielt, ermöglicht sofortigen Zugriff auf diese Datenbank.

"Blue Wolf" ist auch auf Mobiltelefonen israelischer Soldat*innen installiert. Nach Angaben mehrerer ehemaliger israelischer Soldat*innen, die in Hebron dienten, sind diese angehalten, Palästinenser*innen unter dem Vorwand einer Identitätsüberprüfung anzuhalten oder anlasslose Hausdurchsuchungen durchzuführen, um Fotos und Informationen für das System zu sammeln. Dazu habe es nach Angaben der Organisation Breaking The Silence eine "Gamification" mittels eines Wettbewerbes gegeben, bei dem es Preise für das Sammeln der meisten Fotos gegeben habe. Der "High Score" habe bei über 1000 Fotos pro Woche gelegen.

Das System "Red Wolf" an Checkpoints in Hebron macht nach Angaben ehemaliger israelischer Soldat*innen verdachtsunabhängig und ohne ihre Zustimmung Fotos von Palästinenser*innen, während diese den Checkpoint passieren, um die Datenbanken zu erweitern. Mit seiner Hilfe wird auch darüber entschieden, ob ihnen ein Passieren – selbst zum eigenen Zuhause oder Arbeitsplatz – erlaubt wird. Israelische Siedler*innen werden in der Datenbank "Wolf Pack" nicht erfasst und müssen auch nicht die militärischen Checkpoints passieren, an denen ohne Anlass und Zustimmung Fotos aufgenommen werden.

Ost-Jerusalem

In Ost-Jerusalem, dem von Israel 1980 völkerrechtswidrig annektierten Teil der Stadt, leben etwa 358.800 Palästinenser*innen sowie etwa 225.178 israelische Siedler*innen in 13 völkerrechtswidrigen Siedlungen. Seit der Annexion ist die Schaffung einer jüdischen demografischen Mehrheit in Ost-Jerusalem ein politisches Ziel der israelischen Behörden. Als Mittel hierfür werden die Ausweitung der israelischen Besiedlung, rechtswidrige Zwangsräumungen sowie Zerstörungen palästinensischer Wohnhäuser und Strukturen angewandt. Die Einschränkung der Bewegungsfreiheit von Palästinenser*innen sowie ihre anlasslose Überwachung sind Elemente eines umfassenden Systems der Beherrschung.

In Ost-Jerusalem ermöglicht das Überwachungssystem "Mabat 2000" eine anlasslose Überwachung des Alltags vor allem von Palästinenser*innen und der Identifikation von Menschen, die an friedlichen Protesten teilnehmen. Durch gleich vier Überwachungstürme wird insbesondere das Damaskus-Tor überwacht, das als Zugang zur Altstadt für Palästinenser*innen und als häufiger Startpunkt von Demonstrationen eine besondere Bedeutung hat. Kameras in Ost-Jerusalem sind mit einem zentralen Command-and-Control-Center verbunden. Viele sind mit Gesichtserkennungstechnologie ausgestattet, andere liefern externer Gesichtserkennungssoftware hinreichend aufgelöste Videos zu. Auch Nachtsichtkameras sind installiert. Bei einer Begehung vor Ort wurden durchschnittlich ein bis zwei Kameras pro 5 Meter Wegstrecke registriert.

Neda, eine Bewohnerin Ost-Jerusalems, berichtet: "Ich fühle mich (…) als würde ich jederzeit beobachtet. Also, ich ging zum Damaskus-Tor, vielleicht drei, vier Mal. Und ich habe mich ganz normal verhalten, weißt du, als ob ein Polizist neben dir ginge und du bist so 'Nein, nein, hier gibt es nichts zu sehen', selbst wenn du sowieso überhaupt nichts getan hast. (…) Es gibt mir ein richtig schlechtes Gefühl überall in den Straßen. Jedes Mal, wenn ich eine Kamera sehe, mache ich mir Sorgen (…). Als würdest du jederzeit als Ziel von irgendwas behandelt." Sara, eine Bewohnerin von Silwan (einem nahe der Altstadt gelegenen Stadtteil in Ost-Jerusalem), erzählt von Kameras, die auf ihr Haus gerichtet gewesen seien: "Wir konnten uns in unserem eigenen Haus nicht zuhause fühlen und mussten immer vollständig angezogen sein. (…) Die Kameras haben dich erfasst, wenn du zu nah ans Fenster gegangen bist."

Überwachungsmaßnahmen müssen verhältnismäßig sein und dürfen nicht diskriminieren

Amnesty International fordert die israelische Regierung dazu auf, die beschriebenen Überwachungsmaßnahmen zu beenden und sicherzustellen, dass nur Überwachungsmaßnahmen durchgeführt werden, wenn diese notwendig und verhältnismäßig sind, einem legitimen Ziel dienen, eine klare Gesetzesgrundlage haben und nicht diskriminieren. Israel ist den meisten internationalen Menschenrechtsverträgen beigetreten, darunter dem in diesem Kontext relevanten Zivilpakt (ICCPR) und der Konvention gegen Rassismus (ICERD), und hat sich damit auch selbst zur Einhaltung dieser Standards verpflichtet.

Die israelische Regierung hat wie alle Regierungen nicht nur das Recht, sondern sogar eine menschenrechtliche Verpflichtung, Leben und körperliche Unversehrtheit aller unter ihrer Jurisdiktion und/oder effektiven Kontrolle lebenden Menschen zu schützen. Hierzu kann etwa gezielte Kommunikationsüberwachung zulässig sein, wenn die genannten Kriterien erfüllt sind.    

Amnesty International hat in einer umfangreichen Analyse von Februar 2022 aufgezeigt, dass die institutionelle Diskriminierung von Palästinenser*innen in Israel und den besetzten palästinensischen Gebieten durch Gesetze und Praktiken israelischer Behörden der völkerrechtlichen Definition von Apartheid entspricht und damit gegen Menschenrechte und das Völkerrecht verstößt. Die im Bericht beschriebenen anlasslosen und diskriminierenden Überwachungsmaßnahmen mithilfe von Gesichtserkennungstechnologien sind Recherchen von Amnesty International zufolge auch ein technisches Mittel zur Aufrechterhaltung der systematischen Unterdrückung der Palästinenser*innen. Amnesty International fordert die israelische Regierung auf, das System der Apartheid zu beenden.

Amnesty International fordert weltweit einen Stopp von Massenüberwachungsmaßnahmen, da diese menschenrechtlichen Kriterien nicht genügen: Aufgrund ihrer ungezielten Natur betreffen sie unzählige Menschen und stellen damit immer einen unverhältnismäßigen Eingriff in das Menschenrecht auf Privatsphäre dar. Gesichtserkennung ist eine Massenüberwachungsmaßnahme, die unvertretbare Risiken auch für weitere Menschenrechte wie die Bewegungs- und Versammlungsfreiheit oder das Recht auf friedlichen Protest mit sich bringt. Die Technologie könnte die freie und anonyme Bewegung im öffentlichen Raum gänzlich beenden. Sie ist zudem bei bereits marginalisierten Gruppen, etwa Frauen und People of Colour, besonders fehleranfällig. Diese sind daher häufiger von polizeilichen Folgemaßnahmen einer fälschlichen "Erkennung" betroffen.

Amnesty International fordert die israelische Regierung – ebenso wie alle Staaten weltweit – auf, Gesichtserkennungstechnologie zu Identifikationszwecken im öffentlichen Raum zu verbieten. Alle Überwachungsmaßnahmen, die eine Form von Massenüberwachung darstellen oder diskriminierend eingesetzt werden, müssen eingestellt werden.

Unternehmen, die die verwendeten Technologien herstellen, müssen durch menschenrechtliche Sorgfaltspflichten sicherstellen, dass sie nicht zu Menschenrechtsverletzungen beitragen. Sie müssen beim Export von Überwachungstechnologien und anderen Gütern, die menschenrechtliche Risiken mit sich bringen, eine Risikoanalyse vornehmen. Besteht eine signifikante Gefahr, dass eine Technologie zu Menschenrechtsverletzungen eingesetzt werden wird, sollten sie von einem Verkauf absehen. Zu diesen sogenannten menschenrechtlichen Sorgfaltspflichten sind Unternehmen weltweit gemäß der UN-Leitlinien für Wirtschaft und Menschenrechte verpflichtet. Regierungen sollten auf nationaler Ebene Gesetze erlassen, die Unternehmen zu menschenrechtlichen Sorgfaltspflichten verpflichten, und sich für entsprechende internationale Gesetze einsetzen. Amnesty International richtet diese Forderungen an alle Regierungen und Unternehmen weltweit, auch an die Regierung Israels sowie an Unternehmen, die an Israel und in die besetzten palästinensischen Gebiete exportieren.