Unscan My Face - Behalte dein Gesicht
Mit der Kampagne #UnscanMyFace setzt sich Amnesty International für ein Verbot der Herstellung, des Einsatzes und des Exports von Gesichtserkennungstechnologie in Deutschland, der EU und weltweit ein.
Behalte deine Rechte: Gesichtserkennung in der EU verbieten!
#UnscanMyFace - Behalte dein Gesicht!
Gesichtserkennung im öffentlichen Raum bedroht eine Reihe von Menschenrechten: die Privatsphäre, die Meinungs- und Versammlungsfreiheit, das Recht auf Nichtdiskriminierung. Gerade jetzt wird in Brüssel ein neues Gesetz verhandelt, das über den Einsatz dieser gefährlichen Technologie entscheidet. Schicke eine E-Mail an die deutschen Abgeordneten im Europaparlament und fordere sie auf, Gesichtserkennung zu verbieten!
Werde aktiv!
Appelltext
Sehr geehrte Frau Abgeordnete,
sehr geehrter Herr Abgeordneter,
wir wenden uns als Mitglied des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres im europäischen Parlament an Sie. In den aktuellen Verhandlungen zur Verordnung über die Regulierung von künstlicher Intelligenz wird über den künftigen Einsatz Gesichtserkennungstechnologie und anderen Formen von biometrischer Überwachung im öffentlichen Raum entschieden.
Der Einsatz von Gesichtserkennungstechnologie gefährdet grundlegend das Recht auf Privatsphäre sowie eine Reihe weiterer Menschenrechte, wie die Meinung- und Versammlungsfreiheit, sowie das Recht auf Nichtdiskriminierung. Außerdem muss jede Einschränkung der Grund- und Menschenrechte notwendig und verhältnismäßig sein. Eine anlasslose und flächendeckende Überwachung aller Personen durch Gesichtserkennung ist aus unserer Sicht aber nie verhältnismäßig.
Der Entwurf der EU-Kommission für die KI-Verordnung sieht in Artikel 5(1)(d) lediglich ein Verbot von Gesichtserkennung in Echtzeit und für Strafverfolgungszwecke vor. Zudem sind die Ausnahmeregelungen so weit gefasst, dass die Vorschrift keinem Verbot gleichkommt.
Wir fordern Sie deswegen auf, sich in Ihrer Arbeit als Abgeordnete*r für ein umfassendes Verbot einzusetzen, das auch die nachträgliche biometrische Erkennung, den Einsatz durch alle staatlichen und private Akteure und den Einsatz an EU-Außengrenzen verbietet. Nur so bleiben unsere Menschenrechte auch in Zukunft geschützt.
Mit freundlichen Grüßen
Hintergrundinformation
An immer mehr Orten dieser Welt werden Personen, die einen öffentlichen Platz betreten, mit Gesichtserkennungstechnologie erfasst. Computerprogramme analysieren das Gesicht einer vorbeikommenden Person genau und können diese einer Identität zuordnen. So ist eine Überwachung in noch nie dagewesenem Ausmaß möglich. Durch die Verwendung von Algorithmen und künstlicher Intelligenz können detaillierte Bewegungsprofile erstellt werden. Es kann nachvollzogen werden, wo und wann eine Person mit wem war, und was sie getan hat.
Das ist ein schwerer Eingriff in das Recht auf Privatsphäre. Auch andere Menschenrechte werden eingeschränkt, wie die Meinungsfreiheit und das Recht auf friedliche Versammlung. Wenn beispielsweise Demonstrationen mit Gesichtserkennung überwacht werden, trauen sich viele gar nicht erst, teilzunehmen und ihre Meinung zu äußern.
Gesichtserkennungstechnologie kann auch das Recht auf Nichtdiskrimierung verletzen. Bei Schwarzen Menschen und People of Colour sowie Frauen und Kindern ist Gesichtserkennung besonders fehlerhaft. Negative Folgen wie Falschverdächtigungen treffen also Menschen besonders hart, die ohnehin Benachteiligungen erfahren. Selbst wenn die Technologie fehlerfrei funktionieren würde: Gesichtserkennung wird verstärkt für die Überwachung bereits marginalisierter Gruppen eingesetzt und verschärft so bestehende Ungerechtigkeiten und Diskriminierungsformen.
Auf EU-Ebene laufen aktuell Verhandlungen zur Regulierung von Künstlicher Intelligenz ("EU AI Act"). Das ist eine einmalige Chance, um den Einsatz von Gesichtserkennung gänzlich zu verbieten. Im aktuellen Gesetzentwurf würde Gesichtserkennung aber nur begrenzt verboten werden, sodass die nachträgliche Gesichtserkennung und der Einsatz durch private Akteure erlaubt bliebe. Auch sind weitreichende Ausnahmen vorgesehen, die den staatlichen Einsatz erlauben würden.
Bis Januar 2023 verhandelt das europäische Parlament darüber, wie das Gesetz final aussehen soll. Die Abgeordneten des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres (LIBE) spielen in der Entscheidungsfindung eine wichtige Rolle, da ihr Ausschuss dem Parlament einen Textvorschlag zur Abstimmung vorlegen wird. Sende jetzt eine E-Mail an die deutschen Abgeordneten in diesem Ausschuss und fordere sie auf, sich für ein Verbot von Gesichtserkennungstechnologie stark zu machen!
Deine Nachricht wird verschickt an:
- Katarina Barley (SPD)
- Karolin Braunsberger-Reinhold (CDU)
- Patrick Breyer (Piratenpartei)
- Lena Düpont (CDU)
- Cornelia Ernst (die Linke)
- Moritz Körner (Renew/FDP)
- Terry Reintke (Grüne)
- Birgit Sippel (SPD)
- Martin Sonneborn (Die Partei)
Offener Brief an die deutsche Bundesregierung: Jetzt für Verbot von Gesichtserkennung in der EU einsetzen!
24 zivilgesellschaftliche Organisationen, darunter auch Amnesty International, haben einen offenen Brief an die Mitglieder der deutschen Bundesregierung verfasst. Die Bundesregierung, die sich bereits im Koalitionsvertrag dafür ausgesprochen hat, Gesichtserkennung in der EU zu verbieten, muss ihren Worten nun Taten folgen lassen und sich bei den aktuellen Verhandlungen zur europäischen Verordnung über Künstliche Intelligenz (KI-Verordnung) für ein umfassendes Verbot von Gesichtserkennungstechnologie einsetzen. Lies hier den offenen Brief.
5 Gründe für ein Verbot von Gesichtserkennungstechnologie
1. Massenüberwachung im öffentlichen Raum wird ermöglicht
Gesichtserkennungstechnologie kann die Handlungen von allen im öffentlichen Raum ganz genau nachverfolgen, z. B. wo, wann und mit wem sich eine Person aufhält. So verschwindet einer der letzten, anonymen Rückzugsorte. Eine Massenüberwachung aller Menschen ist weder angemessen noch verhältnismäßig.
2. Recht auf Privatsphäre und die Menschenwürde werden verletzt
In mehr und mehr Ländern werden die Gesichter von Menschen in öffentlichen Räumen identifiziert und ihre Bewegungen verfolgt. Unternehmen sammeln ohne Erlaubnis tausende Fotos aus sozialen Netzwerken oder nutzen Gesichtserkennung für Werbezwecke. Handlungen werden im Detail erfasst und Menschen auf Datenpunkte reduziert.
3. Recht auf Protest und freie Meinungsäußerung werden verletzt
Wer befürchten muss, auf einer Demonstration identifiziert zu werden, nimmt möglicherweise nicht daran teil. Durch das Wissen, ständig überwacht zu werden, scheuen sich viele Menschen davor, ihre Menschenrechte auszuüben. Das gilt verstärkt für Menschen, die ohnehin von Ausgrenzung und Diskriminierung betroffen sind.
4. Diskriminierungen werden verstärkt
Bei Schwarzen Menschen und People of Colour sowie Frauen und Kindern ist Gesichtserkennung besonders fehlerhaft. Negative Folgen wie Falschverdächtigungen treffen also Menschen besonders hart, die ohnehin Benachteiligungen erfahren. Selbst wenn die Technologie fehlerfrei funktionieren würde: Gesichtserkennung wird verstärkt für die Überwachung bereits marginalisierter Gruppen eingesetzt und verschärft so bestehende Ungerechtigkeiten und Diskriminierungsformen wie Rassismus, Sexismus und Klassismus.
5. Der Einsatz von Gesichtserkennung ist rechtlich zweifelhaft
Für den Einsatz von Gesichtserkennungstechnologie gibt es keine klare rechtliche Grundlage. Datenschutzbehörden und Expert*innen aus ganz Europa warnen: Der derzeitige Einsatz ist illegal. Trotz der rechtlichen Unklarheit wird Gesichtserkennung stückchenweise eingeführt. Um dieser Praxis einen Riegel vorzuschieben, braucht es ein ausdrückliches Verbot.
So könnte die Realität mit Gesichtserkennung aussehen
Diese Bilder zeigen Beispiele, die der Illustration dienen. Die Identitäten und Eigenschaften der Personen sind fiktiv.
#UnscanMyFace - Behalte dein Gesicht! Fiktives Beispiel, wie die Realität mit Gesichtserkennung in Zukunft aussehen könnte.
#UnscanMyFace - Behalte dein Gesicht! Fiktives Beispiel, wie die Realität mit Gesichtserkennung in Zukunft aussehen könnte.
#UnscanMyFace - Behalte dein Gesicht! Fiktives Beispiel, wie die Realität mit Gesichtserkennung in Zukunft aussehen könnte.
#UnscanMyFace - Behalte dein Gesicht! Fiktives Beispiel, wie die Realität mit Gesichtserkennung in Zukunft aussehen könnte.
Was kannst du gegen Gesichtserkennung tun?
Gemeinsam gegen Gesichtserkennung – Jetzt mitmachen!
-
Nutze unseren Kampagnen-Hashtag #UnscanMyFace in den Sozialen Medien, damit mehr Menschen von dem Problem erfahren. Teile deine Gedanken. Warum setzt du dich für ein Verbot ein?
-
Teile unsere Beiträge auf Twitter, Instagram und Facebook.
-
Teile unsere Kampagnen-Seite, damit möglichst viele Menschen von dem Problem um Gesichtserkennung erfahren.
-
Hilf dabei, das Problem in die Öffentlichkeit zu tragen: Sprich mit deiner Familie, deinen Bekannten und Freund*innen. Oder nutze deine Social Media-Kanäle, um das Problem bekannter zu machen.
Gemeinsam können wir Politiker*innen in Deutschland und der EU klar machen: Wir wollen in einer Welt leben, in der Technologie den Menschen nutzt und ihre Rechte geachtet werden.
Ist Gesichtserkennung mit den Menschenrechten vereinbar? Auszüge aus der Allgemeine Erklärung der Menschenrechte:
Niemand darf willkürlichen Eingriffen in sein Privatleben, seine Familie, seine Wohnung und seinen Schriftverkehr oder Beeinträchtigungen seiner Ehre und seines Rufes ausgesetzt werden. Jeder hat Anspruch auf rechtlichen Schutz gegen solche Eingriffe oder Beeinträchtigungen.
Alle Menschen sind vor dem Gesetz gleich und haben ohne Unterschied Anspruch auf gleichen Schutz durch das Gesetz. Alle haben Anspruch auf gleichen Schutz gegen jede Diskriminierung, die gegen diese Erklärung verstößt, und gegen jede Aufhetzung zu einer derartigen Diskriminierung.
Jeder hat das Recht auf Meinungsfreiheit und freie Meinungsäußerung; dieses Recht schließt die Freiheit ein, Meinungen ungehindert anzuhängen sowie über Medien jeder Art und ohne Rücksicht auf Grenzen Informationen und Gedankengut zu suchen, zu empfangen und zu verbreiten.
1. Alle Menschen haben das Recht, sich friedlich zu versammeln und zu Vereinigungen zusammenzuschließen.
2. Niemand darf gezwungen werden, einer Vereinigung anzugehören.
Der Einsatz von Gesichtserkennungstechnologie kann Menschen davon abhalten, demonstrieren zu gehen:
#unteilbar-Demonstration in Berlin am 4. September 2021
© Amnesty International, Foto: Jarek Godlewski
FAQ - Die meistgestellten Fragen zum Thema Gesichtserkennung
Gesichtserkennung ist eine Form der biometrischen Erkennung. Kameras scannen das Gesicht einer Person. Die Aufnahmen werden mit Hilfe von Computerprogrammen genau vermessen. So wird beispielsweise exakt erfasst, wie weit die Augenbrauen auseinander liegen. Mit Hilfe einer Datenbank werden die Ergebnisse abgeglichen. Da jedes Gesicht einzigartig ist, kann mit Hilfe dieser spezifischen Messungen eine Person erkannt werden Zumindest in der Theorie: die Technologie ist sehr fehleranfällig und funktioniert nicht bei allen Personen gleich gut.
Durch Gesichtserkennung können Aufnahmen 1:1 verifiziert werden, genau genommen: Ist das die Person, die sie vorgibt, zu sein? Das passiert zum Beispiel bei der automatisierten Passkontrolle am Flughafen oder wenn ein Handy mit dem Gesicht entsperrt wird.
Gesichtserkennung kann aber auch für einen Abgleich "1:viele" eingesetzt werden, um zu beantworten: Wer ist diese Person? Gerade dieser Einsatz hat weitreichende Konsequenzen für die Menschenrechte.
Durch den Einsatz von Gesichtserkennungstechnologie werden zahlreiche Menschenrechte verletzt. So beispielsweise das Recht auf Privatsphäre, das Recht auf Nicht-Diskriminierung sowie das Recht, zu protestieren und die eigene Meinung frei zu äußern.
Amnesty International fordert ein Verbot der Herstellung, des Einsatzes und Exports von Gesichtserkennungstechnologie in Deutschland, der EU und weltweit.
Auf EU-Ebene laufen aktuell Verhandlungen zur Regulierung von Künstlicher Intelligenz ("EU AI Act"). Das ist eine einmalige Chance, um den Einsatz von Gesichtserkennung gänzlich zu verbieten. Mit der aktuellen Bundesregierung, die sich im Koalitionsvertrag auf ein europarechtliches Verbot von biometrischer Gesichtserkennung im öffentlichen Raum geeinigt hat, sitzt im Europäischen Rat eine gewichtige Stimme für ein Verbot. Doch auch die Befürworter*innen haben einen sehr starken Rückhalt. In den Verhandlungen wird nun entschieden, wie es um unsere Rechte in Zukunft bestellt sein wird.
Sowohl der Einsatz von wie auch der Handel mit biometrischer Technologie nimmt weltweit zu. Europaweit nutzen mindestens 11 Staaten Gesichtserkennung, und weitere 8 planen dessen Einführung. In Deutschland sollte eine anlasslose Überwachung durch Gesichtserkennungstechnologie an über 100 Bahnhöfen und Flughäfen eingesetzt werden. Nach großem Widerstand wegen des enormen Menschenrechtsrisikos wurde Gesichtserkennung 2020 jedoch vorerst gestoppt. Doch ein allgemeines Verbot dieser Technologie gibt es bislang nicht und Gesichtserkennungstechnologie wird in anderen Zusammenhängen eingesetzt: Das Bundeskriminalamt, die Landeskriminalämter und die Bundespolizei verwenden Gesichtserkennung zur nachträglichen Identifizierung von Personen. Die Datenbank an Bildern, die die Polizei zum Abgleich nutzt, wächst ständig und wird immer häufiger genutzt.
Erfahre mehr zum Thema Gesichtserkennung
Eine Hauswand mit dutzenden Überwachungskameras
© Vicente Mendez
Weiterführende Informationen bei unseren Partnern
Noch mehr Informationen erhältst du auf folgenden Websites: