DEINE SPENDE KANN LEBEN RETTEN!
Mit Amnesty kannst du dort helfen, wo es am dringendsten nötig ist.
DEINE SPENDE WIRKT!
MENSCHENRECHTE SCHÜTZEN!
Wir setzen uns für den Schutz von bedrohten Aktivist*innen ein, stellen klare Forderungen an die Politik.
UNTERSTÜTZE UNSERE ARBEIT MIT DEINER SPENDE.
Deutschland: Künstliche Intelligenz muss menschenrechtskonform reguliert werden
Eine anlasslose Massenüberwachung im öffentlichen Raum verletzt das Menschenrecht auf Privatsphäre.
© IMAGO / Jochen Tack
Anlässlich der Anhörung des Digitalausschusses zu Künstlicher Intelligenz (KI) fordert Amnesty International von den Mitgliedern, die menschenrechtlichen Risiken von KI stärker zu berücksichtigen. Die Bundesregierung soll verstärkt auf die EU-Gesetzgebung einwirken, um KI-Systeme menschenrechtskonform zu regulieren. So fordert Amnesty International unter anderem ein weitreichenderes Verbot von Gesichtserkennung im öffentlichen Raum.
Am Montag, den 26. September hören die Mitglieder des Digitalausschusses des Bundestages Expert*innen zur aktuellen Diskussion um die EU-Verordnung zu Künstlicher Intelligenz (KI). Amnesty International fordert die Ausschussmitglieder zu diesem Anlass auf, sich stärker mit den menschenrechtlichen Risiken von KI auseinanderzusetzen und die aktuelle EU-Gesetzgebung dahin gehend zu beeinflussen. So fordert Amnesty International ein umfassenderes Verbot von Gesichtserkennungstechnologie im öffentlichen Raum.
Markus N. Beeko, Generalsekretär von Amnesty International in Deutschland, sagt: "Technologien, die in der Lage sind, Personen anlasslos zu identifizieren, machen eine rechtswidrige Überwachung in nie dagewesenem Ausmaß möglich. Eine anlasslose Massenüberwachung im öffentlichen Raum ist aus Sicht von Amnesty International unverhältnismäßig und verletzt das Menschenrecht auf Privatsphäre. Der Einsatz von Gesichtserkennungstechnologie zur Identifikation von Menschen in öffentlichen Räumen muss weltweit verboten werden. Die EU sollte mit gutem Beispiel vorangehen und dieses Verbot verabschieden. Die Ampel-Koalition hat sich im Koalitionsvertrag zu einem solchen Verbot bekannt und sollte sich jetzt dafür in Brüssel verstärkt einsetzen."
Auch andere Menschenrechte – wie die Versammlungs- und Meinungsfreiheit – bedroht die Gesichtserkennung: Menschen, die in Russland friedlich für Presse- und Versammlungsfreiheit auf die Straße gingen, wurden dabei erfasst, automatisch identifiziert und von den russischen Behörden verfolgt. In der chinesischen Provinz Xinjiang gehört der flächendeckende Einsatz von Gesichtserkennungstechnologie zum systematischen Repressionsregime gegenüber Uiguren und anderen ethnischen Gruppen. In New York konnten Untersuchungen von Amnesty International belegen, dass Demonstrant*innen, die 2020 an "Black Lives Matter"-Protesten teilnahmen, mithilfe von Gesichtserkennung überwacht wurden.
Hintergrund
In Europa wird derzeit über ein mögliches Verbot der Gesichtserkennungstechnologie entschieden. Um einen umfangreichen Schutz der Menschenrechte zu gewährleisten, fordert Amnesty International, alle KI-Anwendungen zu verbieten, die ein nicht vertretbares Risiko für die Menschenrechte mit sich führen. Das vorgesehene Verbot von Gesichtserkennung im öffentlichen Raum ist jedoch mit so weitreichenden Ausnahmen versehen, dass der beabsichtigte Menschenrechtsschutz unterlaufen wird. Die KI-Verordnung muss jeglichen Einsatz von Gesichtserkennungstechnologie verbieten und diese Schlupflöcher schließen, sodass auch der nachträgliche Einsatz sowie der Einsatz durch Private und Unternehmen verboten wird. Auch der Einsatz von biometrischen Daten für andere Zwecke, wie beispielsweise Emotionserkennung oder andere biometrische Kategorisierungssysteme, muss gänzlich verboten werden.
