Stellungnahme zum Gesetzentwurf zur Fortentwicklung polizeirechtlicher Maßnahmen
Amnesty International nimmt Stellung zur Reform des Landesverwaltungsgesetzes von Schleswig-Holstein. Der Gesetzentwurf sieht eine massive Ausweitung polizeilicher Befugnisse insbesondere im Bereich KI-gestützter Massenüberwachung und des Präventivgewahrsams vor.
Die folgenden Vorhaben begegnen umfassenden menschenrechtlichen Bedenken und sollten in der vorgesehen Form nicht verabschiedet werden:
• Die Ausweitung der Videoüberwachung im öffentlichen Raum senkt die Eingriffsschwellen und erhöht die Streubreite staatlicher Beobachtung. Die vorgesehenen Schutzmechanismen reichen angesichts der Eingriffsintensität nicht aus, zusätzlich fehlt es an Wirksamkeitsnachweisen.
• Die Einführung von KI-gestützten Verhaltensscannern ermöglicht die verdachtsunabhängige automatisierte Bewertung und Nachverfolgung des Verhaltens aller Menschen, die sich im öffentlichen Raum bewegen. Wegen erheblicher Fehler-, Diskriminierungs- und Einschüchterungsrisiken, der hohen Streubreite sowie fehlender Wirksamkeitsnachweise sollte auf die Regelung verzichtet werden.
• Die weitreichenden Befugnisse zur biometrischen Echtzeit- und nachträglichen Fernidentifizierung heben die Anonymität im öffentlichen und digitalen Raum weitgehend auf. Sie gehen mit erheblichen Fehler-, Diskriminierungs-, Datenschutz- und Rechtsschutzrisiken sowie ebenfalls einer hohen Streubreite einher und begegnen zudem unionsrechtlichen Bedenken.
• Die automatisierte Datenerhebung und Verhaltensauswertung im öffentlichen Verkehrsraum erfasst anlasslos eine Vielzahl unbeteiligter Personen, obwohl die Maßnahme lediglich der Verhütung von Ablenkungsverstößen dient. Die niedrige Eingriffsschwelle und die unzureichend bestimmten Voraussetzungen für eine Ausweitung der Kontrolle begründen erhebliche Zweifel an ihrer Verhältnismäßigkeit.
• Der Einsatz mobiler Sensorträgersysteme, insbesondere von Drohnen, flexibilisiert und erweitert polizeiliche Überwachung erheblich. Der besonderen Mobilität, Reichweite und eingeschränkten Wahrnehmbarkeit dieser Systeme stehen keine hinreichenden spezifischen Kontroll-, Transparenz- und Dokumentationspflichten gegenüber.
• Die automatisierte Datenanalyse ermöglicht die Zusammenführung umfangreicher Datenbestände, die Generierung neuer Erkenntnisse und die Erstellung von Verhaltensprofilen, zudem werden personenbezogene Daten einer Vielzahl unbeteiligter Personen verarbeitet. Die vorgesehenen Schutzvorkehrungen begrenzen die Risiken intransparenter Analyseprozesse, fehlerhafter Verdachtsgenerierung, diskriminierender Musterbildung und weitreichender Profilbildung nicht ausreichend.
• Die Ausweitung des Präventivgewahrsams senkt die Eingriffsschwelle für den schwersten präventiv- polizeilichen Grundrechtseingriff, erweitert behördliche Prognosespielräume und ermöglicht Freiheitsentziehungen von bis zu zwei Monaten. Die Regelung begegnet erheblichen Bedenken im Hinblick auf das Freiheitsgrundrecht, den Verhältnismäßigkeitsgrundsatz und Art. 5 EMRK.
Amnesty International weist darauf hin, dass der vorliegende Gesetzentwurf mit einer erheblichen Ausweitung und Technisierung polizeilicher Befugnisse in Schleswig-Holstein einhergeht.
Videoüberwachung, automatisierte Verhaltensanalyse, biometrische Fernidentifizierung, mobile Sensorträgersysteme und automatisierte Datenanalyse schaffen eine zunehmend vernetzte, datengetriebene Überwachungsinfrastruktur. Die Maßnahmen sind bereits für sich genommen schwerwiegende Grundrechtseingriffe; zusätzlich ergeben sich Auswirkungen auf die freie Wahrnehmung von Grundrechten aber auch aus ihrem Zusammenwirken, welches sich in einer Einzelbewertung der jeweiligen Befugnisse regelmäßig nur unvollständig abbilden lässt.
Es besteht die Gefahr einer schleichenden Normalisierung schwerwiegender Grundrechtseingriffe, die vielfach und oftmals sogar vornehmlich auch unbeteiligte Personen erfassen und Einschüchterungswirkungen auf die Wahrnehmung gesellschaftlicher, politischer, kultureller und religiöser Freiheiten entfalten können. Besonders zu berücksichtigen sind die Auswirkungen auf Menschen und Communities, die bereits von Rassismus oder anderen Formen struktureller Diskriminierung betroffen sind.
Fehlerhafte oder verzerrte automatisierte Bewertungen können bestehende Benachteiligungen reproduzieren oder verstärken und dazu führen, dass Menschen überproportional häufig in den Fokus polizeilicher Maßnahmen geraten.
Den schwerwiegenden Grundrechtseingriffen stehen dabei regelmäßig bloß vermutete Sicherheitsgewinne gegenüber. Es fehlen belastbare empirische Erkenntnisse zur Wirksamkeit entsprechender Maßnahmen, wie sie auch die EU-Grundrechteagentur (FRA) fordert.2 Die Einführung weitreichender KI-gestützter Überwachungsbefugnisse für die Polizei darf nicht als vorschnelle Reaktion auf Sicherheitsdebatten erfolgen.
Vielmehr ist der Staat verpflichtet, bei der Ausgestaltung und Anwendung hoheitlicher Befugnisse die Grund- und Menschenrechte konsequent zu wahren und zu schützen.
Erforderlich sind dabei nicht nur enge, bestimmte und verhältnismäßige gesetzliche Grenzen sowie wirksame unabhängige Kontroll- und Rechtsschutzmechanismen, sondern auch eine kritische Reflexion bestehender Strukturen, Prozesse und Handlungsmuster und die ernsthafte und wirkungsvolle Einbeziehung betroffener Communities.
Über verwendete technische Systeme sollte größtmögliche Transparenz hergestellt werden, um die Nachvollziehbarkeit und Vorhersehbarkeit staatlichen Handels zu verbessern und die Rechtsschutzgarantie aus Art. 19 Abs. 4 GG zu gewährleisten. Der Entwurf ermöglicht die Einführung von KI-Systemen, die als Hochrisiko-Systeme im Sinne der Verordnung (EU) 2024/1689 über Künstliche Intelligenz (KI-VO) gelten. Diese sieht beim Einsatz durch Strafverfolgungsbehörden allerdings bloß reduzierte Transparenzvorgaben vor (Art. 49 Abs. 4 KI-VO). Amnesty International empfiehlt, über die Mindestvorgaben der Verordnung für Strafverfolgungsbehörden hinauszugehen. Dazu sollten die Einträge im EU-Transparenzregister gemäß den regulären Vorgaben vorgenommen werden (Vermerk im öffentlichen Register; vollständige Angaben) und ein KI-Transparenzregister auf Landesebene eingeführt werden.
Bei der Erstellung der nach der Verordnung notwendigen Grundrechtsfolgenabschätzung der eingesetzten Systeme sollte die o.g. wirkungsvolle Einbeziehung betroffener Communities berücksichtigt werden.
