Bundestagswahl 2025: Menschenrechte im digitalen Zeitalter schützen

Digitale Technologien ermöglichen weltweite Kommunikation, verbessern die medizinische Versorgung und stärken demokratische Bewegungen. Gleichzeitig werden sie für Überwachung, Unterdrückung und Manipulation missbraucht. Autoritäre Regierungen nutzen Spähsoftware gegen Aktivist*innen, KI-Systeme können zu Diskriminierung führen, und digitale Gewalt bedroht besonders marginalisierte Gruppen. Die Bundesregierung muss handeln und einen verbindlichen Rechtsrahmen schaffen, der die Menschenrechte in einer digitalen Welt wirksam schützt.

Die Entwicklung digitaler Technologien schreitet rasant voran. Während einige Entwicklungen unseren Alltag erleichtern, stellen andere eine ernsthafte Bedrohung für die Menschenrechte dar. Wie Amnesty aufgedeckt hat, setzen Sozialbehörden in mehreren EU-Staaten KI-Systeme ein, die Menschen diskriminieren und zu Unrecht des Sozialbetrugs beschuldigen. Außerdem wird KI zunehmend zur Überwachung eingesetzt.

In China kommt Gesichtserkennungstechnologie zum Einsatz, um die uigurische Minderheit zu kontrollieren, in Russland identifiziert man damit Protestierende. Auch Politiker*innen in Deutschland finden Gefallen an der Technologie und fordern, den öffentlichen Raum damit zu überwachen. Schutzsuchende können bereits mittels diskriminierender Stimm- und Gesichtserkennungstechnologie überprüft werden. Dazu müssten gigantische Datenbanken mit Internet-Fotos der gesamten Bevölkerung erstellt werden. Dies wäre ein massiver Eingriff in unsere Privatsphäre und zudem europarechtswidrig.

Besorgniserregend sind die Aufrufe zu Hass und Hetze in den sozialen Medien weltweit. Geflüchtete und andere marginalisierte Gruppen gehören nicht selten zu den ersten Betroffenen. In Myanmar nutzte das Militär Facebook-Algorithmen, um gegen die ethnische Minderheit der Rohingya zu hetzen. Und auch in Deutschland nehmen Online-Attacken gegen marginalisierte Gruppen zu.

Neben der Überwachung sozialer Medien stellt Spionagesoftware wie "Pegasus", "Predator" und der "Staatstrojaner" eine große Gefahr für die Privatsphäre dar. Recherchen von Amnesty International belegen: Diese Software wird längst nicht nur zur Strafverfolgung eingesetzt. Autoritäre Regierungen nutzen diese Technologien vor allem, um gegen Oppositionelle und kritische Stimmen vorzugehen. Weltweit werden damit Menschenrechtsverteidiger*innen, Journalist*innen und Aktivist*innen ausgespäht.

Autonome Waffensysteme, die einst wie eine düstere Vision klangen, drohen nun Realität zu werden. So kommen z. B. im russischen Angriffskrieg gegen die Ukraine KI-gesteuerte Drohnen zum Einsatz. Derzeit entwickeln mehrere Staaten autonome Waffensysteme, die selbstständig Ziele identifizieren und angreifen können. Diese Entwicklung gefährdet das humanitäre Völkerrecht und die ethischen Grundsätze von Kriegsführung und Polizeiarbeit.

Deutschland muss eine Vorreiterrolle einnehmen und dazu beitragen, dass verbindliche Richtlinien für einen verantwortungsvollen Umgang mit digitalen Technologien – ohne Verletzung der Menschenrechte – entwickelt und umgesetzt werden. Ohne klare Grenzen und Kontrollmechanismen droht eine Welt, in der grundlegende Freiheitsrechte durch Algorithmen ausgehöhlt werden. Die Bundesregierung muss sicherstellen, dass der Schutz der Menschenrechte bei der Gestaltung des digitalen Wandels oberste Priorität hat.

Unsere Forderungen:

• Die Bundesregierung muss sich für ein umfassendes Verbot besonders invasiver Spionagesoftware wie "Pegasus" und "Predator" einsetzen. Der Handel mit Überwachungstechnologien muss gestoppt werden, bis internationale Regelungen getroffen sind. Für die Geheimdienste müssen unabhängige, gerichtsähnliche Kontrollinstanzen geschaffen werden.
• Transparenz und die Einhaltung menschenrechtlicher Standards müssen jederzeit gewährleistet sein. KI-Systeme, die Menschenrechte verletzen, müssen verboten werden. Dies gilt insbesondere für die Gesichtserkennung im öffentlichen Raum und "Social Scoring". Behörden müssen den Einsatz von KI vollständig offenlegen.
• Der Staat muss die Bürger*innen aktiv vor illegaler Überwachung und grenzüberschreitender Repression schützen.
• Die Bundesregierung muss sich für ein Verbot autonomer Waffensysteme bei Militär und Polizei einsetzen, wenn diese keine bedeutsame menschliche Kontrolle erlauben oder Menschen zum Ziel haben. KI-Anwendungen in diesen Bereichen müssen zum Schutz der Menschenrechte streng reguliert werden.
• Die Bundesregierung muss die EU-weite Plattformregulierung konsequent umsetzen und Beratungsstellen ausbauen. Strafverfolgungsbehörden und Präventionsarbeit müssen besser ausgestattet werden. Notwendig sind auch Schwerpunktstaatsanwaltschaften und wissenschaftliche Studien zur Überprüfung der Wirksamkeit von Maßnahmen.