Palantir: KI-Überwachung in den USA und Deutschland
Palantir macht’s möglich: ICE-Mitarbeiter*innen nehmen einen Mann aus Ecuador vor den Augen seiner Töchter fest (New York, August 2025)
© Carol Guzy / Zuma Press / Reuters
Das Datenanalyseunternehmen Palantir spielt eine zentrale Rolle bei der Jagd auf Migrant*innen in den USA und wird auch von deutschen Polizeibehörden eingesetzt. Warum das menschenrechtlich problematisch ist.
Von Annette Jensen
Palantir liefert in den USA die digitale Infrastruktur für die Jagd auf Migrant*innen. Seine KI füttert das Unternehmen mit riesigen Datenmengen aus staatlichen und privaten Quellen. Verbindungen, Muster und Trends, für deren Recherche menschliche Teams Tage oder gar Monate bräuchten, erkennt die Software in kürzester Zeit. Sie kombiniert Informationen aus dem Gesundheitsministerium mit aktuellen Handy-Standorten, Flugreservierungen, Paketlieferungen oder Gruppen-Chats auf digitalen Plattformen. Wie das journalistische Portal 404 Media herausgefunden hat, erstellt die US-Einwanderungsbehörde Karten, auf denen die Adressen potenzieller Deportationskandidat*innen verzeichnet sind. Das System meldet, wenn sich mehrere gesuchte Personen am selben Ort befinden, und ermöglicht so Massenfestnahmen.
Amnesty International hat zu den Vorgängen in den USA recherchiert und dabei auch die Rolle von Palantir untersucht. Geflüchtete, Migrant*innen und internationale Studierende, die sich gegen die israelische Kriegsführung und für die Rechte von Palästinenser*innen engagieren, werden durch die KI-gestützten Überwachungstechniken identifiziert. Das System leitet aus Verhalten, Aufenthaltsorten, Posts in Online-Netzwerken und vielen anderen Daten eine angebliche "Gefährlichkeit" von Personen ab und liefert damit die Grundlagen für die automatisierte Abschiebepraxis. Das Vorgehen ist hochgradig diskriminierend, fehleranfällig und intransparent, so das Ergebnis der Amnesty-Recherche.
Nicht nur bei den Deportationen selbst erfolgen Menschenrechtsverletzungen. Die Verfahren verletzen auch die Rechte auf Protest, freie Meinungsäußerung und informationelle Selbstbestimmung. "Palantir verstößt eindeutig gegen die UN-Leitprinzipien für Wirtschaft und Menschenrechte, die es Unternehmen verbieten, in Menschenrechtsverletzungen involviert zu sein, und die verlangen, diese zu stoppen, wenn sie davon Kenntnis erlangen," sagt Lena Rohrbach, Amnesty-Fachreferentin für Menschenrechte im digitalen Zeitalter. Vor Gericht einklagbar sind die UN-Leitprinzipien allerdings nicht.
Gegründet wurde Palantir nach den Anschlägen vom 11. September 2001 mit Fördergeld des US-Auslandsnachrichtendienstes CIA und dem Ziel, das Land vor Terror zu schützen. Gerüchten zufolge soll das Unternehmen 2011 entscheidend daran beteiligt gewesen sein, den Al-Qaida-Anführer Osama Bin Laden in Pakistan aufzuspüren und zu töten. "Wir glauben, dass es nicht übertrieben ist, zu behaupten, dass nahezu alle KI-Workflows mit Mehrwert – insbesondere auf dem Schlachtfeld – auf Palantir basieren", wirbt der Geschäftsführer Alex Karp für sein Unternehmen. Binnen eines Jahres erzielte es ein Umsatzwachstum von 93 Prozent. Nach verlustreichen Anfangsjahren nimmt Palantir inzwischen Milliarden ein. Viele Menschen sind finanziell an dem Unternehmen beteiligt, wohl häufig, ohne es zu wissen: Private Rentenversicherungen, die den MSCI World-Index nutzen, haben Palantir-Aktien im Depot.
Geheime Algorithmen und Quellen
Welche Algorithmen und welche Datenquellen jeweils zum Einsatz kommen, ist geheim. Aber an seiner Mission lässt das Unternehmen keinen Zweifel: die Kontrolle von Bevölkerung und Weltlage. Zu den Gründern von Palantir gehört Peter Thiel, der sich bereits in der ersten Amtszeit von US-Präsident Trump hinter diesen stellte. Palantir-Mitarbeiter*innen sollen zudem in den Cambridge-Analytica-Skandal verwickelt gewesen sein, bei dem Facebook-Daten gezielt genutzt wurden, um den Wahlkampf im Sinne Trumps zu beeinflussen.
Von gleichen Rechten für alle Menschen hält Thiel nichts: "Ich glaube nicht, dass Freiheit und Demokratie miteinander vereinbar sind." Vielmehr geht er von einer klaren Überlegenheit weißer Tech-Eliten aus, die er schützen will. Zwar ist Thiel inzwischen nur noch Minderheitsaktionär, aber an der Ausrichtung von Palantir hat sich nichts geändert, wie auf der Unternehmensseite nachzulesen ist: "Der Moment der Wahrheit ist gekommen. (…) Wir haben Palantir gegründet, um die Zukunft des Westens zu sichern: In der Fabrikhalle. Im Operationssaal. Auf dem Schlachtfeld."
Auch deutsche Poilzei nutzt Palantir
Nicht nur das US-Militär und zahlreiche Geheimdienste, darunter der israelische Mossad, gehören zur Kundschaft Palantirs. Auch viele Behörden weltweit nutzen die Software. Darüber hinaus arbeitet die Firma für Hunderte Unternehmen von Amazon über IBM bis Exxon Mobile. In Deutschland ist die Polizei in Bayern, Hessen und Nordrhein-Westfalen mit Palantir-Programmen ausgestattet. Baden-Württemberg hatte ebenfalls einen 25-Millionen-Vertrag mit dem US-Unternehmen abgeschlossen, an dem die regierenden Grünen trotz Ablehnung durch ihre Basis festhalten.
Die Gesellschaft für Freiheitsrechte (GFF) hat vor dem Bundesverfassungsgericht gegen mehrere Landespolizeigesetze geklagt und 2023 einen ersten Sieg errungen: Die damaligen Regelungen in Hessen und Hamburg wurden für verfassungswidrig erklärt. Zurzeit sind noch Verfassungsbeschwerden gegen Bayern und erneut gegen Hessen anhängig. "Eine weitgehende Datenanalyse darf nur bei konkreten Gefahren für besonders wichtige Rechtsgüter wie Leib und Leben oder die Sicherheit des Staates eingesetzt werden", fasst die GFF-Juristin Franziska Görlitz die Stellungnahme des obersten Gerichts zu den ersten Beschwerden zusammen und schlussfolgert: "Der Gesetzgeber muss die Polizei klar anleiten, was sie darf und was nicht." Görlitz argumentiert mit der einschüchternden Wirkung auf die Gesamtbevölkerung, wenn unklar ist, was registriert und gespeichert wird.
Amnesty lehnt Gesetzesvorhaben ab
Derzeit strebt die Bundesregierung Gesetze an, die die digitalen Ermittlungsbefugnisse von Verfassungsschutz, Bundeskriminalamt und Bundespolizei regeln sollen. Auch die Bundeswehr will digital aufrüsten. Amnesty-Expertin Lena Rohrbach weist auf zwei Aspekte hin. Zum einen gehe es darum, welche Unternehmen als Vertragspartner infrage kommen. Hier müssten Firmen wie Palantir, die klar gegen die UN-Leitprinzipien verstoßen, ausgeschlossen werden. Zweitens müsse eindeutig geregelt werden, dass die neuen digitalen Werkzeuge Menschenrechte achten, unabhängig davon, welches Unternehmen die Software bereitstellt. Dazu müssen die analysierten Datenmengen ebenso wie die Analysemethoden streng begrenzt sein. Die Systeme dürfen keine Blackbox sein, und es muss nachvollziehbar bleiben, wie Ergebnisse erzielt wurden. Notwendig sei auch, die fast zwangsläufig mit der Technik einhergehenden Diskriminierungsrisiken zu vermindern. Wie gefährlich teilautomatisiert getroffene Entscheidungen sein können, belegt etwa der niederländische Kinderbeihilfenskandal, bei dem migrantische Familien zu Unrecht des Sozialbetrugs bezichtigt wurden.
In einer Stellungnahme haben Amnesty und andere Menschenrechtsorganisationen die gesetzlichen Vorhaben der Bundesregierung aus "grundsätzlichen verfassungs- und menschenrechtlichen Erwägungen" abgelehnt. Denn in die Analysen würden viele Daten einfließen, die zu einem ganz anderen Zweck entstanden sind. Dazu zählen Fotos im Internet oder Informationen über Zeug*innen oder Personen, die etwa bei einer Stadionkontrolle registriert wurden oder deren Fahrrad gestohlen wurde. Eine flächendeckende Verfolgbarkeit der Bevölkerung widerspricht dem Grundrecht auf informationelle Selbstbestimmung und dem Schutz personenbezogener Daten.
Inzwischen hat Palantir europäische Konkurrenz bekommen: Chapsvision aus Frankreich und die deutsche Kooperation von Celonis und Deepset. Doch solange es keine klaren gesetzlichen Grenzen für den Einsatz von KI in Behörden gibt, ist das Ganze eine "Entwicklung, die eigentlich nur zu totalitären Systemen passt", lautet das Urteil der Organisation Netzpolitik.org.
Annette Jensen ist Autorin und Journalistin. Namentlich gekennzeichnete Beiträge geben nicht unbedingt die Meinung von Amnesty International wieder.
Mehr zur Menschenrechtslage in den USA und zum Thema Massenüberwachung & Privatsphäre.
