Algorithmus? Nix muss!

Amoralische Algorithmen sind nicht nur in Kriegs- und Krisengebieten ein Problem. "LGBTI+ dürfen nun zum Beispiel auf den Meta-Kanälen als 'geisteskrank' bezeichnet werden", sagt Lena Rohrbach, Referentin für Menschenrechte im digitalen Zeitalter bei Amnesty International in Deutschland. "Das feuert Hass an und kann zu Gewalt in der analogen Welt führen."

Doch wie kann man den vermeintlich allmächtigen Tech-Konzernen beikommen? Deutlich wird derzeit vor allem, dass der Kampf um die Regulierung des digitalen Raums eine Näherungsbewegung ist: Es wird viel ausprobiert – von einem Mindestalter für Social Media-Nutzende in Australien bis hin zu Klagen gegen die Betreiber der Plattformen. Nicht alles erweist sich als zielführend, und die marktbeherrschende Stellung und politische Macht der Tech-Oligarchen verhindert einiges. Aber es gibt auch hoffnungsvolle Ansätze.

EU-Gesetzesquartett als Meilenstein

Als Meilenstein gilt bislang das EU-weite Gesetzesquartett aus Digital Service Act, Digital Markets Act, Datenschutzgrundverordnung und Artificial Intelligence Act. Die Gesetze regeln den Einsatz Künstlicher Intelligenz, die Wettbewerbsbedingungen, den Zugang zu den Plattformen, den Umgang mit deren Inhalten und Nutzer*innendaten. Plattformen werden dafür in die Pflicht genommen, wie sich ihre Dienste auf die Demokratie und die Menschenrechte auswirken, so müssen sie etwa illegale Inhalte schneller entfernen. Zudem erhalten Politik, Wissenschaft und zivilgesellschaftliche Organisationen teilweise Zugriff auf die Daten.

Wer die Plattformen beherrscht, steuert nicht nur die Aufmerksamkeit des weltweiten Publikums und beeinflusst es, sondern hat auch umfassende Kenntnisse über die Kund*innen. Amnesty warnt vor der horrenden Datensammlung der Konzerne: "Big Tech-Unternehmen höhlen unser Recht auf Privatsphäre aus, indem sie jeden Klick verfolgen und möglichst viele Informationen über uns sammeln", erklärt Lena Rohrbach. "Das ist mit den Menschenrechten unvereinbar."

Öffentlich-rechtliche Plattformen?

In einem neuen Bericht fordert Amnesty, das Kartellrecht zu nutzen, um Unternehmen mit Monopolstellung aufzubrechen. Sie können sonst diktieren, welche Einschränkungen unserer Privatsphäre, Meinungs- und Informationsfreiheit wir erdulden müssen – mangels Alternativen. Erik Tuchtfeld, der am Max-Planck-Institut für ausländisches öffentliches Recht und Völkerrecht zur Regulierung sozialer Netzwerke forscht, fordert öffentlich-rechtliche Plattformen als Alternativen zu den privaten Anbietern. Nicht nur Straßen, Spielplätze und Schulen sollten staatlich finanziert werden, sondern auch digitale öffentliche Räume: "Dabei lässt sich viel von öffentlich-rechtlichen Rundfunkanstalten lernen, die aus öffentlichen Mitteln finanziert, aber trotzdem staatsfern organisiert und gesellschaftlich eingebettet sind", sagt Tuchtfeld.

Ein kleinerer Hebel wären "Interoperabilitätsverpflichtungen". Das sperrige Wort steht für das Ziel, Interaktion über die Plattform hinaus zu ermöglichen. "So könnte man auch auf die Inhalte von Instagram, TikTok und Co zugreifen, ohne dass man ein Konto auf den Plattformen einrichten und sich ihrem Tracking und ihren Algorithmen aussetzen müsste", sagt der Wissenschaftler. Auch müsse es den Nutzer*innen rechtlich ermöglicht werden, die Algorithmen von Organisationen einsetzen zu können, denen sie vertrauen oder die Schwerpunkte in ihrem Sinne setzen, etwa auf eine kinderfreundliche Umgebung oder auf Nachrichten.

Aktive Zivilgesellschaft: Hasspostings melden

Es mangelt also nicht an Ideen, um den digitalen Raum zu regulieren. Doch die Erfahrung zeigt: Staatliche Regelungen sind das eine – das andere ist gelebte Realität. "Im ersten Schritt muss eine demokratische Regulierung effektiv durchgesetzt werden", sagt Tuchtfeld.

Einen wichtigen Beitrag dazu kann theoretisch jede*r leisten, die oder der auf den Plattformen unterwegs ist. "Wir können als Einzelne nicht verhindern, dass Rassismus und Gewaltwünsche in unserer Gesellschaft existieren", sagt Ingrid Brodnig, Publizistin und Digitalexpertin. "Aber wir können eindeutig rechtswidrige Postings melden." Denn die großen Online-Plattformen sind in Europa nach dem Digital Service Act verpflichtet, Meldungen rechtswidriger Postings zu überprüfen. Daran muss man sie aber auch regelmäßig erinnern. Brodnigs Erfahrung: "Bei manchen Plattformen führt die Meldung nach dem Gesetz eher zum Entfernen oder Ausblenden von Inhalten als die Meldung nach den internen Regeln der Plattform." Da es einem die Plattformen in der Regel schwer machen, Hasspostings zu melden, hat Brodnig auf ihrem Blog eine Schritt-für-Schritt-Anleitung veröffentlicht. 

Auch andere versuchen, den Plattform-Betreibern gewissermaßen im Maschinenraum zu begegnen: Organisationen wie Hate Aid oder People versus Big Tech verfolgen etwa eine strategische Klageführung. Die ehemalige taiwanesische Digitalministerin Audrey Tang versucht, Tech-Unternehmen von sogenannten Bridging Algorithms zu überzeugen, die nicht auf Spaltungs- und Empörungsinhalte anspringen, sondern Stimmen verstärken, die unterschiedliche Meinungen verbinden, Konsens schaffen und die Demokratie stärken. Und in vielen Staaten gründen sich derzeit Fact Checking-Agenturen, auch auf gemeinnütziger Basis, die Inhalte im digitalen Raum überprüfen und richtigstellen. Eine Entwicklung, die zeigt, dass die Sensibilität für digitale Fälschungen gewachsen ist. Das alles stärkt die Selbstheilungskräfte des Web.

Uta von Schrenk ist Redakteurin des Amnesty Journals.