Technologie & Rechte

Verteidiger der freien Meinungsäußerung fordern EU-Parlamentarier auf, gegen automatisierte Online-Zensur zu stimmen

Die EU erwägt eine neue gesetzliche Regelung, welche die freie Meinungsäußerung ernsthaft gefährdet. Mehr als 60 Menschenrechts- und JournalistInnen-Organisationen fordern die Mitglieder des EU-Parlaments auf die Vorlage abzulehnen.

von LibertiesEU
Youtube2 copy@2x

Die Verordnung, die im Falle ihrer Annahme in der gesamten EU gelten würde, schafft Anreize für Online-Plattformen, automatisierte Werkzeuge wie Upload-Filter einzusetzen, um Inhalte zu entfernen, die als "terroristisch" eingestuft werden. Eine Automatisierung kann nicht zwischen Parodie, Satire, Bildungsmaterial und tatsächlichen terroristischen Inhalten unterscheiden. Es besteht eine große Chance, dass Nachrichteninhalte oder Beweise für Kriegsverbrechen bzw. die Misshandlung von Minderheiten automatisch entfernt werden, was unserer Fähigkeit, uns zu informieren und uns frei zu äußern, schweren Schaden zufügen kann.

Besonders besorgniserregend ist, dass jedes beliebige EU-Land ohne jede Kontrolle oder gerichtliche Überprüfung anordnen kann, dass Online-Inhalte, die irgendwo in der EU gehostet werden, innerhalb einer Stunde entfernt werden. Dies könnte autoritären Regimen, wie denen in Polen und Ungarn, den Weg ebnen, ihre Kritiker im Ausland zum Schweigen zu bringen, indem sie jenseits ihrer Grenzen geltende Entfernungsanordnungen ausstellen und so ihre Gerichtsbarkeit effektiv über ihre Grenzen hinaus ausweiten. Da die Löschungen innerhalb einer Stunde vollzogen sein müssen, wird Online-Plattformen keine andere Möglichkeit bleiben, als diesen Anordnungen nachzukommen, um Geldstrafen oder andere rechtliche Probleme zu vermeiden. Die Verordnung ist auch nicht geeignet, die Unstimmigkeiten zwischen den EU-Ländern darüber, welche Inhalte als Terrorismus, Ironie, Kunst oder journalistische Berichterstattung einzustufen sind, zu klären.


Während der Plenarsitzung vom 26. bis 29. April in Straßburg werden die Europaabgeordneten für oder gegen eine Verordnung zum Umgang mit der Verbreitung von terroristischen Inhalten im Internet stimmen müssen. Unsere Koalition fordert das Europäische Parlament auf, den Vorschlag abzulehnen, da er eine ernsthafte Bedrohung für die Meinungs- und Redefreiheit, den freien Zugang zu Informationen, das Recht auf Privatsphäre und die Rechtsstaatlichkeit darstellt. Darüber hinaus wird er einen gefährlichen Präzedenzfall für jede zukünftige EU-Gesetzgebung zur Regulierung des digitalen Ökosystems schaffen, indem er unter dem Vorwand den digitalen Binnenmarkt stärken zu wollen, den Rahmen für die Rechtsdurchsetzung es verzerrt. Die vorgeschlagene Verordnung hat in ihrer jetzigen Form keinen Platz im EU-Recht.

Der Brief, der an die Europaabgeordneten gesandt wurde, lautet wie folgt.

Sprachversion herunterladen: Niederländisch. Englisch. Französisch. Deutsch. Italienisch. Polnisch. Rumänisch. Spanisch. Schwedisch.


Sehr geehrtes Mitglied des Europäisch en Parlaments,

wir schreiben Ihnen, um unsere Bedenken über den Vorschlag der Europäischen Union für eine Verordnung zur Bekämpfung der Verbreitung von terroristischen Online-Inhalten zu teilen. Wir fordern die Mitglieder des Europäischen Parlaments dringend auf, gegen die Annahme des Vorschlags zu stimmen.

Seit 2018 warnen wir, die unterzeichnenden Menschenrechtsorganisationen, Journalisten­verbände und WissenschaftlerInnen, vor den in diesem Gesetzesvorschlag enthaltenen schwerwiegenden Bedrohungen für die Grundrechte und -freiheiten, insbesondere für die Meinungs- und Redefreiheit, den freien Zugang zu Informationen, das Recht auf Privatsphäre und die Rechtsstaatlichkeit.

Dank der Arbeit des Verhandlungsteams des Europäischen Parlaments, einer ausgedehnten Debatte und der Einbeziehung der Zivilgesellschaft konnten einige der problematischen Punkte des Vorschlags im Zuge der Triloggespräche zwischen dem Europäischen Parlament und dem Rat der Europäischen Union bereits angegangen werden.

Ungeachtet des Ergebnisses der letzten Trilogverhandlungen enthält der endgültige Text der vorgeschlagenen Verordnung jedoch immer noch gefährliche Maßnahmen, die im Endeffekt den Schutz der Grundrechte in der EU schwächen werden. Hinzu kommt die reale Gefahr, einen gefährlichen Präzedenzfall für die Regulierung von Online-Inhalten weltweit zu schaffen.

Die vorgeschlagene Verordnung steht im April 2021 zur endgültigen Abstimmung im Plenum des Europäischen Parlaments an. Aus folgenden Gründen fordern wir die Mitglieder des Europäischen Parlaments auf, gegen die Annahme des Vorschlags zu stimmen:

1. Der Vorschlag motiviert Online-Plattformen nach wie vor, automatisierte Tools, wie z.B. Upload-Filter, zur Moderation von Inhalten zu verwenden.

Der kurze Zeitrahmen, den der Vorschlag den Anbietern vorschreibt, um als terroristisch eingestufte Inhalte zu entfernen, stellt einen starken Anreiz für Plattformen dar, automatisierte Tools zur Inhaltsmoderation, wie z. B. Upload-Filter, einzusetzen, um terroristische Inhalte zu löschen. Die derzeitigen Praktiken der Inhaltsmoderation zeichnen sich jedoch durch einen tiefgreifenden Mangel an Transparenz und Präzision bei der automatisierten Entscheidungs­findung aus. Da es für automatisierte Tools unmöglich ist, Aktivismus, Dagegenhalten (Counter­­-Speech) und Satire über Terrorismus zuverlässig von Inhalten zu unterscheiden, die tatsächlich selbst als terroristisch angesehen werden müssen, wird eine verstärkte Auto­matisierung letztlich dazu führen, dass legale Inhalte wie Nachrichteninhalte und Inhalte über die diskriminierende Behandlung von Minderheiten und unterrepräsentierten Gruppen entfernt werden. Plattformen entfernen bereits große Mengen an Inhalten, die Gewalt in Kriegsgebieten dokumentieren und von Überlebenden, Zivilisten oder Journalisten hochgeladen werden. Die Beispiele der Syrian - und der Yemeni Archives belegen, wie dadurch die Bemühungen um eine spätere Strafverfolgung - Stichwort Accountability - behindert werden können.In der vorgeschlagenen Verordnung fehlen Schutzmechanismen, um beim Einsatz automatisierter Tools solche Praktiken zu verhindern, weshalb die Verordnung in ihrer jetzigen Form diesen Trend nur noch verstärken wird. Upload-Filter wirken sich negativ auf das Internet aus, insbesondere im Hinblick auf seine offene Architektur und seine interoperablen Komponenten.

2. Es bestehen gravierende Mängel bei der unabhängigen gerichtlichen Kontrolle

Der Vorschlag fordert die Mitgliedstaaten auf, nach eigenem Ermessen "nationale zuständige Behörden" zu benennen, die befugt sind, die Maßnahmen der Verordnung, insbesondere das Ausstellen von Entfernungsanordnungen, umzusetzen. Obwohl der Vorschlag besagt, dass diese Behörden objektiv sowie nicht-diskriminierend sein müssen und die Rechte zu respektieren haben, sind wir dennoch der Meinung, dass nur Gerichte oder unabhängige Verwaltungsbehörden, die einer juristischen Überprüfung unterliegen, ein Mandat haben dürfen, solche Entfernungsanordnungen auszustellen. Das Fehlen einer juristischen Kontrolle stellt eine ernsthafte Gefahr für die Meinungs-, Versammlungs-, Vereinigungs- und Religionsfreiheit, sowie für den freien Zugang zu Informationen dar. Es untergräbt auch die Charta der Grundrechte, die die Freiheit Informationen zu erhalten und weiterzugeben sichert und ausdrücklich besagt, dass rechtmäßige Meinungsäußerungen geschützt sind und nur nachträglich, durch ein Gericht und auf legitimen Antrag eingeschränkt werden dürfen.

3. Die Mitgliedsstaaten werden ohne jegliche Kontrolle grenzüberschreitende Entfernungsanordnungen ausstellen

Entsprechend dem Ergebnis des Trilogs soll jede zuständige Behörde die Befugnis erhalten, die Löschung von Online-Inhalten innerhalb von einer Stunde anzuordnen, ganz gleich, wo diese Inhalte gehostet werden. Das bedeutet, dass ein Mitgliedstaat seine juristische Vollstreckungshoheit ohne vorherige gerichtliche Überprüfung und Berücksichtigung der Rechte von Personen in den betroffenen Gerichtsbarkeiten über sein Hoheitsgebiet hinaus erweitern kann. Angesichts der schwerwiegenden Bedrohung der Rechtsstaatlichkeit in bestimmten EU-Mitgliedstaaten besteht die Gefahr, dass dadurch das, der europäischen justiziellen Zusammenarbeit zugrunde liegende, gegenseitige Vertrauen ernsthaft in Mitleidenschaft gezogen wird. Darüber hinaus enthält das im aktuellen Text vorgesehene Verfahren der minimalen Benachrichtigung und Überprüfung durch den betroffenen Staat keine ausreichenden Sicherheitsvorkehrungen gegen staatliche Übergriffe und Machtmissbrauch, und es wird die Meinungsverschiedenheiten zwischen den Mitgliedstaaten darüber, was Terrorismus, Ironie, Kunst oder journalistische Berichterstattung ist, nicht lösen.

Wir fordern das Europäische Parlament dringend auf, diesen Vorschlag abzulehnen, da er die Meinungs- und Redefreiheit, die Freiheit des Zugangs zu Informationen, das Recht auf Privatsphäre und die Rechtsstaatlichkeit ernsthaft bedroht. Indem er unter dem Vorwand den digitalen Binnenmarkt stärken zu wollen den Rahmen für die Strafverfolgung verzerrt, wird er darüber hinaus einen gefährlichen Präzedenzfall für jede zukünftige EU-Gesetzgebung zur Regulierung des digitalen Ökosystems schaffen. Somit hat die vorgeschlagene Verordnung zum Umgang mit der Verbreitung terroristischer Inhalte im Internet in ihrer jetzigen Form keinen Platz im EU-Recht.

Access Now, International

Amnesty International

Antigone, Italian

ARTICLE 19, International

Asociația pentru Tehnologie și Internet (ApTI), Romania

Association of European Journalists (AEJ), Belgium

Bits of Freedom, the Netherlands

Bulgarian Helsinki Committee, Bulgaria

Centre for Democracy & Technology (CDT), International

Chaos Computer Club (CCC), Germany

Civil Liberties Union for Europe (Liberties), International

Comité de Vigilance en matière de Lutte contre le Terrorisme (Comité T), Belgium

Committee to Protect Journalists (CPJ), International

Communia, International

Digitalcourage, Germany

Digitale Gesellschaft, Germany

Digital Rights Ireland, Ireland

Državljan D, Slovenia

Electronic Frontier Finland (Effi), Finland

Electronic Frontier Foundation (EFF), USA

Elektroniks Forpost Norge (EFN), Norway

Entropia e.V., Germany

epicenter.works, Austria

European Digital Rights (EDRi), International

European Federation of Journalists (EFJ), International

Fitug e.V., Germany

Föreningen för digitala fri- och rättigheter (DFRI), Sweden

Freemuse, International

Global Forum for Media Development (GFMD), International

Global Voices, International

Helsinki Foundation for Human Rights, Poland

Hermes Center, Italy

Homo Digitalis, Greece

Human Rights Monitoring Institute, Lithuania

Human Rights Watch, International

International Commission of Jurists, International

Internationale Liga für Menschenrechte, Germany

International Federation for Human Rights (FIDH), International

Internet Governance Project, School of Public Policy at the Georgia Institute of Technology

Internet Society, International

IT Political Association of Denmark (IT-Pol), Denmark

Irish Council for Civil Liberties, Ireland

La Quadrature Du Net (LQDN), France

Latvian Human Rights Committee, Latvia

Liga voor de Rechten van de Mens, the Netherlands

Liga voor Mensenrechten, Belgium

Ligue des Droits de l’Homme, France

Ligue des Droit Humains, Belgium

Mnemonic, International

Open Technology Institute, USA

Panoptykon Foundation, Poland

Ranking Digital Rights, USA

Reporters Without Borders (RSF), International

Rights International Spain, Spain

Statewatch, the United Kingdom

Vrijschrift.org, The Netherlands

Wikimedia Deutschland, Germany

Wikimedia France, France

WITNESS, International

Xnet, Spain

7amleh - The Arab Center for the Advancement of Social Media, Palestine