In der EU hat sich dieses Jahr, dank einer ganzen Reihe neuer Richtlinien und Gesetze, für Big-Tech-Unternehmen und ihre Produkte einiges geändert. Dazu gehört auch der Digital Services Act (DSA), ein neues EU-weit geltendes Regelwerk, das am 17. Februar 2024 vollständig in Kraft getreten ist. Laut der Europäischen Kommission besteht das Hauptziel des DSA darin, "illegale und schädliche Aktivitäten im Internet und die Verbreitung von Desinformation zu verhindern. Er gewährleistet die Sicherheit der Nutzer*innen, schützt die Grundrechte und schafft ein faires und offenes Umfeld für Online-Plattformen." Die Rechtsvorschriften erlegen digitalen Angeboten wie sozialen Medien, Online-Marktplätzen, Suchmaschinen und App-Stores eine Reihe von Online-Sicherheitsverpflichtungen auf.
Für die größten Online-Plattformen und Suchmaschinen, die sogenannten Very Large Online Platforms (VLOPs) und Very Large Online Search Engines (VLOSEs), gelten die meisten Verpflichtungen. VLOPs und VLOSEs sind Unternehmen wie Google, Apple, Amazon, Meta, Snapchat, TikTok und andere.
In Artikel 35 des DSA heißt es, dass die Kommission Leitlinien zur Minderung "systemischer Risiken" herausgeben kann, unter anderem in Bezug auf Wahlen. Und Wahlen sind dieses Jahr in vielen Ländern der Welt ein Thema. Mit den Wahlen zum EU-Parlament, vom 6. bis 9. Juni, ist auch die EU dabei. Um freie und faire Wahlen zu gewährleisten, hat die EU-Kommission bereits frühzeitig Leitlinien für Wahlen herausgegeben. Im Februar veröffentlichte die Kommission den Entwurf der Leitlinien und startete eine öffentliche Konsultation, um Feedback zu erhalten. Die offiziellen Leitlinien wurden dann am 26. März veröffentlicht.
Die Leitlinien enthalten unter anderem Empfehlungen:
- Mehr Kontrolle der Nutzer über algorithmische Feeds wie zum Beispiel Empfehlungssysteme
- Abwehr lokaler, kontextspezifischer Risiken
- Prävention von Hassrede oder Aufstachelung zu Gewalt
- Transparenzmechanismen wie die Kennzeichnung von Inhalten, auch für politische Werbung
- Mechanismen zur Meldung von Vorfällen
- Zusammenarbeit mit externen Akteuren, einschließlich Organisationen der Zivilgesellschaft
- Ausweiten des Datenzugangs für externe Interessengruppen
- Förderung offizieller Wahlinformationen
- Förderung von Investitionen in Medienkompetenzprogramme
- Reduzierung der Monetarisierung von legalen, aber schädlichen Inhalten
- Dokumentationsempfehlungen, wie z.B. Überprüfungen nach der Wahl, einschließlich des veröffentlichens einer nicht vertraulichen Version.
Diese Richtlinien sollen VLOPs und VLOSEs dabei unterstützen, dem DSA zu entsprechen, sind aber selbst nicht rechtsverbindlich. Wer sich an die Empfehlungen hält, signalisiert Konformität, während diejenigen, die sich nicht an den Leitlinien orientieren, eine gleichwertige Wirksamkeit nachweisen müssen. Wichtig ist auch die Feststellung der Kommission, dass die Leitlinien "bereits künftige Verpflichtungen" für neue Gesetze wie "die Verordnung (EU) 2024/900 über die Transparenz und Zielgruppengenauigkeit politischer Werbung ("Verordnung über politische Werbung") sowie die künftige Verordnung mit harmonisierten Vorschriften über künstliche Intelligenz (KI-Gesetz)" berücksichtigen. Wenn diese Gesetze in Kraft treten, müssen VLOPs und VLOSEs diese Regeln befolgen. Indem sie diese Leitlinien einhalten, signalisieren Unternehmen also nicht nur die Einhaltung des DSA, sondern auch der kommenden Gesetze.
Welche Empfehlungen wurden in die Leitlinien der Kommission aufgenommen?
Die Civil Liberties Union for Europe (Liberties) hat in Zusammenarbeit mit der European Partnership for Democracy (EPD) im Rahmen der offenen Konsultation zum Entwurf der Leitlinien Feedback gegeben. Eine der wichtigsten Rückmeldungen, die Liberties und EPD der Kommission übermitteln konnten, betraf die Notwendigkeit, "umfassendere Maßnahmen zur Eindämmung politischer Werbung zu ergreifen [...] und insbesondere die Verarbeitung aller beobachteten und abgeleiteten Daten für die gezielte politische Werbung einzustellen". Das ist deshalb so entscheidend, weil laut Liberties und EPD das Microtargeting politischer Werbung "im Vorfeld von Wahlen besonders riskant ist, da es auf Wechselwähler*innen abzielen und maßgeschneiderte politische Botschaften liefern könnte, die manchmal sogar in direktem Widerspruch zu Aussagen stehen, die an andere Gruppen gerichtet sind".
Auch wenn diese Leitlinien dazu beitragen, die Transparenz in Bezug auf den Werbetreibenden, die Höhe der Ausgaben und sogar die Parameter, die für die Ausrichtung der Werbung verwendet werden, zu verbessern, hat die Kommission den Vorschlag von Liberties und EPD, die Verwendung von beobachteten und abgeleiteten Daten für politische Werbung zu unterbinden, nicht in ihre Empfehlungen aufgenommen. Während mehr Transparenz zu begrüßen ist, muss das Problem des Microtargeting noch angegangen werden.
Wir freuen uns, dass in den Leitlinien das Positionspapier von Liberties und EPD "DSA: New Risk Assessments To Protect Civic Discourse and Electoral Processes" (DSA: Neue Risikobewertungen zum Schutz von zivilgesellschaftlichem Diskurs und Wahlen) als Beispiel für die Einführung von Maßnahmen zur Abschwächung systemischer Risiken bei Wahlprozessen genannt wird und viele der anderen Empfehlungen berücksichtigt werden.
Liberties und EPD haben auf das Risiko der sozialen Polarisierung hingewiesen und empfohlen, dass Plattformen "keine Designmerkmale verwenden sollten, die schnelle negative Reaktionen auf gegenteilige Ansichten erleichtern", und dass sie Inhalte und Empfehlungsalgorithmen entwickeln sollten, die eine "ausgewogene Informationsdiät" bieten. Die Leitlinien der Kommission sehen vor, die Wahlmöglichkeiten und die Kontrolle der Nutzer*innen über die Empfehlungssysteme zu verbessern, um den Medienpluralismus zu fördern. Sie fordern außerdem eine regelmäßige Bewertung der Empfehlungssysteme und mehr Transparenz bei Design und Funktionsweise der Empfehlungssysteme.
In Bezug auf Fairness warnen Liberties und EPD davor, hochrangige politische Persönlichkeiten zu bevorzugen, und argumentieren, dass die Moderation von Inhalten alle Akteure fair behandeln muss. Dies spiegelt sich bis zu einem gewissen Grad in den Leitlinien wider, indem die Kommission klar feststellt, "dass die Anbieter von VLOPs und VLOSEs nachweisen müssen, dass die Entscheidungen zur Inhaltsmoderation weder die Gleichheit der Kandidaten beeinträchtigen noch Stimmen, die bestimmte (polarisierte) Ansichten vertreten, unverhältnismäßig bevorzugen oder fördern". Damit werden Probleme angesprochen, die entstehen, wenn Plattformen Metriken wie Engagement gegenüber einem ausgewogenen zivilen Diskurs bevorzugen.
Andere Empfehlungen von Liberties und EPD betreffen die Inklusivität in zivilgesellschaftlichen Räumen, insbesondere das Verstärken von Inhalten und das Kuratieren von Algorithmen. Hier besteht die Gefahr, dass "bestimmte Stimmen demotiert oder ganz zum Schweigen gebracht werden, was zu einem Mangel an Inklusivität im Online-Diskurs führt und dazu, dass die Wählerinnen und Wähler keine Informationen über die Standpunkte von Randgruppen erhalten zu gesellschaftlichen Themen, die während des Wahlkampfs diskutiert werden". Ein weiteres Risiko sind organisierte Angriffe auf die Zivilgesellschaft, insbesondere wenn extremistische Inhalte online verbreitet werden und damit "zivilgesellschaftliche Organisationen und Bürger*innen, die sich an Diskussionen über den Wahlkampf beteiligen wollen", mundtot machen.
Die Leitlinien der Kommission fordern die Plattformen auf, folgendes zu berücksichtigen:
"die Auswirkungen von Maßnahmen zur Bekämpfung illegaler Inhalte wie der öffentlichen Aufstachelung zu Gewalt und Hass in dem Maße, in dem solche illegalen Inhalte einzelne Stimmen in der demokratischen Debatte behindern oder zum Schweigen bringen können, insbesondere solche, die gefährdete Gruppen oder Minderheiten vertreten. Beispielsweise können Formen von Rassismus, geschlechtsspezifischer Desinformation und geschlechtsspezifischer Gewalt im Internet, auch im Zusammenhang mit gewalttätiger extremistischer oder terroristischer Ideologie oder FIMI, die sich gegen die LGBTIQ+-Gemeinschaft richten, den offenen, demokratischen Dialog und die Debatte untergraben und die soziale Spaltung und Polarisierung weiter verstärken. In dieser Hinsicht kann der Verhaltenskodex zur Bekämpfung illegaler Hassreden im Internet als Inspiration dienen, wenn es darum geht, geeignete Maßnahmen zu erwägen."
Dieser Kodex befasst sich mit dem Risiko, dass unterschiedliche Perspektiven vom gesellschaftlichen Diskurs ausgeschlossen werden, und fordert die Plattformen auf, ihre Richtlinien zu Hassrede zu klären. Zusammen mit den Empfehlungen, den Nutzern mehr Kontrolle über algorithmische Empfehlungen zu geben, um "Medienvielfalt und Pluralismus" zu fördern, tragen die Leitlinien der Notwendigkeit Rechnung, inklusive Diskussionen zu fördern und marginalisierten Stimmen Sichtbarkeit zu verleihen.
Liberties und EPD haben ihr Feedback mit der Aufforderung an die Kommission abgeschlossen, "die Organisation von Treffen zu bestimmten Themen mit VLOPs und VLOSEs sowie der Zivilgesellschaft und Experten in Betracht zu ziehen, um Empfehlungen und bewährte Verfahren auszutauschen". Obwohl die Einrichtung einer solchen Reihe von Treffen in den Leitlinien nicht erwähnt wurde, schlägt die Kommission zu Recht vor, dass VLOPs und VLOSEs Treffen "sowie Kanäle für eine regelmäßige Kommunikation" mit interessierten Parteien in Wahlprozessen, wie z.B. Organisationen der Zivilgesellschaft, organisieren sollten. Diese Art der Kommunikation soll den Plattformen dabei helfen, "Risiken zu erkennen, die möglicherweise Abhilfemaßnahmen erfordern". Im gesamten Leitfaden wird betont, dass der Zugang zu VLOP- und VLOSE-Daten für die Wahlforschung geöffnet werden muss und dass eine kontinuierliche Zusammenarbeit mit Institutionen, unabhängigen Forschern und zivilgesellschaftlichen Organisationen erforderlich ist, um eine wirksame Bewertung der getroffenen Maßnahmen zur Risikominderung zu ermöglichen.
Was wurde nicht berücksichtigt?
Die Empfehlungen von Liberties und EPD zur Begrenzung der Sammlung personenbezogener Daten, um das Microtargeting politischer Werbung sowie die damit verbundenen Risiken zu minimieren, waren nicht die einzigen Vorschläge, die in den Leitlinien fehlten.
Im Interesse des Schutzes der freien Meinungsäußerung warnen Liberties und EPD vor der übermäßigen Entfernung von urheberrechtlich geschützten Inhalten in politischen Beiträgen. Deshalb sollten bei Entscheidungen zur Inhaltsmoderation legitime Gegenansprüche und Ausnahmen berücksichtigt werden, sofern sie auf einem öffentlichen Interesse beruhen. Dies wird in den Richtlinien nicht erwähnt. Wie Liberties und EPD in ihrem gemeinsamen Bericht darlegen, kann "der Einsatz automatischer Upload-Filter [...] nicht zwischen Ausnahmen und Beschränkungen des Urheberrechts und dessen Verletzung unterscheiden", was dazu führt, dass "Plattformen das öffentliche Engagement und die Sensibilisierung der Öffentlichkeit behindern, insbesondere bei Themen, bei denen Bild- oder Tonmaterial eine Schlüsselrolle bei der Vermittlung der Botschaft spielt".
Während die Kommission eine Reihe von Abhilfemaßnahmen im Zusammenhang mit generativer KI auflistet, die sich insbesondere auf Kennzeichnung und Transparenz konzentrieren, empfehlen Liberties und EDP, dass "Plattformen es vermeiden sollten, generative KI-Funktionen für die Erstellung oder Verbesserung politischer Werbung anzubieten; sie stellen ein unnötiges Risiko für den Wahlprozess dar". Das Risiko, dass generative KI irreführende oder falsche Anzeigen erstellt, kann die Vorteile einer schnellen und billigen Anzeige nicht aufwiegen. Die Kommission verlangt von VLOPs und VLOSEs jedoch nur, "ihre Werbesysteme anzupassen, indem sie z. B. Werbetreibenden die Möglichkeit geben, mit generativer KI erstellte Inhalte in Anzeigen oder beworbenen Beiträgen deutlich zu kennzeichnen und in ihren Werberichtlinien zu verlangen, dass diese Kennzeichnung verwendet wird, wenn die Anzeige generative KI-Inhalte enthält". Eine solche Kennzeichnung kann zwar nützlich sein, erfordert aber, dass Werbetreibende die Anzeige selbst als KI-generiert deklarieren, und derzeit gibt es technische Beschränkungen für Techniken wie das Anbringen von Wasserzeichen auf KI-Bildern, so dass sie wahrscheinlich unerkannt bleiben.
Zusammenfassend lässt sich sagen, dass die Leitlinien der Europäischen Kommission im Rahmen des DSA einen soliden Rahmen bieten, um systemische Online-Risiken im Zusammenhang mit Wahlprozessen zu mindern. Allerdings gibt es erhebliche Lücken, insbesondere beim politischen Microtargeting. Trotz dieser Unzulänglichkeiten sind die Leitlinien ein lobenswerter Beitrag zur Förderung von Transparenz, Fairness und Inklusion im digitalen Diskurs und sie tragen zum Schutz unserer Demokratien bei.
Die wirkliche Bewährungsprobe wird natürlich die Umsetzung durch die Plattformen sein, deren Wirksamkeit sich erst noch zeigen muss. Aufgrund einiger erheblicher Unzulänglichkeiten des DSA wird es für die Zivilgesellschaft schwierig sein, an wichtige Daten heranzukommen und die Kontrollfunktion wahrzunehmen, die Organisationen wie die unsere haben. Dennoch werden wir diese Entwicklungen genau beobachten.
Liberties führt bereits ein Projekt durch, das politisches Microtargeting während des Wahlkampfs zum Europäischen Parlament untersucht; Einzelheiten kannst Du hier erfahren.
