Im März 2025 wurden innerhalb von 24 Stunden und ohne öffentliche Debatte drei Gesetzesänderungen durch das ungarische Parlament gepeitscht, die darauf abzielen, LGBTQAI+-Demonstrationen unter Strafe zu stellen und die biometrische Überwachung zu verstärken. Diese Änderungen, die am 15. April in Kraft traten, erweitern den Einsatz von Gesichtserkennungstechnologie (FRT- facial recognition technology) in Ungarn drastisch, auch im Zusammenhang mit geringfügigen Verstößen und friedlichen Versammlungen wie der Budapest Pride.

Die Civil Liberties Union for Europe, EDRi, das European Center for Not-for-Profit Law und die Hungarian Civil Liberties Union sind der Ansicht, dass diese erweiterte Anwendung der FRT zur Verfolgung und Identifizierung von Personen, die an verbotenen Pride-Veranstaltungen teilnehmen und selbst geringfügige Verstöße begehen, gegen das EU-KI-Gesetz und die Charta der Grundrechte der EU verstößt.

Was hat sich in Ungarn geändert?

Die im März verabschiedeten Änderungen ermöglichen es der ungarischen Polizei, Gesichtserkennungstechnologie bei allen Arten von Verstößen einzusetzen, nicht nur bei schweren. Vor der neuen Gesetzgebung war der Einsatz von Gesichtserkennung nur in Fällen zulässig, in denen Verstöße mit Freiheitsstrafen geahndet werden konnten (was aus menschenrechtlicher Sicht nach wie vor sehr problematisch ist).

Nun wurde der Einsatz von FRT jedoch auf alle Verstöße ausgeweitet – so kann die Polizei FRT nun beispielsweise zur Identifizierung von Personen einsetzen, die an einer verbotenen Pride-Parade teilnehmen, oder sogar bei geringfügigen Verstößen wie dem Überqueren der Straße an einer roten Ampel. Diese erweiterte Überwachung basiert auf Videoaufnahmen, die häufig bei öffentlichen Demonstrationen aufgenommen werden.

Was ist biometrische Identifizierung in Echtzeit und warum wird sie reguliert?

Das 2024 verabschiedete EU-Gesetz über künstliche Intelligenz (KI-Gesetz) schränkt den Einsatz der biometrischen Fernidentifizierung in Echtzeit (RBI- remote biometric identification) im öffentlichen Raum durch Strafverfolgungsbehörden gesetzlich ein. RBI umfasst die Identifizierung von Personen, die sich im öffentlichen Raum bewegen, anhand biometrischer Daten (wie Gesichtsscans), oft ohne deren Wissen oder Zustimmung.

Sie wird reguliert, weil sie sehr in die Privatsphäre eingreift. Sie kann Menschen das Gefühl geben, ständig überwacht zu werden, und sie davon abhalten, ihre Rechte auszuüben, wie z. B. an Protesten oder anderen öffentlichen Demonstrationen teilzunehmen.

Gemäß Artikel 5 Absatz 1 Buchstabe h des KI-Gesetzes ist eine solche biometrische Echtzeitüberwachung verboten, außer in einigen eng definierten Fällen, wie z. B. der Suche nach Opfern schwerer Straftaten oder der Abwehr unmittelbarer Gefahren. Selbst in diesen Fällen müssen strenge Verfahren für die Genehmigung und Nutzung eingehalten werden.

Inwiefern verstößt das ungarische Gesetz gegen das KI-Gesetz?

Obwohl das ungarische System Standbilder (z. B. aus Überwachungskameras) verwendet, ermöglicht es automatische Vergleiche mit einer staatlichen Datenbank, um Personen im Rahmen von Ordnungswidrigkeitsverfahren in Echtzeit oder nahezu in Echtzeit zu identifizieren. Die ungarische Polizei hat nun direkten Zugriff auf das System, was unserer Analyse zufolge eine schnelle Identifizierung bei Protesten ermöglicht.

Gemäß dem KI-Gesetz gelten auch Systeme, die mit geringfügigen Verzögerungen arbeiten, als „Echtzeit“-Systeme, wenn die Identifizierung schnell genug erfolgt, um das Verhalten von Personen bei öffentlichen Veranstaltungen noch zu beeinflussen. Das ungarische System entspricht insbesondere im Zusammenhang mit Protesten eindeutig dieser Beschreibung. Das derzeit in Ungarn eingesetzte automatisierte Gesichtserkennungssystem ist eindeutig so konzipiert, dass es neu generiertes oder kürzlich generiertes Material verwenden und Personen in diesem Material durch eine direkte Verbindung zu einem vom Ungarischen Institut für Forensik betriebenen System automatisch identifizieren kann. Daher erfüllt das fragliche RBI-System die im KI-Gesetz festgelegten Kriterien für ein „Echtzeit“-System und unterscheidet sich von einem „Post“-System, bei dem das Eingabematerial unabhängig von der Verwendung generiert wird. Dies ist von entscheidender Bedeutung, da die ‚Echtzeit‘-biometrische Überwachung bereits durch das KI-Gesetz verboten ist, während die nachträgliche Gesichtserkennung lediglich als „risikoreich“ eingestuft wird und Vorschriften für deren Verwendung erst 2026 in Kraft treten.

Inwiefern werden dadurch Rechte und Freiheiten verletzt?

Der Einsatz von FRT in Ungarn birgt die Gefahr, dass Menschen von der Ausübung ihrer Grundrechte, insbesondere der Versammlungs- und Meinungsfreiheit, abgehalten werden. Wenn Menschen wissen, dass sie bei der Teilnahme an einer friedlichen Demonstration gescannt, identifiziert und bestraft werden können, werden viele davon Abstand nehmen.

Dieser „abschreckende Effekt“ soll durch das KI-Gesetz und die EU-Charta verhindert werden. Mit der Einführung einer biometrischen Echtzeitüberwachung für geringfügige Verstöße verstößt Ungarn sowohl gegen den Geist als auch gegen den Wortlaut des EU-Rechts.

Was sollte nun getan werden?

Die neue ungarische Gesetzgebung ermöglicht die Überwachung von Menschen, die an friedlichen Protesten teilnehmen oder geringfügige Verstöße begehen, in einer Weise, die eindeutig im Widerspruch zum KI-Gesetz steht. Die Zulassung dieser Form der KI-Nutzung untergräbt die freie Meinungsäußerung, die Beteiligung der Öffentlichkeit und letztlich das Vertrauen der Menschen in die Demokratie.

Die EU muss diese Gesetzgebung dringend prüfen. Das neue KI-Amt der Europäischen Kommission, zu dessen Aufgaben der Schutz der Menschen vor KI-Risiken gehört, muss sicherstellen, dass seine Schutzvorkehrungen nicht ignoriert werden. Dies ist nicht nur eine innerstaatliche Angelegenheit. Politiker in den Hauptstädten der Union – und Menschen auf der ganzen Welt – werden beobachten, wie die EU reagiert.

Dies ist ein Testfall dafür, wie ernst es der EU mit der Durchsetzung ihrer eigenen KI-Vorschriften und dem Schutz der Rechte der Menschen ist.

Weitere Ressourcen:

●Vollständiger Text des EU-KI-Gesetzes

●ECNL-Lernzentrum: Das EU-KI-Gesetz

●EDRi: Wie man nach dem KI-Gesetz gegen biometrische Massenüberwachung vorgehen kann

●Reclaim Your Face: die europäische Kampagne gegen biometrische Massenüberwachung

Bildnachweis: Scott Webb Unsplash