Das KI-Gesetz der EU wurde als Durchbruch angesehen, da es klare Regeln für die Entwicklung, Nutzung und Überwachung von KI-Systemen festlegt. Es umfasst Schutzmaßnahmen, Anforderungen für eine Grundrechte-Folgenabschätzung und Transparenzvorschriften für risikoreiche KI-Systeme, wie z. B. medizinische Geräte, Grenzkontrollen oder den Einsatz von KI im Justizwesen.

Im November veröffentlichte die Europäische Kommission jedoch einen neuen Vorschlag für ein digitales Omnibusgesetz, der viele dieser hart erkämpften Schutzmaßnahmen zunichte machen könnte. Sie behauptet, damit das Gesetz zu straffen und den europäischen Markt wettbewerbsfähiger zu machen. Wir haben keine Ahnung, wen sie damit täuschen wollen: In Wirklichkeit würde der neue Vorschlag wichtige Schutzmaßnahmen verzögern, Transparenzvorschriften schwächen und den großen Technologieunternehmen genau das geben, wofür sie sich eingesetzt haben. Gleichzeitig öffnet er den europäischen Markt für weniger sichere KI-Komponenten und führt zu Marktverzerrungen.

Politischer Druck und Lobbyarbeit der großen Tech-Unternehmen

Der KI-Aktionsplan der Trump-Regierung drängte auf die Beseitigung der sogenannten „Bürokratie”. Er übte direkten Druck auf die EU aus, ihre digitalen Vorschriften zu lockern. Gleichzeitig starteten große Tech-Unternehmen wie Meta, Amazon, Apple und andere eine aggressive Lobbykampagne, für die sie Millionen von Euro ausgaben, und argumentierten, dass das KI-Gesetz und seine strengen Schutzmaßnahmen „Innovationen gefährden” und „zu teuer” seien, um sie einzuhalten. Obwohl diese Unternehmen hochprofitabel sind, sind die Vorschriften des KI-Gesetzes alles andere als belastend.

Während des Entwurfsprozesses hat die Kommission sogar die Folgenabschätzung übersprungen und behauptet, dass sie keine Auswirkungen auf die Grundrechte habe, während sie gleichzeitig Schutzmaßnahmen wie die Grundrechte-Folgenabschätzung direkt abgeschwächt hat. Der Omnibus kommt jedoch den Forderungen der Industrie und der US-Regierung entgegen, auf Kosten der Grundrechte der Menschen in der EU.

Verzögerung von Schutzmaßnahmen für risikoreiche KI: ein Rückschritt

Der Digital-Omnibus ist der Plan, die Vorschriften für risikoreiche KI-Systeme zu verzögern. Dabei handelt es sich nicht um gewöhnliche Apps oder Chatbots, sondern um medizinische KI für Krankenhäuser, Einstellungsverfahren, Sozialhilfe, Grenzkontrollen und sogar Gerichtssysteme.

Die Verzögerung dieser Schutzmaßnahmen bedeutet, dass diese Systeme ohne angemessene Sicherheitsvorkehrungen weiter betrieben werden können. Wir kennen Fälle mit schrecklichen Folgen, in denen Menschen viel länger Fehlern, Voreingenommenheit und Diskriminierung ausgesetzt sind. Der Sinn des Omnibus besteht darin, Gesetze leichter einhaltbar zu machen, aber diese Verwirrung um die Frist für den Vorschlag sorgt für Chaos auf dem Markt und bringt Unternehmen mehr Unsicherheit statt weniger.

Schwächung der Transparenz: Ein großer Gewinn für Black-Box-KI

Eines der größten Probleme des Vorschlags besteht darin, dass er eine grundlegende Transparenzanforderung für risikoreiche Systeme aufhebt. Nach dem derzeitigen KI-Gesetz muss ein Unternehmen, das ein System entwickelt oder bereitstellt, das risikoreich erscheint, aber entscheidet, dass dies nicht der Fall ist, diese Entscheidung öffentlich registrieren. Dies ermöglicht es Journalisten, Forschern und der Zivilgesellschaft, diese Unternehmen zu untersuchen. Der Omnibus würde diese Anforderung vollständig streichen. Das ist so, als würde man die Verpflichtung für Lebensmittelunternehmen zur Angabe der Inhaltsstoffe aufheben.

Rückschritt bei der Transparenz von Deepfakes

Der Vorschlag verzögert auch die Durchsetzung von Vorschriften, die die Kennzeichnung von KI-generierten Inhalten vorschreiben, obwohl wir wissen und sehen, dass Deepfakes von Monat zu Monat überzeugender werden. Stellen Sie sich ein KI-generiertes Video vor, in dem ein politischer Kandidat am Wochenende vor einer Wahl ein Verbrechen „gesteht“, ohne dass es als KI gekennzeichnet ist. Das könnte den Ausgang der Wahl verändern.

Die Verzögerung der Durchsetzung schafft eine Schonfrist, in der böswillige Akteure Desinformation verbreiten können. Bis die rechtlichen Konsequenzen greifen, wird der Schaden bereits irreversibel sein.

Fazit

Sollte der Digital Omnibus verabschiedet werden, würde dies die Position der EU als weltweit führende Kraft im Bereich der Technologieregulierung, auch in Bezug auf Datenschutz und verantwortungsvolle KI, erheblich schwächen. Unternehmen könnten sich leichter der Kontrolle entziehen, und der Schutz der Grundrechte würde ausgehöhlt.

Der KI-Gesetzentwurf sollte Menschen schützen, indem er Sicherheitsvorkehrungen gegen risikoreiche KI-Systeme schuf. Die Kommission schlägt nun vor, vor allem die Interessen der Unternehmen zu wahren. Die Gesetzgeber haben noch Zeit, diesen Rückschritt abzulehnen. Das sollten sie auch tun. Denn faire, transparente und rechtskonforme KI-Systeme sind die Grundlage für unsere Zukunft. Sie dürfen unsere Grundrechte nicht zugunsten wirtschaftlicher und politischer Interessen gefährden.

Lesen Sie hier unsere ausführliche politische Analyse. (ENG)

Weitere Ressourcen 

Digital Omnibus on Data Protection: From Global Gold Standard to Corporate Giveaway (ENG)

Digital Omnibus: Quick Analysis (DE) 

Liberties' response on the Digital Omnibus simplification package (ENG)