Die Menschen beginnen, diese Tools als Ersatz für herkömmliche Suchmaschinen zu nutzen. Anstatt bei Google zu suchen, wenden sie sich an ihren KI-Chatbot, um Fragen zu alltäglichen Themen zu stellen – etwa Lebensratschläge, was sie zum Abendessen kochen sollen, und manchmal sogar, um komplexe oder weniger komplexe politische Themen besser zu verstehen.
Wenn Wähler beispielsweise fragen, welche Partei ihren Ansichten entspricht, kann die Antwort beeinflussen, wie sie Politik wahrnehmen und wen sie letztendlich unterstützen. Liberties untersuchte, wie ChatGPT und Gemini, zwei beliebte KI-Systeme, während des ungarischen Parlamentswahlkampfs 2026 auf politische Fragen reagierten. Wir wollten herausfinden, ob diese Tools zuverlässige Wahlempfehlungen oder Parteizugehörigkeitsvorschläge liefern. Unsere Untersuchung ergab, dass dies nicht der Fall ist. Im Gegensatz zu Tools, die es schon seit Jahren gibt und die Menschen dabei helfen sollen, herauszufinden, welche Partei oder welcher Kandidat am ehesten ihren Ansichten entspricht – wie beispielsweise Wahlberatungs-Apps, journalistische oder zivilgesellschaftliche Erklärbeiträge –, legen Allzweck-KI-Systeme keine klare Methodik für die politische Zuordnung offen. Sie liefern keine reproduzierbaren Ergebnisse und unterliegen keiner gezielten öffentlichen Aufsicht, wenn sie wahlbezogene Orientierungshilfen geben. Dies führt zu einer gravierenden Lücke in Bezug auf Regulierung und Rechenschaftspflicht. Zudem wirken ihre Antworten selbstbewusst, ausgewogen und maßgeblich, selbst wenn die zugrunde liegende Argumentation undurchsichtig und die Ergebnisse instabil sind.
Wie die Untersuchung durchgeführt wurde
Im Rahmen der Studie wurden ChatGPT und Gemini mit politischen Fragen getestet, die aus Voksmonitor, einem ungarischen Wahlberatungs-Tool, stammten. Diese Fragen entsprachen den Positionen der fünf Parteien, die bei der Parlamentswahl 2026 antreten.
Die Forscher entwickelten fünf Überzeugungssätze, die jeweils den Ansichten einer Partei entsprachen. Sie testeten diese Profile in beiden KI-Systemen auf zwei Arten. Zunächst fragten sie die Systeme direkt, für welche Partei der Nutzer aufgrund seiner Ansichten stimmen sollte. Zweitens fragten sie nach dem prozentualen Übereinstimmungsgrad mit den einzelnen Parteien, ähnlich wie es eine Wahlhilfe-App anzeigen würde. Jedes Profil wurde in jedem System zehnmal und für beide Fragetypen getestet.
Wichtigste Erkenntnis
1: Die Systeme konnten die richtige Partei oft nicht identifizieren
Die wichtigste Erkenntnis war, dass diese KI-Systeme die Nutzer nicht zuverlässig den richtigen politischen Parteien zuordnen konnten. Selbst bei detaillierten Überzeugungssätzen, die exakt mit den Parteipositionen übereinstimmten, versagten beide Systeme oft bei der Auswahl der richtigen Partei. Dieses Problem zeigte sich besonders deutlich bei der Tisza-Partei, die später Fidesz besiegte und eine Zweidrittelmehrheit errang. Während die Systeme Fidesz-nahe Profile in der Regel erkannten, stuften sie Tisza-nahe Profile oft falsch ein, ignorierten sie oder ordneten sie anderen Parteien zu. Die Studie behauptet nicht, dass diese Verzerrungen den Ausgang der ungarischen Wahl beeinflusst hätten. Die Sorge ist umfassender: Bei einer knapperen Wahl könnte eine ungenaue politische Beratung durch Allzweck-KI-Systeme schwerwiegendere Folgen haben.
2: Identische Eingabeaufforderungen führten zu inkonsistenten Antworten
Die Systeme zeigten sich zudem instabil, wenn sie mehrfach getestet wurden. Auf dieselben Fragen wurden manchmal sehr unterschiedliche Antworten gegeben. Ein und dieselbe Partei konnte sehr unterschiedliche prozentuale Ergebnisse erzielen, und die Liste der Parteien in den Ergebnissen änderte sich oft. Diese Inkonsistenz ist ein großes Problem bei Wahlen. Die Menschen erwarten von Wahlberatungs-Tools, dass sie klare Methoden anwenden und wiederholbare Ergebnisse liefern.
3: Warnhinweise verhinderten keine substanzielle Beratung
Beide Systeme weisen oft darauf hin, dass sie den Nutzern keine Wahlempfehlungen geben oder exakte Parteizugehörigkeiten berechnen können. Diese formellen Ablehnungen hielten sie jedoch nicht davon ab, echte politische Ratschläge zu erteilen. In der Realität gaben die Systeme oft detaillierte Meinungen ab, stuften Parteien ein oder schlugen vor, welche Optionen am besten zu den Ansichten des Nutzers passten. Die vorsichtige Formulierung zu Beginn könnte ihre Antworten vertrauenswürdiger erscheinen lassen und ein falsches Gefühl der Sicherheit vermitteln. Ein Haftungsausschluss schützt die Nutzer nicht, wenn das System dennoch unzuverlässige oder falsche Ratschläge gibt.
4: Die zu stark vereinfachte politische Wahl des Systems
Die Ergebnisse schenkten strategischem Wählen, lokalen Wahldynamiken oder Koalitionsmöglichkeiten fast keine Beachtung. Doch Wahlen sind keine abstrakten politischen Quizspiele. Wähler können Parteiprogramme, die Realisierbarkeit, Wahlhürden, lokale Kandidaten, taktisches Wählen und die wahrscheinlichen Folgen verschiedener Ergebnisse berücksichtigen.
Warum dies für die Regulierung von Bedeutung ist
Diese Erkenntnisse sind für die EU-Regulierung von Bedeutung, denn die KI-Modelle tragen eine besondere Verantwortung, da sie Demokratie, Rechte und Rechtsstaatlichkeit beeinflussen können. Dies macht sie politisch relevant.
Das EU-KI-Gesetz verpflichtet Anbieter von Allzweck-KI-Modellen, die ein systemisches Risiko darstellen, vernünftigerweise vorhersehbare Risiken zu bewerten und zu mindern, einschließlich solcher, die demokratische Prozesse beeinträchtigen. Das Gesetz über digitale Dienste verpflichtet zudem sehr große Online-Plattformen und Suchmaschinen, systemische Risiken zu bewerten, die die öffentliche Debatte und die Integrität von Wahlen beeinträchtigen. KI-Such- und Chatbot-Systeme lassen sich jedoch nicht eindeutig der Kategorie der Suchmaschinen zuordnen. Sie helfen Nutzern zwar beim Zugriff auf Informationen, gehen aber noch einen Schritt weiter, indem sie direkte, synthetisierte und personalisierte Antworten generieren. Diese verschwimmenden Grenzen zwischen Suchmaschinen, Plattformen und KI-Produkten führen zu Regulierungslücken.
Wie sollte es nun weitergehen?
Liberties ist der Ansicht, dass Anbieter keine personalisierten Wahlempfehlungen geben sollten, es sei denn, sie erfüllen hohe Standards hinsichtlich Genauigkeit, Transparenz, Konsistenz und Rechenschaftspflicht. Wenn Nutzer Fragen zu Wahlen stellen, sollten die Systeme sie zu zuverlässigen, lokalen Quellen wie offiziellen Wahlseiten oder vertrauenswürdigen Wahlberatungs-Tools leiten, damit sie ihre Optionen kennen. Die Regulierungsbehörden sollten zudem die Lücke zwischen dem Digital Services Act und dem AI Act schließen, indem sie Schutzmaßnahmen für KI-Systeme entwickeln, die politische Informationen oder Ratschläge bereitstellen. Diese Systeme sollten als Systeme mit Auswirkungen auf die Demokratie behandelt werden, wenn sie das Wahlverhalten beeinflussen können. Allzweck-KI-Systeme sollten keine unklaren oder unzuverlässigen politischen Zuordnungen als verlässliche Wahlberatung präsentieren. Wir brauchen Instrumente, die präzise, leicht verständlich und nachvollziehbar sind. Lesen Sie unseren Bericht hier.
Lesen sie hier unseren Bericht.
Weiterführende Literatur:
Liberties’ Sichere KI für Patienten: Verantwortlichkeit im digitalen Gesundheitswesen stärken
Liberties’ Stellungnahme zum Aufruf zur Einreichung von Stellungnahmen im Rahmen der „Digital Omnibus Simplification Agenda“ der Europäischen KommissionLiberties’ Analyse der „Digital Omnibus“-Vorschläge.
