Liberties hat gemeinsam mit mehreren seiner Mitglieds- und Partnerorganisationen sowie der unabhängigen Expertin Júlia Keserű das Projekt „KI im Gesundheitswesen“ ins Leben gerufen.
Das Projekt sammelt derzeit Daten über den Einsatz von KI-Systemen im Gesundheitswesen – ein Thema, das potenzielle Gefahren für die Privatsphäre und den Datenschutz birgt, insbesondere im Hinblick auf hochsensible personenbezogene Daten. Wir hoffen, mit diesem Projekt eine Grundlage für eine verbesserte Handhabung von KI-Tools im Gesundheitswesen zu schaffen, die ein verantwortungsbewusstes und rechenschaftspflichtiges Umfeld für die Integration von KI im Gesundheitswesen fördert. Dies wiederum wird die Entwicklung und Umsetzung von Maßnahmen ermöglichen und letztendlich den Weg für weitere Schutzvorkehrungen im Bereich Datenschutz und KI-Praktiken ebnen. Die an dem Projekt beteiligten Mitglieder und Partner von The Liberties sind Apache (Belgien), die Liga für Menschenrechte (Tschechische Republik), die Gesellschaft für Freiheitsrechte (Deutschland), der K-Monitor (Ungarn), die Italienische Koalition für bürgerliche Freiheiten und Rechte (Italien), die Amphora (Malta), NJCM (Niederlande), APADOR-CH (Rumänien) und Xnet (Spanien).
Das Projekt im Überblick
Die erste Phase des Projekts wird von Júlia Keserű geleitet, die mit ihrer 15-jährigen Erfahrung in Fragen an der Schnittstelle von Technologie und Grundrechten eine einzigartige Perspektive und Fachkompetenz in dieses Projekt einbringt. Während der ersten Phase sammelt sie Informationen auf vielfältige Weise, darunter Literaturrecherchen, Interviews und Konsultationen mit Interessengruppen sowie die Einreichung von Anträgen auf Informationsfreiheit und auf Auskunftsrecht gemäß DSGVO bei Regierungsbehörden, Regulierungsbehörden, Gesundheitsbehörden, öffentlich finanzierten Krankenhäusern und Forschungseinrichtungen. Letzteres wird durch das Expertennetzwerk von Liberties unterstützt.
Liberties wird die zweite Phase des Projekts leiten, die im Sommer beginnt und sich auf den Aufbau von Kapazitäten konzentriert. Diese Maßnahme wird Aufsichtsbehörden und zivilgesellschaftliche Gruppen befähigen, sich proaktiv für verantwortungsvolle KI- Praktiken im Bereich des Gesundheitswesens einzusetzen, was für die Wirksamkeit dieses Projekts entscheidend ist. Indem wir diesen Organisationen Methoden, Forschungsinstrumente und Kooperationsplattformen zur Verfügung stellen, werden wir sie in die Lage versetzen, die Entwicklung und den Einsatz von Gesundheits-KI-Systemen unabhängig zu überwachen.
Die dritte Phase, die von Liberties und seinen Mitgliedsorganisationen geleitet wird, konzentriert sich darauf, die Ergebnisse in konkrete, praktische politische Empfehlungen umzusetzen, sowohl auf EU-Ebene als auch auf nationaler Ebene, um verantwortungsvolle, transparente und rechenschaftspflichtige Praktiken im Umgang mit Gesundheitsdaten in ganz Europa und darüber hinaus zu fördern. Vorschläge und Handlungsempfehlungen zielen darauf ab, Regulierungspraktiken zu gestalten und die Einhaltung bestehender EU-Rahmenwerke sicherzustellen, wie unter anderem den AI Act und die DSGVO.
KI im Gesundheitswesen
Künstliche Intelligenz wird immer stärker in unsere Gesundheitssysteme integriert. Ein wesentlicher Treiber für die Integration von KI im Gesundheitswesen ist die steigende Nachfrage nach Interoperabilität zwischen verschiedenen Datenquellen. Dazu gehören die Verknüpfung elektronischer Patientenakten (EHRs) mit mobilen Messgeräten und Gentestdiensten sowie die Schaffung grenzüberschreitender Gesundheitsdatenplattformen wie dem European Health Data Space. Diese KI-Modelle benötigen Daten – sehr viele Daten. Sie benötigen Daten, um entwickelt und verfeinert zu werden, und sie benötigen ständig neue Daten, um die Genauigkeit und Qualität ihrer Leistung sicherzustellen. Um diesen Bedarf zu decken, werden Daten aus verschiedenen Quellen gesammelt, darunter digitale Gesundheitsakten, tragbare Geräte, mobile Gesundheits-Apps und Datenvermittler.
Das Truveta-Projekt in den USA zielt beispielsweise darauf ab, genotypische Daten mit anonymisierten EHR-Daten von über 120 Millionen Patienten zu kombinieren und so eine reichhaltige Ressource für Forschung und Innovation bereitzustellen. Doch trotz ihres Potenzials weisen aktuelle klinische KI-Systeme erhebliche Mängel auf, die eine erfolgreiche Anwendung und sichere Nutzung gefährden. Die Transparenz hinsichtlich der Datenquellen und der Art und Weise, wie diese in die Entwicklung von KI-Systemen einfließen, ist nach wie vor sehr begrenzt, was ein ernstes Risiko für Menschenrechte und Sicherheit darstellt und in einigen Fällen sogar direkte Gesundheitsrisiken mit sich bringt.
Bleiben Sie dran...
Wenn Júlia ihre Forschung und Datenerhebung in den kommenden Monaten abgeschlossen hat, wird Liberties Sie über alle relevanten Erkenntnisse und Entwicklungen auf dem Laufenden halten. Wir werden Sie darüber informieren, wie das Projekt voranschreitet, während wir in die zweite Phase übergehen, und was Sie im weiteren Verlauf des Jahres erwarten können. Bleiben Sie dran!
Das Projekt wird von der AI Collaborative finanziert.
Sind Sie an einer beruflichen Zusammenarbeit mit dem Projekt interessiert? Schreiben Sie eine Nachricht an Eva Simon, Leiterin des Tech and Rights Program von Liberties, unter eva (dot) simon (at) liberties (dot) eu. Suchen Sie ein Zitat für die Medien? Schreiben Sie einfach eine E-Mail an Valentin Toth unter press (at) liberties (dot) eu.
