Von Dr. Caroline Mükusch, PwC
Das Pilotprojekt „Frau.Herz.KI.“ soll die frauenspezifische Herzdiagnostik verbessern.
Künstliche Intelligenz (KI) soll den öffentlichen Sektor künftig bei vielen Aufgaben unterstützen. Das birgt viele Chancen, aber auch Risiken: Denn KI bildet Diskriminierungen und Bias, die möglicherweise in den Daten stecken, nicht nur ab, sondern kann sie verstärken. Die Gefahr solcher Bias (Voreingenommenheit, Verzerrung, urspr. aus dem Englischen) gibt es auch bei KI im Gesundheitswesen: Ein System zur Hautkrebserkennung, das der britische National Health Service testet, liefert bei Patient:innen mit heller Haut beispielsweise deutlich zuverlässigere Ergebnisse als bei Menschen mit dunkler Haut.
KI reproduziert Verzerrungen
Wie entstehen solche Verzerrungen? Ein Algorithmus, den das Cedars-Sinai Medical Center in Los Angeles entwickelt hat, um Herzinfarkte frühzeitig zu erkennen, enthielt überwiegend Datensätze von männlichen Patienten zum Training einer KI. Hier kam es zu einem Daten-Bias, weil die Daten, auf deren Basis die KI gelernt hat, ihre Entscheidungen zu treffen, die Vielfalt der Bevölkerung nicht adäquat repräsentierten. So reproduzieren KI-Anwendungen die Bias derer, die die Daten erhoben und zusammengetragen haben – und die Verzerrungen beeinträchtigen ihre Ergebnisse und Entscheidungen.
Um Diskriminierung und Fehlentscheidungen, die das Leben vieler Menschen potenziell stark beeinflussen, vorzubeugen, müssen KI-Anwendungen möglichst frei von Bias sein. Größere Fairness bei KI ist auch ein erklärtes Ziel der Europäischen Kommission. Mit dem EU AI Act will sie unter anderem KI-Entwickler:innen dazu verpflichten zu prüfen, ob ihre Algorithmen mit ausgewogenen Daten trainieren und diskriminierungsfreie Ziele verfolgen.
Ungleichbehandlung ausgleichen
Solche fair gestalteten KI-Anwendungen können Benachteiligungen sogar ausgleichen – etwa den sogenannten Gender Health Gap: Ärzt:innen und Kliniken versorgen Frauen häufig schlechter, weil sich die Medizin hauptsächlich an Männern orientiert. Eine Folge dieser – im Wortsinn – Ungleichbehandlung zeigt sich am akuten Koronarsyndrom: An dieser Herzerkrankung sterben Frauen im Krankenhaus fünfmal häufiger als Männer.
Das liegt nur teilweise an geschlechtsspezifischen Risikofaktoren. Häufig erfolgt bei Frauen auch die Diagnostik verzögert und die anschließende Behandlung ist weniger effektiv. Außerdem erhalten Frauen seltener interventionistische Behandlungen. So ist die Sterblichkeitsrate des akuten Koronarsyndroms in den vergangenen Jahrzehnten bei Männern deutlich stärker gesunken als bei Frauen.
Zukunftsweisende Initiative
Nun soll das Pilotprojekt „Frau.Herz.KI. Geschlechtergerechte Medizin für Frauen“ die medizinische Versorgung von Frauen bei koronaren Herzkrankheiten (KHK) verbessern. Für das Projekt kooperieren die TU München und das Osypka Herzzentrum München mit PwC und Strategy&. Initiiert hat dieses zukunftsweisende Projekt Judith Gerlach, die bayerische Staatsministerin für Gesundheit, Pflege und Prävention, in ihrer früheren Rolle als Digitalministerin. Ihr Ziel ist es, moderne, KI-gestützte Verfahren in und für Bayern voranzutreiben sowie Best Practices zu entwickeln, die die Anforderungen des EU AI Acts in Bezug auf Diskriminierungsfreiheit erfüllen. Judith Gerlachs Nachfolger Dr. Fabian Mehring setzt das Projekt mit großer Unterstützung für Frauengesundheit und die breite Anwendung von fairer KI fort.
Mit dem Projekt will das interdisziplinäre Team aus Kardiolog:innen, Daten- und KI-Expert:innen sowie Regulatorikfachleuten insbesondere herausfinden, wie sich koronare Herzerkrankungen geschlechterspezifisch mit KI fair vorhersagen lassen. Dies soll Mediziner:innen helfen, KHK bei Frauen präziser und schneller zu diagnostizieren, um Krankheitsfälle frühzeitig aufzudecken.
Herzuntersuchung: Behandlungen von Herzerkrankungen sind bei Frauen häufig weniger effektiv als bei Männern.
“Gerade im öffentlichen Sektor muss KI frei von Verzerrungen sein.“
In drei Schritten zum Prototypen
Nach dem positiven Votum der Ethikkommission der TU München im Dezember 2023 stellen die Klinken dem Daten- und KI-Team von PwC und Strategy& für die erste Pilotphase circa 15.000 Patient:innendaten mit mehr als 500.000 Datenpunkten zu KHK bei Männern und Frauen rechtskonform zur Verfügung. Die Expert:innen werten die Daten hinsichtlich Qualität, das heißt Vollständigkeit und Genauigkeit, aus. Dann bewerten sie, inwiefern sie sich verwenden lassen, um verschiedene KI-Modelle zu trainieren. Im dritten Schritt trainieren sie die KI-Modelle und entwickeln einen Prototypen für die Prognostik. Die Projektergebnisse wollen sie im Sommer 2024 vorstellen.
Bei einem anspruchsvollen Projekt wie „Frau.Herz.KI.“ bringen PwC und Strategy& ihre Daten- und KI-Expertisen ein. Mit dem Projekt wollen sie dazu beitragen, das Vertrauen in den öffentlichen Sektor zu stärken. Deshalb unterstützen sie regelmäßig Leuchtturmprojekte, bei denen private und öffentliche Institutionen zusammenarbeiten, um disruptive Potenziale zu erkennen. Ihr Ziel ist es, neue Technologien so für den öffentlichen Sektor nutzbar zu machen, dass möglichst viele Menschen von ihnen profitieren. Dem Pilotprojekt könnte mehr folgen: Denn die Prävention frauenspezifischer Erkrankungen ist seit Anfang 2024 ein Arbeitsschwerpunkt des bayerischen Gesundheitsministeriums – und „Frau.Herz.KI.“ zeigt, wie KI helfen kann, das Gesundheitswesen fairer zu gestalten.
Comments