Die rasante Entwicklung der Femtech-Branche hat neue Möglichkeiten für die Überwachung und Verwaltung der weiblichen Gesundheit geschaffen – von Perioden-Trackern bis hin zu künstlichem Intelligenz (KI)-gestützten Krebsdiagnosewerkzeugen. Doch diese Innovationen bringen auch erhebliche regulatorische und ethische Herausforderungen mit sich, insbesondere hinsichtlich Datenschutz, Algorithmen-Bias und rechtlicher Haftung. Sara Gerke, Gesundheitsrechtlerin und Bioethikerin am Cancer Center at Illinois (CCIL), untersucht diese Spannungen und setzt sich dafür ein, dass ethische und rechtliche Überlegungen bereits in der frühen Entwicklungsphase von digitalen Gesundheitslösungen berücksichtigt werden. In einer gemeinsam mit Sara Raza, Eric Bressman und Carmel Shachar verfassten Studie, die in The BMJ veröffentlicht wurde, beleuchtet sie die Lücke im Datenschutz für Frauen-Gesundheits-Apps in den USA. Während in der EU durch die Datenschutz-Grundverordnung (DSGVO) umfassendere Schutzmechanismen bestehen, sind viele direktohne Verbraucher-Apps in den USA nicht unter dem HIPAA (Gesundheitsversicherungstransparenz- und Verantwortlichkeitsgesetz) geschützt. Dadurch können sensible Daten – wie Menstruationszyklen, sexuelle Aktivität oder Fruchtbarkeit – ohne ausreichenden Schutz gesammelt, weitergegeben oder sogar verkauft werden, oft ohne dass Nutzer:innen dies vollständig verstehen. Ein weiteres zentrales Problem ist der Bias in KI-Systemen. Wenn Algorithmen auf unrepräsentativen Datensätzen trainiert werden – beispielsweise auf Hautkrebsbildern hauptsächlich von Menschen mit heller Haut – funktionieren sie weniger zuverlässig für Menschen mit dunklerer Hautfarbe. Dies kann zu falsch negativen oder verzögerten Diagnosen führen und bestehende Gesundheitsdisparitäten verschärfen. Gerke betont, dass solche technischen Schwächen keine reinen IT-Probleme sind, sondern gravierende Folgen für die Patient:innensicherheit haben können. Ihre Arbeit erweitert sich über den Bereich der Femtech hinaus: Sie erforscht die rechtlichen und ethischen Implikationen von KI-assistierten chirurgischen Eingriffen und Koloskopien, insbesondere Fragen der Haftung, der klinischen Entscheidungsfindung und der potenziellen Entfremdung von Ärzt:innen durch zu starke Abhängigkeit von KI-Systemen. Da bisher wenig Rechtsprechung zu solchen Szenarien existiert, sind klare Rahmenbedingungen dringend erforderlich. Gerke fördert interdisziplinäre Zusammenarbeit durch Konferenzen am CCIL, die Entwickler:innen, Kliniker:innen, Ethiker:innen und Jurist:innen zusammenbringen. Ihr Ziel ist es, sicherere und vertrauenswürdigere KI-Tools für die medizinische Praxis zu gestalten. Die nächste Konferenz soll 2027 an der University of Illinois Urbana-Champaign stattfinden. „Die frühe Einbindung aller Stakeholder ist entscheidend“, sagt sie. „Nur so können wir sicherstellen, dass Technologie nicht nur innovativ, sondern auch gerecht, sicher und verantwortungsvoll eingesetzt wird.“ In der Fachwelt wird Gerkes Ansatz als wegweisend angesehen. Experten betonen, dass die fehlende regulatorische Klarheit in den USA ein Risiko für die Patient:innensicherheit darstellt und dringend reformiert werden muss. Ihre Arbeit unterstreicht, dass technologischer Fortschritt ohne ethische und rechtliche Grundlagen zu Schaden führen kann – besonders in sensiblen Bereichen wie der weiblichen Gesundheit. Gerke gilt als führende Stimme in der Diskussion um verantwortungsvolle KI in der Medizin und steht für einen Ansatz, der Technologie und Verantwortung vereint.