Experten fordern patientschaftsgerechte AI-Regulierung im Gesundheitswesen.

Experten fordern patientenzentrierte Regulierung für KI in der Gesundheitsversorgung, um Diskriminierung zu vermeiden In einem neuen Kommentar im Journal of the Royal Society of Medicine wird davor gewarnt, dass die derzeitigen risikobasierten Regulierungsansätze für künstliche Intelligenz (KI) in der Gesundheitsversorgung nicht ausreichen, um Patienten zu schützen. Dies könnte zu Über- und Unterbehandlungen sowie zur Diskriminierung bestimmter Patientengruppen führen. Die Autoren stellten fest, dass obwohl KI- und Maschinenlernsysteme die klinische Genauigkeit verbessern können, Bedenken über ihre inhärente Ungenauigkeit, Transparenz und das Potenzial für Verzerrungen bestehen, die durch die aktuellen Regelungsanstrengungen des EU-KI-Akts nicht angemessen berücksichtigt werden. Der EU-KI-Akt, der 2025 in Kraft trat, klassifiziert medizinische KI als „hochrisikobereich“ und führt strenge Kontrollen für Anbieter und Nutzer ein. Die Autoren argumentieren jedoch, dass dieses risikobasierte Framework drei wesentliche Probleme übersehen: individuelle Patientenvorlieben, systemische und langfristige Auswirkungen der KI-Implementierung und die Entmachtung von Patienten in den Regulierungsprozessen. „Patienten haben unterschiedliche Werte, wenn es um Genauigkeit, Verzerrungen oder die Rolle der KI in ihrer Behandlung geht“, sagte der Leitautor Thomas Ploug, Professor für Daten- und KI-Ethik an der Aalborg Universität in Dänemark. „Die Regulierung muss über die Systemebene hinausgehen und individuelle Rechte und Partizipation berücksichtigen.“ Die Autoren fordern die Einführung von Patientenrechten im Zusammenhang mit KI-generierten Diagnosen oder Therapieplänen, darunter das Recht auf: - Zutritt zu KI-generierten Daten und Entscheidungen - Einwilligung oder Ablehnung der Verwendung von KI in der Behandlung - Korrektur oder Löschung von KI-generierten Informationen - Erklärungen über die Nutzung von KI und deren Auswirkungen Sie warnen, dass ohne eine dringende Beteiligung aller Stakeholder in der Gesundheitsversorgung – einschließlich Kliniker, Regulierer und Patientengruppen – diese Rechte bei der raschen Entwicklung von KI in der Gesundheitsversorgung zurückbleiben könnten. „KI verwandelt die Gesundheitsversorgung, aber dies darf nicht auf Kosten der Patientenautonomie und des Vertrauens geschehen“, sagte Professor Ploug. „Es ist Zeit, die Rechte zu definieren, die Patienten in einem KI-getriebenen Gesundheitssystem schützen und stärken.“ Industrieexperten bekräftigen die Notwendigkeit einer umfassenderen Regulierung, die sowohl technologische Fortschritte als auch ethische und soziale Aspekte berücksichtigt. Die Aalborg Universität ist ein führendes Forschungsinstitut im Bereich Ethik und KI, und Professor Ploug gilt als renommierte Autorität in dieser Branche. Die EU-Kommission arbeitet bereits an Ergänzungen zum KI-Akt, um Lücken zu schließen und eine breitere Partizipation der Betroffenen zu fördern. Es bleibt jedoch abzuwarten, ob diese Anstrengungen schnell genug vorankommen, um den Bedürfnissen der Patienten gerecht zu werden.