Neuseelandische Ärzte nutzen KI-Schreiber trotz ethischer Bedenken

In Neuseeland nehmen viele Allgemeinmediziner zunehmend künstliche Intelligenz (KI)-Schriftenführer zur automatischen Dokumentation von Patientenbesuchen in Anspruch, obwohl erhebliche ethische, rechtliche und datensicherheitstechnische Bedenken bestehen. Eine Studie der Universität Otago, Wellington – Ōtākou Whakaihu Waka, Pōneke, die im Journal of Primary Health Care veröffentlicht wurde, untersuchte im Februar und März 2024 die Nutzung von KI-Schriftenführern bei 197 Versorgungsanbietern aus der primären Gesundheitsversorgung, darunter GPs, Pflegekräfte, Notfallmediziner in ländlichen Gebieten und Praxismanager. Rund 40 % der Befragten gaben an, KI-Schriftenführer zu nutzen, wobei nur 66 % die Nutzungsbedingungen gelesen und 59 % ausdrücklich Patienten um Zustimmung gebeten hatten. Obwohl viele Fachkräfte die Tools als hilfreich bis sehr hilfreich empfanden – 47 % schätzten, könnten sie pro Tag zwischen 30 Minuten und zwei Stunden sparen – blieben erhebliche Herausforderungen bestehen. Viele berichteten, dass die Korrektur der KI-generierten Notizen oft mehr Zeit in Anspruch nahm als die manuelle Erstellung, wodurch sich die erwarteten Zeitvorteile teilweise aufhoben. Kritische Mängel in der Genauigkeit, Vollständigkeit und Klarheit der Transkripte waren ein häufiges Thema. Ein Arzt bemerkte, dass kritische negative Befunde verpasst wurden, was das Vertrauen in die Technologie untergrub. Andere klagten über „Halluzinationen“ – also erfundene oder falsche Informationen –, die oft subtil und schwer zu erkennen seien. Besonders problematisch war die mangelnde Verständlichkeit für neuseeländische Akzente, medizinische Fachbegriffe und te reo Māori. Einige Ärzte mussten Gespräche unterbrechen, um sensible Informationen wie Namen oder Geburtsdaten nicht zu erfassen. Zudem veränderte die Nutzung der KI-Schriftenführer die Arzt-Patient-Interaktion: Um die Technologie zu unterstützen, mussten Ärzte ihre klinischen Gedankengänge und physischen Untersuchungsergebnisse laut aussprechen, was die natürliche Gesprächsdynamik beeinträchtigte. Ein GP berichtete, er müsse nun beispielsweise laut sagen: „Schmerz im rechten oberen Quadranten?“, obwohl der Patient dies bereits mit einer Geste signalisiert hatte. Trotz dieser Herausforderungen betonten viele, dass die KI-Tools ihnen halfen, sich stärker auf den Patienten zu konzentrieren, mehr Augenkontakt aufzunehmen und aktiver zuzuhören – was die Beziehungsförderung verbessern könnte. Gleichzeitig bestehen erhebliche Bedenken hinsichtlich der Rechtmäßigkeit und Ethik. KI-Schriftenführer basieren oft auf internationalen Cloud-Plattformen, die Daten außerhalb Neuseelands speichern und verarbeiten, was Fragen zur Datensicherheit, Zugriffsrechten und Cyber-Risiken aufwirft. Besonders relevant sind dabei Fragen der Māori-Datensouveränität und der Einhaltung lokaler Datenschutzrichtlinien. Die National Artificial Intelligence and Algorithm Expert Advisory Group (NAIAEAG) von Health New Zealand – Te Whatu Ora hat im Juli zwei KI-Schriftenführer, Heidi Health und iMedX, für den Einsatz in Aotearoa empfohlen, nachdem sie Datenschutz, Sicherheit und ethische Aspekte geprüft hatten. Professor Angela Ballantyne, Bioethikerin an der Universität Otago, betont, dass die Nutzung von KI-Tools nicht automatisch mit der Zustimmung der Patienten verbunden ist. Patienten müssten das Recht haben, die Nutzung zu verweigern, ohne dass ihre Versorgung beeinträchtigt wird. Die medizinische Aufsichtsbehörde Neuseelands wird voraussichtlich im Laufe des Jahres Leitlinien für den Einsatz von KI in der Gesundheitsversorgung veröffentlichen, die verbindliche Einwilligung vorsehen werden. Ballantyne sieht Potenzial in der Weiterentwicklung der KI-Technologie, sofern sie mit guter Schulung, klarer Governance und respektvoller Patientenbeteiligung verbunden wird. Die Zukunft der KI-Schriftenführer ist vielversprechend – aber nur, wenn ethische und rechtliche Rahmenbedingungen konsequent umgesetzt werden. Industrieexperten sehen die Entwicklung als kritisch, aber nicht unüberwindbar. Die KI-Technologie ist noch in der Entwicklung, und die aktuellen Mängel könnten durch bessere Algorithmen und lokale Anpassungen abgebaut werden. Gleichzeitig wird betont, dass medizinische Entscheidungen niemals allein auf KI-basierten Notizen basieren dürfen. Die Rolle des Arztes als verantwortlicher Entscheidungsträger bleibt unverändert. Für die breite Einführung sind klare Regulierungen, Schulungen und transparente Informationspflichten unerlässlich. Die Erfahrungen in Neuseeland könnten als Modell für andere Länder dienen, die mit ähnlichen Herausforderungen konfrontiert sind.