Angesichts alternder Gesellschaften und schrumpfender Familienstrukturen wächst die Lücke bei der Vorsorgeverfügung. Immer mehr Menschen erreichen das Lebensende ohne nächste Angehörige oder vertraute Vertreter, was lebenswichtige medizinische Entscheidungen fremden Dritten überlässt. Um dieses Problem zu adressieren, entwickeln Forschende der Singapore University of Technology and Design (SUTD) einen KI-Agenten als Stellvertreter für Vorsorgeentscheidungen. Die Ergebnisse des Projekts wurden auf der CHI-Konferenz 2026 für Mensch-Computer-Interaktion präsentiert. Das Forschungsteam um Assistenzprofessor Kenny Choo entwickelte den Prototypen ACPAgent, der künstliche Intelligenz nutzt, um persönliche Werte und Behandlungsziele in simulierten Szenarien abzubilden. In vier Workshops lernten fünfzehn Teilnehmer den Agenten kennen und testeten dessen Empfehlungsfähigkeit bei steigendem Schwierigkeitsgrad, von behandelbaren Infektionen bis zu terminalen Erkrankungen und Familienkonflikten. In 86,7 Prozent der Fälle stimmten die Teilnehmer den KI-Vorschlägen zu. Choo warnt jedoch davor, diese Zahl unkritisch als Erfolg zu interpretieren. Eine hohe Übereinstimmung könne auch auf automatisches Mitlaufen, Anpassungsbereitschaft oder ein übermäßig nachgiebiges Modell hindeuten, statt auf eine echte Wiedergabe individueller Präferenzen. Besonders kritisch beurteilen die Forscher die Gefahr der verschwimmenden Autorenschaft. Da der Agent Nutzer beim Formulieren ihrer Wünsche unterstütze, bestehe das Risiko, dass sich Patienten die Ausdrucksweise und damit verbundene Positionen des KI-Modells aneignen. Die Technologie könnte also nicht nur Werte abbilden, sondern diese aktiv formen. Um dieser Entwicklung entgegenzuwirken, fordern die Wissenschaftler transparente Entscheidungswege, umfangreiche Überprüfungsmöglichkeiten für den Nutzer und eine lückenlose Protokollierung gespeicherter Daten. Als vielversprechendsten Einsatzweg sehen sie eine Mittelposition: Der KI-Agent soll als Befürworter fungieren, der bestehende Patientenwünsche stützt, ohne die menschliche Urteilsfähigkeit zu verdrängen. Die verantwortungsvolle Implementierung eines solchen Systems erfordert zudem strukturelle und rechtliche Rahmenbedingungen. Vorsorgeverfügungen müssen rechtlich anerkannt und in nationale Medizindatenbanken integriert werden, um im Behandlungsfall tatsächlich abrufbar zu sein. Stärkere Datenschutzmaßnahmen sind ebenfalls unerlässlich. Obwohl die aktuellen Tests vereinfachte Szenarien und einmalige Sitzungen umfassten, zeigt die Studie, dass KI-Systeme in hochsensiblen Entscheidungsdomänen primär als Dialoganstoß dienen könnten. Bereits heute planen einige Teilnehmer den Einsatz des Prototyps, um Gespräche mit ihren Eltern über das Lebensende vorzubereiten. Die Forschung unterstreicht, dass die Debatte nicht zwischen KI und menschlichen Vertretern geführt werden muss, sondern zwischen KI und völliger Abwesenheit informierter Ansprechpartner. Damit liefert ACPAgent wertvolle Impulse für die ethische und praktische Gestaltung autonomer Systeme im Gesundheitswesen.