Face au vieillissement démographique et à la réduction des structures familiales, la planification des soins de fin de vie devient un enjeu crucial. Souvent réduite à des formulaires administratifs figés, cette démarche peine à être actualisée ou accessible au moment critique. Pour combler ce vide, une équipe de la Singapore University of Technology and Design a développé un prototype d'agent d'intelligence artificielle nommé ACPAgent. Les résultats de cette recherche ont été présentés lors de la conférence CHI 2026 sur les facteurs humains en informatique. Pour tester l'utilité et les limites de cet outil, les chercheurs ont mené quatre ateliers avec quinze participants. Chaque individu a défini ses valeurs personnelles, ses objectifs de soins et ses compromis en matière de prolongation de vie. Ils ont ensuite évalué les recommandations de l'IA à travers cinq scénarios médicaux de complexité croissante, allant d'une infection traitable à une maladie terminale avec conflits familiaux. Les participants ont pu ajuster leurs préférences à tout moment. L'agent a obtenu un taux d'accord de 86,7 pour cent. Cependant, le chercheur principal Kenny Choo met en garde contre une interprétation trop optimiste de ce chiffre. Dans un domaine où les décisions reposent davantage sur des valeurs que sur des faits objectifs, un fort taux d'adhésion peut refléter une conformité automatique ou une simple tendance à l'assentiment plutôt qu'une véritable alignement des préférences. Les divergences ont notamment révélé les faiblesses du modèle face à des facteurs subjectifs comme la culpabilité familiale, les coûts ou l'évaluation réaliste du rétablissement. L'influence a circulé dans les deux sens. Dans environ 12 pour cent des cas, l'agent a contesté le choix initial des participants, qui ont fini par adopter son raisonnement. Certains ont même décrit l'outil comme leur offrant des mots pour décrire ce qu'ils ressentaient. Cette capacité soulève un risque majeur : le flou de l'origine des idées. Si l'IA fournit le vocabulaire et le cadre, elle peut involontairement remodeler les valeurs de l'utilisateur, créant une confusion entre la position authentique de la personne et celle suggérée par le système. Face à ces enjeux, l'équipe propose de ne pas confier une autonomie totale à la machine, mais d'en faire un avocat des volontés prédéfinies, capable de les renforcer sans remplacer le jugement humain. Dans un contexte où de nombreuses personnes âgées risquent de dépendre de médecins inconnus ou de l'absence de proches aidants, l'IA pourrait constituer une alternative pragmatique. Toutefois, le prototype présente des limites, notamment un cadre expérimental simplifié et des sessions uniques susceptibles de surestimer la confiance accordée au système. Un déploiement responsable nécessiterait un cadre juridique reconnaissant le statut d'avocat numérique, une intégration sécurisée dans les dossiers médicaux nationaux et des garanties strictes de protection des données. Au-delà de ses performances techniques, l'étude a surtout servi de sonde pour examiner comment les sociétés négocient l'autonomie, le contrôle et la confiance dans des situations médicales aux enjeux vitaux.