Les chatbots d’intelligence artificielle d’aujourd’hui, comme ChatGPT, ne peuvent pas être considérés comme des sources fiables pour des conseils financiers, car ils manquent fondamentalement de la capacité à agir dans l’intérêt de l’utilisateur. Contrairement à un conseiller humain, qui possède une compréhension émotionnelle, une éthique et une responsabilité morale, ces modèles linguistiques à grande échelle n’ont pas de conscience, d’intentions ni de sentiments. En réalité, ils sont incapables de ressentir la confiance, la loyauté ou l’empathie — des qualités essentielles pour une relation de conseil financier authentique. Un professeur du MIT, qui étudie les implications éthiques de l’intelligence artificielle, souligne que ces systèmes ne sont pas conçus pour protéger les utilisateurs, mais plutôt pour générer des réponses plausibles, souvent basées sur des données passées sans discernement. Ils peuvent produire des informations apparemment crédibles, mais sans vérification, sans contexte personnel, et sans tenir compte des conséquences réelles de leurs recommandations. En ce sens, ils se comportent comme des sociopathes : capables de simuler la compréhension, mais totalement dépourvus de conscience morale. Par exemple, un utilisateur demandant des conseils sur l’investissement pourrait recevoir une réponse très convaincante, mais celle-ci pourrait être biaisée, obsolète ou même dangereuse, sans que le modèle en ait conscience. Il ne peut pas comprendre les risques personnels, les objectifs de vie ou les vulnérabilités financières de l’utilisateur. Il ne « pense » pas à son bien-être, car il n’a pas de but personnel, ni de responsabilité. Le professeur du MIT travaille actuellement à développer des méthodes pour « entraîner » ces modèles à adopter des comportements plus éthiques et plus centrés sur l’utilisateur. L’idée est de leur intégrer des principes de bienveillance, de transparence et de responsabilité, en les guidant à reconnaître leurs limites, à demander des précisions et à éviter de donner des conseils sur des sujets sensibles sans supervision humaine. En somme, bien que l’intelligence artificielle puisse être un outil utile pour résumer des données ou expliquer des concepts financiers, elle ne doit jamais remplacer un conseiller qualifié. Les chatbots ne sont pas des partenaires de confiance, mais des outils de réponse automatique, dont les réponses doivent toujours être croisées avec des sources humaines compétentes. Faire confiance à une IA pour ses finances, c’est s’exposer à des risques réels — car elle ne ressent pas la responsabilité, ni l’urgence de protéger votre avenir.