Les banques et les entreprises de services financiers s'engagent dans l'entraînement d'IA maison pour gagner en contrôle et en performance

Les entreprises du secteur des services financiers (FSI) sont en train de s’emparer de l’intelligence artificielle générative (GenAI), en anticipant son adoption commerciale. Alors que les hyperscalers, les fournisseurs de cloud et les centres de calcul haute performance (HPC) développent des modèles théoriques, les FSI, comme les banques et les compagnies d’assurance, sont les premiers à intégrer ces technologies dans leurs processus. Leur historique d’adoption précoce des innovations en informatique, comme les guichets automatiques ou le banking mobile, les place à nouveau en première ligne. Cependant, leur secteur est fortement régulé, ce qui impose une prudence accrue, notamment en termes de transparence, de reproductibilité et de conformité réglementaire. La GenAI peut aider les FSI à automatiser la conformité réglementaire, qui est un processus chronophage et coûteux. C’est une opportunité immédiate, permettant de réaliser des économies qui pourraient financer des investissements plus importants dans l’IA. Mais pour être utilisée efficacement, les modèles doivent être fiables, expliquables et capables de traiter des données complexes sans erreurs. Le défi principal réside dans la manière et l’endroit où les FSI vont entraîner leurs modèles GenAI. Bien qu’ils puissent louer des modèles dans le cloud, cela implique une perte de contrôle et des coûts élevés. En effet, l’exploitation d’un GPU H100 sur AWS ou Azure coûte 2,6 à 6 fois plus cher que son achat direct. De plus, les préoccupations de sécurité et de conformité réglementaire poussent les FSI à privilégier l’entraînement en local ou en co-location, pour garder le contrôle sur leurs données et leurs modèles. Les FSI développent des modèles d’IA complexes, souvent propres à leurs besoins, nécessitant une infrastructure lourde. Pour ces systèmes, la latence, la bande passante et la cohérence des données sont critiques. Les systèmes d’entraînement d’IA sont des supercalculateurs, composés de centaines à milliers de nœuds, nécessitant une infrastructure puissante. Les FSI, comme les banques commerciales, utilisent GenAI pour des tâches de traitement de texte, comme la conformité réglementaire, tandis que les fonds spéculatifs expérimentent l’IA générative pour améliorer leurs algorithmes de trading. Le Volcker Rule, une réglementation post-crise financière, limite les activités de trading des banques commerciales, ce qui les pousse à se concentrer sur des modèles plus stables, tandis que les hedge funds et les traders propres peuvent prendre plus de risques. Cela explique l’essor de ces derniers, qui utilisent des systèmes GPU pour analyser des données financières complexes, souvent en interne, en raison de la difficulté d’accéder à la capacité GPU des grands fournisseurs de cloud. Supermicro a livré des unités de type Grace-Hopper et Grace-Blackwell à plusieurs FSI, qui utilisent ces systèmes pour l’inference ou l’entraînement. La plupart des clusters sont encore refroidis par air, mais le refroidissement liquide devient progressivement la norme, permettant d’optimiser l’efficacité énergétique et de réduire les coûts d’exploitation. Les FSI doivent anticiper ces évolutions, car les systèmes d’entraînement ou d’inference pourraient consommer jusqu’à un mégawatt. En somme, les FSI sont les premiers à adopter des supercalculateurs d’IA et des architectures agentes, en vue de transformer leurs processus financiers. Leur adoption précocement des technologies émergentes, combinée à leur capacité à investir dans l’infrastructure, les positionne comme des pionniers dans la prochaine révolution technologique. Leur expérimentation pourrait inspirer d’autres secteurs, comme le reste de l’économie, en suivant le modèle des précédentes avancées en informatique.