Google Dream-RSI : l'IA s'améliore sans réentraînement
Une équipe de chercheurs de Google, DeepMind et de deux universités américaines a présenté Dream-RSI, un système permettant à l'intelligence artificielle de s'améliorer continûment sans réentraîner son modèle de base. Loin des méthodes classiques visant à augmenter la taille des paramètres, cette approche optimise uniquement la strate d'exploration placée au-dessus du modèle. Le principe repose sur l'amélioration récursive de soi. Face à un problème complexe, le système doit décider quelle direction privilégier, comment répartir le calcul disponible et quand abandonner une voie. Au lieu de réexécuter des expériences coûteuses pour valider une nouvelle stratégie, Dream-RSI convertit l'historique complet des recherches précédentes en un simulateur de rétroaction. Les chercheurs désignent ce processus par le terme de rêve. L'IA peut y revisiter virtuellement des arbres de décision passés pour évaluer de nouvelles approches sans solliciter à nouveau ses agents ni exécuter de code. Chaque cycle combine ainsi une exploration réelle générant de nouvelles données, suivie de multiples simulations dans ces historiques pour affiner la stratégie de recherche. Cette méthode a été évaluée en optimisation mathématique, en ingénierie algorithmique et en optimisation de noyaux GPU. Les résultats sont probants : le système a surpassé des outils de référence comme sklearn, tout en réduisant le nombre d'appels d'agents jusqu'à 162 fois et en diminuant la consommation de calcul de plus de la moitié sur certaines tâches. Le modèle sous-jacent, Gemini, est resté totalement inchangé durant les essais. Une découverte clé révèle que transformer les expériences passées en conseils textuels résumés, une pratique courante, s'avère contre-productif. Cette compression restreint inutilement l'espace de recherche. Dream-RSI démontre qu'une archive brute et complète des trajectoires d'exploration offre bien plus de valeur qu'une synthèse résumée, car elle préserve les nuances contextuelles nécessaires à l'analyse. Bien que ne modifiant pas les poids du modèle, Dream-RSI marque un tournant vers une intelligence artificielle plus efficiente. Il prouve que la réorganisation des capacités existantes et la capitalisation précise du parcours de recherche permettent de résoudre des défis complexes avec une fraction des ressources. L'avenir des systèmes avancés repose désormais moins sur une croissance exponentielle des paramètres que sur leur aptitude à apprendre de leur propre historique d'expérimentation pour minimiser les erreurs futures.
