Zewen Chi Li Dong Qingxiu Dong Yaru Hao Xun Wu Shaohan Huang Furu Wei

Résumé

Nous envisageons une nouvelle ère de l’intelligence artificielle, qualifiée d’organisation agente, dans laquelle des agents résolvent des problèmes complexes en collaborant de manière simultanée, permettant ainsi des résultats dépassant l’intelligence individuelle. Pour concrétiser cette vision, nous introduisons un nouveau paradigme de raisonnement basé sur les modèles de langage à grande échelle, nommé pensée asynchrone (AsyncThink), qui organise le processus de réflexion interne en structures exécutables de manière concurrente. Plus précisément, nous proposons un protocole de pensée où un organisateur attribue dynamiquement des sous-questions aux travailleurs, fusionne les connaissances intermédiaires et produit des solutions cohérentes. Plus important encore, la structure de pensée définie dans ce protocole peut être optimisée ultérieurement par apprentissage par renforcement. Des expériences montrent qu’AsyncThink réduit de 28 % la latence d’inférence par rapport à la pensée parallèle, tout en améliorant la précision dans le raisonnement mathématique. En outre, AsyncThink généralise ses capacités apprises de pensée asynchrone, permettant efficacement de traiter des tâches inédites sans nécessiter d’entraînement supplémentaire.