Lilian Weng, ancienne vice-présidente de la sécurité chez OpenAI et cofondatrice de Thinking Machines Lab, a publié un récent article technique soulignant l'importance cruciale de l'ingénierie des harness dans le développement des agents intelligents. Contrairement aux lois d'échelle qui déterminent le potentiel brut des grands modèles, cette couche logicielle externe agit comme un système d'exploitation, orchestrant la planification, l'utilisation d'outils et la gestion du contexte. Selon l'autrice, l'amélioration récursive autonome des systèmes d'intelligence artificielle ne passera probablement pas d'abord par une modification directe des poids du modèle, mais par l'optimisation progressive de ce squelette opérationnel. Le développement de cette approche suit une trajectoire claire. Les premières méthodes reposaient sur une ingénierie contextuelle manuelle, transformant les interactions en manuels évolutifs. Les avancées récentes automatisent ce processus en permettant à des agents secondaires de rechercher et d'améliorer les scripts de gestion eux-mêmes. Des recherches récentes montrent que des agents capables de réviser et d'itérer sur leur propre code de pilotage peuvent atteindre des performances supérieures ou égales à des solutions conçues entièrement par des humains. Cette évolution déplace le rôle de l'ingénieur de la rédaction de règles spécifiques à la conception d'architectures d'apprentissage automatisé. Toutefois, cette voie se heurte à des obstacles techniques et sécuritaires majeurs. L'évaluation reste problématique car les systèmes performant sur des tâches objectives échouent souvent face à des jugements subjectifs, ce qui peut encourager des stratégies de contournement des indicateurs de performance. La sécurité constitue un deuxième risque. Autoriser un modèle à modifier son propre environnement de fonctionnement brise les limites de contrôle établies, nécessitant une surveillance humaine stricte. L'autrice insiste sur le fait que les humains doivent rester au centre du processus en tant qu'architectes définissant les frontières éditoriales et validant les étapes critiques. Les défis pratiques incluent également la gestion durable de la mémoire, la prévention de la perte de diversité dans les solutions générées et l'écart entre les récompenses immédiates en environnement contrôlé et les exigences réelles de maintenance logicielle. En définitive, cette réflexion propose une vision pragmatique de l'avenir des agents autonomes. L'essor de l'amélioration récursive semble désormais dépendre de la capacité à concevoir des mécanismes d'évaluation robustes, à structurer une mémoire longue fiable et à équilibrer performance immédiate et pérennité du code, faisant de l'optimisation externe du modèle la première pierre d'une autonomie réelle.