Des chercheurs de Together AI ont publié un article décrivant une architecture d'agents dits "hybrides", capables d'effectuer une partie de leur raisonnement directement dans l'espace latent du modèle plutôt qu'en générant des tokens textuels intermédiaires. Les actions concrètes de l'agent — appels d'outils, requêtes API, communication avec l'utilisateur — restent en revanche exprimées en langage naturel, ce qui permet de conserver la compatibilité avec les environnements et interfaces textuelles standards.
Cette approche s'inscrit dans une lignée de travaux récents explorant le raisonnement continu, où le modèle manipule des représentations vectorielles plutôt que des mots pour dérouler ses étapes de réflexion. L'intérêt principal est computationnel: en évitant de décoder chaque étape intermédiaire en texte, l'agent peut potentiellement traiter des chaînes de raisonnement plus longues ou plus complexes avec un coût moindre, tout en s'affranchissant des limites imposées par le vocabulaire du modèle.
Le défi technique central que ce travail cherche à résoudre est l'articulation entre ces deux modes. Un raisonnement purement latent, bien que plus efficace, rend l'agent difficile à interfacer avec des outils externes ou des environnements qui exigent des instructions textuelles explicites. L'architecture hybride proposée tente donc de faire basculer le modèle entre les deux régimes selon les besoins: latent pour la réflexion interne, textuel dès qu'une action observable est requise.
Le code et les poids associés sont disponibles respectivement sur GitHub et Hugging Face, accompagnés d'évaluations détaillées dans l'article. Si l'idée n'est pas entièrement nouvelle — des travaux comme Coconut de Meta avaient déjà exploré le raisonnement en espace continu —, cette publication apporte une mise en œuvre pratique orientée vers les agents, un domaine où l'efficacité du raisonnement et l'interopérabilité avec les outils sont des enjeux concurrents. Son impact réel dépendra de la reproductibilité des gains annoncés sur des tâches d'agent réalistes.