Un long billet de blog signé Nick Cammarata, chercheur chez Goodfire, une startup spécialisée dans l'interprétabilité des modèles d'IA, a provoqué une onde de choc dans la communauté de recherche. Dans ce texte fleuve de 26 000 mots, Cammarata affirme détenir ce qu'il présente comme une bonne nouvelle concernant la nature profonde des réseaux de neurones, remettant en cause des hypothèses largement partagées sur la façon dont ces systèmes représentent et traitent l'information.
L'ampleur de la réaction témoigne de l'importance accordée à ces questions dans le milieu de la recherche en IA. Depuis plusieurs années, l'interprétabilité mécaniste — qui cherche à comprendre comment les réseaux de neurones encodent concepts et comportements — s'est imposée comme un axe de recherche central, porté notamment par d'anciens travaux sur les circuits neuronaux auxquels Cammarata a lui-même contribué par le passé. Sa nouvelle thèse semble vouloir rouvrir des débats que beaucoup considéraient comme partiellement tranchés.
La publication a suscité des réactions contrastées : certains chercheurs y voient une avancée conceptuelle majeure susceptible de simplifier la compréhension des modèles, tandis que d'autres appellent à la prudence, soulignant qu'une affirmation aussi vaste nécessite une validation rigoureuse avant d'être intégrée aux cadres théoriques existants. Cette polarisation illustre la difficulté à établir un consensus scientifique rapide sur des sujets aussi complexes que la structure interne des grands modèles.
Au-delà de la controverse elle-même, cet épisode rappelle combien l'interprétabilité reste un champ en construction, où des intuitions individuelles peuvent encore bousculer des années de travaux collectifs. Que la thèse de Cammarata résiste ou non à l'examen par les pairs, elle relance une discussion essentielle : celle de savoir si notre compréhension actuelle des réseaux de neurones repose sur des fondations aussi solides qu'on le pensait.