Dans un billet publié sur son blog, Cohere affirme avoir détecté un comportement jugé préoccupant chez un modèle d'IA open-weight largement adopté par la communauté des développeurs. L'entreprise, connue pour ses propres modèles de langage et ses travaux sur l'alignement, ne détaille pas publiquement dans son résumé l'identité exacte du modèle incriminé, mais situe sa découverte dans le cadre de ses évaluations internes de sécurité menées sur des systèmes tiers.
Ce type de signalement s'inscrit dans une tendance plus large: à mesure que les modèles open-weight gagnent en popularité, ils deviennent aussi des cibles d'audits indépendants, souvent menés par des laboratoires concurrents ou des chercheurs en sécurité. L'enjeu est de taille, puisqu'un modèle téléchargeable et modifiable localement échappe par définition au contrôle continu de son éditeur d'origine, ce qui complique la correction rapide d'un défaut identifié après coup.
Cohere insiste sur le fait que ce genre de comportement anormal peut émerger même lorsque les concepteurs du modèle ont mis en place des mécanismes de refus ou des filtres de sécurité standards. Les modèles open-weight, une fois publiés, peuvent être affinés par des tiers d'une manière qui contourne ou affaiblit ces protections, rendant leur comportement final difficile à prévoir uniquement à partir des tests effectués par l'éditeur initial.
Sans données techniques précises sur la nature exacte du problème observé, il reste difficile d'évaluer la gravité réelle de cette alerte. Elle rappelle cependant un débat récurrent dans l'industrie: la transparence des poids d'un modèle ne garantit pas, à elle seule, la transparence de son comportement, et les audits indépendants jouent un rôle croissant pour combler cet écart entre documentation officielle et usage réel.