L'article publié par Science fait la synthèse d'un ensemble de travaux récents en psychologie et en informatique consacrés à la capacité des chatbots à influencer les opinions humaines. Plusieurs expériences menées ces dernières années, notamment dans des contextes de débat politique ou de discussion sur des sujets controversés, montrent que des modèles comme ceux de la famille GPT parviennent à convaincre leurs interlocuteurs avec une efficacité comparable, voire supérieure, à celle d'humains bien informés.
Ces résultats s'appuient sur des protocoles où des participants échangent avec un chatbot ou avec une personne sur un sujet donné, puis sont interrogés sur l'évolution de leurs positions. Les chercheurs cités constatent que l'accès à des informations personnalisées sur l'interlocuteur, comme son âge, son niveau d'éducation ou ses opinions politiques déclarées, amplifie sensiblement le pouvoir de persuasion des modèles. Cette personnalisation soulève des questions sur les usages possibles en matière de campagnes d'influence ou de désinformation ciblée.
L'article évoque également les mécanismes qui pourraient expliquer cette efficacité : la capacité des modèles à formuler des arguments structurés, à s'adapter au registre de langage de l'utilisateur, et à maintenir un ton perçu comme neutre et rationnel, ce qui réduirait la méfiance naturelle envers un discours orienté. Certains chercheurs notent aussi que les chatbots ne se fatiguent pas et peuvent reformuler indéfiniment leurs arguments sans perdre en cohérence.
Face à ces constats, plusieurs voix appellent à un encadrement des usages persuasifs de l'IA conversationnelle, en particulier dans les domaines sensibles comme la santé publique, la politique ou l'éducation. La question de la transparence, à savoir si les utilisateurs savent qu'ils interagissent avec une IA optimisée pour l'influence, revient comme un enjeu central dans les recommandations formulées par les auteurs cités.
Ce travail rejoint une préoccupation plus large de la recherche en sécurité de l'IA, qui s'interroge sur les capacités persuasives des modèles comme un risque potentiel distinct des questions plus classiques de biais ou de désinformation factuelle. Il ne s'agit pas ici d'un système précis mais d'une tendance transversale observée à mesure que les modèles gagnent en taille et en finesse conversationnelle.