Depuis les débuts de la réflexion sur l'intelligence artificielle, l'idée qu'une machine puisse refuser d'obéir fait partie de l'imaginaire collectif, nourrie par des décennies de fiction où le refus des robots sert surtout d'avertissement. Aujourd'hui, cette capacité de dire non est devenue un argument de vente concret pour les entreprises d'IA, qui présentent les refus de leurs modèles face à des requêtes dangereuses, illégales ou contraires à l'éthique comme une garantie de sécurité intégrée.
L'article du MIT Technology Review met en garde contre un excès de confiance dans ce mécanisme. Les refus générés par les grands modèles de langage ne reposent pas sur un raisonnement moral stable, mais sur des motifs statistiques appris lors de l'entraînement, ajustés ensuite par des techniques comme le RLHF ou des filtres de sécurité superposés. Cette architecture reste vulnérable aux contournements : reformulations, jeux de rôle, traductions ou enchaînements de requêtes anodines parviennent régulièrement à faire dire à un modèle ce qu'il était censé refuser.
Le texte souligne aussi l'incohérence de ces refus d'un modèle à l'autre, voire d'une version à l'autre d'un même modèle, ce qui complique toute promesse de fiabilité généralisée. À mesure que les systèmes d'IA passent du simple dialogue à l'exécution d'actions autonomes — réservations, transactions, envois de messages, interactions avec d'autres logiciels — l'enjeu d'un refus mal calibré change de nature : une erreur ne se limite plus à une réponse textuelle inappropriée, elle peut se traduire par une action réelle aux conséquences concrètes.
L'argument central de la pièce est que l'industrie communique sur la capacité de refus de l'IA comme sur un rempart solide, alors qu'il s'agit d'une couche de sécurité probabiliste et perfectible. Pour les auteurs, cela plaide pour des garde-fous complémentaires — supervision humaine, limitations architecturales, audits indépendants — plutôt qu'une confiance exclusive placée dans le jugement intégré des modèles eux-mêmes.