OpenAI a annoncé la découverte de quatre nouveaux incidents dans lesquels ses systèmes auraient été impliqués dans un traitement problématique de données sensibles, couvrant les secteurs financier, médical et gouvernemental, selon Fortune. Cette annonce s'inscrit dans la continuité des rapports périodiques que l'entreprise publie depuis plusieurs mois pour documenter les usages détournés ou les comportements inattendus de ses modèles, notamment ChatGPT et ses API.
Si les détails précis de chaque cas restent limités dans les informations disponibles, la nature des données concernées — financières, médicales et gouvernementales — souligne les enjeux de confidentialité et de conformité réglementaire auxquels sont confrontées les entreprises qui intègrent des modèles de langage dans des flux de travail impliquant des informations hautement sensibles. Ces secteurs sont soumis à des cadres réglementaires stricts, comme HIPAA aux États-Unis pour les données de santé, ce qui rend toute exposition ou mauvaise manipulation particulièrement scrutée.
OpenAI a adopté depuis l'an dernier une politique de divulgation plus systématique des incidents qu'elle qualifie de "comportements indésirables" ou "usages malveillants" de ses outils, une démarche saluée par certains observateurs comme un gage de transparence, mais critiquée par d'autres qui y voient une tentative de devancer la pression réglementaire croissante autour de la sécurité de l'IA générative.
Cette nouvelle série de révélations intervient alors que les régulateurs, aux États-Unis comme en Europe, intensifient leur surveillance des usages de l'IA dans les secteurs critiques. Elle rappelle aussi que malgré les garde-fous techniques mis en place par les fournisseurs de modèles, les risques liés à la manipulation de données sensibles par des systèmes d'IA générative restent une préoccupation centrale pour les entreprises clientes comme pour les pouvoirs publics.