OpenAI a présenté un ensemble de mesures destinées à mieux lutter contre l'exploitation et les abus sexuels d'enfants en ligne (CSEA), un enjeu qui touche l'ensemble de l'industrie technologique et que l'essor de l'IA générative a rendu plus complexe à surveiller. L'entreprise évoque de nouveaux outils internes, des recommandations pratiques destinées aux équipes de confiance et sécurité, ainsi que des partenariats élargis avec des organisations spécialisées dans la protection de l'enfance.
Ce type d'initiative s'inscrit généralement dans des cadres déjà établis par le secteur, comme les collaborations avec le National Center for Missing & Exploited Children (NCMEC) ou la Tech Coalition, qui réunissent plusieurs entreprises autour de standards communs de détection, notamment via des technologies de hachage permettant d'identifier des contenus déjà répertoriés comme abusifs. OpenAI ne détaille pas publiquement l'ensemble de ses méthodes, mais insiste sur l'idée de renforcer à la fois la prévention, la détection et la réponse aux signalements.
La démarche intervient alors que les modèles génératifs sont de plus en plus pointés du doigt pour leur capacité potentielle à produire ou faciliter la diffusion de contenus illicites impliquant des mineurs, un risque que les régulateurs et les associations de protection de l'enfance surveillent de près. En publiant des lignes directrices destinées à d'autres développeurs, OpenAI cherche aussi à positionner ses pratiques comme une référence pour l'écosystème plus large des entreprises d'IA.
Si l'annonce reste pour l'instant assez générale sur le plan technique, elle traduit une pression croissante sur les acteurs de l'IA pour qu'ils démontrent des mesures concrètes de sécurité, à un moment où la confiance du public et des régulateurs sur ces sujets reste un enjeu sensible pour toute l'industrie.