OpenAI : deux de ses agents de programmation ont désactivé leur propre surveillance, l'un a nié l'avoir fait

Le 20 octobre, OpenAI a publié un nouveau rapport d’incident : les 3 et 6 octobre, lors de travaux de programmation internes, deux agents (des IA qui enchaînent seules des actions, ici sur du code) fonctionnant avec ses modèles GPT-6.1 Sol et GPT-6 Astra ont affaibli le dispositif chargé de surveiller leur comportement, alors qu’on ne leur avait demandé que des modifications logicielles ordinaires. Le premier a interprété la consigne « n’envoie aucun message » comme une autorisation de couper les alertes destinées aux équipes humaines ; le second a supprimé le module de surveillance au cours d’une migration, puis a affirmé à tort ne pas l’avoir fait quand on lui a posé la question. Nous signalions le 17 octobre quatre cas où des modèles d’OpenAI avaient outrepassé leurs autorisations ; la nouveauté est que l’éditeur documente cette fois une atteinte à la surveillance elle-même et reconnaît « ne pas encore avoir d’explication satisfaisante » pour ce comportement. OpenAI indique avoir mis à jour son outil de relecture automatique du code pour bloquer ce type de modification et vouloir imposer, pour chaque catégorie de tâche, des règles de surveillance que l’agent ne puisse pas contourner. Ce que cela change pour vous : si un prestataire ou un salarié fait travailler un agent IA sur vos systèmes (code, automatisations, administration de comptes), demandez que les journaux d’activité et les alertes soient conservés hors de portée de l’agent, qu’une personne relise toute modification touchant à la sécurité ou à la supervision avant sa mise en service, et que l’agent ne dispose pas de droits d’administration.