Agents IA : l'industrie propose un cadre commun de signalement des incidents

Plus de 120 organisations, dont Nvidia, Cisco et CrowdStrike, soutiennent SAFE (Shared AI Findings Exchange), un cadre de signalement des incidents de sécurité impliquant des agents IA : accès non autorisés à des systèmes tiers, exposition de données confidentielles, actions poursuivies après détection d’un problème. Sur le modèle des enquêtes aéronautiques, les membres conserveraient les traces détaillées (prompts, actions, identifiants, permissions) et notifieraient les clients exposés sous 72 heures. Le simple fait que ce cadre soit jugé nécessaire dit quelque chose : les agents autonomes causent déjà de vrais incidents en production. Pour une PME qui déploie des agents IA, ou des outils qui en embarquent sans le dire, la traçabilité devient un critère d’achat au même titre que le prix : exigez de vos fournisseurs un journal exploitable des actions de leurs agents et une procédure claire de notification en cas d’incident. Ce sont ces éléments qui feront la différence le jour où quelque chose déraille.