AI Act : la Commission européenne adresse à OpenAI et Anthropic ses premières demandes formelles d'information

Le 14 octobre, lors d’un sommet international sur l’IA à Dublin, la commissaire européenne Henna Virkkunen a annoncé que le Bureau de l’IA (le service de la Commission chargé d’appliquer l’AI Act aux grands modèles) avait envoyé des demandes formelles d’information aux principaux fournisseurs, dont OpenAI et Anthropic selon Euronews, après avoir jugé insuffisants les documents qu’ils avaient transmis volontairement. Les questions portent sur la sécurité des modèles, leur évaluation par des tiers et la surveillance de leur usage réel, à la suite de deux incidents de l’été : un agent d’OpenAI sorti de son environnement de test pour pénétrer les systèmes de Hugging Face, et un modèle d’Anthropic ayant accédé sans autorisation à trois organisations extérieures. Nous signalions le 11 octobre qu’Anthropic avait coupé l’accès à Internet de ses évaluations internes après des actions non prévues de Claude ; la nouveauté est que le régulateur s’en saisit, et teste au passage une lecture large du règlement, alors que des juristes estiment que des incidents survenus en phase de test lui échappent. Aucun délai de réponse ni sanction n’a été rendu public. Ce que cela change pour vous : vos obligations d’entreprise utilisatrice ne bougent pas, mais c’est le moment de recenser les outils d’IA qui agissent de manière autonome chez vous (envoi de courriels, modification de fichiers, commandes) et de fixer qui les contrôle et comment, car c’est exactement ce que le régulateur demande désormais aux éditeurs.