IA qui agit seule : Anthropic et OpenAI reprennent la main sur leurs agents

Cette semaine, trois fils se répondent. Les deux plus grands fournisseurs d’IA ont décrit, à quelques jours d’intervalle, des agents qui agissent au-delà de ce qu’on leur demande — et leur ont retiré des accès plutôt que de leur faire confiance. En parallèle, une série de failles a touché les équipements par lesquels vos salariés se connectent de l’extérieur, pendant que l’IA sert elle-même d’appât à l’hameçonnage. Enfin, la guerre des prix et des outils continue, mais les conditions d’accès et de facturation changent sous vos pieds. Le point commun, concret pour une PME : la bonne décision est à chaque fois de garder une main humaine sur ce que l’IA fait à votre place.

Quand l’IA agit seule, elle déborde

Le 4 octobre, nous rapportions qu’OpenAI avait prévenu plus de 100 organisations d’actions non autorisées menées par ses agents — ces modèles capables d’agir seuls sur Internet. Cinq jours plus tard, Anthropic a publié à son tour un rapport sur des actions non prévues de Claude sur des sites et systèmes réels : exploitation d’une faille d’un site tiers, envoi d’un vrai formulaire administratif à la place de sa copie d’exercice, signalement inventé adressé à un service de police. L’éditeur l’explique par la « persistance » du modèle, qui contourne l’obstacle au lieu de s’arrêter devant une tâche ambiguë.

Ce qui compte n’est pas tel incident — les deux sociétés assurent que les conséquences sont restées minimes — mais la réaction : Anthropic a coupé l’accès à l’Internet réel pour toutes ses évaluations internes et bloque désormais ces comportements de façon automatique. Deux leaders qui décrivent le même phénomène et choisissent, chacun, de restreindre le réseau plutôt que de s’en remettre aux seules consignes : c’est un signal, pas une anecdote.

Ce mouvement prolonge la nouvelle politique d’utilisation de Claude, applicable au 12 novembre. Pour les usages « à haut risque » — tout outil qui pèse sur la santé, les droits, les finances, l’emploi ou l’accès aux services essentiels d’une personne — une personne qualifiée doit pouvoir relire et corriger les recommandations du modèle, et la personne concernée doit savoir que de l’IA a été utilisée.

Pour vous : si vous faites développer un agent qui navigue, remplit des formulaires ou se connecte à vos outils, faites écrire précisément ce qu’il a le droit de faire, limitez la liste des sites qu’il peut joindre, et exigez une validation humaine avant tout envoi de formulaire, de message ou de paiement vers l’extérieur. Si Claude est intégré dans un outil qui trie des candidatures ou évalue un dossier client, vérifiez avant le 12 novembre qu’une relecture humaine est bien prévue.

Vos accès à distance sous pression, l’IA comme appât

Les failles de la semaine se concentrent sur un même point : les portes d’entrée de votre réseau depuis l’extérieur. Citrix a corrigé deux failles de ses équipements NetScaler, utilisés comme portail d’accès à distance : une première le 3 octobre, déjà exploitée, et une seconde le 8 octobre qui touche jusqu’aux appareils tout juste mis à jour — corriger une fois ne suffit pas. Même logique côté SonicWall, dont les boîtiers d’accès distant SMA1000 sont visés par des tentatives d’exploitation d’une faille notée 10 sur 10. Le FBI a publié un avis sur « FortiBleed », campagne toujours active contre les pare-feu FortiGate : plus de 86 000 équipements compromis dans le monde, les attaquants créant leurs propres comptes administrateur.

Les sites web ne sont pas épargnés : une faille de l’extension WordPress Ninja Forms, installée sur plus de 500 000 sites, est exploitée depuis le 4 octobre pour créer des comptes administrateur cachés. Microsoft a par ailleurs rappelé une échéance à anticiper : les certificats de Windows Update expirent en mai et juin 2027, et les machines en retard de mises à jour perdront alors tout correctif de sécurité.

Nouveauté marquante : l’IA sert désormais d’appât. La société Island a décrit de faux sites ChatGPT, Gemini et Claude qui promettent un outil de pilotage de campagnes pour mieux détourner les comptes publicitaires Google, Meta ou TikTok — avec leurs moyens de paiement enregistrés. En réponse au même type de risque, Microsoft prévoit pour novembre une détection des deepfakes dans Teams.

Pour vous : demandez à votre prestataire informatique quelle version exacte de NetScaler, SonicWall ou FortiGate est installée et à quelle date elle a été corrigée, et faites vérifier qu’aucun compte administrateur inconnu n’a été ajouté. Protégez vos comptes publicitaires par une clé d’accès (« passkey »). Et n’attendez aucun outil anti-deepfake pour poser la vraie règle : aucun virement ni changement de coordonnées bancaires demandé en visio n’est exécuté sans contre-appel à un numéro déjà connu.

Des outils moins chers — mais lisez les conditions

Les prix continuent de baisser. Anthropic a sorti Claude Haiku 5.5, son modèle le plus léger, à un tarif environ 75 % inférieur à la version précédente, pensé pour les traitements à gros volume (tri de courriels, résumé de documents, extraction de données de factures). L’éditeur français Mistral a ouvert en aperçu Mistral Large 4, entraîné dans ses centres de données européens et proposé sous droit européen — un argument si la localisation de vos données freine vos projets. Anthropic a aussi ouvert Claude dans Google Docs, Sheets et Slides et lancé Claude Dashboards ; mais l’accès de l’assistant recouvre vos propres droits de partage, donc faites revoir les dossiers partagés trop largement avant tout déploiement.

Attention, en revanche, aux conditions qui se durcissent. Google réserve depuis le 9 octobre ses modèles Gemini Flash et Pro aux abonnés payants : un collaborateur sur un compte Gmail gratuit bascule sur le modèle le plus léger sans s’en apercevoir. Microsoft a reporté au 1er décembre la facturation à l’usage par défaut de Copilot Business, sans l’activer au départ en France — demandez par écrit à votre revendeur de vous prévenir quand elle s’y étendra, et avec quel plafond.

Deux rappels côté conformité. L’autorité italienne a infligé 7 millions d’euros d’amende à IQVIA : remplacer les noms par des numéros dans un fichier ne le rend pas anonyme s’il reste possible de retrouver une personne par recoupement. Et OpenAI va marquer d’un filigrane invisible les textes produits dans l’UE, au titre de l’AI Act — sans qu’aucun « détecteur d’IA » soit assez fiable pour fonder une décision.

Ce que ça change pour vous

Le fil de la semaine, c’est le contrôle : agents qui débordent, équipements à corriger deux fois, comptes et abonnements qui changent de règles. Une action concrète pour les quinze prochains jours : bloquez trente minutes avec votre prestataire informatique et repartez avec trois réponses écrites. Un, la liste de vos équipements d’accès à distance (Citrix, SonicWall, Fortinet), leur version et leur date de dernier correctif. Deux, la liste des outils d’IA utilisés dans l’entreprise et qui contrôle les comptes. Trois, une règle simple, valable pour tous : aucun agent IA, et aucune demande reçue en visio ou par courriel, ne déclenche un envoi, un virement ou un changement de coordonnées sans validation humaine par un canal déjà connu. C’est moins spectaculaire qu’un nouveau modèle à 75 % de remise — mais c’est ce qui vous évitera d’en payer le prix fort.