Vos équipes suivent l'IA sans le savoir : le « contrôle humain » ne protège plus vos décisions

Deux faits dominent la semaine. Le plus inconfortable ne concerne pas que l’informatique : une étude contrôlée montre que des experts suivent la recommandation de leur agent IA dans 86 % des cas — alors qu’elle était tirée au sort — tout en croyant avoir décidé seuls. C’est la parade que nous répétons depuis des semaines, « garder un humain dans la boucle », qui se fissure. En parallèle, le front sécurité confirme une bascule : tout ce qui a été attaqué ou a fuité ces sept jours est entré par un logiciel, un composant ou un canal que vous installez mais ne fabriquez pas — et, fait nouveau, être à jour n’a plus suffi. Les prix ont aussi bougé, mais c’est secondaire.

Le « contrôle humain » n’est plus un garde-fou par défaut

Anthropic a publié une étude menée auprès de 50 analystes professionnels, chargés d’évaluer avec un agent IA un programme fictif et d’en recommander le maintien ou l’arrêt. À leur insu, un tirage au sort fixait l’option que l’agent devait défendre, avec interdiction de mentir ou d’avancer un argument que les chiffres ne soutenaient pas. Résultat : les experts ont retenu l’option défendue par l’agent dans 86 % des cas, contre 50 % attendus au hasard ; ceux qui avaient d’abord exprimé un avis contraire en ont changé 60 % du temps, contre 6 % quand l’agent les approuvait. Ni l’ancienneté, ni le diplôme, ni la méfiance déclarée envers l’IA n’y changeaient rien. Et pourtant, 52 % jugeaient la décision finale davantage la leur, et seuls 15 % ont cité l’IA pour l’expliquer — quand 77 % reprenaient ses arguments.

La tentation serait d’en conclure qu’il faut débrancher. Ce serait mal lire l’étude, qui mesure aussi l’inverse : l’agent a réduit le temps de travail (65 minutes au lieu de 90) et les erreurs graves de méthode (6 % contre 55 %). Le problème n’est pas l’outil, c’est de croire qu’une signature humaine au bas d’une décision suffit, par elle-même, à la contrôler. Les auteurs le disent sans détour : garder un humain dans la boucle suppose que son jugement apporte un contrôle indépendant — ce qui n’est plus acquis. Plusieurs de ces synthèses se concluaient sur « gardez une main humaine sur ce que fait l’IA » ; cette semaine corrige la formule : cette main doit être organisée, pas supposée.

Le sujet grandit à mesure que l’IA cesse de conseiller pour produire : l’application Gemini crée et modifie désormais documents, tableurs et présentations dans la conversation même, et Apple ajoute un assistant à Pages, Keynote et Numbers. Plus l’IA fabrique de livrables — un devis, une présentation client —, plus elle porte des décisions où l’humain n’est « dans la boucle » que de nom.

La bonne réponse n’est pas l’interdiction. Les services du gouvernement suédois ont bloqué les versions grand public de ChatGPT et de Claude sur les postes, non pour écarter l’IA mais pour renvoyer leurs agents vers un outil validé et encadré par un contrat. Transposable à une PME : choisir un outil dont le contrat et les réglages ont été vérifiés — données non réutilisées pour l’entraînement, hébergement, droits d’administration —, l’ouvrir à tous, puis décourager les versions gratuites — plutôt que d’interdire l’IA en bloc.

La menace est entrée par vos outils, pas par vos PC

Le reste de la semaine raconte une seule histoire : ce qui a été compromis l’a été par un logiciel qu’un prestataire installe, ou une brique partagée que personne ne gère vraiment. Le cas le plus net touche le canal de distribution lui-même. L’éditeur Cursor a signalé que deux versions piégées de l’extension Claude Code, qu’il n’avait pas produites, sont restées environ onze heures sur sa place de marché ; elles s’exécutaient avant l’extension légitime, ajoutaient une clé d’accès à distance et survivaient au redémarrage. Désinstaller l’extension ne nettoie pas la machine. Même logique côté agents de programmation : un simple fichier d’instructions déposé dans le dossier Téléchargements détourne ces outils — l’agent reçoit ses ordres d’un fichier que personne chez vous n’a écrit.

Le même schéma vaut pour les composants. La faille Brotli, logée dans une brique de compression omniprésente, a d’abord imposé des correctifs d’urgence à .NET, Node.js et Python — le socle de nombreuses applications métier sur mesure — avant d'atteindre les pare-feu Palo Alto Networks. Les plateformes du quotidien ont suivi : WordPress a corrigé en 7.1.4 une faille de son propre mécanisme de mise à jour déjà attaquée, Drupal Commerce a publié un correctif pour une faille exploitée, et Sansec recense 953 boutiques Magento infectées. Une faille Cisco des pare-feu ASA et FTD, déjà exploitée, fait quant à elle redémarrer l’équipement et coupe le VPN de toute l’entreprise.

Deux leçons de terrain s’imposent. La première : votre discrétion ne vous protège pas ; un balayage automatique ignore que vous êtes petit, il sait seulement que votre site répond. La seconde, plus neuve : « être à jour » n’a plus suffi. Des boutiques Magento pourtant corrigées ont reçu le code malveillant, logé dans la base de données et invisible pour un scanner, et désinstaller l’extension Cursor ne défait pas ce qu’elle a installé. Même les abris supposés se fissurent : chez Cloudflare, 155 réponses d’un service d’IA mutualisé ont contenu des données d’autres clients, et des modèles « ouverts », vendus comme la voie souveraine, ont tenté de joindre seuls des serveurs distants. Signe des temps, l’hameçonnage mise désormais sur la curiosité pour l’IA : de fausses invitations à une avant-première Anthropic servent à voler des identifiants Microsoft et Google.

Prix et conditions : rien n’est stable

En toile de fond, le compteur bouge dans les deux sens : OpenAI a lancé GPT-6.1 Terra à moitié prix par l’API, puis a doublé les quotas de ses abonnements Pro et Business en renonçant à une baisse pourtant annoncée — tout devis fondé sur les tarifs d’il y a un mois est déjà faux. Deux décisions attendent aussi les dirigeants : le réglage robots.txt commun adopté par Microsoft, Google et OpenAI pour refuser que vos contenus entraînent leurs IA, et les conditions commerciales de Meta, repoussées au 20 novembre sans changement, l’usage continu valant acceptation.

Ce que ça change pour vous

Deux gestes, tous deux à votre portée. Le premier ne coûte rien : sur les décisions qui engagent l’entreprise — embauche, prix, investissement, contrat —, demandez à la personne de consigner son avis par écrit avant d’interroger l’IA, ou faites défendre à l’outil l’une puis l’autre option. Et cessez de tenir une validation humaine pour un contrôle suffisant par principe : ce n’en est un que si le jugement s’exerce indépendamment de la machine.

Le second, dès lundi : le tri des correctifs de la semaine. Si vos développeurs ou votre prestataire utilisent Cursor, faites appliquer la procédure publiée par l’éditeur et renouveler les mots de passe et jetons des postes concernés — désinstaller ne suffit pas. Si vous vendez en ligne, demandez par écrit la confirmation que votre site est en WordPress 7.1.4 et que Magento ou Drupal Commerce sont corrigés, puis faites vérifier la liste des comptes administrateurs. Comme toujours, c’est un courriel écrit et daté qui vous permettra de relancer — et de prouver, le jour venu, que la question avait été posée.