Réglages par défaut : ce que vos outils IA décident à votre place

Semaine plus calme que les précédentes, et resserrée sur un seul sujet. Après des semaines dominées par la sécurité et les agents autonomes, l’actualité de ces sept jours tient en une phrase : les questions de gouvernance que cette lettre soulève depuis un mois — la transparence des contenus produits par IA, ce que vos outils font des données que vous y saisissez — cessent d’être des principes pour devenir des réglages concrets, dans des produits que vos équipes utilisent déjà. Et le point à retenir, c’est que le réglage par défaut ne joue pas toujours en votre faveur. La décision de la semaine n’est donc pas « quel nouvel outil adopter », mais « quels réglages vérifier sur ceux que nous avons déjà ».

La transparence des contenus passe des principes aux outils

Depuis le 2 août, l'article 50 de l’AI Act impose que les contenus produits par IA — images, voix de synthèse, une partie des textes — soient identifiables comme tels. C’était jusqu’ici une obligation sur le papier. Cette semaine, elle a reçu deux traductions produit, l’une côté vérification, l’autre côté production.

Côté vérification, Anthropic a mis en ligne un outil gratuit accessible sur claude.com/check-content qui indique si un fichier a été créé ou modifié avec son IA. Il lit pour cela les « content credentials » au format C2PA — une signature attachée au fichier au moment de sa création — sur des images, vidéos et fichiers audio jusqu’à 100 Mo, sans conserver le fichier, qui reste sur votre appareil. Deux limites à garder en tête avant d’en faire un filtre : l’outil ne détecte que Claude, pas les contenus d’autres IA, et l’absence de signal ne prouve rien, car la marque a pu être retirée. Ce n’est donc pas un contrôle universel, mais c’est une première brique concrète de la provenance des contenus, ce sujet que l’AI Act rend progressivement obligatoire.

Côté production, Adobe a lancé le 2 septembre « Adobe for Slack », une application qui met plus de 70 outils de sa suite — dont Firefly, Photoshop, Express et Acrobat — directement dans Slack, pour les offres payantes Business+ et Enterprise+. Depuis une simple conversation, un collaborateur peut générer une image, une vidéo ou un PDF sans ouvrir un logiciel Adobe. L’intérêt est réel, mais deux points sont à cadrer avant d’activer. D’abord, c’est une nouvelle application branchée sur vos échanges Slack : décidez qui a le droit de l’installer. Ensuite, les visuels générés que vous diffusez au public relèvent précisément de l’obligation de transparence ci-dessus.

Le rapprochement des deux nouvelles dessine l’enjeu : les canaux pour produire du contenu par IA se multiplient et se banalisent — jusque dans la messagerie —, au moment même où la loi vous demande d’en signaler l’origine. Il vous faut donc quelqu’un qui sache, dans l’entreprise, marquer ce qui sort et vérifier ce qui entre.

Vos données : le réglage par défaut n’est pas neutre

Le second fil de la semaine porte sur ce que vos outils font des données que vos équipes y saisissent — et sur le fait que, là aussi, tout se joue dans un réglage qui a été décidé à votre place.

Le cas à surveiller vient de Mistral. Sa documentation précise que, sur Vibe — son application grand public —, les conversations servent par défaut à entraîner ses modèles : il faut désactiver soi-même l’option dans le menu Confidentialité pour s’y soustraire. À l’inverse, les comptes Vibe Enterprise sont exclus de l’entraînement par défaut, et l’accès par API dispose de son propre réglage. Concrètement, si vos équipes utilisent la version grand public de Mistral pour des tâches professionnelles, ce qu’elles y saisissent peut nourrir le modèle tant que personne n’a désactivé l’option. C’est exactement la même vigilance que celle que nous rappelions sur ChatGPT gratuit : un outil grand public branché sur des sujets de travail traite vos données selon des règles que vous n’avez pas fixées.

À l’opposé, une nouvelle montre le réglage par défaut jouer, cette fois, en faveur du client. Fin août, nous signalions qu’Anthropic imposait à ses clients professionnels une conservation obligatoire de trente jours. L’entreprise a présenté le 2 septembre un dispositif, « Enterprise Frontier Safeguards », qui rend la main : la détection des usages malveillants est maintenue, mais les données de cette surveillance peuvent désormais être stockées dans le compte cloud du client lui-même (Amazon S3, Azure ou Google Cloud), sous ses propres clés de chiffrement. Le dispositif est gratuit — le client ne paie que son stockage — et sera déployé progressivement cet automne ; en attendant, les clients éligibles bénéficient d’une conservation nulle sur les modèles Fable 5 et 5.1. La garantie que nous vous conseillions d’exiger par écrit — savoir ce qui est conservé, où, et sous quel contrôle — devient donc une option réelle, et non plus une simple demande.

Ces deux cas tirent dans le même sens malgré leur opposition apparente. Chez Mistral, le défaut travaille contre vous et il faut agir pour s’en extraire ; chez Anthropic, le défaut évolue en votre faveur, mais encore faut-il le réclamer. Dans les deux cas, le paramètre décide à votre place tant que vous ne l’avez pas regardé.

Ce que ça change pour vous

Une seule action cette semaine, sans budget et faisable en une réunion : la revue des réglages par défaut sur les outils d’IA que vos équipes utilisent au travail. Passez en revue les outils grand public d’abord — Mistral Vibe, ChatGPT gratuit et les autres — et, sur chacun, vérifiez si les conversations alimentent l’entraînement du modèle ; si oui, désactivez l’option, ou basculez l’usage professionnel vers une offre Enterprise ou l’API. Profitez-en pour désigner, une bonne fois, qui est responsable de la transparence des contenus : qui marque les visuels générés que vous diffusez, et qui vérifie la provenance de ce que vous recevez. Ce n’est pas spectaculaire, mais c’est ce qui distingue un outil que vous maîtrisez d’un outil qui vous maîtrise — un réglage à la fois.