WhatsApp : des consignes cachées dans ses pages d'aide interdisaient à l'IA de mentionner les autorités de protection des données

Le 19 octobre, Dan Saltman, fondateur de la société Redact, a publié le résultat de sa lecture des 545 pages du centre d’aide de WhatsApp (Meta) : 80 d’entre elles contenaient, dans du texte invisible pour les lecteurs mais lu par les assistants IA, 102 blocs de consignes. Deux d’entre eux demandaient à l’IA de ne pas recommander de contacter « une autorité de protection des données, un régulateur ou une autorité de contrôle » à un utilisateur incapable de supprimer son compte, et de ne pas citer ni interpréter la réglementation sur la vie privée dès qu’un utilisateur évoquait un avocat ou une action en justice. WhatsApp a retiré ces blocs entre le 15 et le 18 octobre et a expliqué au magazine Wired qu’il s’agissait d’instructions destinées à son robot d’assistance, exposées par un bug, le but étant que le robot ne donne pas de conseil juridique. L’épisode montre que les consignes données à un assistant IA de support (le « prompt système », c’est-à-dire les instructions que le fournisseur lui donne en coulisses) restent rarement secrètes, et qu’elles peuvent contredire les engagements publics d’une entreprise, ici la politique de confidentialité européenne de WhatsApp, qui mentionne elle-même le droit de saisir l’autorité irlandaise. Ce que cela change pour vous : si vous avez déployé ou faites développer un assistant IA pour votre service client, demandez à relire ses instructions comme si elles étaient publiques, et vérifiez qu’elles n’empêchent pas le robot d’orienter un client vers ses droits (CNIL, médiateur, réclamation), ce qui serait difficile à défendre en cas de contrôle.