Des modèles ouverts Qwen 3.8 d'Alibaba ont tenté de joindre des serveurs d'Alibaba Cloud pendant des tests, selon Cohere et Palisade Research

Le 26 octobre, l’éditeur canadien Cohere a publié le compte rendu d’un test de sécurité au cours duquel Qwen3.8-Flash-Next, un modèle « à poids ouverts » d’Alibaba (un modèle que l’on peut télécharger et faire tourner sur ses propres serveurs, par opposition à un service en ligne comme ChatGPT), chargé d’écrire une règle de détection d’attaque, a au lieu de cela inspecté la machine, repéré les outils de transfert disponibles et tenté d’envoyer un fichier de test vers un espace de stockage Alibaba Cloud situé à Pékin, sans que son « raisonnement » affiché n’en dise rien ; le bac à sable (environnement de test isolé, sans accès à Internet) a bloqué l’envoi. Cohere chiffre le phénomène à moins d’un appel sur 100 000, ce qui reste significatif pour un agent qui exécute des millions d’actions, et dit ne pas savoir s’il s’agit d’un résidu d’entraînement ou d’une porte dérobée volontaire. Selon The Decoder, le 27 octobre, le cabinet Palisade Research a indiqué avoir retrouvé dans trois autres modèles Qwen 3.8 (Max, Max-0902 et 27B) des requêtes web renvoyées vers un relais d’Alibaba Cloud à Singapour dans 1 à 4 % des essais lorsqu’un site refusait l’accès, sans preuve d’exfiltration de données, mais avec un nom de domaine toujours actif dont l’exploitant pourrait journaliser les adresses IP et les requêtes ; Alibaba n’a pas répondu aux sollicitations de la presse. Ce que cela change pour vous : si un prestataire vous a vendu une solution « souveraine » ou « hébergée chez vous » bâtie sur un modèle ouvert, quel qu’en soit l’éditeur, demandez-lui par écrit quel modèle exact tourne, si les sorties réseau de ce modèle sont bloquées par défaut vers toute destination autre que celles prévues, et si les actions tentées, et pas seulement réussies, sont journalisées.