C'est une révélation qui en dit long sur la méfiance croissante de l'Europe envers l'intelligence artificielle chinoise : l'agence de cybersécurité de l'Union européenne (ENISA) évalue des modèles d'IA à poids ouverts d'origine chinoise sur des systèmes totalement isolés, sans aucune connexion à Internet. Son directeur exécutif, Juhan Lepassaar, a confirmé que ces tests sont menés sur l'infrastructure interne sécurisée de l'agence. Mais quels modèles sont examinés, et selon quelles méthodes ? Le secret reste entier.

Cette évaluation discrète s'inscrit dans une stratégie bien plus large qu'un simple exercice technique. L'Europe veut à la fois protéger la sécurité des données et préparer le terrain pour ses prochaines réglementations. Voici les trois objectifs clés de ces tests.

2

Éliminer à la racine le risque de fuite de données

Si les tests sont réalisés sur des matériels « air-gapped », c'est-à-dire physiquement coupés de tout réseau, plutôt que via une API, la raison tient en un mot : la législation chinoise. La loi sur le renseignement national, entrée en vigueur en 2017, oblige toutes les entreprises chinoises à apporter un soutien inconditionnel aux demandes de renseignement de l'État.

Concrètement, cela signifie que les données transmises aux serveurs de fournisseurs comme DeepSeek ou Alibaba sont potentiellement accessibles aux autorités chinoises. En téléchargeant les poids des modèles sur sa propre infrastructure et en coupant toute connexion externe, l'ENISA peut analyser les capacités et les failles de ces modèles sans exposer de données sensibles.

Des menaces cachées au cœur des modèles ?

2

Même exécuté localement, un modèle à poids ouverts qui n'envoie aucune donnée vers l'extérieur peut receler, dans ses paramètres issus de l'entraînement, des portes dérobées, des vulnérabilités ou des traces de manipulation. C'est précisément la question centrale des travaux de l'ENISA.

Les menaces que l'agence entend cartographier sont les suivantes :

  • Génération de contenus nuisibles : déterminer à quel point il est facile de contourner les filtres de sécurité, et si les modèles sont capables de fournir des instructions dangereuses sur des outils de cybercriminalité ou des menaces chimiques et biologiques.
  • Manipulation du raisonnement : établir si les architectures des modèles peuvent être détournées par des attaquants, et si leurs mécanismes de décision sont vulnérables à des interventions cachées.
  • Failles structurelles du code : documenter avec des données concrètes les vulnérabilités issues de l'entraînement et les éventuels biais cachés.

Un socle pour les sanctions prévues par l'AI Act

2

Le résultat le plus stratégique de ces tests : alimenter directement les audits prévus par le règlement européen sur l'IA (AI Act). Le refus des fournisseurs chinois de signer les règles d'adhésion volontaire en Europe crée un vide important dans l'évaluation des risques.

Les conclusions tirées de ces réseaux isolés pourraient donner à l'Office européen de l'IA un pouvoir de sanction formel. Sur cette base, l'UE pourrait restreindre la mise sur le marché de certains modèles, les classer à haut risque avec de lourdes obligations, ou encore fixer des règles strictes sur les systèmes autorisés dans des secteurs critiques comme l'énergie, la finance, la santé ou l'administration publique.

Au final, ces tests secrets de l'ENISA posent à la fois les fondations techniques et juridiques de l'approche européenne en matière de sécurité de l'IA. Quand les résultats seront-ils rendus publics ? Rien n'est encore décidé.