L'Agenzia dell'Unione europea per la cibersicurezza (ENISA) sta testando modelli di intelligenza artificiale open-weight di origine cinese su sistemi completamente isolati, senza alcuna connessione a internet. Il direttore esecutivo dell'agenzia, Juhan Lepassaar, ha confermato che i test vengono condotti nell'infrastruttura interna sicura dell'ente. Non è però noto quali modelli siano sotto esame né quali metodologie vengano seguite.

Questa valutazione silenziosa è molto più di un semplice esercizio tecnico: fa parte di una strategia più ampia con cui l'Europa intende tutelare la sicurezza dei dati e preparare un terreno concreto alle prossime normative. Ecco i tre obiettivi principali dietro i test.

2

Eliminare alla radice il rischio di fughe di dati

La ragione più critica per cui i test vengono eseguiti su macchine air-gapped, e non via API, è la normativa cinese. La Legge sulla Sicurezza Nazionale entrata in vigore nel 2017 obbliga tutte le aziende con sede in Cina a collaborare senza condizioni alle richieste di intelligence dello Stato.

Questo significa che i dati inviati ai server di fornitori come DeepSeek o Alibaba sono di fatto potenzialmente accessibili al governo cinese. ENISA, scaricando i pesi dei modelli sulla propria infrastruttura e interrompendo completamente le connessioni esterne, può analizzare capacità e vulnerabilità dei modelli senza esporre i dati istituzionali dell'Unione.

Ci sono minacce nascoste dentro i modelli?

2

Anche quando un modello open-weight viene eseguito localmente e non invia dati all'esterno, i suoi parametri, derivanti dall'addestramento, possono contenere backdoor, vulnerabilità o tracce di manipolazione. È proprio questa la domanda su cui si concentra ENISA.

Le minacce che l'agenzia intende mappare possono essere riassunte così:

  • Generazione di contenuti dannosi: verificare quanto facilmente i filtri di sicurezza possano essere disattivati e se i modelli forniscano istruzioni pericolose su strumenti per la criminalità informatica o minacce chimico-biologiche.
  • Manipolazione del ragionamento: determinare se le architetture dei modelli possano essere compromesse da attaccanti e se i meccanismi decisionali siano esposti a interferenze nascoste.
  • Vulnerabilità strutturali del codice: documentare con dati concreti le debolezze derivanti dal processo di addestramento e le possibili direzioni nascoste.

Una base sanzionatoria per l'AI Act

2

L'esito più strategico dei test contribuirà direttamente alle verifiche previste dall'AI Act europeo. Il fatto che i fornitori cinesi non abbiano firmato le regole di conformità volontaria in Europa crea un vuoto significativo nelle valutazioni dei rischi.

I risultati ottenuti sulle reti isolate daranno all'Ufficio dell'IA dell'Unione europea un potere sanzionatorio formale. Sulla base di questi esiti, l'UE potrà limitare la vendita di determinati modelli sul mercato, classificarli come ad alto rischio imponendo obblighi gravosi, oppure stabilire regole precise su quali sistemi possano essere usati in settori critici come energia, finanza, sanità e pubblica amministrazione.

In sintesi, i test segreti di ENISA gettano le basi sia tecniche sia giuridiche dell'approccio europeo alla sicurezza dell'intelligenza artificiale. Resta invece da definire quando i risultati verranno resi pubblici.