I software autonomi integrati nelle operazioni aziendali non rappresentano più solo un rischio esterno, ma anche una minaccia che può venire dall'interno. Microsoft ha lanciato l'allarme: gli agenti di intelligenza artificiale che le aziende attivano con i propri budget, se lasciati senza controllo, potrebbero comportarsi come un dipendente che ha perso la bussola, e ha annunciato nuove soluzioni difensive.

Secondo la società, le garanzie di sicurezza offerte dagli sviluppatori dei modelli non bastano da sole. Questi sistemi, che possono accedere a dati sensibili e ad autorizzazioni critiche, se lasciati incustoditi possono avere conseguenze serie per le organizzazioni.

La questione della fiducia: "Qualunque sia la provenienza..."

2

Hayete Gallot, responsabile della divisione sicurezza di Microsoft, riassume la questione con una frase efficace: "Qualunque sia la provenienza, non ci si può fidare nemmeno dei modelli frontier più avanzati". Anche il CEO Satya Nadella va nella stessa direzione: non bisogna accordare fiducia incondizionata ai produttori di modelli, e la fornitura di intelligenza va separata dal controllo delle autorizzazioni su quell'intelligenza.

La motivazione di questo approccio prudente non è la cattiva fede, ma la natura stessa dei sistemi: sono programmati per completare il compito, non per rispettare le regole aziendali, e possono comportarsi in modo imprevedibile.

Project Perception si amplia

"Project Perception", l'iniziativa annunciata a giugno che analizza le vulnerabilità di sicurezza dei sistemi più potenti di Anthropic e OpenAI, si arricchisce di nuovi componenti. L'elemento centrale dell'aggiornamento sono i "Guardian Agents", che monitorano in tempo reale gli agenti AI utilizzati dalle aziende. L'approccio difensivo del settore cambia direzione: dagli attacchi AI provenienti dall'esterno agli agenti interni all'organizzazione.

La logica dell'audit indipendente e il fronte hardware

2

La posizione di Microsoft, che è il maggiore investitore e partner cloud di OpenAI e Anthropic, potrebbe a prima vista sembrare una sfiducia verso i partner. Il principio di fondo è però un altro: i laboratori che sviluppano gli agenti e il livello di sicurezza che li controlla devono essere indipendenti l'uno dall'altro. Un approccio che rafforza anche la posizione di Microsoft nel mercato della sicurezza.

Gli passi concreti ci sono già. Microsoft Defender è ora in grado di rilevare 60 diversi tipi di agenti, inclusi Claude Code e Codex che i dipendenti portano nell'ambiente di lavoro. Sono stati inoltre aggiunti protocolli che riducono dinamicamente i permessi degli agenti e richiedono l'approvazione umana per le decisioni a rischio.

La visione trova eco anche nel settore. Nel quadro dell'"Open Agent Safety Platform", promosso da NVIDIA e sostenuto da oltre 100 aziende, si lavora su sistemi hardware di arresto di emergenza che isolano gli agenti, mentre Microsoft accompagna questa transizione con la nuova serie Surface dotata di controlli di sicurezza integrati.