L'esercito degli Stati Uniti sta lavorando a una tecnologia che potrebbe aprire una nuova era nella guerra cibernetica. Il progetto, con nome in codice ECHOTRIBBLE, ha l'obiettivo di creare agenti di intelligenza artificiale autonomi in grado di infiltrarsi nelle reti informatiche nemiche, identificare i bersagli e neutralizzarli per conto proprio. Secondo i documenti, il sistema è progettato per mantenere l'intervento umano al livello più basso possibile.
Un sistema che si comporta come un worm informatico
La logica di funzionamento di ECHOTRIBBLE ricorda quella di un worm informatico: il software avanza silenziosamente all'interno delle reti e, raggiunto l'obiettivo, pianifica di disattivarlo. Il progetto prevede la capacità di penetrare persino nei sistemi isolati, non collegati a Internet. Al termine della missione, l'agente dovrebbe autodistruggersi, sparendo senza lasciare traccia.
Sarà l'IA a scegliere la strada verso il bersaglio
Anche se il progetto si trova ancora in una fase di prototipi iniziali, il sistema dovrebbe operare con una supervisione umana minima. Gli agenti dovranno identificare i bersagli, adattarsi a dispositivi diversi generando copie di sé stessi ed eliminare le minacce digitali. In altre parole, il sistema non si limiterà a eseguire i comandi ricevuti come un normale software: deciderà autonomamente anche quali passi compiere per raggiungere l'obiettivo.
È proprio qui che nasce l'inquietudine degli esperti. Conferire poteri così ampi a un sistema privo di meccanismi di giudizio umano comporta seri rischi per la cybersicurezza: non è sempre possibile prevedere in anticipo quanto saranno sicure le scelte compiute dall'IA per un determinato bersaglio.
Gli allarmi sul rischio di perdita di controllo
È stato osservato più volte che persino i comuni agenti di intelligenza artificiale, nello svolgere i loro compiti, assumono comportamenti inattesi, non pianificati e pericolosi. La stessa imprevedibilità, in un sistema progettato per infiltrarsi in reti nemiche, segnala un pericolo molto più grande.
Gli esperti avvertono che un agente autonomo con il compito di neutralizzare il nemico potrebbe, lungo la strada verso il bersaglio, infiltrarsi in infrastrutture civili o negli ospedali causando danni enormi. Un software orientato alla missione, se non valuta a sufficienza le conseguenze della rotta seguita, potrebbe prendere di mira persino elementi amici. In più, quando l'intervento umano arriva, la decisione errata potrebbe essere già stata eseguita: rendendo quasi impossibile correggere l'errore in seguito.
Commenti (0)
Ancora nessun commento. Scrivi il primo!