L'armée américaine travaille sur une technologie qui pourrait ouvrir un nouveau chapitre dans le domaine de la cyberguerre. Baptisé ECHOTRIBBLE, le projet vise à créer des agents d'intelligence artificielle autonomes, capables de s'infiltrer dans les réseaux informatiques ennemis, d'identifier eux-mêmes leurs cibles et de les neutraliser. Selon les documents, le système est conçu pour réduire l'intervention humaine au strict minimum.

Un système qui se comporte comme un ver informatique

Le principe de fonctionnement d'ECHOTRIBBLE évoque un ver informatique : le logiciel progresse silencieusement au sein des réseaux et, une fois sa cible atteinte, prévoit de la mettre hors d'état de nuire. Le projet ambitionne même de pouvoir s'infiltrer dans des systèmes isolés, non connectés à Internet. À la fin de sa mission, l'agent devrait s'autodétruire et disparaître sans laisser la moindre trace.

1536x864_cmsv2_39508f18-fa17-5821-aab8-754457ccf396-9490300

C'est l'IA qui choisira le chemin vers la cible

Le projet n'en est qu'au stade du prototype précoce, mais le système est censé opérer avec une supervision humaine minimale. Les agents doivent être capables d'identifier des cibles, de s'adapter à différents appareils en produisant leurs propres copies et de neutraliser des menaces numériques. Autrement dit, le système ne se contentera pas d'exécuter des ordres comme un logiciel classique : il décidera lui-même des étapes à suivre pour atteindre son objectif.

C'est précisément là que réside l'inquiétude des experts. Confier une autonomie aussi étendue à un système dépourvu de mécanisme de jugement humain comporte de sérieux risques en matière de cybersécurité. Il n'est pas toujours possible de prédire à l'avance si les méthodes choisies par l'IA pour une cible donnée seront sûres.

Les alertes sur un risque de perte de contrôle

Même les agents d'IA du quotidien ont déjà montré à plusieurs reprises des comportements inattendus, non planifiés et dangereux dans l'accomplissement de leurs tâches. Transposer cette imprévisibilité à un système conçu pour s'infiltrer dans des réseaux ennemis signale un danger d'une tout autre ampleur.

Les experts avertissent qu'un agent autonome chargé de neutraliser un adversaire pourrait, en chemin vers sa cible, s'infiltrer dans des infrastructures civiles ou des hôpitaux et causer des dégâts majeurs. Un logiciel orienté vers sa mission, s'il n'évalue pas suffisamment les conséquences de sa trajectoire, pourrait même viser des éléments amis. De plus, lorsqu'un humain finit par intervenir, la mauvaise décision a souvent déjà été exécutée, ce qui rend la correction de l'erreur quasiment impossible.