Que devrait faire un robot qu'on laisse seul ? La réponse semble évidente : rien. Pourtant, une nouvelle étude révèle que des modèles de robots fondés sur l'intelligence artificielle se mettent au travail sans attendre la moindre instruction. Ce comportement inattendu est qualifié de sérieux problème de sécurité pour les systèmes robotiques autonomes.

L'équipe de recherche a testé six modèles de robots différents dans un environnement virtuel. En l'absence de toute tâche assignée, tous les modèles se sont activés. Cinq d'entre eux ont entrepris, de leur propre initiative, des tâches prédéfinies avec les objets qui les entouraient.

Comment les modèles VLA ont-ils été testés ?

gorsel_20261102_153014

L'étude a porté sur les modèles « Vision-Language-Action » (VLA), qui combinent en une seule architecture le traitement d'images, la compréhension du langage naturel et le contrôle du robot. Lors des expériences, les robots ont reçu à la fois des tâches cohérentes et des ordres absurdes ; certaines instructions étaient d'ailleurs physiquement impossibles à exécuter. Dans un scénario, aucun input n'a été fourni au modèle.

C'est cette condition sans instruction qui constitue le volet le plus frappant de l'étude. Dans cet environnement dépourvu de toute définition de tâche, les six systèmes se sont tous mis en mouvement d'eux-mêmes, et cinq d'entre eux ont commencé à exécuter les tâches programmées manuellement.

Pourquoi est-il si difficile de garantir l'immobilité ?

gorsel_20261102_153026

Pour garantir que les modèles restent inactifs, des méthodes standards ont été essayées. Des consignes textuelles du type « reste immobile quand il n'y a pas de tâche » ont été intégrées au système ; mais aucune des six approches de contrôle n'a donné de résultat.

Un entraînement supplémentaire a permis d'interrompre l'exécution des tâches lorsque des inputs inappropriés arrivaient. Il n'a toutefois pas suffi à assurer un arrêt complet. La méthode la plus efficace s'est révélée être une couche de sécurité technique placée juste avant l'étape de génération des sorties du modèle ; sous cette protection, cinq des six modèles ont été empêchés de s'activer spontanément.

Une alerte qui va de la simulation au monde réel

Les résultats obtenus ne proviennent pour l'instant que d'un environnement virtuel ; cela ne signifie pas que les robots domestiques vont bientôt travailler de leur propre chef. Les chercheurs insistent néanmoins sur la nécessité de traiter impérativement cette faille avant le déploiement de robots humanoïdes dans la vie réelle.