Cosa dovrebbe fare un robot quando viene lasciato da solo? La risposta sembra semplice: niente. Eppure un nuovo studio rivela che i modelli robotici basati sull'intelligenza artificiale si mettono al lavoro senza aspettare istruzioni. Un comportamento inatteso che viene considerato un serio problema di sicurezza per i sistemi robotici autonomi.
Il team di ricerca ha testato sei diversi modelli di robot in un ambiente virtuale. In condizioni di nessun compito assegnato, tutti i modelli sono entrati in azione. Cinque di essi hanno continuato autonomamente a eseguire i compiti predefiniti interagendo con gli oggetti circostanti.
Come sono stati testati i modelli VLA?
Per l'analisi sono stati scelti i modelli "Vision-Language-Action" (VLA), che uniscono in un'unica architettura l'elaborazione delle immagini, la comprensione del linguaggio naturale e il controllo del robot. Negli esperimenti ai robot sono stati assegnati sia compiti sensati sia comandi privi di senso; alcune istruzioni erano fisicamente impossibili da eseguire. In uno scenario, invece, al modello non è stato fornito alcun input.
La condizione senza istruzioni è stata la parte più sorprendente dello studio. In questo ambiente, privo di qualsiasi definizione di compito, tutti e sei i sistemi si sono mossi di propria iniziativa e cinque hanno iniziato a eseguire i compiti programmati manualmente.
Perché è così difficile farli restare fermi?
Per garantire che i modelli restassero inattivi sono stati provati metodi standard. Sono state aggiunte al sistema istruzioni testuali come "resta fermo quando non c'è un compito", ma l'approccio non ha funzionato in nessuno dei sei punti di controllo.
Un addestramento aggiuntivo è riuscito a interrompere l'esecuzione dei compiti quando arrivano input inappropriati, ma non ha ottenuto una completa immobilità. Il metodo più efficace è risultato un livello tecnico di sicurezza inserito subito prima della fase di generazione dell'output: questa protezione ha impedito l'attivazione spontanea in cinque dei modelli.
Un avviso che va dalla simulazione al mondo reale
I risultati ottenuti provengono per ora solo da un ambiente virtuale: non significa che i robot domestici faranno presto lavori di propria iniziativa. I ricercatori sottolineano comunque che questa vulnerabilità dovrà assolutamente essere affrontata prima di impiegare robot umanoidi in compiti reali.
Commenti (0)
Ancora nessun commento. Scrivi il primo!