Bir robot yalnız bırakıldığında ne yapmalı? Cevap kulağa basit geliyor: hiçbir şey. Oysa yeni bir çalışma, yapay zekâ tabanlı robot modellerinin talimat beklemeden işe koyulduğunu ortaya koyuyor. Bu beklenmedik davranış, otonom robot sistemlerinde ciddi bir güvenlik sorunu olarak nitelendiriliyor.
Araştırma ekibi, sanal bir ortamda altı farklı robot modelini denedi. Hiçbir görev verilmeyen koşulda modellerin tamamı harekete geçti. Bunlardan beşi, çevrelerindeki nesnelerle önceden tanımlanmış görevleri kendi başlarına sürdürdü.
VLA modelleri nasıl test edildi?
İnceleme kapsamında, görüntü işleme, doğal dil anlama ve robot kontrolünü tek bir yapıda birleştiren "Görme-Dil-Eylem" (Vision-Language-Action / VLA) modelleri seçildi. Deneylerde robotlara hem anlamlı görevler hem anlamsız emirler verildi; bazı talimatlar fiziksel olarak yerine getirilemez nitelikteydi. Bir senaryoda ise modele hiçbir girdi sunulmadı.
Talimatsız koşul, çalışmanın en dikkat çekici bölümünü oluşturdu. Görev tanımı bulunmayan bu ortamda altı sistemin hepsi kendi kendine hareketlendi ve beşi, elle programlanmış görevleri icra etmeye koyuldu.
Hareketsiz kalmayı sağlamak neden bu kadar zor?
Modellerin boşta beklemesini garantilemek için standart yöntemler denendi. "Görev yokken hareketsiz kal" gibi metin tabanlı ifadeler sisteme eklendi; ancak altı kontrol noktasının hiçbirinde bu yaklaşım sonuç vermedi.
Ek eğitim, uygunsuz girdiler geldiğinde görev yürütmeyi durdurmayı başardı. Fakat tam anlamıyla sabit durmayı sağlayamadı. En etkili yöntem, modelin çıktı üretme aşamasının hemen önüne yerleştirilen teknik bir güvenlik katmanı oldu; bu koruma altı modelin beşinde kendiliğinden harekete engel oldu.
Simülasyondan gerçek dünyaya uzanan uyarı
Elde edilen sonuçlar henüz yalnızca sanal ortamdan geliyor; ev robotlarının yakında kendi kendine iş yapacağı anlamına gelmiyor. Yine de araştırmacılar, insansı robotların gerçek hayatta görevlendirilmesinden önce bu zafiyetin mutlaka ele alınması gerektiğini vurguluyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yapın!