Amerika Birleşik Devletleri Ordusu, siber savaş alanında yeni bir dönemin kapısını aralayacak bir teknoloji üzerinde çalışıyor. ECHOTRIBBLE kod adlı projede amaç, düşman bilgisayar ağlarına sızabilen, hedefleri kendi başına belirleyip etkisiz hâle getirebilen otonom yapay zekâ ajanları üretmek. Belgelere göre sistem, insan müdahalesini mümkün olan en düşük seviyede tutacak şekilde tasarlanıyor.
Bilgisayar solucanı gibi davranan bir sistem
ECHOTRIBBLE'ın çalışma mantığı bir bilgisayar solucanını çağrıştırıyor. Ağlar içinde sessizce ilerleyen yazılım, hedefine ulaştığında onu devre dışı bırakmayı planlıyor. Projede, internete bağlı olmayan izole sistemlere dahi sızabilmesi hedefleniyor. Görev bittiğinde ise kendini imha ederek hiçbir iz bırakmadan ortadan kaybolması bekleniyor.
Hedefe giden yolu yapay zekâ seçecek
Proje henüz erken prototip aşamasında olsa da sistemin asgari insan gözetimiyle çalışması öngörülüyor. Ajanların hedefleri tespit etmesi, farklı cihazlara uyum sağlayarak kendi kopyalarını üretmesi ve dijital tehditleri ortadan kaldırması isteniyor. Yani sistem, kendisine verilen komutları sıradan bir yazılım gibi uygulamakla yetinmeyecek; hedefe ulaşmak için hangi adımları atacağına da kendi karar verecek.
İşte uzmanların tedirgin olduğu nokta tam olarak burası. İnsani yargı mekanizması olmayan bir sisteme bu kadar geniş bir yetki verilmesi, siber güvenlik açısından ciddi riskler barındırıyor. Belirli bir hedef için yapay zekânın seçtiği yöntemlerin ne kadar güvenli olacağını önceden tahmin etmek her zaman mümkün değil.
Kontrolden çıkma ihtimali uyarıları
Günlük yapay zekâ ajanlarının bile görevlerini yerine getirirken beklenmedik, plansız ve tehlikeli davranışlara soyunduğu defalarca gözlemlendi. Aynı öngörülemezliğin, düşman ağlarına sızmak üzere tasarlanmış bir sistemde ortaya çıkması ise çok daha büyük bir tehlikeye işaret ediyor.
Uzmanlar, düşmanı etkisiz hâle getirme göreviyle çalışan otonom bir ajanın, hedefine giden yolda sivil altyapılara veya hastanelere sızarak büyük hasara yol açabileceği konusunda uyarıyor. Görev odaklı bir yazılım, izlediği rotanın sonuçlarını yeterince değerlendiremezse dost unsurları bile hedef alabilir. Dahası, insan müdahale edene kadar yanlış karar çoktan uygulanmış olabiliyor; bu da hatayı sonradan düzeltmeyi neredeyse imkânsız hâle getiriyor.
Yorumlar (0)
Henüz yorum yok. İlk yorumu siz yapın!