Microsoft’un başındaki isim Satya Nadella, yapay zekâ güvenliğine ilişkin dikkat çeken bir öneri paketini kamuoyuyla paylaştı. Nadella’ya göre yapay zekâ modelleri, dilediği an yetkili kişiler tarafından durdurulabilecek harici bir fren düzenine bağlanmalı.

X üzerinden yaptığı açıklamada Nadella, yapay zekânın hiçbir koşulda denetimsiz bir yapıya bırakılmaması gerektiğini vurguladı. Ona göre modeller, iç içe geçmiş “kara kutular” gibi ele alınmalı; sistemlerin ürettiği yanıtlar ve attığı adımlar asla sorgusuz kabul edilmemeli.

Güvenlik denetimleri modelin dışına taşınmalı

2

Nadella’nın savunduğu mimaride güvenlik katmanı, modele doğrudan komuta eden yürütücü yapıdan ayrılıyor ve denetimler tamamen modelin dışında konumlandırılıyor. Böylece sistemin, kendisiyle aynı düzlemde duran bir güvenlik mekanizmasına körü körüne güvenmesi gerektirmiyor.

Bu çerçevede yapay zekânın aldığı her kritik kararın, sonradan değiştirilemeyecek ve insanların okuyabileceği kanıtlarla kayıt altına alınması gerektiğini anlatan Nadella, kritik anlarda yetkili bir kişinin modeli görev başındayken durdurabilmesini ya da tümüyle kapatabilmesini sağlayan düzenekler kurulmasını öneriyor. Modellerin daha ilk günden “güvenliği ihlal edilmiş” kabul edilerek sınırlandırılması gerektiğini söyleyen Microsoft CEO’su, bu mekanizmaya “acil durum freni” adını veriyor.

Sektörde temkinli sesler çoğalıyor

Nadella’nın bu değerlendirmesi, alanda duyulan ilk uyarı değil. Önde gelen teknoloji şirketleri son dönemde modeller üzerindeki denetimin zayıfladığını gösteren vakalarla sık sık gündeme gelirken, Anthropic CEO’su Dario Amodei de kısa süre önce daha temkinli bir yapay zekâ geliştirme planına geçtiklerini duyurmuştu.