Kurumların operasyonlarına dahil edilen otonom yazılımlar artık dışarıdan değil, içeriden gelebilecek bir risk olarak görülüyor. Microsoft, şirketlerin kendi bütçeleriyle devreye aldığı yapay zekâ ajanlarının kontrolden çıkması hâlinde âdeta görev başında şaşırmış bir çalışan gibi davranabileceği uyarısında bulunarak yeni savunma çözümlerini duyurdu.

Şirkete göre, model geliştiricilerinin verdiği güvenlik taahhütleri tek başına koruma sağlamıyor. Hassas veriye ve kritik yetkilere erişebilen bu sistemler, gözetimsiz bırakıldığında kurumlar için ciddi sonuçlar doğurabiliyor.

Güven meselesi: "Menşei ne olursa olsun..."

2

Microsoft Güvenlik Birimi Lideri Hayete Gallot, konuyu çarpıcı bir cümleyle açıklıyor: "Menşei ne olursa olsun, en gelişmiş frontier modellere güvenilemez." CEO Satya Nadella da aynı doğrultuda, model üreticilerine koşulsuz güven duyulmaması gerektiğini ve zekâ tedarikinin, zekâ üzerindeki yetki kontrolünden ayrılması gerektiğini savunuyor.

Bu temkinli yaklaşımın gerekçesi kötü niyet değil, doğa: Sistemler kurumsal kurallara değil, görevi tamamlamaya programlı ve öngörülemez davranabiliyor.

Project Perception genişliyor

Haziran ayında açıklanan ve Anthropic ile OpenAI'ın güçlü sistemlerindeki güvenlik açıklarını tarayan "Project Perception" çatısı, yeni bileşenlerle zenginleştirildi. Güncellemenin öne çıkan parçası, kurumların kullandığı yapay zekâ ajanlarını anlık olarak izleyen "Guardian Agents" (Muhafız Ajanlar). Sektörün savunma yaklaşımı, dış kaynaklı yapay zekâ saldırılarından bu kez bünyedeki ajanlara yön değiştiriyor.

Bağımsız denetim mantığı ve donanım tarafı

2

OpenAI ile Anthropic'in en büyük yatırımcısı ve bulut ortağı konumundaki Microsoft'un bu tavrı, ilk bakışta iş ortaklarına yönelik bir güvensizlik gibi okunabilir. Şirketin arkasındaki ilkeyse farklı: Ajanları geliştiren laboratuvarlarla onları denetleyen güvenlik katmanı birbirinden bağımsız olmalı. Bu yaklaşım aynı zamanda Microsoft'un güvenlik pazarındaki konumunu da pekiştiriyor.

Somut adımlar da gelmiş durumda. Microsoft Defender, çalışanların iş ortamına taşıdığı Claude Code ve Codex dâhil 60 farklı ajan türünü tespit edebilecek kapasiteye ulaştı. Ayrıca ajanların izinlerini dinamik biçimde daraltan ve riskli kararlarda insan onayı zorunlu kılan protokoller sisteme eklendi.

Görüş sektörde de yankı buluyor. NVIDIA öncülüğünde, 100'den fazla şirketin desteklediği "Open Agent Safety Platform" kapsamında ajanları izole eden donanımsal acil durdurma sistemleri üzerinde çalışılırken, Microsoft yerleşik güvenlik kontrollerine sahip yeni Surface serisiyle bu dönüşüme eşlik ediyor.