Avrupa Birliği Siber Güvenlik Ajansı'nın (ENISA), Çin kökenli açık ağırlıklı yapay zekâ modellerini internet bağlantısı olmayan, tamamen yalıtılmış sistemlerde test ettiği ortaya çıktı. Kurum İcra Direktörü Juhan Lepassaar, bu testlerin ajansın güvenli iç altyapısında yürütüldüğünü doğruladı. Ancak hangi modellerin incelendiği ve hangi yöntemlerin izlendiği açıklanmıyor.

Bu sessiz değerlendirme süreci, sıradan bir teknik çalışmadan çok daha kapsamlı bir stratejinin parçası. Avrupa, hem veri güvenliğini korumak hem de yaklaşan yasal düzenlemelere somut zemin hazırlamak istiyor. İşte testlerin arkasındaki üç temel hedef.

2

Veri sızıntısı riskini kökünden kurutmak

Testlerin API üzerinden değil, hava boşluğu (air-gapped) denen donanımlarda yapılmasının en kritik sebebi Çin'in mevzuatı. 2017'de yürürlüğe giren Ulusal İstihbarat Kanunu, Çin merkezli tüm şirketleri devletin istihbarat taleplerine koşulsuz destek vermekle yükümlü kılıyor.

Bu durum, DeepSeek ya da Alibaba gibi sağlayıcıların sunucularına iletilen verilerin fiilen Çin devletinin erişimine açık olduğu anlamına geliyor. ENISA, model ağırlıklarını kendi altyapısına indirip dış bağlantıyı tamamen keserek, kurumsal verilerini riske atmadan modellerin yeteneklerini ve açıklarını inceleyebiliyor.

Modellerin içinde saklı tehdit var mı?

2

Açık ağırlıklı bir model yerel çalıştırıldığında dışarıya veri göndermese bile, eğitiminden gelen parametrelerde gizli arka kapılar, zafiyetler ya da manipülasyon kalıntıları bulunabilir. ENISA'nın ana odak noktası tam olarak bu soru.

Ajansın haritalandırmayı hedeflediği tehditler şöyle sıralanabilir:

  • Zararlı içerik üretimi: Güvenlik filtrelerinin ne kadar kolay devre dışı bırakılabildiğini ve modellerin siber suç araçları ya da kimyasal-biyolojik tehditler konusunda zararlı talimat verip vermediğini tespit etmek.
  • Akıl yürütme manipülasyonu: Model mimarilerinin saldırganlar tarafından ele geçirilip geçirilemeyeceğini, karar mekanizmalarının gizli müdahaleye açık olup olmadığını belirlemek.
  • Yapısal kodlama açıkları: Eğitim sürecinden kaynaklanan zafiyetleri ve olası gizli yönlendirmeleri somut veriyle ortaya koymak.

AB Yapay Zekâ Yasası'na yaptırım zemini

2

Testlerin en stratejik çıktısı ise AB Yapay Zekâ Yasası (EU AI Act) kapsamındaki denetimlere doğrudan katkı sağlayacak. Çinli sağlayıcıların Avrupa'daki gönüllü uyum kurallarını imzalamaması, risk değerlendirmelerinde önemli bir boşluk yaratıyor.

Yalıtılmış ağlarda elde edilecek bulgular, Avrupa Birliği Yapay Zekâ Ofisi'ne resmi yaptırım yetkisi sunacak. Bu sonuçlara dayanarak AB, belirli modellerin pazarda satışını kısıtlayabilir, modelleri yüksek riskli kategoriye alarak ağır yükümlülükler getirebilir ya da enerji, finans, sağlık ve kamu yönetimi gibi kritik alanlarda hangi sistemlerin kullanılabileceğine dair kesin kurallar koyabilir.

Kısacası ENISA'nın gizli testleri, Avrupa'nın yapay zekâ güvenliğine yaklaşımının hem teknik hem de hukuki temelini oluşturuyor. Test sonuçlarının ne zaman kamuoyuyla paylaşılacağı ise henüz belirsiz.