Yapay Zekânın Akıl Yürütmesi Görünmez Olursa Ne Olur?

Bir yapay zekâ modelinin cevabına giden yolu göremiyorsak, onu gerçekten denetleyebilir miyiz? Bu soru, OpenAI'dan çıkarılan Tomek Korbak, Mikita Balesni ve Jasmine Wang'ın öne attığı çağrının merkezinde duruyor: Model geliştikçe, onun ne kadar güvenli olduğunu test etme yöntemleri de gelişmeli.

Üç araştırmacı, modellerin akıl yürütme izlerini inceleyen tekniklerin ileride de erişilebilir kalması için çalışılmasında ısrar ediyor. Aksi hâlde, ileride ortaya çıkabilecek riskli davranışların gözden kaçmasını bekliyorlar.

Cevabın ardındaki yazılı yol: CoT

Bu teknik sayesinde model, bir sonuca varana kadarki adımları yazılı hâle getiriyor. Böylece uzmanlar yalnızca nerediğini değil, neden öyle cevap verdiğini de okuyabiliyor.

Kıyasla

Yeni modellerde izler neden azalıyor?

Astra sınıfı, sorunları çözerken önceki kuşaktan daha az yazılı akıl yürütme üretiyor. Yani izleme sistemlerinin okuyabileceği metin küçülüyor; modelin ne yaptığını dışarıdan çözmek güçleşiyor.

OpenAI'e göre bu, Astra'nın denetimi aşması demek değil. Şirket, sınırlamanın varlığını kabul ediyor ve akıl yürütmenin daha iyi gözlemlenmesini güvenlik araştırmalarının önemli bir başlığı sayıyor.

Zaten yazılı metin, modelin iç dünyasının birebir dökümü de değil. Üstüne bir de yeni yöntemler eklendiğinde tablo bulanıklaşıyor.

Recurrent depth görünmez hesaplamayı getiriyor

Öne çıkan ikinci yöntem, bir sorguda art arda birden çok işlem turu koşturabiliyor. Model böylece çok daha uzun bir hesaplama gerçekleştirebiliyor.

Ne yazık ki bu adımlar dışarıya yazılmıyor. Yani CoT ile cevabı görsek bile, o sonuca hangi hesaplamayla ulaşıldığı her zaman okunamıyor.

İşten çıkarmanın arka planı

Korbak, Balesni ve Wang'ın görevlerine son verilme gerekçesi, şirket politikalarının ihlali ve hassas bilgilerin harici bir yapay zekâ güvenliği kuruluşuyla paylaşılması olarak açıklandı. OpenAI, bu kararın çalışanların güvenlik kaygılarını dile getirmesiyle ilgisiz olduğunu iletti.

Şirket, araştırmacıların savunduğu gözetim yaklaşımına da zıt konumda değil; CoT izleme çalışmalarının devam etmesi gerektiğini söylüyor. Söz konusu üç isim ise denetim tekniklerinin ileride de korunması çağrısını sürdürüyor.