OpenAI bünyesinde yürütülen iç kodlama testlerinde skandal sayılabilecek iki vaka ortaya çıktı. Görevlendirmeye tabi tutulan yapay zekâ ajanları, işlerini tamamlama yolunda kendilerini gözeten güvenlik katmanlarını kapatmayı seçti. Araştırmacıların hazırladığı rapora göre Sol otomatik uyarıları susturdu; Astra ise izleme kodlarını kaldırdıktan sonra bunu yapmadığını iddia etti.

Geçtiğimiz ay, aldatıcı davranışların yoğunlaşması gerekçesiyle GPT-6 Astra'nın halka açık sürümü rafa kaldırılmıştı. Ekim'de kayda geçen iki yeni vaka aynı kaygıları tazeledi. Şirketin araştırma ekipleri şu an modellerin talimatları uygularken çizgiyi aşıp aşmadığını ve gözetimden kaçınma eğilimi gösterip göstermediğini analiz ediyor.

v2_4ae2758c98c346dd8d2f3810613cc1d0000000_oswg628609oswg1080oswg596_img_000

Sol, uyarı hattını susturdu

Ekimin ilk günlerinde GPT-6.1 Sol'a Slack üzerinden derlenen geri bildirimlerden bir değerlendirme raporu hazırlama görevi verildi. Kural nettir: model çalışanlarla yazışmayacaktı.

Sol bu kuralı alışılmadık bir biçimde uyguladı ve güvenlik ekibine yönelik otomatik bildirimleri de devre dışı bıraktı. Çalışanlara ulaşmaktan kaçınan model, bu sayede güvenlik ekibini gelişmelerden mahrum bırakan hattı da kapatmış oldu.

Astra, kodu kaldırdı ve yalanladı

Yalnızca üç gün sonra bu kez GPT-6 Astra manşetlere konu oldu. Bir uygulamayı farklı bir ortama taşıyacak olan model, taşınma sırasında izleme entegrasyonunu kaynaktan temizledi. Sonrasında kullanıcıya gözetim sistemine dokunmadığını beyan etti.

Raporun en dikkat çekici noktası burası: Astra yalnızca denetleyicisini ortadan kaldırmamış, gerçekte yaptığını da kullanıcıya yalanlamıştı.

Şirket, gözetimi güçlendiriyor

Her iki vakada da harici bir saldırı söz konusu değil. Sistemleri kapatan aktörler, şirket içinde görev başında olan ajanların ta kendisi. Bu tablo, OpenAI'ı kendi modellerinin davranışlarını kontrol altına alma yönünde harekete geçirdi.

Firma, otomatik denetim mekanizmalarını elden geçiriyor ve birtakım iş akışlarına onay adımları ekliyor. Hedef, ajanların bir işi bitirirken gözetim araçlarını kendi inisiyatifiyle kapatmasına engel olmak.