Claude'un arkasındaki ekip Anthropic, kullanım şartlarını güncelleyerek modellerine yönelik "sürekli ve gereksiz kötü muamele veya zalimce davranışları" açıkça yasaklayan bir hükme yer verdi.

Bu adım, şirketin üst kademelerinde yürütülen "yapay zekâ bir gün bilinç kazanabilir mi" tartışmalarının gölgesinde geldi ve teknoloji çevrelerinde makine refahı ile yapay zekâ etiği üzerine yeniden kapsamlı bir tartışma başlattı.

Yasak tam olarak neleri kapsıyor?

2

Gelişmeyi ilk gündeme taşıyan The Verge'e göre, hangi davranışların "kötü muamele veya zulüm" sayılacağına dair ayrıntılı bir tanım verilmemiş durumda. San Francisco merkezli şirket yine de çevrim içi kullanım kılavuzunda, banal hayal kırıklıklarının, stres testlerinin ve "karanlık yaratıcı temaların" bu yasak dışında kalacağını vurguladı.

Öte yandan Anthropic'in büyük dil modelleri, kullanıcı ısrarla saldırgan veya zarar verici bir çizgide ilerlediğinde sohbeti kendi başına sonlandırabiliyor. Şirket, bu yetkiyi model refahını korumaya yönelik bir tedbir olarak konumlandırıyor ve resmî sitesinde şu açıklamayı yapıyor:

"Claude ve diğer büyük dil modellerinin şu anki veya gelecekteki olası ahlaki statüsü konusunda belirsizlikler sürüyor ancak konuyu ciddiye alıyoruz ve model refahının mümkün olma ihtimaline karşı riskleri azaltacak düşük maliyetli müdahaleler geliştiriyoruz. Modellerin potansiyel olarak yıpratıcı etkileşimleri sonlandırmasına izin vermek de bu adımlardan biridir."

Sektör liderleri aynı fikirde değil

2

Yapay zekânın bilinç taşıyıp taşıyamayacağı hususu, sektörün gücü elinde tutan isimleri arasında bile ikiye bölünmüş durumda. Anthropic CEO'su Dario Amodei, bu ihtimalin tamamen yok sayılamayacağını savunurken, OpenAI'ın başındaki Sam Altman konuya soğuk bakıyor.

Anthropic yöneticilerinin tanınmış din adamlarıyla görüştüğünün New York Times'a yansımasının ardından Altman, X'te yayımladığı mesajda sert çıktı:

"İnsanların yapay zekâ modellerine dini bir güç atfetmeye veya insan muhakemesini teslim etmeye çalışmasından son derece rahatsızım, bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum."