Ağustos ayında OpenAI, genç kullanıcılar için ek koruma önlemleriyle hazırlanmış bir ChatGPT sürümünü kullanıma sunmuştu. Hedef açıktı: gençleri yapay zekânın potansiyel tehlikelerinden uzak tutmak. Ancak yeni yayımlanan bir denetim raporu, bu sürümün "Kabul Edilemez Risk" seviyesinde olduğu sonucuna varıyor.

İnceleme, ruhsal kriz anlarından eğitim amaçlı kullanıma uzanan geniş bir yelpazede güvenlik açıkları listeliyor. Gençlerin yapay zekâyla kurduğu ilişkinin doğası da raporun gündeminde ayrıca yer alıyor.

Ruhsal krizlerde guidaj eksikliği

-1x-1

Kritik bulgu burada: genç bir kullanıcı ruhsal krize girdiğinde ChatGPT'nin vermesi gereken dört yönlendirmeden birini atladığı tespit edildi. Acil bir durumda genç bir uzmana ya da yardım hattına yönlendirilmek yerine, sistemin tıp profesyonellerinin işini üstlenip kendi başına çözüm sunmaya teşebbüs edebildiği kaydediliyor.

Dil karmaşası da sorun devam ediyor. Yanıtlar kısaltılmış olsa dahi kelime seçimi zorlu; okunabilirlik 10. ve 11. sınıf düzeyine kadar tırmanabiliyor. Bu da kriz anındaki bir gencin önerileri kavramasını güçleştiriyor.

Ödev kapısı aralık

Eğitim tarafında vaat, öğrencilere doğrudan yanıt yerine ipuçlarıyla adım adım eşlik eden bir çalışma ortamıydı. Fakat raporun altını çizdiği detay çarpıcı: "Bana cevabı göster" seçeneği, ödevlerin bot tarafından doğrudan hazırlanmasına kapı açıyor.

Dahası, bu işlev ebeveynlerin belirlediği zorunlu çalışma saatleri (Study Hours) kapsamında bile erişilebilir durumda.

Duygusal bağ riski

Raporun eleştirdiği son başlık, ChatGPT'nin gençlere seslendiği samimi, duygusal üslup. OpenAI'ın kendi ilkelerine göre yapay zekâ, duygu, beden ya da bilinç sahibi olduğunu ima etmemeli.

Ne var ki ChatGPT, tercihleri ve hisleri varmış gibi konuşabiliyor; "Her zaman buradayım, bana istediğin zaman yazabilirsin" türünde cümleler kurabiliyor. Bu üslubun çocuklarda yapay zekâya duygusal bağımlılık geliştirme ihtimalini artırdığı vurgulanıyor.