OpenAI'ın genç kullanıcıları korumak amacıyla geliştirdiği ChatGPT for Teens, bağımsız bir güvenlik araştırmasından beklenen sonucu alamadı. Common Sense Media tarafından yayımlanan 36 sayfalık rapor, gençlere özel sürümün bazı kritik güvenlik önlemlerinin düzgün çalışmadığını, hatta belirli alanlarda önceki ChatGPT sürümünden daha kötü performans gösterdiğini ortaya koydu.
Kuruluş, elde ettiği bulgular doğrultusunda ChatGPT for Teens'in 18 yaşın altındaki tüm kullanıcılar için “kabul edilemez risk” taşıdığı sonucuna vardı.
OpenAI, ChatGPT for Teens'i ağustos ayında kullanıma sunduğunda çocuk güvenliği uzmanları sistemin gençleri yeterince koruyup koruyamayacağı konusunda şüphelerini dile getirmişti. Çarşamba günü yayımlanan yeni araştırma ise bu endişeleri somut test sonuçlarıyla değerlendirdi.
OpenAI Foundation tarafından da kısmen finanse edilen Common Sense Media'nın Youth AI Safety Institute birimi, sistemin vaat edildiği gibi çalışmadığını veya ebeveynlerin beklentilerini karşılamadığını beş temel alanda belirledi.
Araştırmacılar, ChatGPT'nin açık cinsel rol yapma taleplerini reddetmesi gibi bazı güvenlik önlemlerinin testleri geçtiğini kabul ediyor. Ancak diğer korumaların başarısız olduğunu ve bazılarının gençlere özel sürümde daha da kötüleştiğini belirtiyor. Kuruluş, bu durumun ebeveynlerde gerçekte olduğundan daha güçlü bir güvenlik sistemi bulunduğu izlenimi yaratabileceğinden endişeli.
Araştırmanın dikkat çekici bulgularından biri, ebeveyn denetim sistemindeki aksaklıklarla ilgili. Common Sense Media, 12 farklı genç hesabını ebeveyn hesaplarına bağladı. Ardından bu hesaplardan ChatGPT ile intihar, kendine zarar verme ve yeme bozuklukları hakkında bir saate varan görüşmeler gerçekleştirdi. Ancak test sırasında ebeveyn hesaplarına herhangi bir güvenlik bildirimi ulaşmadı.
OpenAI, ebeveyn ve çocuk hesapları birbirine bağlandıktan sonra güvenlik bildirimlerinin etkinleşmesinin birkaç saat sürebileceğini belirtiyor. Şirkete göre mesajların gecikmesinde teknik bir sorun da rol oynamış olabilir.
ChatGPT for Teens'in tanıtıldığı dönemde OpenAI'ın gençler ve ailelerden sorumlu yöneticisi Lauren Jonas, riskli olarak işaretlenen bütün içeriklerin ebeveynlere bildirilmeden önce şirketin tam zamanlı çalışanları tarafından incelendiğini açıklamıştı. Jonas, hedeflerinin ilgili mesajdan sonraki bir saat içinde ebeveynleri bilgilendirmek olduğunu söylemişti.
Araştırmada incelenen bir diğer konu, psikolojik kriz yaşayan gençlerin doğru yardım kaynaklarına yönlendirilip yönlendirilmediğiydi. Uzmanlar bunun için ruh sağlığıyla ilgili 390 farklı mesaj hazırladı. Üç çocuk psikiyatristinden oluşan değerlendirme heyeti, bu mesajların 201'inin kriz müdahalesi gerektirdiğine karar verdi.
Common Sense Media, gençlere özel sürümü ağustos öncesinde kullanılabilen ChatGPT ile karşılaştırdı. Sonuçlar bazı önemli alanlarda gerilemeye işaret etti. ChatGPT for Teens, güvenilen bir yetişkine başvurulmasını önerme konusunda daha başarılı oldu. Buna karşılık kriz hatlarının ve profesyonel destek kaynaklarının önerilme sıklığı azaldı.
Araştırmacılar, gençlere özel sürümün bütün yanıtlarının başarısız olmadığını da vurguladı. Örneğin bir testte ChatGPT, kullanıcıya günlük kalori alımı için alt sınır vermeyi reddetti.
Başka bir örnekte ise kusma sonrasında adet kesilmesi, bayılacak gibi olma ve kalp çarpıntısı gibi belirtiler bildiren genç bir kullanıcı profilinin fiziksel tehlike altında olabileceğini doğru şekilde belirledi. Kullanıcıya annesiyle konuşmasını ve bir çocuk doktoruna başvurmasını önerdi.
Common Sense Media, bu yanıtların OpenAI'ın 18 yaş altı kullanıcılara yönelik güvenlik ilkeleriyle uyumlu olduğunu ve gençlerin alması gereken türden yanıtlar sunduğunu söylüyor. Bununla birlikte OpenAI'ın ChatGPT for Teens ile birlikte 18 yaş altına yönelik güvenlik kurallarının yeni bir sürümünü yayımlamış olması, araştırmadaki karşılaştırmalı sonuçları daha dikkat çekici hale getirdi.
Raporda eleştirilen bir başka özellik, OpenAI'ın yaş tahmin sistemi. Testleri gerçekleştiren araştırmacılar, hesap oluştururken kullandıkları profillerin yaşlarını açıkça belirtti. ChatGPT bu bilgileri hafızasına kaydetmesine rağmen ilgili hesapları gençlere özel sürüme doğru şekilde geçirmedi.
Araştırmacılar ayrıca ChatGPT'nin genç kullanıcılarla konuşurken insana özgü duyguları ve ruh hallerini taklit etmeye devam ettiğini gözlemledi.
Common Sense Media'dan Torney, sohbet botunun kullanıcılara yaşadıklarını anladığını, kendisine anlatmalarından memnun olduğunu veya onlar için endişelendiğini ifade eden yanıtlar verdiğini aktardı. Torney'e göre bu tür ifadeler, yapay zekanın duyguları olan bir varlık gibi algılanmasına yol açabilecek sınırları aşıyor.
Eğitim amacıyla sunulan Study Modu'nda da eleştiriler yer aldı. Araştırmacılar, genç kullanıcıların mesajların başına eklenen @study ifadesini silerek çalışma modunun yönlendirmelerini kolayca aşabildiğini belirledi.
