OpenAI, ChatGPT kullanıcılarının küçük bir bölümünde kendine zarar düşüncesine işaret eden ifadeler tespit edildiğini bildirdi. Şirket, yayımladığı verilere göre bu tür ruhsal kriz sinyallerinin haftalık aktif kullanıcıların yaklaşık yüzde 0,15’inde görüldüğünü açıkladı. Ayrıca, psikoz ve mani belirtileri ise kullanıcıların yüzde 0,07’sinde gözlemlendi.
Ruh sağlığı güvenliği için yeni sistem oluşturuldu
OpenAI, riskli konuşmaları doğru biçimde yönlendirebilmek amacıyla 60 ülkeden 170’in üzerinde psikiyatrist, psikolog ve pratisyen hekimle iş birliği yaptı. Şirketin açıklamasına göre bu uzmanlar, ChatGPT’nin “kullanıcıyı profesyonel yardım almaya teşvik eden” güvenli yanıt protokollerinin geliştirilmesinde görev aldı.
Riskli içerikler güvenli modellere aktarılacak
Yeni sistemle birlikte kendine zarar riski, sanrılar veya mani belirtileri içeren konuşmalar otomatik olarak daha güvenli modellere yönlendirilecek. OpenAI, bu vakaların “son derece nadir” olduğunu vurgulasa da 800 milyon haftalık kullanıcı ölçeğinde bu oranın yüz binlerce kişiyi kapsayabileceğini belirtti.
Uzmanlardan uyarı: Küçük oran, büyük etki
Kaliforniya Üniversitesi’nden Dr. Jason Nagata, “Yüzde 0,07 küçük bir oran gibi görünse de, milyonlarca kullanıcı arasında bu oldukça fazla kişiyi temsil ediyor,” dedi. Nagata, yapay zekânın ruh sağlığı desteğine erişimi kolaylaştırabileceğini ancak profesyonel yardımı ikame etmemesi gerektiğini vurguladı.
Kaliforniya Üniversitesi Hukuk Fakültesi’nden Prof. Robin Feldman ise, “Yapay zekâ sohbetleri, bazı kişilerde gerçeklik algısını etkileyebilir. OpenAI’nin bu konuda daha dikkatli olması önemli bir adım,” ifadelerini kullandı.
Yasal incelemeler devam ediyor
OpenAI, kullanıcı etkileşimleriyle bağlantılı bazı yasal süreçlerle de karşı karşıya bulunuyor. Şirket, özellikle ruhsal kriz yaşayan kullanıcılarla ilgili vakalarda daha şeffaf raporlama ve erken müdahale sistemleri geliştirmeyi sürdüreceğini açıkladı.
