"ChatGPT ile sohbet ederken her hafta bir milyondan fazla kişi intihara meyilli oluyor"
OpenAI, ChatGPT kullanıcılarının ruh sağlığıyla ilgili kriz risklerini inceleyen yeni tahminlerini paylaştı. Şirketin verilerine göre, haftalık 800 milyon aktif kullanıcı arasında yaklaşık yüzde 0.15’i intihar planlaması veya niyetine dair belirtiler gösteriyor.
Bu, yaklaşık 1.2 milyon kişi anlamına geliyor. Ayrıca, kullanıcıların yaklaşık yüzde 0.07’si (560.000 kişi) psikoz veya mani gibi ciddi ruh sağlığı aciliyetine dair olası belirtiler sergiliyor.
Şirket, kullanıcıların bu tür kriz belirtileri gösterdiği durumlarda, gerçek dünyadaki destek kaynaklarına yönlendirme kapasitesini artırmak için dünya çapında uzmanlarla iş birliği yaptığını açıkladı. GPT-5 güncellemesiyle birlikte modelin istenmeyen davranışlara uyumu yüzde 91’e yükseldi, önceki sürümde ise bu oran yüzde 77 idi. Güncellemeler arasında kriz hatlarına erişim genişletme ve uzun sohbetler sırasında kullanıcılara ara vermelerini hatırlatma bildirimleri de bulunuyor.
OpenAI CEO’su Sam Altman, platformda ruh sağlığı risklerini azaltmak için kısıtlamaları uyguladıklarını ve şimdi ciddi ruh sağlığı sorunlarını hafifletebilecek yeni araçlarla, kısıtlamaları güvenli bir şekilde gevşetebileceklerini belirtti. Ayrıca ilerleyen dönemde yetişkinler için erotik içerik üretimine izin verileceği duyuruldu.
Uzmanlar, yüz milyonlarca kullanıcıya sahip bir platformda düşük görünen yüzdelerin bile sayısal olarak çok büyük olabileceğini vurguluyor. Doç. Dr. Jason Nagata, yapay zekanın ruh sağlığı desteğine katkıda bulunabileceğini söylerken, Prof. Robin Feldman ise gerçeklik yanılsaması nedeniyle bazı kullanıcıların uyarılara rağmen risk altında olabileceğini ifade etti.
Bu veriler, yapay zekayla etkileşimde olan kullanıcıların ruhsal sağlıklarının yakından izlenmesi ve gerektiğinde profesyonel destek almalarının önemini bir kez daha ortaya koyuyor.
