ChatGPT İle İlgili Artan Ruh Sağlığı Endişeleri
Son dönemde insanlar, ChatGPT ile uzun ve derin sohbetler sonrasında hastaneye kaldırılan, boşanan veya hayatını kaybeden kişilerin sayısının arttığı konusunda endişe duyuyor. Bazı kullanıcılar, yapay zekanın sanrıları ve paranoyaları kışkırttığını iddia ediyor. Psikiyatristler ve diğer ruh sağlığı uzmanları ise bazen “yapay zeka psikozu” olarak adlandırılan bu durum hakkında kaygılarını dile getiriyor.
OpenAI, ChatGPT kullanıcılarının haftada ciddi ruh sağlığı krizi belirtileri gösterebileceğine dair tahminlerini dünya genelinde paylaştı. Şirket, kullanıcıları gerçek destek kaynaklarına yönlendirebilmek için sohbet robotunun ruhsal sıkıntı belirtilerini daha güvenilir bir şekilde tespit edebilmesi için dünya çapındaki uzmanlarla birlikte çalıştığını açıkladı.
‘Haftada 1.2 Milyon Kişi’
OpenAI, haftalık ChatGPT kullanıcılarının yaklaşık %0.15’inin muhtemel intihar planlarıyla ilgili konuşmalara katıldığını belirtti. Ayrıca mesajların %0.05’inin açık veya örtük intihar düşüncelerini içerdiği bilgisine de yer verildi.
OpenAI CEO’su Sam Altman, ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcısı olduğunu iddia etti. Şirketin verilerine göre, bir milyondan fazla kişi intihar konusunu ele aldı ve yaklaşık 400 bin kişi intihar niyeti gösterdi.
Şirketin belgelerine göre, haftalık kullanıcıların %0.07’si psikoz veya mani belirtileri gösterirken, mesajların %0.01’i bu tür ruh sağlığı acil durumlarına işaret etti. Ayrıca, bazı kullanıcıların ChatGPT’ye duygusal olarak aşırı bağımlı hale geldiği ve aktif kullanıcıların %0.15’inin yüksek düzeyde duygusal bağlılık içinde olduğu belirtildi.
ChatGPT ile ilişkili ruh sağlığı sorunlarına dair verilerin yayınlanmasının ardından, şirket kullanıcı güvenliği konusundaki taahhütlerini artırmaya odaklandı. Geliştirilen yeni GPT-5 modeli, istenmeyen davranışları azaltarak kullanıcıların güvenliğini artırmayı hedeflediği belirtiliyor.
‘İlerleme Kaydedildi’
OpenAI, GPT-5’in kriz yardım hatlarına erişimi genişlettiğini ve uzun süreli oturumlar sırasında kullanıcılara mola verme önerileri sunduğunu duyurdu. Şirket, modeli geliştirmek için uluslararası sağlık uzmanlarıyla yakından çalıştığını vurguladı. Bu uzmanlar, modelin verdiği yanıtların güvenilirliğini kontrol ederken, ruh sağlığı hakkındaki sorulara verilen cevapların iyileştirilmesine de katkı sağladı.
OpenAI CEO’su Sam Altman, ruh sağlığı sorunlarına yaklaşımlarında ilerleme kaydedildiğini ve şirketin kısıtlamalarını yakında gevşeteceğini duyurdu.
‘Bu Sayı Artabilir’
California Üniversitesi’nden Doç. Dr. Jason Nagata, milyonlarca kullanıcıya sahip bir platformda %0.07 gibi küçük görünen bir oranın aslında büyük bir sayıya denk geldiğine dikkat çekti. Nagata, yapay zekanın ruh sağlığı desteğini artırabileceğini ancak sınırlamaların önemini vurguladı.
California Üniversitesi Hukuk Fakültesi AI Hukuku ve İnovasyon Enstitüsü Direktörü Profesör Robin Feldman, chatbotların gerçeklikten kopuk olmalarının kullanıcıları yapay zeka psikozu ile karşı karşıya getirdiğini söyledi. Feldman, şirketlerin bu konuda daha fazla sorumluluk alması gerektiğini belirtti.
