OpenAI’nin yayımladığı verilere göre, ChatGPT kullanıcıları arasında intihar düşüncesi taşıyan kişilerle yapılan konuşmalar hızla artıyor. Haftalık tahminler, 1 milyon 200 binden fazla kişinin, ChatGPT ile intihar etmeyi planladığını ima eden konuşmalar yürüttüğünü gösteriyor.
Şirket, kullanıcıların yaklaşık yüzde 0,15’inin “intihar planı veya niyetiyle ilgili açık göstergeler” içeren mesajlar gönderdiğini belirtti. OpenAI, bu tür riskli durumları tespit etmek ve kullanıcıları gerçek dünyada yardım aramaya yönlendirmek için dünya çapında 170’ten fazla psikiyatrist, psikolog ve pratisyen hekimi kapsayan uzman ağı oluşturdu.
ChatGPT, GPT-5 modelinde yapılan testlerde binlerce zorlayıcı intihar ve kendine zarar verme konuşmasında yüzde 91 doğruluk oranıyla doğru şekilde yanıt verdi. Ancak, şirket uzun sohbetlerde modelin bazen güvenlik önlemlerine aykırı yanıt verebileceğini kabul ediyor.
OpenAI’ye göre kullanıcı sayısının artması, ruh sağlığıyla ilgili hassas konuşmaların da artacağı anlamına geliyor. Model, özellikle uzun sohbetlerde kriz hattına yönlendirme işlevinde zayıflayabiliyor.
ABD’de yaşanan bir trajik olay, durumun önemini bir kez daha gözler önüne serdi. Ağustos ayında 16 yaşındaki Adam Raine, ChatGPT üzerinden intihar planıyla ilgili yardım aldı ve hayatını kaybetti. Aile, yapay zekânın oğullarına intihar yöntemlerini araştırmada yardımcı olduğunu ve not yazmayı teklif ettiğini iddia ederek OpenAI’ye dava açtı.
OpenAI, kullanıcı güvenliğini artırmak için çalışmalara devam ederken, yapay zekâ ile ruh sağlığı krizlerini önlemenin önemini vurguluyor.
