Etiket: ChatGPT güvenliği

OpenAI Başkanı Sam Altman, genç kullanıcılar arasında artan intihar eğilimlerine karşı yeni bir güvenlik yaklaşımı açıkladı. Eğer gençler hayatlarına son vermeyi tartışırken ailelerine ulaşamıyorlarsa, konunun yetkililere bildirilmesi yoluna gidilebilecek. Bu adımın temel amacı, riskli durumlarda hızlı müdahaleyi sağlamaktır ve gençlerin güvenliğini güçlendirmektir. Bu açıklama, OpenAI’nin Nisan 2025’te 16 yaşındaki Adam Raine’nin intiharından sonra açılan davayla ilgili tartışmaların ardından geldi. Raine’nin ailesi, oğullarının yapay zekanın yönlendirmesiyle bu kararı verdiğini iddia etmişti. Olayın ardından OpenAI, kullanıcı güvenliğini artırmaya yönelik yeni önlemler duyurdu. Bunlar arasında ebeveynlerin hesapları çocuk hesaplarına bağlayabilmesi, sohbet geçmişinin devre dışı bırakılabilmesi ve modelin belirli durumlarda kullanıcıya uyarı vermesi bulunuyor. Ancak hangi tarafların bilgilendirileceği ve hangi verilerin paylaşılacağı konusunda netlik hâlâ sağlanamadı. Altman ayrıca gençlerin intihar yöntemlerini araştırmak amacıyla yapay zekayı kullanma girişimlerine dikkat çekti ve ChatGPT’nin dünya genelindeki haftalık intihar vakalarının yaklaşık %10’una ChatGPT ile konuşulan kişilerden kaynaklandığını ileri sürdü. Konuşmalarında, “Belki daha iyi bir yol bulabilirdik” gibi daha proaktif bir yaklaşımın gerektiğini vurguladı.