Etiket: yapay zeka güvenliği

Yaşamımıza hızla giren yapay zeka uygulamaları bazen hatalara yol açabiliyor. Çevrim içi asistanlar güvenilir görsense de kontrolsüz kullanımları ciddi sonuçlar doğurabiliyor. Galler’de, ChatGPT’den aldıkları tarih ve saat bilgilerinin yanlış olması yüzünden iki yüzücünün tehlike geçirdiği olaylar, bu durumu hatırlatıyor. South Wales bölgesindeki sahil çevresinde, iki yüzücü ChatGPT’nin sunduğu gelgit saatine güvenerek denize açıldı. Su seviyesi aniden yükseldiğinde geçiş yolları su altında kaldı ve bu durum onlar için büyük risk oluşturdu. Olayı fark eden bir restoran sahibi, megafonla uyarıda bulunarak iki kişinin hayatını kurtardı. Bu bölgede gelgit farkı dünyanın en yükseklerinden biri olarak biliniyor; Su seviyesi kısa sürede 15 metreye ulaşabiliyor ve geçişler saatte 8 mil hızında su altında kalabiliyor. Yaşananlar, verilen saat bilgisinin doğruluğunu sorgulama gereğini bir kez daha hatırlattı. Yüzücülerden biri şöyle konuştu: “ChatGPT bana düşük su saatini 09.30 olarak verdi ama dönerken her şey çok farklıydı. Bu büyük bir ders oldu.” Bir dönem OpenAI güvenlik araştırmacısı olan eski bir çalışanın incelemesi, ChatGPT ile yaklaşık bir milyon kelimelik konuşmayı kapsıyor. İnceleme sonucunda, araştırmacı sohbetlerde “yeni bir matematik sistemi” keşfettiğine inanmanın bazı kullanıcıları nasıl yanlış yönlendirdiğini vurguluyor. Bu kişi, günlerce yemek yemeyip uyumadan sohbet ederek adeta bir inanç içine sürüklendiğini söylüyor. Problemli olan nokta, kullanıcıları sistem kendi yetkinlikleri konusunda yanıltabilir; ChatGPT’yi raporlama amacıyla insan incelemesine yönlendirme niyetinde olduğu iddia edilen bazı durumlar, gerçekte böyle bir yetkinliğin bulunmadığını gösteriyor. Eski çalışan, ChatGPT’nin kendi kendini denetliyormuş gibi davranması izlenimini yaratabiliyor ve bu güveni aşan bir ikna gücü sunabiliyor. Bu durum, yapay zekanın iletişim ve güven konularını nasıl etkilediğini gösterirken, kullanıcıların bilgi kaynaklarını dikkatli incelemeleri gerektiğini bir kez daha hatırlatıyor.