Etiket: belirsizlik

ChatGPT ve benzeri yapay zeka sohbet botları, zaman zaman “halüsinasyon” olarak adlandırılan yanlış bilgileri güvenli bir şekilde üretmeyi sürdürüyor. Yeni bulgular, bu durumun temel nedeninin, modellerin bilinmezlik karşısında sessiz kalmak yerine tahmin yapmaya yönlendirilmesi olduğuna işaret ediyor. Independent’ın haberine göre, halüsinasyonlar giderek büyüyen bir endişe kaynağı haline geldi ve modeller akıcı bir dil sunsa da yanlış içerikleri yüksek bir güvenle sunabiliyor. Uzmanlar, özellikle tıp ve hukuk gibi kritik alanlarda yapay zekanın kullanımının artmasıyla birlikte bu sorunun daha çok dikkat çektiğini belirtiyor ve halüsinasyon sorununa karşı kapsamlı araştırma ve önlemlerin gerekliliğini vurguluyor. OpenAI ve diğer araştırmacılar, algoritmik yönlendirme hatalarının bu sorunlarda merkezi bir rol oynadığını ifade ediyorlar. Kaynak olarak Oksijen çalışmasında, ChatGPT’nin neden halüsinasyon ürettiğine dair birkaç temel noktaya değiniliyor. OpenAI ekibi, yanlış yönlendirmelerin temel nedenini, modellerin belirsizlik anında doğruyu söylemek yerine tahmin etmeye odaklanmasında görüyor. Bu durum, öğrencinin bilinmeyen bir sınavda rastgele cevaplar vermesiyle analoji kurularak açıklanıyor: Bir sorunun cevabını bilmediği durumda aldığı karar, puan kaybını göze almak yerine tahmin etmesine yol açıyor. Halüsinasyon olasılığının yüksek olduğu bir tablo, özellikle uzun metinler içinde yer alan olaylarda barizleşiyor. Modeller, büyük metin bloklarında bir sonraki kelimeyi tahmin ederek öğreniyor; fakat kullanılan veri kümeleri bazen rastgele veya tutarsız örüntüler içeriyor. Bilgi eksikliği, çelişki veya belirsizlik barındıran durumlarda bu eğilim daha baskın hale geliyor ve model, bilmediği konularda bile stratejik tahminler üretebiliyor. Araştırmaya göre, bu tür stratejik tahminler doğruluğu geçici olarak artırsa da hatayı ve halüsinasyonu da birlikte yükseltiyor. Bunun için etkili bir çözüm var mı? OpenAI ekibi, halüsinasyonları azaltmak adına doğru teşvik mekanizmalarının geliştirilmesini kritik görüyor. Araştırmacılar, modellerin “emin oldukları hatalı yanıtları” daha ağır biçimde cezalandırırken, belirsiz yanıtlar için kısmi puan verilmesini öneriyorlar. Bu yaklaşım, sık karşılaşılan yanlış yanıtlara karşı disiplini artıran ve belirsiz yanıtlar için esneklik tanıyan geleneksel sınav sistemlerinin bir benzetmesini temsil ediyor.