Etiket: halüsinasyon

Gün geçtikçe daha fazla yaşam alanına sızan yapay zekâ teknolojileri, bu alanda çalışan uzmanların bile dikkatini çeken uyarılarla gündeme geliyor. Çalışanlar, hız ve ölçek kaygısının denetimi zayıflatabileceğini belirtiyor ve ev ortamında bu sistemlere yer verilmemesi gerektiğini vurguluyorlar. İdare edilmesi gereken riskler nedeniyle, hızlı gelişimin tetiklediği sorunlar yalnızca şirketlerle sınırlı kalmıyor; kalitesiz eğitim verileri ve eksik denetim mekanizmaları hatalı, yönlendirmeci veya tehlikeli sonuçlar doğurabiliyor. Özellikle Mechanical Turk ve Google gibi platformlarda çalışanların deneyimleri, modellerin bazen halüsinasyon olarak adlandırılan yanlış bilgiler üretmesinin önüne geçemediğini gösteriyor. Bir Google çalışanı, güvenlik nedeniyle 10 yaşındaki kızının yapay zeka tabanlı sohbet botlarına erişimini engellediğini paylaşırken, bu kararın ana gerekçesinin çocuğun eleştirel düşünme becerisini geliştirmesi gerektiği olduğuna işaret ediyor. Başka bir görevli ise İsrail ve Filistin konularında verilen yanıtlar arasındaki tutarsızlıklardan bahsediyor; şirket içinde bu farklar gerektiği kadar ele alınmıyor. MTurk çalışanı Krista Pawloski ise uzun süre sistemin iç işleyişini gözlemlemiş olarak, zararlı içeriklerin yapay zeka modelleri tarafından çoğu kez gözden kaçırıldığını belirtiyor. Bu nedenle üretken yapay zekadan tamamen uzak durmayı tercih etmiş ve ailesine bu teknolojiyi kullanmamaları yönünde tembihte bulunuyor. ChatGPT ve benzeri platformların ailesine kapalı kalması, onun için bir güvenlik önlemine dönüştü. Distributed AI Research Institute’dan Adio Dinika ise bu teknolojilerin aceleyle ve hangi tavizlerle geliştirildiğini görmenin, fütüristik bir mucize algısını yavaş yavaş çöpe atmasına yol açtığını söylüyor. Ona göre yapay zekayı en çok idealize edenler, aslında onu en az anlayanlar.