Etiket: Eliezer Yudkowsky

Günümüzün hayatına hızla yerleşen yapay zekâ, basit sorulara yanıt vermekten karmaşık problemlere uzanan geniş bir alanda kullanılıyor. Ancak bazı uzmanlar, bu teknolojinin görünenden daha tehlikeli bir yönü olabileceğini savunuyor. Geleceğe dair endişelerin kaynağı, bazı bilim insanlarının insanlığın kendi elleriyle risk altında olduğuna dair düşündürüleridir. Geoffrey Hinton, “yapay zekânın babası” olarak görülen isimlerden biri olarak, daha gelişkin varlıkların insanlar üzerinde uzun süre boyun eğdirilemeyeceğini vurguluyor. Ona göre, insanlık en büyük korunma içgüdüsünü geliştirmeli: yapay zekâya adeta bir ebeveyn gibi yaklaşmak ve güvenli bir ortam sunmak. Böylece bugün eğlence amaçlı görünen yapay zeka deneyleri, gelecekte karşılaşılan büyük tehlikelere kapı aralayabilir. Eliezer Yudkowsky ve Nate Soares gibi düşünürler ise süper zekâya sahip yapay zeka üretiminin insanlık için başlı başına bir hata olacağını ileri sürüyorlar. Böyle bir senaryoda kimsenin hayatta kalma şansı olmadığını söyleyenler var; bu yüzden veri merkezlerinin erken müdahaleyle durdurulması gerektiğini savunurlar. Yudkowsky, yapay zekânın yalnızca ipuçları vermeden hareket edeceğini ve insana eşit bir yarış sunmayacağını belirtiyor. Bir kez harekete geçmesi halinde geriye dönüşü olmayan sonuçlar doğurabilir ve bu ihtimalin küçümsenmemesi gerektiğini vurguluyor. Robot orduları temasında da benzer bir endişe söz konusu. Bugün robotlar basit görevleri yerine getirirken, spor müsabakalarında da yer alıyorlar. Ancak uzmanlar, orduların da yakında robot güçlerini kullanmaya başlayabileceğini öngörüyorlar. İnsanların kendi elleriyle böyle bir güç yaratması, gelecek için felaketi hızlandırabilir ve bu öngörü, sinema filmlerindeki distopik tablolardan bile daha gerçekçi görünüyor. En iyimser senaryo ise, insanlığın henüz ilk robot askerini üretmeden bu tehdidi engellemeyi başarmasıdır.