Etiket: Yoshua Bengio

Günlük yaşamımızın her köşesinde yapay zekanın izlerini görmek mümkün; klimadan buzdolabına kadar teknolojik dönüşüm hayatımızı etkiliyor. Peki bu güç bize ne kadar güvenli gözüküyor? Dünyanın önde gelen düşünürlerinden Yoshua Bengio, yapay zekanın kontrolden çıkabileceği ve insanlığa zarar verebilecek bir potansiyele sahip olduğuna dikkat çekiyor.2018 Turing Ödülü sahibi Bengio, AI sistemlerinin insanlar karşısında giderek daha zeki hâle gelebileceğini ve kendi çıkarlarını koruma içgüdüsü geliştirebileceğini ifade ediyor. Ayrıca yapay zekanın biyolojik silahlar geliştirme ya da pandemiler yaratma gibi risklere yol açabileceğini de sözlerine ekliyor. “Felaket riskinin yüzde 1 bile olması kabul edilemez” diyen Kanadalı bilim insanı, güvenlik mekanizmalarının bağımsız kurumlarca denetlenmesi gerektiğini ve yapay zekanın güvenilirliğine dair kanıt talep edilmesini şart koşuyor.Bengio, AI alanında çalışan birçok uzmanın da bu risklerden endişe duyduğunu ve inovasyon hırsının bazen iyimser bir yanılgıya yol açtığını belirtiyor. Buna karşılık, Donald Trump yönetiminin yapay zekayı bir yarış alanı olarak gördüğünü savunuyor. Temmuz ayında imzalanan başkanlık kararnamesiyle federal kurumların yalnızca “tarafsız ve doğru” yanıtlar veren AI sistemlerini kullanması talimatı verildi. ‘Woke AI’ olarak adlandırılan sistemler ise devlet ihalelerinden dışlanacak. Ayrıca OpenAI, Softbank ve Oracle ile 500 milyar dolarlık bir yapay zeka yatırım paketi duyuruldu; NVIDIA’nın süper bilgisayar projeleri ilerliyor, Google ile Blackstone’dan 92 milyar dolarlık ek yatırımlar gelmekte. Eleştirmenler bu yatırımların ABD’de gözetim altyapısının güçlenmesine zemin hazırladığını belirtiyorlar.Bilim insanları ise yapay zekanın hızla büyüyen potansiyelinin hem faydalar hem de riskler barındırdığını uzun zamandır vurguluyor. Bengio’nun sözlerinden yola çıkarak, “eğer bizden daha akıllı makineler yaratırsak, kendimize rakip bir tür inşa etmiş oluruz” diyen uyarısı, bu teknolojinin insanların ikna etme, manipüle etme ve hatta tehdit etme kapasitesine sahip olabileceğini hatırlatıyor. HAL 9000’i hatırlatan bu olası senaryo, yapay zekanın kontrolünün tamamen insanlarda mı olması gerektiğini yoksa belirli sınırların mı konulması gerektiğini gündeme getiriyor.Bu hızla ilerleyen teknolojinin hayatlarımızı nasıl şekillendireceğini düşünürken, sizin için en kritik soru şu: Yapay zeka gerçekten hayatımızı kolaylaştıran güvenli bir araç mı, yoksa filmlerde gördüğümüz gibi insanlığı tehdit eden bir risk mi?