Google'ın 'büyük kırmızı düğmesi' bizi öldürmeden önce AI'yı öldürür

Google'ın DeepMind ekibi, insanların yapay zeka ajanlarını bize saldırmadan önce öldürebilecekleri bir yol yaratmak için bilim insanlarıyla birlikte çalışıyor.

Teknoloji devleri tarafından geliştirilen AI sistemleri daha akıllı ve daha yetenekli hale geldikçe, bu birçok kişinin endişe duyduğu bir durum – ancak Google bizi ele aldı.

Google, DeepMind'i 2014 yılında yaklaşık 400 milyon dolara satın aldı ve o zamandan beri şirket onunla inanılmaz şeyler yaptı. En son başarısı, en yüksek dereceli Go oyuncularından biri olan Lee Sedol'u beş maçlık bir maçta 4-1 yenmekti.

DeepMind gibi teknolojilerin harika yanı, her zaman öğrenmeleri ve yaptıkları işte daha iyi olmalarıdır. Artık yaratıcıları bile, yapay zekanın artık bir insan tarafından kontrol edilmek istemediğine karar vermesi durumunda ne olabileceği konusunda endişeli.

" başlıklı bir yazıdaGüvenli Bir Şekilde Kesilebilir Ajanlar

"Böyle bir ajan gerçek zamanlı olarak insan gözetimi altında çalışıyorsa, arada sırada bir insan operatörün büyük kırmızı düğmeye basması gerekebilir. ajanın zararlı bir dizi eylemi sürdürmekten - hem ajan için hem de çevre için zararlı - ve ajanı daha güvenli bir duruma yönlendirmek” kağıt. açıklar.

Makale ayrıca, bir insanın güvenli bir şekilde müdahale etmesine izin veren bir "çerçeve" olduğunu da doğruluyor. bir AI ile, aynı zamanda AI'nın bunları nasıl önleyeceğini öğrenememesini sağlar. kesintiler.

Makale şöyle devam ediyor: "Güvenli kesilebilirlik, hatalı davranan ve geri dönüşü olmayan sonuçlara yol açabilecek bir robotun kontrolünü ele geçirmek veya onu hassas bir durumdan çıkarmak için faydalı olabilir."

Yani, temelde, bu sistemlerin çalışacağına güvenmeliyiz. Araştırmacılar bazı algoritmalarla yaptıklarını söylüyorlar, ancak diğerlerinin uyarlanması gerekiyor. Ve hepsinin “kolayca güvenli bir şekilde kesintiye uğratılabilir hale getirilip getirilemeyeceği” net değil.

Üzerinden: İş İçeriği