Teknoloji liderleri tarafından imzalanan yeni bir açık mektup, "toplum ve insanlık için derin riskler" oluşturabilecek gelişmiş yapay zeka uygulamalarının geliştirilmesine altı aylık bir ara verilmesi çağrısında bulunuyor.
Apple'ın kurucu ortağı Steve Wozniak, Tesla CEO'su Elon Musk, diğer teknoloji yöneticileri ve birçok AI akademisyeni mektubu imzaladı. GPT-4'ten daha güçlü "ortaya çıkan" yapay zeka konusunda dikkatli olunmasını tavsiye ediyor. Burada Siri'den bahsetmiyoruz (en azından henüz değil).
Açık mektup, gelişmiş yapay zekayı yönetmek için daha dikkatli planlama için ara vermeye teşvik ediyor
Mektup Life of Life Enstitüsü web sitesinde yayınlandı ve Çarşamba günü itibariyle 1.123'ten fazla imza topladı. Bir duraklama gerektirmez TümüAI geliştirme, yalnızca "gelişmekte olan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modelleri."
Açıklamada, "Tüm yapay zeka laboratuvarlarını, GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz" denildi. "Kamuya açık ve doğrulanabilir olmalıdır" duraklamasını ekledi. Ve hızlı bir şekilde gerçekleşmezse, "hükümetler devreye girmeli ve bir moratoryum başlatmalı."
'Kontrolden çıkmış yarış'
Mektup, yoğun rekabet sayesinde yapay zeka geliştirmeyi kontrolden çıkmış, riskli, öngörülemez ve hatta kendi yapımcılarının anlayamayacağı bir şey olarak tanımlıyordu. Alıntı yaptı Asilomar Yapay Zeka İlkeleri 2017'de Faydalı Yapay Zeka Konferansında geliştirildi:
Geniş çapta onaylanan Asilomar AI İlkelerinde belirtildiği gibi, Gelişmiş yapay zeka, Dünya'daki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda AI laboratuvarlarının kontrolden çıkmış bir duruma kilitlendiğini görmesine rağmen, bu düzeyde bir planlama ve yönetim gerçekleşmiyor. hiç kimsenin - yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde yapamayacağı, her zamankinden daha güçlü dijital beyinler geliştirmek ve dağıtmak için yarışın kontrol.
Meli bunu bile yapıyoruz?
İmzacılar, insanları vurguladıkları bir dizi soru yönelttiler. meli AI geliştirme ile ilerlemeden önce soruyor. Mektup aynı zamanda yapay zekanın yalnızca basit, tekrarlayan görevleri değil, farklı düzeylerdeki birçok işi ortadan kaldırma gücüne de atıfta bulunuyordu.
Meli makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin mi vereceğiz? Meli tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştiriyoruz? Meli sonunda sayıca üstün olabilecek, zekâsı geçebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştiriyor muyuz? Meli uygarlığımızın kontrolünü kaybetme riskini mi alıyoruz? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Güçlü yapay zeka sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir.
AI bot ChatGPT'nin geliştiricisi bile önerdi
Mektup, ChatGPT geliştiricisi OpenAI'nin daha önce bir duraklamanın gerekli olabileceğine dikkat çekti.
OpenAI'nin yapay genel zeka ile ilgili son açıklaması, "Bir noktada, daha önce bağımsız inceleme almak önemli olabilir. geleceğin sistemlerini eğitmeye başlamak ve yeni modeller oluşturmak için kullanılan bilgi işlemin büyüme oranını sınırlandırmayı kabul etmek için en gelişmiş çabalar için.” Biz kabul etmek. O nokta şimdi.
Pozitif etkiler ve yönetilebilir riskler
Yukarıda bahsedilen olumlu etkilere ve yönetilebilir risklere ek olarak, molanın amacı mektupta şöyle özetleniyor:
AI araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır.
Ve mektup, politika yapıcılarla işbirliği içinde geliştirilen yönetişim sistemleri yoluyla gerekli korumaları açıklamaya devam etti.
AI geliştiricileri, sağlam AI yönetişim sistemlerinin gelişimini önemli ölçüde hızlandırmak için politika yapıcılarla birlikte çalışmalıdır. Bunlar en azından şunları içermelidir: yapay zekaya adanmış yeni ve yetenekli düzenleyici makamlar; son derece yetenekli AI sistemlerinin ve büyük hesaplama yeteneği havuzlarının gözetimi ve takibi; gerçek ile sentetik olanı ayırt etmeye ve model sızıntılarını izlemeye yardımcı olmak için kaynak ve filigran sistemleri; sağlam bir denetim ve belgelendirme ekosistemi; AI kaynaklı zarar sorumluluğu; teknik AI güvenlik araştırması için güçlü kamu finansmanı; ve AI'nın neden olacağı dramatik ekonomik ve politik kesintilerle (özellikle demokraside) başa çıkmak için iyi kaynaklara sahip kurumlar.
Gelişmiş AI'yı düşünmek ve planlamak için bir duraklamanın gerekli olduğunu kabul ediyor musunuz? Aşağıda yorum yapmaktan çekinmeyin.
