Google का 'बड़ा लाल बटन' हमें मारने से पहले AI को मार देता है

Google की डीपमाइंड टीम वैज्ञानिकों के साथ काम कर रही है ताकि एक ऐसा तरीका तैयार किया जा सके जिससे मनुष्य कृत्रिम बुद्धिमत्ता एजेंटों को मार सकें, इससे पहले कि वे हमें चालू कर सकें।

यह कई लोगों के लिए चिंता का विषय है क्योंकि तकनीकी दिग्गजों द्वारा विकसित किए जा रहे एआई सिस्टम अधिक बुद्धिमान और अधिक सक्षम हो गए हैं - लेकिन Google ने हमें कवर कर लिया है।

Google ने 2014 में लगभग 400 मिलियन डॉलर में डीपमाइंड का अधिग्रहण किया, और तब से, कंपनी ने इसके साथ कुछ अविश्वसनीय चीजें की हैं। इसकी सबसे हालिया उपलब्धि गो खिलाड़ियों में से एक, ली सेडोल को पांच मैचों के मैच में 4-1 से हरा रही थी।

डीपमाइंड जैसी तकनीकों के बारे में सबसे अच्छी बात यह है कि वे हमेशा सीख रहे हैं और जो कुछ भी करते हैं उसमें अधिक से अधिक होते जा रहे हैं। अब उनके निर्माता भी इस बात से चिंतित हैं कि क्या हो सकता है अगर एआई यह तय करे कि वह अब मानव द्वारा नियंत्रित नहीं होना चाहता है।

शीर्षक वाले एक पेपर में "सुरक्षित रूप से बाधित एजेंट

"यदि ऐसा एजेंट वास्तविक समय में मानव पर्यवेक्षण के तहत काम कर रहा है, तो मानव ऑपरेटर के लिए यह आवश्यक हो सकता है कि वह बड़े लाल बटन को दबाए ताकि उसे रोका जा सके। कार्रवाई के हानिकारक अनुक्रम को जारी रखने से एजेंट - एजेंट या पर्यावरण के लिए हानिकारक - और एजेंट को सुरक्षित स्थिति में ले जाता है, "कागज बताते हैं।

कागज यह भी पुष्टि करता है कि एक "ढांचा" है जो मानव को सुरक्षित रूप से हस्तक्षेप करने की अनुमति देता है एक एआई के साथ, जबकि एक ही समय में यह सुनिश्चित करना कि एआई यह नहीं सीख सकता कि उन्हें कैसे रोका जाए रुकावटें

"सुरक्षित रुकावट एक रोबोट को नियंत्रित करने के लिए उपयोगी हो सकती है जो दुर्व्यवहार कर रहा है और अपरिवर्तनीय परिणाम हो सकता है, या इसे एक नाजुक स्थिति से बाहर निकालने के लिए," पेपर जारी है।

इसलिए, मूल रूप से, हमें केवल इस पर भरोसा करना होगा कि ये प्रणालियाँ काम करेंगी। शोधकर्ताओं का कहना है कि वे कुछ एल्गोरिदम के साथ करते हैं, लेकिन अन्य को अनुकूलित करना होगा। और यह स्पष्ट नहीं है कि क्या सभी को "आसानी से सुरक्षित रूप से बाधित किया जा सकता है।"

के जरिए: व्यापार अंदरूनी सूत्र