يقتل "الزر الأحمر الكبير" من Google الذكاء الاصطناعي قبل أن يقتلنا

يعمل فريق DeepMind من Google مع العلماء لإنشاء طريقة يمكن للبشر من خلالها قتل عملاء الذكاء الاصطناعي قبل أن يتمكنوا من الانقلاب علينا.

إنه مصدر قلق لدى الكثيرين لأن أنظمة الذكاء الاصطناعي التي يتم تطويرها بواسطة عمالقة التكنولوجيا أصبحت أكثر ذكاءً وقدرة - لكن Google قامت بتغطيتنا.

استحوذت Google على DeepMind مقابل 400 مليون دولار في عام 2014 ، ومنذ ذلك الحين ، قامت الشركة ببعض الأشياء المذهلة معها. وكان آخر إنجاز لها هو الفوز على لي سيدول ، أحد أفضل لاعبي جو ، 4-1 في مباراة من خمس مباريات.

ما يميز تقنيات مثل DeepMind هو أنها تتعلم دائمًا وتصبح أفضل في ما تفعله. الآن حتى منشئوهم قلقون بشأن ما قد يحدث إذا قرر الذكاء الاصطناعي أنه لم يعد يريد أن يتحكم فيه الإنسان.

في ورقة بعنوان "وكلاء قابلون للمقاطعة بأمان، "العلماء في DeepMind وجامعة أكسفورد يكشفون عن خطتهم لهذا السيناريو.

"إذا كان هذا الوكيل يعمل في الوقت الفعلي تحت إشراف بشري ، فقد يكون من الضروري بين الحين والآخر لمشغل بشري أن يضغط على الزر الأحمر الكبير لمنع عامل من استمرار تسلسل ضار من الإجراءات - ضار إما للعامل أو بالبيئة - ويقود العامل إلى وضع أكثر أمانًا ، "الورقة يشرح.

تؤكد الورقة أيضًا أن هناك "إطار عمل" في مكان يسمح للإنسان بالتدخل بأمان باستخدام الذكاء الاصطناعي ، مع التأكد في نفس الوقت من أن الذكاء الاصطناعي لا يمكنه تعلم كيفية منع ذلك الانقطاعات.

"المقاطعة الآمنة يمكن أن تكون مفيدة للسيطرة على الروبوت الذي يسيء التصرف وقد يؤدي إلى عواقب لا رجعة فيها ، أو لإخراجها من موقف حساس ،" تستمر الورقة.

لذلك ، في الأساس ، علينا فقط أن نثق في أن هذه الأنظمة ستعمل. يقول الباحثون إنهم يفعلون ذلك ببعض الخوارزميات ، لكن البعض الآخر يجب تكييفه. وليس من الواضح ما إذا كان كل شيء "يمكن مقاطعته بسهولة بأمان."

عبر: مهتم بالتجارة