'Tombol merah besar' Google membunuh AI sebelum dapat membunuh kita

Tim DeepMind Google telah bekerja dengan para ilmuwan untuk menciptakan cara di mana manusia dapat membunuh agen kecerdasan buatan sebelum mereka dapat menyerang kita.

Ini menjadi perhatian banyak orang karena sistem AI yang dikembangkan oleh raksasa teknologi menjadi lebih cerdas dan lebih mampu — tetapi Google telah membantu kami.

Google mengakuisisi DeepMind sekitar $400 juta pada tahun 2014, dan sejak itu, perusahaan telah melakukan beberapa hal luar biasa dengannya. Prestasi terbarunya adalah mengalahkan salah satu pemain Go dengan peringkat tertinggi, Lee Sedol, 4-1 dalam lima pertandingan.

Apa yang hebat tentang teknologi seperti DeepMind adalah bahwa mereka selalu belajar dan menjadi lebih hebat dalam apa yang mereka lakukan. Sekarang bahkan pencipta mereka khawatir tentang apa yang mungkin terjadi jika AI memutuskan bahwa ia tidak lagi ingin dikendalikan oleh manusia.

Dalam makalah berjudul “Agen yang Dapat Diinterupsi dengan Aman,” para ilmuwan di DeepMind dan Universitas Oxford mengungkapkan rencana mereka untuk skenario itu.

“Jika agen seperti itu beroperasi secara real-time di bawah pengawasan manusia, kadang-kadang mungkin perlu bagi operator manusia untuk menekan tombol merah besar untuk mencegah agen dari melanjutkan urutan tindakan yang berbahaya — berbahaya baik bagi agen atau lingkungan — dan membawa agen ke situasi yang lebih aman,” surat kabar itu menjelaskan.

Makalah ini juga menegaskan bahwa ada "kerangka kerja" yang memungkinkan manusia untuk campur tangan dengan aman dengan AI, sementara pada saat yang sama memastikan bahwa AI tidak dapat mempelajari cara mencegahnya gangguan.

“Interupsi yang aman dapat berguna untuk mengendalikan robot yang berperilaku buruk dan dapat menyebabkan konsekuensi yang tidak dapat diubah, atau untuk mengeluarkannya dari situasi yang sulit,” lanjut makalah itu.

Jadi, pada dasarnya, kita harus percaya bahwa sistem ini akan bekerja. Para peneliti mengatakan mereka melakukannya dengan beberapa algoritma, tetapi yang lain harus disesuaikan. Dan tidak jelas apakah semua “dapat dengan mudah dibuat interupsi dengan aman.”

Melalui: Orang Dalam Bisnis