기술 리더들이 서명한 새로운 공개 서한은 "사회와 인류에 심각한 위험"을 초래할 수 있는 고급 인공 지능 응용 프로그램 개발을 6개월간 중단할 것을 촉구합니다.
애플 공동 창업자 스티브 워즈니악, 테슬라 CEO 일론 머스크, 기타 기술 임원 및 많은 AI 학자들이 서한에 서명했습니다. GPT-4보다 더 강력한 "긴급" AI에 대해 주의를 촉구합니다. 우리는 여기서 Siri에 대해 말하는 것이 아닙니다(적어도 아직은 아닙니다).
공개 서한은 고급 AI 관리를 위한 보다 신중한 계획을 위해 일시 중지를 촉구합니다.
그 편지 Future of Life Institute 웹 사이트에 게재됨 수요일 현재 1,123명 이상의 서명을 받았습니다. 일시 중지를 요구하지 않습니다. 모두AI 개발, "창발적인 기능을 갖춘 훨씬 더 크고 예측할 수 없는 블랙박스 모델"입니다.
"우리는 모든 AI 연구실에 GPT-4보다 강력한 AI 시스템 교육을 최소 6개월 동안 즉시 중단할 것을 요청합니다." "공개적이고 검증 가능해야 한다"는 일시 중지를 추가했습니다. 그리고 그것이 빨리 일어나지 않는다면, "정부는 개입하여 모라토리엄을 시행해야 합니다."
'통제불능 레이스'
이 서한은 치열한 경쟁 덕분에 AI 개발이 통제 불능이고, 위험하고, 예측할 수 없으며, 심지어 자체 제작자가 이해할 수 없는 수준이라고 설명했습니다. 그것은 인용했다 Asilomar AI 원칙 2017년 Beneficial AI Conference에서 개발된:
널리 승인된 Asilomar AI 원칙에 명시된 바와 같이, 고급 AI는 지구상의 생명 역사에서 심오한 변화를 나타낼 수 있으며 이에 상응하는 보살핌과 자원으로 계획하고 관리해야 합니다. 불행하게도 최근 몇 달간 AI 연구실이 통제 불능 상태에 빠졌음에도 불구하고 이러한 수준의 계획 및 관리는 이루어지지 않고 있습니다. 그 누구도 – 심지어 제작자도 – 이해, 예측 또는 안정적으로 할 수 없는 더욱 강력한 디지털 마인드를 개발하고 배포하기 위해 경쟁합니다. 제어.
해야 한다 우리도 이렇게 해?
서명자들은 사람들을 강조하는 많은 질문을 제기했습니다. ~해야 한다 AI 개발을 진행하기 전에 물어보십시오. 이 편지는 또한 단순하고 반복적인 작업뿐만 아니라 다양한 수준의 다양한 유형의 작업을 제거하는 AI의 힘을 언급했습니다.
해야 한다 우리는 기계가 우리의 정보 채널을 선전과 거짓으로 넘치게 내버려 두나요? 해야 한다 만족스러운 일을 포함하여 모든 일을 자동화합니까? 해야 한다 우리는 결국 수적으로 더 많고, 더 똑똑하고, 구식이고, 우리를 대체할 수 있는 비인간적인 마음을 개발합니까? 해야 한다 우리 문명의 통제력을 잃을 위험이 있습니까? 그러한 결정은 선출되지 않은 기술 리더에게 위임되어서는 안 됩니다. 강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 합니다.
AI 봇 ChatGPT 개발자도 제안
이 편지는 이전에 ChatGPT 개발자 OpenAI가 일시 중지가 필요할 수 있음을 언급했습니다..
인공 일반 지능에 관한 OpenAI의 최근 성명서는 "언젠가는 사전에 독립적인 검토를 받는 것이 중요할 수 있습니다. 미래 시스템을 교육하기 시작하고 새로운 모델을 만드는 데 사용되는 컴퓨팅의 증가율을 제한하는 데 동의하는 가장 진보된 노력을 위해.” 우리 동의하다. 그 시점은 지금입니다.
긍정적 효과 및 관리 가능한 위험
위에서 언급한 긍정적인 효과와 관리 가능한 위험 외에도 일시 중지의 목표는 다음과 같은 편지에 요약되어 있습니다.
AI 연구 및 개발은 오늘날의 강력한 첨단 시스템을 보다 정확하고 안전하며 해석 가능하고 투명하고 견고하며 정렬되고 신뢰할 수 있으며 충실하게 만드는 데 다시 초점을 맞춰야 합니다.
그리고 편지는 정책입안자들과 협력하여 개발된 거버넌스 시스템을 통해 필요한 안전장치에 대해 설명했습니다.
AI 개발자는 강력한 AI 거버넌스 시스템의 개발을 획기적으로 가속화하기 위해 정책 입안자와 협력해야 합니다. 여기에는 최소한 다음이 포함되어야 합니다. AI에 전념하는 새롭고 유능한 규제 당국; 고도로 유능한 AI 시스템과 대규모 계산 능력 풀에 대한 감독 및 추적 실제와 합성을 구별하고 모델 누출을 추적하는 데 도움이 되는 출처 및 워터마킹 시스템 강력한 감사 및 인증 생태계; AI로 인한 피해에 대한 책임; 기술 AI 안전 연구를 위한 강력한 공적 자금 지원; AI가 야기할 극적인 경제적, 정치적 혼란(특히 민주주의)에 대처할 수 있는 풍부한 자원을 갖춘 기관.
고급 AI를 고려하고 계획하기 위한 일시 중지가 필요하다는 데 동의하십니까? 아래에 자유롭게 의견을 말하십시오.
