광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[인공 일반 지능(AGI)을 지배하는 절대적 권력을 막아야 한다] OpenAI 내부 이메일에서 직원들이 일론 머스크가 인공일반지능(AGI)을 통제할까봐 두려워한다는 사실이 드러났다. OpenAI의 목표는 미래를 좋게 만들고 AGI 독재를 피하는 것이다.

https://futurism.com/the-byte/openai-emails-elon-musk-agi

운영자 | 기사입력 2024/11/20 [00:00]

[인공 일반 지능(AGI)을 지배하는 절대적 권력을 막아야 한다] OpenAI 내부 이메일에서 직원들이 일론 머스크가 인공일반지능(AGI)을 통제할까봐 두려워한다는 사실이 드러났다. OpenAI의 목표는 미래를 좋게 만들고 AGI 독재를 피하는 것이다.

https://futurism.com/the-byte/openai-emails-elon-musk-agi

운영자 | 입력 : 2024/11/20 [00:00]

 

인공 일반 지능(AGI)을 지배하는 절대적 권력을 막아야 한다.

 

절대적 권력

일론 머스크가 샘 알트먼을 상대로 한 소송에서 증거를 찾는 과정에서이 그룹의 역사 초기에 주고받은 이메일은 그 회사의 강력한 창작물을 누가 통제할 것인지에 대한 긴장이 일찍부터 고조되었음을 보여준다.

 

머스크 VS 알트먼 재판에서 증거로 제출된 이러한 초기 이메일 중 하나에서 OpenAI의 공동 창립자인 일리아 수츠케버는 통제에 대한 그의 이기적인 욕구와 그것이 인공 일반 지능(AGI)으로 더 잘 알려진 다가올 인간 수준의 AI에 미칠 수 있는 위험에 대해 그를 질책했다.

 

"현재 구조는 AGI에 대한 일방적인 절대적 통제권을 갖게 되는 길을 제공한다."라고 수츠케버는 2017 9월 알트먼과 머스크에게 편지를 썼다. "당신은 최종 AGI를 통제하고 싶지 않다고 말했지만이 협상에서 절대적 통제권이 당신에게 매우 중요하다는 것을 보여주었다."

 

"예를 들어당신은 모든 사람이 당신이 책임자라는 것을 알 수 있도록 새로운 회사의 CEO가 되어야 한다고 말했다." 그는 계속해서 말했다. "당신은 CEO가 되는 것을 싫어하고 CEO가 되고 싶지 않다고 말했지만 말이다."

 

통제 하에

특히이 이메일은 머스크가 회사가 자금을 어떻게 조달해야 하는지에 대한 의견 불일치로 OpenAI에서 사임하기 6개월도 채 안 된 시점에 전송되었다이는 현재 알트먼 등을 상대로 한 소송의 핵심이기도 하다.

 

수츠케버는 "회사가 AGI를 향해 진정한 진전을 이룰 때당신은 현재의 반대 의도에도 불구하고 회사에 대한 절대적 통제권을 유지하기로 선택할까봐 우려한다."라고 썼다.

 

비슷한 우려 때문에 수츠케버는 작년에 알트먼에 대한 쿠데타를 성공적으로 이끌었고이번 봄에 자신의 축출이 명백해졌을 수도 있다머스크에게 보낸 그의 나머지 비판적인 이메일에서 알 수 있듯이그는 걱정할 만한 충분한 이유가 있었다.

 

"OpenAI의 목표는 미래를 좋게 만들고 AGI 독재를 피하는 것이다."라고 그는 썼다. "당신은 데미스[Google DeepMind AI 연구소의 설립자 하사비스] AGI 독재를 만들 수 있다고 우려하고 있다우리도 마찬가지이다따라서 당신이 원한다면 독재자가 될 수 있는 구조를 만드는 것은 나쁜 생각이다특히 우리가 이러한 가능성을 피할 수 있는 다른 구조를 만들 수 있다는 점을 감안할 때 더욱 그렇다."

 

특히 수츠케버가 스스로 물러나고 AGI 안전을 촉진하는 새로운 벤처를 설립한 후그 메시지를 회고해보면특히 머스크가 대통령 당선자 도널드 트럼프를 포용하는 모습이 세상을 운영하는 방식을 통제하려는 깊은 갈증을 드러내기 때문에 꽤나 소름이 끼친다.

 

 

 

 
인공지능, AI, AGI, 통제권, 절대적 권력 관련기사목록
광고
광고
광고
광고
광고
광고
광고
AI메타홈서비스 많이 본 기사
광고
광고