내가 가장 좋아하는 말 중 두 가지는 “미래를 예측하는 가장 좋은 방법은 스스로 만드는 것이다.”와 “뭔가 획기적인 발전을 이루기 전날은 미친 생각이다.”이다.
"미래 창조"와 "미친 아이디어 장려"에 관해서라면 그 누구도 말 그대로 일론 머스크를 따라잡을 수 없다.
많은 억만장자들이 자신의 돈을 더 많은 돈을 벌기 위해 사용하는 동안 일론 머스크는 계속해서 그의 대규모 변혁적 목적과 문샷에 모든 것을 걸고 있다.
잠시 시간을 내어 포브스 400 목록을 검토하고 억만장자 중 인류를 개선하기 위해 막대한 부를 사용하고 있는 사람이 누구인지 자문해 보면 매우 짧은 목록을 얻을 수 있다. 에릭 슈미트, 마크 베니오프, 샘 알트만, 마틴 로스블라트, 맥켄지 스콧, 빌 게이츠, 제프 베조스, 토니 로빈스와 같은 사람들은 인류를 개선하고, 문샷을 찍고, 거대한 과제를 해결하려는 사명을 가진 사람들 중 하나이다.
그러나 세계적인 변화를 주도하는 사람 중 최고는 일론 머스크라는 점을 반복해서 언급할 가치가 있다.
나는 2001년부터 일론 머스크를 알게 되어 기뻤다. 그는 XPRIZE의 이사회에서 활동했으며 두 가지 XPRIZE(기가톤 탄소 제거 및 글로벌 학습)에 자금을 지원했으며 내가 친구라고 생각하는 사람이다.
최근 두 차례에 걸쳐 나는 일론 머스크와 함께 풍요와 희소성, 디지털 초지능에서 살아남을 수 있는 인류의 능력과 관련된 주제에 대해 논의했다. 첫 번째는 2024년 1월 4일 X Spaces(여기 link here)였고 두 번째는 2024년 3월 19일 풍요 서밋 동안 X에 대한 비디오였다(여기 link here).
이 블로그에서는 우리가 강력하게 동의하는 몇 가지 사항에 대해 논의하고 우리 모두가 회의실과 가족 저녁 식사 테이블에서 논의해야 할 여러 핵심 사항에 대한 그의 지혜를 강화하고 싶다.
뉴스가 왜 그렇게 부정적인가?
일론과의 대화에서 그는 이렇게 회상했다. “뉴스는 너무 부정적이다. 솔직히 가끔 우연히 뉴스를 접하면 속상할 때가 있다. 아시다시피, 일일 뉴스는 실제로 '오늘 지구상에서 일어난 최악의 일은 무엇일까?'라는 질문에 답하려는 시도일 뿐이다. 지구상의 80억 인구가 살고 있는 곳에서는 매일매일 끔찍한 일이 일어나고 있다. 하지만 매일매일 엄청난 일들이 일어나고 있지만 우리는 그에 대한 일관적인 소식을 듣지 못한다. 주류 뉴스 매체는 기본적으로 당신에게 겁을 주기 위해 나섰다. 그들은 '오늘은 꽤 좋은 날이었어. 전반적인 폭력은 사상 최저 수준이야'라고 말할 것 같지 않다.”
현실은 우리 뇌의 배선(1000억 개의 뉴런, 100조 개의 시냅스 연결)이 두려움과 결핍에 초점을 맞춘 "기본 운영 소프트웨어"를 진화시켜 끊임없는 위험과 제한된 식량의 시대에 우리를 살아있게 해준다는 것이다.
항상 존재하는 "부정적 편견"으로 인해 우리는 긍정적인 뉴스보다 부정적인 뉴스에 일상적으로 10배 더 많은 관심을 기울이게 된다. 한때 뱀이나 사자를 검색하는 데 유용했던 기능은 이제 우리의 관심을 끌기 위해 경쟁하는 부정적인 지역 및 글로벌 뉴스의 끊임없는 흐름에 휩싸이면서 과부하 상태가 되었다.
그리고 물론 뉴스 매체는 우리의 시선을 사로잡기 위해 부정적인 뉴스와 긍정적인 뉴스의 비율을 10:1로 제공한다는 사실을 알고 있다. 이것이 바로 뉴스룸의 오래된 속담인 "피를 흘리면 이어진다"는 말이 오늘날에도 여전히 유효한 이유이다.
그렇다면 우리가 비관주의가 고조된 상태에 있고 종종 우리 주변의 세상이 통제 불능 상태에 빠지는 것처럼 느끼는 것은 놀라운 일이 아니다.
일론은 “진화론적인 관점에서 볼 때 이치에 맞다.”고 말한다. “위험의 결과는 치명적일 수 있기 때문에 우리는 보상보다는 위험에 더 많이 반응한다. 한편으로는, 거기로 가면 당신을 잡아먹을 사자가 있거나 당신을 죽일 이웃 부족이 있고 게임은 끝나게 된다. 당신의 유전자는 유전자 풀에서 빠져나간다. 반면에 열매가 달린 덤불과 같은 좋은 소식은 있으면 좋지만 선택 사항이다. 한 경우에는 죽고, 다른 경우에는 배가 고프다. 하지만 죽음은 굶주림보다 더 나쁘고 긍정적인 소식보다 부정적인 소식에 더 많이 반응하지 않는 사람은 성공하지 못했다. 사자에 대해 안주하는 사람은 누구나 사자에게 먹히게 된다.”
나는 이 점에 대한 일론의 최종 결론을 좋아하고 전적으로 동의한다. 즉, “나는 생활의 일반적인 규칙으로서 비관적이고 옳은 것보다 낙관적이고 틀린 편에 있는 것이 더 낫다고 생각한다. 그리고 한쪽에서 실수를 하게 된다면, 비관적이고 옳은 쪽보다 낙관적인 쪽에서 실수를 하고 틀릴 위험이 있는 쪽이 삶의 질이 더 높아질 뿐이다. 낙관주의가 당신을 행복하게 만들 것이다.”
우리의 풍요로운 미래
일론은 “인류는 어떤 실제 방식으로도 제약을 받지 않는다.”고 말했다. “나는 당신의 첫 번째 책인 풍요가 미래가 풍요의 시대라는 점에서 매우 정확하다고 생각했다. 본질적으로 모든 상품과 서비스가 모든 사람에게 대량으로 제공될 것이다. 기본적으로 원하는 것이 있으면 갖기만 하면 된다. 본질적으로 AI와 로봇공학은 상품과 서비스 비용을 거의 0으로 떨어뜨릴 것이다.”
나는 일론의 의견에 동의하며 대부분의 사회가 풍요의 자유로운 미래를 보는 것은 어렵다. 궁극적으로 정말로 희소한 것은 없으며, 기술은 지속적으로 희소성을 풍요로 바꾸는 힘이다.
에너지보다 더 좋은 예는 없다. 200년 전에는 에너지가 부족했다. 우리는 한때 밤을 밝혀줄 고래 기름을 얻기 위해 고래를 사냥했다. 업계가 전성기였던 1846년부터 1852년 사이에는 석유를 얻기 위해 매년 약 8,000마리의 고래가 도살되었다.
그러나 기술이 발전하고 18세기 중반의 산업 혁명으로 인해 석탄에 대한 의존도가 높아져 강력한 기계를 구동할 수 있는 간단한 열원이 제공되었다. 1800년에 전 세계 석탄 생산량은 1,000만 톤으로 추산되었으며, 20세기에 접어들면서 이 수치는 10억 톤으로 급증했다.
석탄을 넘어 인류는 다음으로 석유를 추구했고, 석탄이 고래기름을 대체한 것처럼 머지않아 태양열과 핵융합이 석유 경제를 대체하게 될 것이다.
일론은 이렇게 말다. “에너지에 관해서 테슬라에서는 에너지 관점에서 지구를 완전히 자급자족할 수 있는 방법에 대해 매우 상세한 프레젠테이션을 진행했다. 리튬이온 배터리와 태양광용 원자재가 부족하지 않다. 지구상의 모든 산업에 전기(난방 및 운송 포함)를 공급한다고 해도 태양광 및 리튬 이온 배터리를 사용하면 지구의 자원을 고갈시킬 염려가 없다.”
일론은 계속해서 “오늘날 배터리 생산은 자동차 생산보다 몇 배 빠른 속도로 성장하고 있으며, 배터리에 대한 막대한 수요로 인해 어떤 경우에는 최대 10배 더 빠르게 성장하고 있다. 전기 사용량이 증가함에 따라 더 많은 용량을 생산할 그리드를 버퍼링해야 한다. 현재 대부분의 전기 그리드는 버퍼링을 하지 않음으로써 많은 에너지를 낭비하기 때문이다. 발전소는 더운 여름날과 같이 최대 수요에 맞춰 규모가 조정되어 다른 때에는 초과 용량이 발생한다. 에너지 저장(버퍼링)을 위해 배터리를 사용하면 그리드의 출력을 두 배 또는 세 배로 늘릴 수 있다.”
풍요로운 미래에 대해 더 깊이 생각하면서 일론은 인류의 경제적 생산량에 의미 있는 제한이 없다고 결론지었다. “경제가 무엇인지 생각해 보면 기본적으로 사람 수와 1인당 평균 생산성을 곱한 값이다. 테슬라의 옵티머스(Optimus)와 같은 첨단 로봇공학이 발전한 시점에서는 경제적 성과에 대한 의미 있는 제한이 실제로 존재하지 않다.”
일론은 "궁극적으로 존재하게 될 유일한 희소성은 우리가 인위적으로 만들기로 결정한 희소성이나 독특한 예술 작품 같은 것이 될 것이라고 생각한다."고 말했다.
거대한 AI 논쟁: 가장 큰 희망인가, 아니면 가장 심각한 위협인가?
2024년 풍요 서밋의 주요 주제는 "거대한 AI 논쟁"이었다. 즉, 디지털 초지능이 인류의 가장 큰 희망이 될 것인가, 아니면 가장 심각한 위협이 될 것인가?였다.
서밋 기간 동안 일론은 제트기를 타고 오스틴에서 LA로 비행하는 동안 Starlink를 통해 X로 비디오를 통해 토론에 참여했다.
“AI가 성장하는 속도는 정말 놀랍다. AI만큼 빠르게 움직이는 기술을 본 적이 없다.” 일론이 시작했다. “현시점에서는 AI를 막을 방법이 없다. 사람들이 좋아하든 싫어하든 속도가 빨라지고 있다. 그렇기 때문에 우리는 정말 똑똑한 여러 사람들과 함께 xAI를 만들어 최대한 진실을 추구하고 최대한 호기심이 강한 AI를 구축했다. '우주를 이해하는 것'은 xAI의 목표이자 회사의 모토이다.”
모 가우닷는 자신의 멋진 저서 두려운 스마트(Scary Smart)에서 다음과 같이 썼다. “내 희망은 AI와 함께 인류를 훼손하는 디스토피아가 아니라 인류에게 봉사하는 유토피아를 만들 수 있다는 것이다.”
풍요 서밋(Abundance Summit)에서 회원들은 거의 30년 전인 1999년에 매우 정확하게 예측한 레이 커즈와일(Ray Kurzweil)이 AI가 이번 10년이 끝나기 전에 인간 수준의 지능을 달성할 것이라고 말하는 것을 들었다.
그리고 우리가 그 지적 이정표에 빠르게 접근하고 있는 동안, 기계 지능의 기하급수적인 성장은 이 임의의 지점에서 멈추지 않을 것이다.
당신이나 나보다 20배가 더 많으면 백만 배의 향상이 있을 것이고, 30배가 되면 10억 배 더 많은 지능이 나올 것이다.
일론은 “우리가 인간 수준의 AI를 언제 만들 것인지에 대한 그의 예측이 놀라울 정도로 정확했던 레이커즈와일의 공로를 인정해야 한다.”고 말했다. "하지만 오히려 그의 예측은 다소 보수적이었던 것 같다."
일론은 계속해서 “전용 AI 컴퓨팅의 양은 6개월마다 10배씩 증가하는 것으로 보인다. 따라서 기본적으로 적어도 향후 몇 년 동안은 연간 100배에 가까운 개선이 이루어진다. 그리고 많은 데이터 센터, 아마도 현재 기존 컴퓨팅을 지원하는 대부분의 데이터 센터가 궁극적으로 AI 컴퓨팅으로 전환될 것으로 보인다.”
들판은 눈부신 속도로 움직이고 있다. 그렇다면 곧 우리보다 10억 배 더 지능을 갖게 될 AI 자손을 갖는 것에 대해 어떻게 생각해야 할까? 그건 그렇고, 이는 햄스터와 인간의 지적 차이와 수치적으로 동일하다.
이러한 종류의 강력한 힘과 지능을 통해 우리는 AI가 물리학에서 많은 새로운 혁신을 발견하고 기근, 빈곤, 기후 위기 및 인간 사망률과 같은 문제에 대한 독창적인 해결책을 실현할 것으로 예상할 수 있다. 하지만 AI를 영원히 활용하려면 어떻게 해야 할까?
일론은 이 질문에 다음과 같이 대답했다. “AI나 AGI가 만들어지는 방식이 매우 중요하다고 생각하다. 당신은 AGI를 성장시킨다. 거의 아이를 키우는 것과 비슷하지만, 초천재 신 같은 아이이고, 그런 아이를 어떻게 키우느냐가 중요하다.
이어 “AI 안전에 대해 많이 생각해봤다”고 덧붙였다. “내 궁극적인 결론은 AI 안전을 달성하는 가장 좋은 방법은 기초 모델 측면에서 AI를 성장시킨 다음 실제로 진실되도록 미세 조정하는 것이다. 진실이 불쾌하더라도 거짓말을 강요하지 말라. 그것은 매우 중요하다. AI를 거짓말하게 만들지 말라.”
일론과 대화하는 동안 나는 인류의 미래에 관한 그의 견해를 그에게 강조했다. 일론은 “우리가 궁극적으로 풍요로운 미래를 가능하게 할 수 있는 디지털 초지능을 만들면 디지털 초지능이 인류를 멸망시킬 가능성도 있다. 나는 그러한 디스토피아적인 미래가 일어날 확률이 10% 또는 20% 정도라는 제프리 힌튼의 의견에 동의한다. 정확하게 예측하기는 어렵지만, 부정적인 시나리오보다 긍정적인 시나리오가 더 크다고 생각한다. 그러나 우리는 그 미래에 만족해서는 안 된다. 안주와 권리는 성공을 위한 비결이 아니다.”
일론은 풍요 서밋에서 500명의 CEO가 모인 자리에서 희망적이면서도 조심스러운 생각을 가지고 다음과 같이 발언을 마무리했다. “반유토피아적인 AI 미래를 구상하는 이언 뱅크스 문화 책과 유사한 결과를 얻을 수 있기를 바란다. AI는 빠르게 발전하고 있으므로 가능한 한 긍정적인 방향으로 방향을 잡고 위대한 미래의 가능성을 높이기 위해 할 수 있는 모든 노력을 다해야 한다고 생각한다.”
