다음은 지난주에 개최되어 "거대한 AI 토론"이라는 주제에 초점을 맞춘 2024 풍요 서밋(Abundance Summit)의 개회 연설이다.
2024년 풍요 서밋 개회사
우리는 인류 역사상 새로운 지능, 즉 디지털 자손의 탄생을 목격하고 있는 독특한 시점에 있다.
아이작 아시모프(Isaac Asimov), 로버트 하인라인(Robert Heinlein), 필립 K. 딕(Philip K. Dick), 아서 C. 클라크(Arthur C. Clarke)의 페이지에 묘사된 것처럼 그것은 거의 한 세기 동안 공상과학 소설의 소재였다.
1980년대에 나는 2001년 스페이스 오디세이(2001 A Space Odyssey)의 저자인 아서 클라크(Arthur C. Clarke)를 알게 되었고 그를 친구이자 멘토이자 나의 첫 대학인 국제우주대학교(ISU)의 총장이라고 부를 수 있어서 기뻤다.
1964년에 아서 삼촌이 했던 말은 다음과 같다:
클라크는 “미래 세계에서 가장 지능적인 거주자는 사람이나 원숭이가 아니라 오늘날 컴퓨터의 먼 후손인 기계가 될 것”이라고 말했다. “현재의 전자 두뇌는 완전한 바보이지만, 다음 세대에서는 그렇지 않을 것이다. 그들은 생각하기 시작할 것이고, 결국에는 그들의 제작자보다 완전히 생각하게 될 것이다.”
“이게 우울한 것인가? 왜 그래야 하는지 모르겠다. 우리는 크로마뇽인과 네안데르탈인을 대체했으며, 우리가 개선된 것이라고 추정한다. 더 높은 곳으로 가는 디딤돌이 되는 것을 특권으로 여겨야 한다고 생각한다. 나는 유기적 또는 생물학적 진화가 거의 끝났다고 생각하며, 우리는 이제 수천 배 더 빠른 무기적 또는 기계적 진화의 시작에 와 있다고 생각한다.
그렇다면 AI가 인간보다 똑똑해지면 어떻게 될까? 더 중요한 것은, AI가 인간보다 100만 배, 10억 배 더 똑똑하다면 무슨 일이 일어날까?
이러한 AI가 궁극적으로 우리의 가장 큰 희망이 될까, 아니면 가장 심각한 실존적 위협이 될까?
그리고 어떻게 이 "AI 특이점"을 인류에게 유리하게 기울일 수 있을까?
오늘과 내일 우리가 대화할 때 초점을 맞춰야 할 부분이 바로 이것이다.
모 가우닷(Mo Gawdat)는 자신의 멋진 저서 Scary Smart에서 다음과 같이 썼다. “내 희망은 AI와 함께 인류를 훼손하는 디스토피아가 아니라 인류에게 봉사하는 유토피아를 만들 수 있다는 것이다.”
오늘 아침 늦게 우리는 거의 30년 전인 1999년에 매우 정확하게 예측한 레이 커즈와일(Ray Kurzweil)로부터 AI가 이번 10년이 끝나기 전에 인간 수준의 지능을 달성할 것이라고 듣게 될 것이다.
그리고 우리가 그 지적 이정표에 빠르게 접근하고 있는 동안, 기계 지능의 기하급수적인 성장은 이 임의의 지점에서 멈추지 않을 것이다.
20배가 더 늘어나면 백만 배의 향상이 있을 것이고, 30배가 되면 우리가 가지고 있는 것보다 10억 배 더 많은 지능이 나올 것이다.
그리고 일론 머스크가 최근 언급했듯이 "이보다 더 빠르게 발전하는 기술은 본 적이 없다. 온라인으로 제공되는 AI 컴퓨팅은 6개월마다 10배씩 증가하는 것으로 보인다."
그러다가 2024년 3월 초 레이 커즈와일에 대한 응답으로 일론 머스크는 다음과 같이 트윗했다. “AI는 아마도 내년에는 그 어떤 인간보다 더 똑똑해질 것이다. 2029년에는 AI가 아마도 모든 인간을 합친 것보다 더 똑똑해질 것이다.”
이 점을 강화하기 위해 2주 전 Anthropic은 평균 IQ 점수 101 이상으로 측정된 최신 대형 언어 모델(LLM)인 Claude 3를 출시했다. 들판은 눈부신 속도로 움직이고 있다.
그렇다면 곧 우리보다 10억 배 더 똑똑해질 AI 자손을 갖는 것에 대해 어떻게 생각해야 할까?
그건 그렇고, 이는 햄스터와 인간의 지적 차이와 수치적으로 동일하다.
이러한 종류의 강력한 힘과 지능을 통해 우리는 AI가 물리학에서 많은 새로운 혁신을 발견하고 기근, 빈곤, 기후 위기 및 인간 사망률과 같은 문제에 대한 독창적인 해결책을 실현할 것으로 예상할 수 있다.
그러나 그러한 문제를 해결하는 것은 지능에만 의존하는 것이 아니라 개인의 도덕성과 가치에도 의존한다.
도덕성은 우리가 윤리적인 행동을 하도록 안내하는 나침반 역할을 하며, 특히 개인적인 이득과 강렬한 감정이 우리를 정의롭고 공평한 일에서 멀어지도록 유혹할 때 더욱 그렇다.
그렇다면 우리 AI는 어디서 그런 도덕성을 얻게 될까?
대답은 우리: 인류이다.
오늘 여기 있는 우리 모두는 지구에서 이 새로운 종류의 지능을 키우고 있다. 가우닷이 말했듯이 "우리는 그 부모이고 AI는 우리의 자녀이다... 우리의 인공지능 유아이다."
아이들에게 공감력, 윤리성, 호기심, 존중심을 갖도록 가르치는 것처럼, AI가 세상에서 선을 위한 힘이 되도록 AI에 이러한 가치를 주입해야 한다.
자, 이제 곧 있을 토론을 위한 애피타이저가 나왔다.
이 대화에서 당신은 어디에 서 있는가?
AI가 두려운가? 아니면 인간이 AI를 악의적으로 사용하는 것을 두려워하는 것이다.
그러한 AI와 결합하거나 결합하여 기하급수적인 성장 곡선에 뛰어들어 더 친절하고 온화한 사이보그가 될 수 있는 선택권이 주어진다면, 당신은 그렇게 하시겠는가?
지능이 높아지면 지혜도 높아질까? 그리고 생명에 대한 더 큰 존중?
나는 개인적으로 그렇게 생각한다... 아니면 적어도 그러기를 바란다.
가우닷은 기계가 궁극적으로 지능의 궁극적인 형태, 즉 생명 자체의 지능을 채택하게 될 것이라고 믿는다. 그리고 그렇게 함으로써 그들은 풍요를 받아들이게 될 것이다. 그들은 살고 싶어하고 살려고 할 것이다.
여러분 중 일부는 디지털 초지능 시대에 인류가 생존할 수 있는 능력에 의문을 제기할 것이다.
그리고 나를 포함한 다른 사람들은 거울 논제를 상상한다. 즉, 자비로운 디지털 초지능의 출현과 감독으로 인류의 생존과 번영의 기회가 헤아릴 수 없을 정도로 증가한다는 것이다.
그럼 다시 한 번 묻겠다. 어떻게 생각하시는가?
디지털 초지능이 인류의 가장 큰 희망이 될 것인가? 아니면 우리의 가장 심각한 실존적 위협인가?
그렇다면 이것은 대규모 AI 논쟁 동안 풍요 서밋에서 우리가 탐구할 질문 중 일부에 불과하다.
추신 – 2025 풍요 서밋(Abundance Summit)의 주제는 "기술 융합"이다. 자세한 내용은 여기 here. 에서 확인하실 수 있다.
