인공 일반 지능(AGI): 인공지능 기업들은 신을 만들려고 노력하고 있다.
AI 기업들은 세상을 근본적으로 바꾸는 사명을 가지고 있다. 그들은 인간의 지능을 능가하고 우리 모두에게 극적인 경제적 변화를 가져올 수 있는 기계를 만드는 데 주력하고 있다.
ChatGPT를 만든 OpenAI의 CEO인 샘 알트먼은 기본적으로 신을 만들려고 한다고 말했다. 그가 말했듯이 "하늘에 있는 마법의 지능"이다. OpenAI의 공식 용어는 인공 일반 지능 또는 AGI이다. 알트먼은 AGI가 "자본주의를 무너뜨릴" 뿐만 아니라 "아마도 인류의 지속적인 존재에 가장 큰 위협"이라고 말한다.
여기서 매우 자연스러운 질문이 있다. 실제로 이런 종류의 AI를 요청한 사람이 있었을까? 몇몇 강력한 기술 CEO가 무슨 권리로 우리 세상 전체를 뒤집어야 한다고 결정할 수 있을까?
민간 기업이 대중의 지지를 구하지 않고 세상을 완전히 바꾸는 것을 목표로 하는 기술을 만드는 것은 분명히 비민주적이다. 사실, 대기업의 리더들조차도 이것이 얼마나 비민주적인지에 대해 불안함을 표현하고 있다.
AI 회사 Anthropic의 공동 창립자인 잭 클라크는 "이것이 정부 프로젝트가 아니라는 것은 정말 이상한 일"이라고 말했다. 그는 또한 "AI 개발자가 사회를 돌이킬 수 없게 바꾸기 전에 사회로부터 얼마나 많은 허가를 받아야 할까?"를 포함하여 자신이 "혼란스럽고 불안하다"고 쓴 핵심적인 사항들이 몇 가지 있다고 적었다. 클라크는 계속해서 다음과 같이 말했다:
기술자들은 항상 자유주의적 성향을 어느 정도 가지고 있었고, 이는 아마도 2010년대의 '소셜 미디어'와 Uber et al 시대에 가장 잘 표현될 수 있을 것이다. 소셜 네트워크에서 승차 공유 시스템에 이르기까지 사회를 변화시키는 광대한 시스템이 세상에 배치되었고, 영향을 미치는 사회를 거의 고려하지 않고 공격적으로 확장되었다. 이러한 형태의 허가 없는 발명은 기본적으로 실리콘 밸리와 일반적인 '빠르게 움직이고 물건을 부수자'라는 기술 철학에서 전형적으로 보여지는 암묵적으로 선호되는 개발 형태이다. AI에도 마찬가지여야 할까?
누군가가 "허가 없는 발명"이라는 규범에 의문을 제기하면 많은 기술 애호가들이 반발한다. 그들의 반대 의견은 항상 세 가지 범주 중 하나에 속하는 듯하다. 이것은 매우 오래되고 중요한 논쟁이기 때문에 각각을 차례로 다루는 것이 가치가 있으며, 왜 그들이 틀렸다고 생각하는지 설명한다.
이의 제기 1: "우리의 사용은 우리의 동의이다"
ChatGPT는 역사상 가장 빠르게 성장하는 소비자 애플리케이션이다. 출시 후 불과 2개월 만에 1억 명의 활성 사용자를 확보했다. 많은 사람들이 정말 멋지다고 생각한다는 것은 의심할 여지가 없다. 그리고 이는 Claude와 같은 다른 챗봇의 출시를 촉진했으며, 저널리스트부터 코더, 다른 사람(또는 무언가)이 빌어먹을 식료품 목록을 작성하기를 원하는 바쁜 부모에 이르기까지 모든 종류의 사람들이 이를 사용하고 있다.
어떤 사람들은 이 간단한 사실, 즉 우리가 AI를 사용하고 있다는 사실이 사람들이 대기업이 하는 일에 동의한다는 것을 증명한다고 주장한다.
이는 흔한 주장이지만, 나는 매우 오해의 소지가 있다고 생각한다. 우리가 AI 시스템을 사용한다는 것은 동의와 같지 않다. "동의"란 일반적으로 무지나 강압에서 비롯된 동의가 아니라 정보에 입각한 동의를 의미한다.
많은 대중은 이러한 시스템의 진정한 비용과 이점에 대해 알지 못한다. 예를 들어, 생성 AI가 너무 많은 에너지를 빨아들여 Google과 Microsoft와 같은 회사가 결과적으로 기후 공약을 어기고 있다는 사실을 아는 사람이 얼마나 될까?
게다가, 우리는 모두 우리가 피하고 싶은 기술을 사용하도록 강요하는 선택 환경에서 살고 있다. 때때로 우리는 그것을 사용하지 않으면 직업적으로 불리할까봐 두려워서 기술에 "동의"한다. 소셜 미디어를 생각해 보자. 나는 개인적으로 저널리스트로서의 제 직업에 중요하다고 여겨지지 않았다면 X(이전 명칭 Twitter)에 접속하지 않았을 것이다. 최근 조사에서 많은 젊은이들이 소셜 미디어 플랫폼이 발명되지 않았으면 좋겠다고 말했지만, 이러한 플랫폼이 존재한다는 점을 감안하면, 그들은 그 플랫폼에 참여해야 한다는 압력을 느낀다고 한다.
누군가가 특정 AI 시스템을 사용하는 것이 동의를 구성한다고 생각하더라도, 그것이 AGI를 구축하는 더 큰 프로젝트에 동의한다는 것을 의미하지는 않는다.
여기서 중요한 구별이 생긴다. 좁은 AI가 있다. 좁은 AI는 특정 작업(예: 언어 번역)을 위해 특별히 제작된 시스템이고, AGI가 있다. 좁은 AI는 환상적일 수 있다! AI 시스템이 무료로 작업의 조잡한 사본 편집을 수행하거나, 일반 영어를 사용하여 컴퓨터 코드를 작성할 수 있도록 하는 것은 유용하다. AI가 과학자들이 질병을 더 잘 이해하는 데 도움이 된다는 것은 대단한 일이다.
그리고 AI가 단백질 접힘 문제(단백질이 어떤 3D 모양으로 접힐지 예측하는 과제)를 해결했다는 것은 매우 대단한 일이다. 이 문제는 50년 동안 생물학자들을 당혹스럽게 했다. 노벨 화학 위원회는 이에 분명히 동의한다. 최근 이 획기적인 발견을 가능하게 한 AI 선구자들에게 노벨상을 수여했는데, 이는 약물 발견에 도움이 될 것이다.
하지만 그것은 인간을 앞지르는 범용 추론 기계, 즉 "하늘의 마법 지능"을 구축하려는 시도와는 다르다. 많은 사람들이 좁은 AI를 원하지만, 여론 조사에 따르면 대부분의 미국인은 AGI를 원하지 않는다.
이의 제기 2: "대중은 혁신가들에게 혁신 방법을 말할 만큼 무지하다"
다음은 자동차 제조업체 헨리 포드의 말에서 흔히(의심스럽지만) 인용되는 인용문이다. "사람들에게 무엇을 원하는지 물었다면, 그들은 더 빠른 말이라고 말했을 것이다."
여기서 주장하는 바는 천재 발명가들이 새로운 발명품을 출시하기 전에 대중의 지지를 구하지 않는 데에는 충분한 이유가 있다는 것이다. 사회는 너무 무지하거나 상상력이 부족하여 좋은 혁신이 어떤 것인지 알 수 없기 때문이다. 인쇄기에서 전신기, 전기와 인터넷에 이르기까지 역사상 위대한 기술 혁신의 대부분은 몇몇 개인이 명령에 따라 결정했기 때문에 발생했다.
하지만 명령에 따라 결정하는 것이 항상 적절하다는 것은 아니다. 사회가 종종 발명가들이 그렇게 하도록 내버려 둔 사실은 부분적으로는 기술적 해결책주의 때문이고, 부분적으로는 역사에 대한 "위대한 인물" 관점에 대한 믿음 때문이고, 부분적으로는 대중 매체가 등장하기 전, 즉 인쇄기나 전신이 등장하기 전에는 사회의 광범위한 계층을 상담하는 것이 꽤 어려웠기 때문일 수 있다!
그리고 그러한 발명품은 인식된 위험과 실제적 해악을 수반했지만, 인류를 완전히 없애거나 우리를 다른 종에게 종속시킬 위협을 초래하지는 않았다.
지금까지 그 기준을 충족하는 몇 안 되는 기술에 대해 민주적 의견을 구하고 세계적 감독을 위한 메커니즘을 수립하려고 시도했으며, 이는 당연한 일이다. 그것이 우리가 핵확산금지조약과 생물학무기금지조약을 맺은 이유이다. 이 조약들은 효과적으로 이행하기는 어렵지만 우리 세계를 안전하게 지키는 데 매우 중요하다.
물론 대부분의 사람들이 AI의 핵심을 이해하지 못하는 것은 사실이다. 따라서 여기서의 주장은 대중이 AI 정책의 세부 사항을 지시해야 한다는 것이 아니다. "정부가 재난이 발생하기 전에 안전 기준을 시행해야 할까, 아니면 사고가 발생한 후에만 기업을 처벌해야 할까?"와 "전혀 존재하지 말아야 할 특정 종류의 AI가 있을까?"와 같은 질문에 대한 대중의 일반적인 바람을 무시하는 것은 잘못된 일이라는 것이다.
비영리 단체인 AI 정책 연구소의 전무 이사인 다니엘 콜슨이 작년에 나에게 말했듯이, "정책 입안자들은 유권자나 여론 조사 결과에서 이러한 문제를 해결하는 방법에 대한 구체적인 내용을 받아서는 안 된다. 하지만 유권자들이 질문해야 할 적절한 사람은 다음과 같다. 정책에서 무엇을 원하는가? 그리고 사회가 어떤 방향으로 나아가기를 원하는가?"
이의 제기 3: "어차피 혁신을 억제하는 건 불가능하다"
마지막으로, 기술적 필연성 주장이 있는데, 이는 기술 진보의 행진을 멈출 수 없다는 것이다. 멈출 수 없다!
이것은 신화이다. 사실, 우리가 만들지 않기로 결정했거나, 만들었지만 매우 엄격한 제한을 가한 기술이 많이 있다. 인간 복제나 인간 생식 세포 변형을 생각해 보라. 1975년 아실로마 회의의 배후에 있는 재조합 DNA 연구자들은 특정 실험에 대한 유예 기간을 정한 것으로 유명하다. 우리는 특히 인간을 복제하지 않는다.
또는 1967년 우주 조약을 생각해 보라. 냉전의 배경 속에서 유엔이 채택한 이 조약은 국가가 우주에서 특정 일을 하는 것을 금지했다. 예를 들어 핵무기를 우주에 저장하는 것과 같다. 오늘날 이 조약은 외계인에게 도달하고자 우주로 메시지를 보내야 하는지에 대한 논쟁에서 거론된다. 어떤 사람들은 외계 종족이 우리를 알게 되면 우리를 정복하고 억압할 수 있기 때문에 위험하다고 주장한다. 다른 사람들은 그것이 대단할 것이라고 주장한다. 어쩌면 외계인들이 우리에게 갈락티카 백과사전dl라는 형태로 지식을 선물할지도 모른다!
어느 쪽이든, 위험이 엄청나게 높고 모든 인간 문명이 영향을 받을 것이 분명하며, 일부 사람들은 의도적인 전송을 우주로 보내기 전에 민주적인 심의를 해야 한다는 주장을 한다.
고대 로마 속담에 이렇게 있다. 모든 것에 영향을 미치는 것은 모든 사람이 결정해야 한다.
그것은 핵무기, 화학 무기 또는 성간 방송과 마찬가지로 초지능 AI에도 해당한다.
글쓴이: Sigal Samuel은 Vox의 Future Perfect의 선임 리포터이자 Future Perfect 팟캐스트의 공동 진행자이다. 그녀는 주로 의식의 미래에 대해 글을 쓰고, 인공지능과 신경과학의 발전과 그 엄청난 윤리적 의미를 추적한다. Vox에 합류하기 전에 Sigal은 Atlantic의 종교 편집자였다.
