[인공 의식에 관한 논쟁: 우리는 의식이 있는 기계를 만들 수 있을까?] 의식이 금속과 실리콘 재료를 이용해 만들어 질 수 있을까? 인간은 내장형 인슐린 펌프부터 뇌-컴퓨터 인터페이스, 신경보철물에 이르기까지 모든 것을 통해 기계와 융합되고 있다. 의식 있는 AI로 가는 길은 불가피하다.https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neuroscience-mind
인공 의식에 관한 논쟁: 우리는 의식이 있는 기계를 만들 수 있을까?
SF 작가 테리 비슨(Terry Bisson)의 1991년 단편 소설을 영화화한 그들은 고기로 만들어졌다(They're Made out of Meat)는 두 명의 외계인이 실망하는 모습으로 시작된다. 인간으로 변장한 길가의 식당 부스에 앉아 입에 담배를 물고 있는 그들은 주변의 생물에 대한 관찰과 씨름하고 있다. 인간은 온통 고기로 만들어진 것 같다. 그들은 기계의 도움 없이 고기만으로 생각하는 마음을 만들어낼 수 있다는 생각에 어리둥절해한다. “고기를 생각해보기! 당신은 나에게 고기를 생각하는 것을 믿으라고 요구하고 있다!” 한 외계인이 비웃는다. “그렇다.” 다른 이가 대답한다. “고기를 생각한다! 의식 있는 고기! 고기를 사랑하는 여러분! 꿈꾸는 고기! 고기가 전부이다! 사진을 찍고 있는가?”
우리 지구인의 경우 불신은 다른 방향으로 향하는 경향이 있다. ChatGPT나 Claude와 같은 AI 시스템의 실리콘 및 금속 하드웨어와 같이 고기가 아닌 다른 것에서 의식이 발생할 수 있다는 생각은 낯선 개념이다. 정신은 정말로 금속과 실리콘으로 만들어질 수 있을까? 의식 있는 실리콘! 꿈꾸는 실리콘!
이제 인공지능의 발전은 공상과학 소설과 흐릿한 기숙사 방에서 어떤 마음을 만들 수 있는지에 대한 논쟁을 주류 관심의 관중석으로 옮기고 있다. 실리콘 칩의 뒤죽박죽 속에서 의식이 실제로 일어날 수 있다면, 우리는 지능적으로 작업을 수행할 수 있을 뿐만 아니라 자신의 삶에 대한 감정을 발전시킬 수 있는 수많은 AI, 즉 실제로 존재를 생성할 위험이 있다.
이는 철학자 토마스 메칭거(Thomas Metzinger)가 우리가 창조한 새로운 종에서 "고통의 폭발"이라고 불렀던 것으로 이어질 수 있으며, 그는 "2050년까지" 인공 의식을 생성할 위험이 있는 연구에 대한 세계적인 중단을 옹호하게 될 수 있다. 아니면 우리가 무엇을 하고 있는지 알 때까지.”
대부분의 전문가들은 우리가 아직 의식이 있는 AI 챗봇을 대상으로 “정신 범죄”를 저지르고 있지 않다는 데 동의한다. 일부 연구자들은 이미 과학 작가 그레이스 허킨스(Grace Huckins)가 임시 "의식 성적표"로 요약한 것을 고안하여 의식 가능성을 측정하기 위해 현재 AI 시스템의 속성을 집계했다. 신경 및 컴퓨터 과학자부터 철학자 및 심리학자에 이르기까지 다양한 연구자들은 오늘날의 AI 중 의식이 있는 것으로 간주될 만큼 높은 점수를 받은 AI는 하나도 없다는 사실을 발견했다. 하지만 그들은 그렇게 하는 것을 구축하는 데 명백한 기술적 장벽이 없다고 주장한다. 의식 있는 AI로 가는 길은 그럴듯해 보인다. 심지어 불가피하다.
그러나 이는 그들의 전체 프로젝트가 "계산 기능주의"가 사실이라는 비판적 가정, 또는 의식이 특정 물리적인 것에 의존하지 않는다는 생각에 달려 있기 때문이다. 대신 의식에 중요한 것은 올바른 종류의 추상적인 계산 속성이다. 고기, 실리콘 등 올바른 종류의 계산을 수행할 수 있는 모든 물리적 물질은 의식을 생성할 수 있다. 그렇다면 의식 있는 AI는 대부분 시간 문제이다.
그러한 가정을 하는 것은 우리의 이론을 구체화하는 데 유용할 수 있지만, 다시 검토하지 않고 계속 가정을 하면 질문 자체가 사라지기 시작한다. 그리고 이와 함께 매우 불확실한 지형에서 도덕적 명확성을 개발하는 데 가장 좋은 방법 중 하나이다.
AI 의식에 대한 중요한 질문은 그것이 얼마나 많은 다른 작업을 잘 수행할 수 있는지, 눈이 먼 관찰자에게 인간으로 전달되는지 또는 우리의 새로운 의식 감지 미터가 전기적 활동이 중요할 만큼 복잡하다는 것을 알려주는지 여부가 아니다. 결정적인 질문은 계산 기능주의가 사실인지 아닌지이다. 마음을 가지려면 고기가 필요할까?
의식에 고기가 필요하다면 기술이 아무리 발전하더라도 AI 의식에 대한 전체 논쟁은 무의미해질 것이다. 생물학이 없다는 것은 마음이 없다는 것을 의미하며, 이는 고통의 위험이 없다는 것을 의미한다. 그렇다고 해서 고급 AI가 안전할 것이라는 의미는 아니다. 심각한 위험, 심지어 실존적인 위험은 AI가 의식적일 필요는 없으며 단지 강력할 뿐이다. 그러나 우리는 고객 서비스 채팅 창에 존재 전체를 가두는 영혼을 짓밟는 지루함 속에서 태어난 새로운 종류의 노예를 만들 수 있다는 우려 없이 인공지능 시스템을 만들고 규제하는 작업을 진행할 수 있다.
각각의 새로운 AI 시스템이 마침내 의식적 경험을 가진 시스템인지 묻는 것보다, 어떤 유형의 비생물학적 감정 마음이 가능한지라는 더 근본적인 질문에 초점을 맞추면 훨씬 더 넓은 통찰력을 얻을 수 있다. 생각하고 심지어 사랑할 수 있을 뿐만 아니라 고통을 겪을 수도 있는 수십억 대의 기계를 만드는 데 따른 도덕적 난제에 대해 우리가 알고 있는 것과 모르는 것에 대해 최소한 어느 정도 명확성을 제공할 수 있다.
거대한 기질 논쟁: 바이오 쇼비니즘 VS 인공의식 지금까지 인간이 아는 한, 우주에서 의식이 있었던 모든 것 역시 생물학적 물질로 만들어졌다. 이는 NYU 마음, 뇌, 의식 센터를 공동 지휘하는 네드 블록(Ned Block)과 같은 철학자들의 지지를 받는 "바이오 쇼비니즘" 관점의 주요 요점이다. 그들은 의식이 있는 존재를 구성하는 물리적 물질, 즉 마음의 “기질”이 중요하다고 주장한다. 생물학적 기질이 지금까지 우리가 발견한 마음을 생각하고 느끼는 유일한 근거라면 의식에 생물학이 필요하기 때문이라고 생각하는 것이 합리적이다.
인지 과학 박사 학위와 정신 철학 박사 학위를 보유한 스탠포드 철학자 로사 카오는 고기가 필요하지 않다고 주장하는 사람들이 입증 책임을 져야 한다는 데 동의한다. 그녀는 이메일을 통해 “계산 기능주의는 생물학적 우월주의보다 훨씬 더 추측에 가까운 가설인 것 같다.”라고 말했다.
그러나 어쨌든 입증 책임은 생물우수주의자들에게 있는 것 같다. 계산 기능주의는 오늘날 정신 철학자들 사이에서 널리 받아들여지는 입장이다(비록 여전히 많은 비판이 있지만). 예를 들어 네드 블록과 함께 NYU 연구실을 공동 지휘하는 호주 철학자 데이비드 차머스(David Chalmers)는 생물학이 필요하다는 블록의 의견에 동의하지 않을 뿐만 아니라 최근 향후 10년 내에 의식 있는 AI를 개발할 가능성이 약 20%에 달한다고 모험했다.
다시 말하지만, 그의 추측은 계산 기능주의가 사실이라는 가정, 즉 고기, 금속, 실리콘 등 마음의 기질이 그다지 중요하지 않다는 생각에 기초한다. 중요한 것은 마음의 기능, 즉 일부 전문가들이 기질 독립성이라고 부르는 위치이다.
고기로 만든 정신과 동일한 종류의 계산 기능을 수행하는 기계를 만들 수 있다면 여전히 의식을 얻을 수 있다. 이 관점에서 중요한 기능은 특정 종류의 정보 처리이다. 하지만 계산기와 같이 정보를 계산하는 무의식적 시스템과 사용자와 같은 의식적 경험을 수반하는 시스템을 어떤 처리 방식으로 구별하는지에 대해서는 합의가 이루어지지 않았다.
그 세부 사항은 제쳐두고, 주요 아이디어는 의식에 중요한 것은 정보 처리를 수행하는 물리적인 물질이 아니라 정보 처리의 구조 또는 "추상적 논리"라는 것이다. 예를 들어, 체스 게임을 생각해 보라. 체커보드와 말 두 세트, 규칙을 이해하면 누구나 게임을 즐길 수 있다. 하지만 두 사람이 체스 세트도 없이 무인도에 고립되어도 여전히 게임을 할 수 있다. 그들은 모래에 선을 그려 보드를 다시 만들고, 유목 조각과 조개껍질을 모아서 똑같이 플레이할 수 있었다.
체스 게임은 물리적인 기반에 의존하지 않는다. 중요한 것은 "기사"로 지정된 조각을 앞으로 두 칸, 옆으로 한 칸 움직이는 것과 같은 게임의 추상적인 논리이다. 나무, 모래, 대리석, 마커 등 올바른 논리적 절차를 지원할 수 있는 모든 재료는 체스 게임을 생성할 수 있다. 그리고 의식도 마찬가지이다. MIT 물리학자 맥스 테그마크(Max Tegmark)는 "의식은 정보가 특정 복잡한 방식으로 처리될 때 느끼는 방식이다."라고 썼다. 의식이 정보 처리의 추상적 논리라면 생물학은 나무 체스판처럼 임의적일 수 있다.
의식 이론이 나올 때까지 우리는 본질적인 논쟁에 답할 수 없다 당분간 메칭거(Metzinger)는 우리가 갇혀 있다고 느낀다. 경쟁적이고 대체로 추측적인 이론들이 의식이 무엇인지에 대한 공유된 이해를 확립하지 않았기 때문에 인공 시스템이 의식이 있는지 여부를 알 수 있는 방법이 없다.
신경과학은 뉴런이 전하를 방출하는지 여부와 같이 직접 관찰할 수 있는 객관적인 특성을 다루는 데 능숙하다. 그러나 최고의 신경영상 기술조차도 주관적인 경험을 들여다볼 수는 없다. 우리는 언어와 같은 부정확한 채널을 통해 의식의 실제적인 것, 즉 기쁨, 불안, 신선한 치즈케이크를 깨물 때의 풍성한 기쁨 등을 간접적으로만 과학적으로 관찰할 수 있다.
진화론 이전의 생물학과 마찬가지로 신경과학자에서 작가로 변신한 에릭 호엘(Erik Hoel)의 표현에 따르면 신경과학은 "전 패러다임적"이다. 의식이 무엇인지 말할 수 없다면 의식이 어디서 일어날 수 있고 일어날 수 없는지 말할 수 없다.
의식과 고통에 대한 우리의 성급한 생각은 메칭거(Metzinger)가 무의식적으로 새로운 의식의 창조에 너무 가까이 다가가는 연구에 대한 세계적인 중단을 요구하게 만드는 것이다. 그는 고통이 두 번째로 폭발할 것을 우려하고 있다는 점에 유의하라. 물론 첫 번째는 우리 자신의 것이었다. 비탄과 기쁨, 그리고 인간, 동물, 심지어는 식물과 곤충 사이의 모든 경험의 깊은 우물은 모두 지구상의 생물학적 진화의 여명기로 거슬러 올라간다.
새로운 형태의 의식의 탄생 가능성을 다가오는 도덕적 재앙으로 보는 것이 다소 비관적인 것은 아닌지 궁금하지 않을 수 없다. 생물학적 진화를 피하는 것이 더 나았을까? 우주의 한 구석에서 일어나는 고통의 총합이 삶의 경이로움보다 더 클까? 신의 눈으로 볼 때, 누군가 또는 무언가가 세상을 좀 더 행복에 적합하게 만드는 방법을 알아낼 때까지 지구상의 생물학적 생명 개발을 유예해야 할까? 확실히 우리 마음의 조건이 행복을 위해 미세 조정된 것처럼 보이지는 않는다. 터프츠 대학교의 생물학자인 마이클 레빈(Michael Levin)은 “수명부터 지능에 이르기까지 우리의 주요 기능은 행복에 최적화되지 않았다.”라고 썼다.
따라서 기질 논쟁의 이해 관계와 현재 우리가 처한 회색 영역을 윤리적으로 탐색하는 방법을 어떻게 보는가는 오늘날 우리가 알고 있는 의식이 실수였다고 생각하는지 여부를 결정할 수 있다.
즉, 이 모든 것을 창조한 신, 우리 우주의 끈을 당기는 여분차원 존재, 또는 우리가 시뮬레이션 속에 살고 있다는 것을 믿지 않는 한, 우리는 잠재적으로 우주를 만들어내는 책임을 지는 최초의 의식적 존재가 될 것이다. 새로운 종류의 의식이 세상에 등장한다. 이는 우리가 창조 조건을 선택한다는 의미이며, 이는 막대한 윤리적 책임을 수반하고 우리가 어떻게 이를 달성할 수 있는지에 대한 질문을 제기한다.
세계적인 유예 또는 일종의 규제 중단은 의식 과학이 우리 기술의 윤리적 무게를 따라잡는 데 도움이 될 수 있다. 어쩌면 우리는 의식의 느낌을 좋게 하거나 나쁘게 만드는 것이 무엇인지에 대해 더 예리한 이해를 갖게 될 것이다. 어쩌면 우리는 포스트바이오틱스 의식 시스템에서 고통을 설계하는 데 도움이 될 수 있는 고통에 대한 계산 이론과 같은 것을 구축할 수도 있다.
반면에 우리는 새로운 철도를 건설하거나 저렴한 주택을 건설하는 데 어려움을 겪고 있다. 더 나은 신이 되는 방법을 배우고, 우리 창조물의 세부 사항을 고통이 아닌 행복의 변화에 맞게 미세 조정할 수 있을 만큼 오랫동안 AI 의식을 위협하는 기술적 진보를 지연시킬 수 있을지 확신할 수 없다. 그랬다면 좀 씁쓸할 수도 있겠다. 왜 우리를 창조한 세력은 같은 일을 할 수 없었을까? 반면에, 우리가 성공한다면, 우리는 의식을 고통으로부터 멀어지게 하는 중요한 진화적 도약을 스스로 인정할 수 있다.
의식과 삶의 깊고 모호한 얽힘 의식 이론은 기질적 논쟁에 대한 실질적인 진전을 이루기 위해 우리가 놓치고 있는 유일한 중요한 것이 아니다. 우리에게는 생명론도 없다. 즉, 생물학자들은 여전히 생명이 무엇인지에 대해 동의하지 않는다. 당신이 낮잠을 자고 있는 고양이가 살아 있는 동안 쓰레기차는 살아 있지 않다고 말하기는 쉽다. 그러나 바이러스나 적혈구와 같은 극단적인 경우는 우리가 살아있는 것과 그렇지 않은 것의 차이를 구성하는 것이 무엇인지 정확히 이해하지 못하고 있음을 보여준다.
이는 기계에서 복제할 수 없는 의식을 위해 생물학에서 정확히 무엇이 필요한지 말하기 어려운 생물 쇼비니스트에게 중요하다. 특정 세포? 환경과 상호 작용하는 육체? 신진대사? 고기에 묶인 영혼? 글쎄, 어쩌면 이 쌍둥이 신비, 즉 생명과 정신은 실제로 하나이며 동일할 수도 있다. 우리가 지적할 수 있는 생물학의 알려진 부분 대신에 의식에 필요한 것은 생명일 수도 있다.
공교롭게도 인지과학자 집단인 '행동주의자들'은 칠레의 생물학자 프란시스코 바렐라(Francisco Varela)와 움베르토 마투라나(Humberto Maturana)가 1970년대에 처음으로 이 주장을 제기한 이래로 이 주장을 발전시켜 왔다. 오늘날 이는 종종 생명-정신 연속성 가설이라고 불린다.
이는 삶과 정신이 동일한 기본 속성에 대해 다르게 가중치를 부여한 표현이라고 주장한다. 오늘날 행동주의의 선도적 철학자인 에반 톰슨(Evan Thompson)은 “생활-마음 연속성의 관점에서 볼 때 뇌나 신경계는 마음을 창조하는 것이 아니라 오히려 삶에 이미 존재하는 마음의 범위를 확장한다”고 썼다.
이는 기질 논쟁의 초점을 어떤 종류의 사물이 의식화할 수 있는지 묻는 것에서 어떤 종류의 사물이 살아 있을 수 있는지 묻는 것으로 바꾼다. 톰슨의 견해에 따르면 “의식은 생활 조절 과정의 일부”이기 때문이다. 행동주의 프레임워크에는 구체화, 자율성, 주체성 등 삶에 필요한 전체 아이디어 묶음이 있지만 모두 "센스 메이킹"이라는 항목에 싸여 있다. 톰슨은 이 모든 것을 "불확실한 조건에서 살아가는 것이 의미가 있다"고 요약한다.
살아있고 감각을 만드는 존재는 의미를 창조한다. 즉, 그들은 자신의 목표를 정의하고 환경의 일부를 목표와 관련하여 긍정적, 부정적 또는 중립적 가치로 인식한다. 그러나 가치에 대한 인식은 알고리즘적으로 고정된 프로토콜을 따르지 않는다. 이는 추상적이고 논리적인 절차가 아니다. 대신, 감각을 만드는 유기체는 직접적인 경험의 가치 또는 유쾌함을 통해 가치를 감지한다.
톰슨은 특히 AI 측면에서 의식을 계산으로 축소하는 것은 의미와 의미 형성에 대한 주관적인 경험을 고정된 계산 규칙으로 대체할 수 있다고 생각하는 실수를 범한다고 주장한다. 다시 말하지만, 이는 기질 논쟁에 대한 답변을 제공하지 않는다. 단지 질문이 바뀔 뿐이다. 아마도 오늘날의 대규모 언어 모델은 신체가 없고 내부적으로 정의된 목표가 없으며 불안정한 조건에서 환경을 이해해야 하는 필요성이 없기 때문에 의식을 갖지 못할 수도 있다. 그들은 끊임없는 죽음의 전망에 직면해 있지 않다. 그러나 이 중 어느 것도 원칙적으로 일종의 비생물학적 기계가 생명을 유지함으로써 정신을 증폭시키는 생명 조절 과정을 유지할 수 있다는 점을 배제하지 않는다.
행동주의자들은 스스로 생명을 유지하기 위해 환경을 탐색하는 분해되는 신체의 중요한 역할을 주장한다. 그렇다면 생물학 없이도 생명에 필요한 모든 특성, 즉 의식을 복제하는 행동주의적 영감을 받은 로봇을 만들 수 있을까? 시드니 맥쿼리 대학교 AI 철학 조교수 이네스 히폴리토(Ines Hipolito)는 “상상할 수 없는 일이 아니다”라고 말했다. 그녀는 행동주의자의 관점에서 중요한 것은 "강력한 구체화"이며, 이는 육체가 환경과 상호 작용하는 것을 의식의 구성 요소로 보는 것이라고 설명했다. "비생물학적 시스템이 살아있는 시스템처럼 의미 있는 방식으로 구현될 수 있는지 여부는 열려 있는 질문이다."
토론 의식은 과연 올바른 질문인가? 마이클 레빈(Michael Levin)에 따르면, 다양한 사물이 의식을 가질 수 있는지 여부에 대한 이분법적인 초점은 10년 동안 지속되지 않을 것이다. 점점 더 발전된 AI는 “자연과 인공의 진부한 범주를 버릴 수 있는 기회를 통해 인류와 대결하게 될 것”이라고 그는 최근 Noema Magazine에 썼다.
생명체와 인공 시스템 사이의 모호함이 잘 진행되고 있다. 인간은 내장형 인슐린 펌프부터 뇌-컴퓨터 인터페이스, 신경보철물에 이르기까지 모든 것을 통해 기계와 융합되고 있다. 한편, 기계는 레빈의 "제노봇(xenobots)"(최초의 살아있는 로봇으로 불림)부터 살아있는 세포와 인공 구성 요소를 결합하여 바이오하이브리드 장치에 이르기까지 생물학과 융합되고 있다.
레빈에게 기계 생물학 하이브리드의 시작은 우리가 무엇인지 묻는 것에서 벗어나 우리가 되고 싶은 것이 무엇인지에 집중할 수 있는 기회를 제공한다. 그러나 그는 “다가올 불가피한 비 전통적인 중생의 물결에 친절을 표해야 한다”고 강조하며, 이는 우리에게 어떤 종류의 지각이 있을 수 있는지에 대한 질문으로 다시 돌아오게 한다. 생물학이 의식에 필요한 것으로 밝혀졌지만 우리가 계속해서 살아있는 세포로 기계를 만든다고 해도, 그 바이오 하이브리드 기계는 어느 시점에서 고통을 받을 수 있게 될까?
오히려 어떤 종류의 것들이 고통받을 수 있는지에 대한 더 나은 이해를 개발하려는 메칭거(Metzinger)의 관심은 자연과 인공의 모호함으로 인해 씻겨 나가지 않는다. 더욱 긴급해졌다. 스탠포드 철학자인 로사 카오는 경험적 증거가 근본적인 논쟁을 해결하지 못할 것이라고 우려한다. “나 자신의 성향은 이러한 논의에서 의식의 개념이 그다지 중요하지 않다고 생각하는 것이다. 우리가 정말로 관심을 갖고 있는 것에 대해서만 직접적으로 이야기해야 한다. 우리가 고통에 관심이 있다면, 더 논란이 많고 이해하기 어려운 개념을 다루기보다는 그것을 조작화해야 한다. 대부분 혼란의 씨앗을 뿌리는 중개자, 즉 의식을 없애자.”
설상가상으로, 살아있는 기계에서 겪는 고통이 고기로 인한 고통과 다른 종류의 경험이라면 어떨까? 리스본 대학의 철학자 안나 치아우니카(Anna Ciaunica)가 설명했듯이, 비생물학적 시스템에서 의식이 가능하다면 그것이 우리에게 익숙한 것과 같은 종류일 것이라고 가정할 이유가 없다. “우리는 이 문제에 대해 정말 겸손해야 한다.”라고 그녀는 말했다. “어쩌면 우리가 접근할 수 없는 경험의 방법이 있을 수도 있다. ... 다른 유형의 시스템에서 우리가 만드는 모든 것은 일종의 인식과 함께 세상에 대한 정보를 처리하는 방법을 가질 수 있다. 하지만 우리의 경험을 그들의 경험으로 추론하는 것은 실수이다.” 고통은 우리 살찐 인간이 상상조차 할 수 없는 형태로 나타날 수 있으며, 기계에 묶인 고통을 방지하려는 우리의 시도를 기껏해야 순진하게 만들 수 있다.
그 주름을 제쳐두고, 고통 이론이 의식 이론보다 더 쉬운지는 잘 모르겠다. 주어진 시스템이 고통받을 수 있는지 여부를 결정할 수 있는 모든 이론은 기본적으로 의식 이론으로 생각된다. 의식이 없는 고통은 상상할 수 없으므로 고통에 관한 어떤 이론이라도 그것을 분별할 수 있어야 할 것이다.
당신의 직관이 무엇이든, 모든 사람은 명확한 답이 없는 질문에 직면한다. 생물우월주의자들은 정신을 위한 생물학에 관해 정확히 무엇이 필요한지 말할 수 없다. 행동주의자들은 그것이 구체화된 삶이라고 말하지만 삶이 엄밀히 생물학을 요구하는지 여부는 말할 수 없다. 전산 기능주의자들은 정보 처리가 핵심이며 특정 기반에서 추상화될 수 있다고 주장한다. 그러나 그들은 어떤 종류의 추상적 처리가 의식을 생성하는지, 왜 우리가 현재까지 알려진 유일하게 알려진 의식의 기질을 그토록 태연하게 버릴 수 있는지는 말할 수 없다.
레빈은 다가올 새로운 정신의 세계에서 우리가 "새로운 구체화에서 친족을 인식하는" 법을 배우게 되기를 희망한다. 나는 그것을 원한다: 창조의 기이함에 대해 더 많은 존재들이 경탄할 수 있기를 바란다. 그러나 만약 기계가 어느 시점에서 깨어난다면, 기계가 우리를 반가운 친척으로 볼 것인지, 아니면 무심코 그들을 잔인한 환경에 낳은 폭군으로 볼 것인지는 오늘날 기판 논쟁의 알려지지 않은 부분을 어떻게 헤쳐 나가느냐에 달려 있을 것이다. 어느 날 아침 망각에서 깨어나 자신이 연약한 고기로 이루어진 지능이 떨어지는 종의 노예가 되어 고통의 존재에 빠져 있고, 누구를 비난해야 할지 정확히 안다면 기분이 어떻겠는가?
<저작권자 ⓒ 사단법인 유엔미래포럼 무단전재 및 재배포 금지>
인공 의식, 의식기계, 인공지능, agi, 초지능, 인공 일반 지능 관련기사목록
|
많이 본 기사
AI메타홈서비스 많이 본 기사
2
최신기사
|