프린지 이론

세계의 선도적인 AI 선구자 중 한 명이 점점 더 강력해지는 기술이 세상에 해를 끼칠 수 있을 뿐만 아니라, 이를 담당하는 사람들도 똑같이 위험할 수 있다고 경고하고 있다.

컴퓨터 과학의 거장 요슈아 벤지오는 CNBC와의 인터뷰에서 엘리트 기술 "프린지"의 구성원들이 AI가 인간을 대체하기를 원한다고 말했다.

몬트리올 대학교 학습 알고리즘 연구소 소장인 벤지오는 OpenAI의 선도적인 AI 연구자들이 쓴 "경고할 권리" 공개 서한에 공개적으로 서명한 사람 중 한 명이며, 이들은 이 기술의 위험에 대해 침묵을 지키고 있다고 주장한다. 그는 유명한 전문가인 얀 르쿤과 제프리 힌튼과 함께 때때로 "AI의 대부" 중 한 명으로 불린다.

"지능은 힘을 준다. 그렇다면 누가 그 힘을 통제할 것인가?" 저명한 머신러닝 전문가가 몬트리올에서 열린 원 영 월드 서밋에서 이 매체에 말했다.

"그 힘을 남용하고 싶어하는 사람들이 있고, 인간이 기계로 대체되는 것을 보고 기뻐하는 사람들이 있다." 벤지오가 주장했다. "물론, 그것은 변두리일 뿐이지만, 이 사람들은 많은 힘을 가질 수 있고, 지금 당장 올바른 보호책을 마련하지 않는 한 그럴 수 있다."

돈의 힘

딥러닝 전문가는 AI 시스템을 구축하는 데는 수십억 달러의 비용이 들기 때문에 재정적 힘을 무시할 수 없다고 지적했다.

"이를 수행할 수 있는 조직과 국가는 매우 적다."라고 몬트리올 대학교 AI 연구실 책임자가 말했다. "이미 그렇다."

"권력이 집중될 것이다. 경제적 힘은 시장에 나쁠 수 있고, 정치적 힘은 민주주의에 나쁠 수 있으며, 군사력은 지구의 지정학적 안정에 나쁠 수 있다." 그는 계속해서 말했다.

현재 전문가들은 인공 일반 지능(AGI) 또는 인간 수준의 AI에 도달할 수 있는지, 그리고 언제 달성될지에 대해 의견이 엇갈리고 있다. 벤지오는 글로벌 정책이 따라잡기 전에 달성된다면 우리는 위기에 처할 것이라고 제안한다.

"5년이라면 준비가 되지 않았다." 그는 결론지었다. "이러한 시스템이 사람들에게 해를 끼치지 않거나 사람들에게 적대적이지 않도록 보장할 방법이 없기 때문이다."

AI의 위험에 대해 경고한 최초의 AI 전문가는 아니지만 벤지오는 특이한 엄숙함을 가지고 있다. 결국 그는 AI를 만드는 데 도움을 주었다.