사단법인 유엔미래포럼

방문해 주셔서 감사합니다.

· 공지사항


	[일반] 신간 세계미래보고서 2045, 2050, 2055. 인공지능혁명2030. 킬러로봇 개발 막자. 인간은 원하는 인류에 보탬이 되는 로봇을 만들 수 있다.

	write date : 2016-12-17 19:33:16

일반 >신간 세계미래보고서 2045, 2050, 2055. 인공지능혁명2030. 킬러로봇 개발 막자. 인간은 원하는 인류에 보탬이 되는 로봇을 만들 수 있다.

·파일

201612121125082778.jpg [37.9K]

전 세계적 운동으로 킬러로봇을 막으면 전쟁터에 킬러로봇이 나타나지 않게 된다.

최근 킬러로봇에 관한 많은 글들이 있었다. 자율 무기(조이스틱이나 키보드를 이용하여 조종하는 사람이 없이 인간을 죽이거나 불구로 만드는 기계)로 인해 사람의 피를 흘리지 않도록 하기 위한 운동은 로봇이 전쟁터에 나서기 전에 관련 기술을 선제적으로 금지시키기 위한 경쟁을 벌이고 있다. 국제인권감시단(Human Rights Watch) 무기 부서의 장이며 NGO 단체인 킬러로봇중단캠페인(Campaign to Stop Killer Robots)의 글로벌 코디네이터인 메리 워레햄은 ‘우리는 다양한 수준의 인간 통제를 가지고 있는 다양한 무기 시스템에 대해 이야기하고 있다. 우리는 무기 시스템에 대해서가 아니라 새로운 방식의 전투에 대해 이야기하고 있다. 지금은 운동을 구축하는 과정이기 때문에 테이블 주위에 다양한 집단이 둘러앉도록 노력하고 있다’ 라고 말했다.

국제인권감시단은 2013년 4월 ‘완전 자율 무기의 개발, 생산, 사용을 선제적으로 금지한다’라는 단일 목적을 두고 통합된 60여개 비정부기구의 하나이다. 이 연합에는 인공지능 전문가, 인권단체, 전직 외교관, 그리고 조디 윌리엄스가 이끄는 노벨평화상 수상자 그룹도 포함되어 있다. 워레햄은 이를 ‘자율살상무기(LAWS: Lethal Autonomous Weapons Systems)' 금지를 위한 진정한 글로벌 캠페인이라고 말했다.

‘지금은 운동을 구축하는 과정이기 때문에 테이블 주위에 다양한 집단이 둘러앉을 수 있도록 노력하고 있다.’

올해 10월, 뉴욕타임즈는 로봇 전투기에서 인간의 지도 없이 수천 마일 떨어진 목표물을 추적할 수 있는 자율 잠수함에 이르는 미군의 자율무기 시스템을 재배치하는 내용에 관한 긴 기사를 실었다. 타임즈 기자는 이렇게 말했다. ‘미 국방부는 전략의 중심에 인공 지능을 배치하여 세계 지배적 군사력을 가진 미국의 위상을 유지하고 있다. 미국은 자율 무기와 반 자율무기 개발과 할리우드 영화나 SF에서나 존재했던 무기의 축적을 위해 수십억 달러를 쓰고 있다. 이 때문에 과학자들과 사회운동가들은 로봇무기 경쟁에 우려하고 있는 것이다.’

킬러로봇중단캠페인에 참여하고 있는 집단들의 우려 사항은 디스토피아적 영화인 터미네이터나 매트릭스와 같은 세상에 대한 공포가 아니라 전쟁터에서 인간의 통제, 판단, 양심이 제거되는 것이다. 워레햄은 ‘우리는 무기 체계와 개인 공격에 대한 인간의 통제라는 본질에 대해 토론하고 있다’라고 말했다. 2012년, 미 국방성은 미래의 로봇 군대를 조종하게 될 일종의 인간 기관을 암시하는 정책을 발표했다. 국방성은 ‘자율 및 반자율무기 시스템은 지휘관과 운영자가 무력 사용에 관한 적절한 수준의 인간적 판단을 할 수 있도록 설계되어야 한다’라고 말했다.

워레헴에 의하면 이 문제는 정부의 관료주의 세계에서 국제적 토론의 최전방으로 신속하게 옮겨졌다. 제네바에서 열릴 예정인 유엔 특정재래식무기금지협약(CCW, nvention on Conventional Weapons) 제5차 회의에서 각국 대표들은 4월에 있었던 이전 회의에서 도출된 ‘자율살상무기의 우려사항과 선택사항을 고려하기 위한 정부전문가 집단(Group of Governmental Expert)’을 구성하도록 한 권고안을 검토하게 된다.

이것이 킬러로봇에 대한 국제협약을 진전시키기 위한 실제적인 첫 걸음이다. NGO들은 이미 판도라의 상자가 열렸으며 킬러로봇들은 이미 여러 개발 단계에 있다는 개념을 지지하지 않는다. 워레헴은 1998년 100여 개국이 조인한 섬광레이저무기금지협약을 협약의 선례로 들고 있다. 이 조약은 전투원을 실명시키는 레이저 무기의 사용을 금지시키고 있다. 워레헴은 ‘기술이 불가피한 것을 간주되고 있다. 일부 사람들은 이러한 기술이 필연적인 것이기 때문에 포기하지 않을 것이라고 말한다. 우리도 금지조치를 위해 포기하지 않을 것’이라고 말했다.

킬러로봇은 무엇인가?

버팔로 대학교의 미디어학과 교수인 테로 카르피는 좀 더 철학적 관점에서 논쟁을 벌이고 있다. 그와 동료들은 국제문화연구저널(International Journal of Cultural Studies )에 킬러로봇중단캠페인 분석 내용과 인공지능의 사회적 의미에 대한 논문을 실었다. 디지털 미디어 학자가 킬러로봇에 관심을 가지는 이유는 무엇인가? 카르피는 싱귤래리티 허브에 보낸 메일에서 이렇게 설명하고 있다. ‘공정 자동화와 인공지능은 현대 미디어 환경의 주된 이슈이다.

킬러로봇이 전 세계적 규모로 운영되고 있으며, 금융, 의료, 사회기관에서 인공지능이 공공의 규모로 운영되고 있다. 개인적 규모에서는 웹사이트를 운영하는 소셜 봇, 가정과 스마트폰 안의 가상 비서, 소셜미디어 플랫폼에서 상품들을 추천하는 알고리즘들이 운영되고 있다. 문화는 인공지능 시스템에 의해 지배되고 있다. 나는 인공지능 시스템이 글로벌 규모, 공공의 규모, 사적 규모에 미치는 영향에 관심을 두고 있다. 우리는 이러한 기술들이 현재의 문화에 대한 가치와 아이디어의 산물임을 기억해야 한다.’

카르피와 동료들은 킬러로봇 주제를 탐구하기 위해 문화적 기술이라고 부르는 미디어 이론에 사용되는 원칙을 사용했다. 이 접근 방법은 다양한 부품이 실제적 시스템, 제품, 개념으로 변하는 방식을 이해하기 위해 한 가지 주제를 해체한다. 이러한 방법으로 A, B, C, D가 Z로 되어가는 과정에 대한 통찰력을 제공하게 된다. 카르피는 이렇게 설명했다. ‘킬러로봇을 정의할 수 있다면 킬러로봇의 금지도 가능할 것이다. 킬러로봇을 구성하는 필수 요소들은 무엇인가? 군대에 의해 설계된 로봇인가? 인간의 개입 없이 자율적으로 작동하는 로봇을 말하는가? 무수한 질문이 남아 있다고 생각한다. 이 경우 인간의 개입은 무엇을 말하는가? 이 논문에서 우리는 킬러로봇이 무엇인가를 알기 위해 더 작은 요소와 기술로 해체하려고 노력했다.’

워레헴의 경우에는 ‘킬러로봇’ 또는 ‘인간에 의한 의미 있는 통제’라는 단어의 모호성에 관계없이 이 문제에 대한 글로벌 대응이 우선적이다.

‘우리는 아직 캠페인에 대한 주목을 이끌어내지 못하고 있다. 나는 정부에 대해 예산과 관심이 부족하다고 이야기하고 있다. 이 캠페인이 정말로 거대한 글로벌 운동이 된다고 생각해보라. 세계가 이 문제를 심각하게 다루기에는 아직 시간이 좀 더 소요될 것이다.’