급진전하는 AI산업, 공존을 위한 글로벌 거버넌스는 가능한가?

-산업융합촉진 옴부즈만, 한국에도 UN 기구를 설치하자!

 

 

지난 10월 31일, 국회의원회관에서 산업융합촉진 옴부즈만 (한무경 대표)과 우재준 의원이 주관하고 (사)유엔미래포럼(박영숙 대표)과 국제AI저작권관리협회(IAIA)가 후원한 AI글로벌 거버넌스 만들기 세미나가 개최되었다.

 

이 세미나에는 밀레니엄 프로젝트(MP) 회장인 제롬 글렌 박사와 투피 살리바 IEEE 글로벌AI표준위원회 위원장이 참석하여 이제 대한민국에도 UN기구를 만들자, 특히 급진전 중인 AI산업분야의 조직을 만들어야 한다는 뜻에 동의하며 제롬 글렌 회장과 투피 살리바 위원장의 주제 발표와 AI분야 기업을 대표한 초청인사, 그리고 여야 국회의원들의 축사 및 토론으로 진행되었다.

 

발표 및 진행 내용을 요약하면 다음과 같다.

 

밀레니엄프로젝트(제롬 글렌CEO)는 이미4년 전부터UN IAIA설립을 제안하였고,글렌은 이미AI감독 관리기구의 필요성에 대한 연구서를2편 발표하였다. 3편은 이런 기구를 만들지 않을 경우 전 세계는 어떤 고통을 겪게 되는지'미래예측 시나리오'를 써 놓았다.그러면서 미국이 아닌 중립위치의 한국에서 주도하는UN IAIA설립을 위한 타당성조사팀을 한승수의장과 구윤철전국무조정실장,박영숙 유엔미래포럼대표 등과 논의 중이다.

 

제롬 글렌은 세계적으로 유명한 미래학자로 밀레니엄 프로젝트를 운영하면서 매년 한국에서는 박영숙교수와 함께[세계미래보고서]를 출판한다.다양한 글로벌포럼에서 기조연설자로'미래사회변화와 부상기술'에 대해 강연한다.밀레니엄 프로젝트는1996년 유엔대학을 위한 미국협의회산하에 설립된 글로벌 미래예측 싱크탱크로 설립, 2009년에 독립적인 비영리단체가 되었고,현재 전세계77개 국가대표단을 보유하며 한국에서는 유엔미래포럼대표 박영숙교수가 대표를 맡고 있다.

 

 

 

 

밀레니엄 프로젝트 목적은 더 나은 미래를 건설하기위한 인류의 전망을 개선; 사명은 미래에 대한 예측이나 사고방식을 개선하고, 전 세계지부로부터 미래를 위한 더 나은 결정을 내리기 위해 지혜를 축적한다. 비전은 정보, 소프트웨어로 구성된 글로벌 포사이트 네트워크로, 인류의 전망을 개선하는 능력으로 인정받는 글로벌 집단 지능 시스템을 구축한다. 정부, 이슈, 이념을 대신하는 것이 아니라 우리 모두를 위한 더 나은 미래를 구축하기 위한 싱크탱크로 존재한다.

 

인공지능 거버넌스의 중요성, UN글로벌 디지털 콤팩트

 

UN IAIA본부 서울설립 타당성 연구 제안(구윤철/박영숙)

 

I. 요약

본 제안서는 대한민국 서울에 국제 인공지능 기구(UN IAIA)본부를 설립하기 위한 포괄적인 타당성 연구를 제시합니다. 연구는 서울의 전략적 이점을 평가하고,글 로벌 합의를 구축하며, 산업 파트너십을 확보하고, 잠재적인 장애물을 해결할 것입니다. 또한 UN IAIA가 AI거버넌스의 미래를 형성하고, 윤리적인 개발을 촉진하며, AI기술의 안전하고 유익한 사용을 보장하는 데 있어 중요한 역할을 할 것입니다.

 

II. 서론

A. AI거버넌스의 절박함

인공 일반 지능(AGI)을 포함한 AI의 급속한 발전은 막대한 기회와 상당한 위험을 동시에 제시합니다. 규제되지 않은 개발은 윤리적 딜레마, 보안 위협 및 사회적 혼란으로 이어질 수 있습니다. AI가 책임감 있게 개발되고 사용되어 인류에 이익을 주면서 잠재적인 피해를 완화하기 위해서는 글로벌 거버넌스 프레임워크가 필수적입니다.

 

B. UN IAIA의 역할

중앙 국제 기관인 UN IAIA는 다음과 같은 핵심 역할을 수행할 것입니다.

글로벌 표준 개발: AI개발, 배포 및 사용에 대한 통일된 지침을 수립합니다.

윤리적인 AI촉진: AI시스템이 윤리적으로 개발되고 사용되어 인권과 가치를 존중하도록 보장합니다.

국제 협력 촉진: AI관련 과제를 해결하기 위해 국가 간 협력을 촉진합니다.

기술 지원 제공: 개발도상국이 AI역량과 능력을 구축하도록 지원합니다.

신흥 위험 해결: 일자리 대체, 편견 및 자율 무기와 같은 AI와 관련된 잠재적인 위험을 예측하고 완화합니다.

 

C.타당성 연구의 범위 및 목적

연구는 다음을 통해 UN IAIA본부를 서울에 설립하는 타당성을 평가할 것입니다.

서울의 전략적 이점 분석

UN IAIA에 대한 글로벌 합의 구축

UN IAIA의 구조와 운영 개요

잠재적인 과제 식별 및 완화 전략 개발

UN IAIA의 경제적, 사회적 및 환경적 영향 평가

 

III. UN IAIA의 근거

A. 국제 협력의 증가하는 필요성

AI의 글로벌 특성은 국경을 초월하는 과제를 해결하기 위해 국제 협력이 필요합니다. UN IAIA는 국가들이 지식, 모범 사례 및 자원을 공유할 수 있는 플랫폼을 제공할 것입니다.

 

B. 윤리적인 AI개발의 중요성

AI시스템은 인간의 가치와 인권을 존중하는 방식으로 개발되고 사용되어야 합니다. UN IAIA는 윤리적인 AI개발과 편견 및 차별 해결에 중요한 역할을 할 것입니다.

 

C. AI의 잠재적인 이점

AI는 의료, 교육 및 기후 변화를 포함한 다양한 분야를 혁신할 수 있는 잠재력을 가지고 있습니다. 그러나 이러한 이점을 실현하려면 책임감 있고 공정한 개발이 필요합니다. UN IAIA는 AI가 인류의 발전을 위해 사용되도록 할 것입니다.

 

IV. UN IAEA와의 비교

A. 주요 유사점

UN IAIA는 핵 기술을 관리하는 국제 원자력 기관(IAEA)의 성공에서 귀중한 교훈을 얻을 수 있습니다. 두 기관 모두 강력한 국제 협력, 기술적 전문성 및 견고한 거버넌스 구조가 필요할 것입니다.

 

B. 주요 차이점

IAEA는 핵 기술에 초점을 맞추는 반면, UN IAIA는 AI가 제시하는 독특한 과제와 기회를 다룰 것입니다. 여기에는 윤리적인 지침 개발, 책임 있는 혁신 촉진 및 잠재적인 위험 해결이 포함됩니다.

 

C. IAEA 모델 적용

UN IAIA는 AI거버넌스의 특정 요구를 해결하기 위해 IAEA 모델을 적용할 수 있습니다. 여기에는 새로운 부서 생성, 맞춤형 규제 개발 및 기술 기업 및 학계와의 파트너십 촉진이 포함될 수 있습니다.

 

V. UN IAIA의 제안된 구조

A.총회

총회는 모든 회원국의 구성으로 UN IAIA의 최고 의사 결정 기관이 될 것입니다. 총회는 정책을 수립하고, 예산을 승인하며, 기관의 활동을 감독할 것입니다.

B.이사회

이사회는 총회에서 선출된 회원국 대표로 구성된 더 작은 집행 기관이 될 것입니다. 이사회는 일상적인 운영 및 의사 결정을 담당할 것입니다.

C.사무국

사무국은 의사 결정을 이행하고, 자원을 관리하며, 기술 지원을 제공하는 UN IAIA의 행정 기관이 될 것입니다. 사무국은 사무총장이 이끌고 다양한 부서 및 부문으로 나뉠 것입니다.

D.주요 부서 및 부문

제안된 부서 및 부문에는 다음이 포함됩니다.

 

 

AI안전 및 보안부: AI안전, 위험 완화 및 보안 위협 해결을 위한 표준 및 지침을 개발합니다.

윤리적AI부: 윤리적인 AI개발, 편견 및 차별 해결, 인간 가치와의 AI시스템 정렬을 촉진합니다.

국제협력부: 회원국 간 협력을 촉진하고, 지식 공유 및 글로벌 AI과제 해결을 추진합니다.

기술지원부: 개발도상국이 AI역량과 능력을 구축하도록 지원합니다.

연구 및 개발부: AI기술에 대한 연구를 수행하고, 신흥 트렌드를 식별하며, 혁신적인 솔루션을 개발합니다.

 

VI. 본부 위치 분석

A. 선택 기준

UN IAIA 본부의 이상적인 위치는 다음과 같아야 합니다.

전략적으로 위치함: 강력한 AI생태계와 양호한 연결성을 가진 지역에 위치합니다.

정치적으로 중립적: 국제 협력을 위한 중립적인 플랫폼을 제공합니다.

AI개발을 지원함: AI연구, 혁신 및 투자에 유리한 조건을 제공합니다.

문화적 및 사회적으로 호환됨: UN IAIA의 가치와 우선순위와 정렬됩니다.

 

B. 서울, 대한민국에 대한 사례

서울은 강력한 AI생태계, 중립적인 지정학적 위치, 지원적인 정부 및 활기찬 문화 장면을 제공하여 이러한 모든 기준을 충족합니다.

 

C. 대체 위치 고려

서울은 강력한 경쟁자이지만, 제네바, 싱가포르 및 도쿄와 같은 다른 잠재적인 위치가 고려되어야 합니다. 가장 적합한 위치를 식별하기 위해 이러한 대안에 대한 포괄적인 분석이 수행될 것입니다.

 

D. 문화적 및 사회적 영향 평가

UN IAIA의 서울에 대한 존재는 상당한 문화적 및 사회적 영향을 미칠 것입니다. 이는 국제적인 인재를 유치하고, 혁신을 촉진하며, 지식 교환을 촉진할 것입니다.

 

E. 접근성 및 인프라 고려

교통, 통신 및 숙박을 포함한 서울의 현대적인 인프라는 UN IAIA의 원활한 기능을 보장할 것입니다.

 

VII. 글로벌 합의 구축

A. 외교적 노력

대한민국은 회원국들 사이에서 UN IAIA에 대한 지지를 구축하기 위해 강력한 외교 관계를 활용할 것입니다.

 

B. 다자간 포럼

UN IAIA는 유엔 총회 및 G20과 같은 다자간 포럼에 적극적으로 참여하여 목표를 홍보하고 국제적인 지지를 확보해야 한다.

 

(박세훈, 국제AI저작권관리협회 / IAIA)