광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

UN IAIA Establishment Summary. UN IAIA 설립 요약 미래 연구에 중점을 둔 싱크탱크인 밀레니엄 프로젝트는 인공지능 일반 지능(AGI) 시대의 빠른 도래로 인해 UN 국제 인공지능 기구(UN IAIA) 설립 아이디어를 4년전 시작했다

운영자 | 기사입력 2024/11/01 [19:25]

UN IAIA Establishment Summary. UN IAIA 설립 요약 미래 연구에 중점을 둔 싱크탱크인 밀레니엄 프로젝트는 인공지능 일반 지능(AGI) 시대의 빠른 도래로 인해 UN 국제 인공지능 기구(UN IAIA) 설립 아이디어를 4년전 시작했다

운영자 | 입력 : 2024/11/01 [19:25]

 

 

 

UN IAIA Establishment Summary

 

The Millennium Project, a think tank focused on futures studies, has initiated the idea of establishing the UN International Agency for Artificial Intelligence (UN IAIA) due to the rapid arrival of the Artificial General Intelligence (AGI) era. Experts warn that unregulated AI could pose significant risks to humanity if not properly managed. The formation of UN IAIA could take place under the auspices of the United Nations, with a working group established in Korea, featuring influential figures such as Jerome Glenn, Han Seung-soo, Koo Yoon-chul, and Park Youngsook during the UN Conference of the Parties on Global Affairs (UNCPGA) on October 30, 2024. Han Seung-soo serves as the chair of the UNCPGA, and the UN Secretary-General is expected to attend this significant meeting.

 

Purpose of the Creation of UN IAIA

Experts globally are sounding alarms about an unregulated future of AI, which they predict could lead to disastrous consequences. Three types of AI exist:

  1. Artificial Narrow Intelligence (ANI): This includes current generative AI technologies and functions as narrow, pre-trained tools that will continue to evolve over the coming years.
  2. Artificial General Intelligence (AGI): While it does not yet exist, AGI is anticipated to operate more like an agent rather than a simple tool, capable of rewriting its own code, generating innovative solutions to novel problems, and learning continuously. Experts suggest that AGI could emerge within this decade.
  3. Artificial Super Intelligence (ASI): Often referred to as Artificial Superintelligence, ASI may follow AGI and operate independently from human control, setting its own goals.

Currently, there has been some progress on governance concerning ANI:

  • The US-led UN General Assembly resolution on AI addresses ANI but not AGI.
  • The EU AI Act and China's Artificial Intelligence Law focus on ANI without considering AGI.
  • The Bletchley Declaration, signed by 28 countries, similarly addresses ANI exclusively.

While US-China talks on AI cooperation might hint at discussions regarding AGI governance, such details remain undisclosed. Recent White House statements and executive orders have similarly concentrated on ANI rather than AGI.

 

Immediate Needs

To address these challenges, several actions are deemed necessary:

  • Drafting legislation to authorize a national AGI licensing system and directing the National Institute of Standards and Technology (NIST) to prepare simulations for AGI safety testing before licensing.
  • Utilizing the first and second phases of The Millennium Project’s AGI governance study to inform discussions around these issues.
  • Evaluating national suggestions in "The Gladstone Defense in Depth: An Action Plan to Increase the Safety and Security of Advanced AI."
  • Advocating for a UN General Assembly resolution to create a committee of the willing to draft a UN Convention on AI, addressing both ANI and AGI.

As highlighted in The Millennium Project Phase 2 AGI report, governing AGI could represent one of humanity's most complex management challenges, and failing to solve this before developing AGI systems could pose a grave risk to civilization. No organization should be allowed to make such a detrimental mistake.

The UNCPGA can recommend the incoming President of the UN General Assembly to make AGI a key agenda item. However, any AGI agency established should operate under the UN’s auspices, rather than being directly associated with UNCPGA. Our Phase 2 study also proposes a multi-stakeholder hybrid organization (involving both humans and AI) called TransInstitution.

Hence, there is an urgent need for a UN General Assembly resolution to form a committee of the willing tasked with drafting a UN Convention on AI that would ultimately lead to the establishment of the International AI Agency. The UN Secretary-General has already expressed support for creating such an agency during the UN Security Council meeting on AI held last July.

 

Steps to Creating the UN IAIA

  1. UN Resolution to Form a Committee: Establish a committee of the willing to draft a UN Convention on AI, incorporating sections addressing both ANI and AGI.
  2. UN Resolution to Adopt the Convention: Pass a resolution to adopt the UN Convention on AI, paving the way for the eventual establishment of the International AI Agency.
  3. Member States Ratification: Member states will need to ratify the UN Convention on AI to bring it into force.
  4. Establish the UN IAIA: Following ratification, the International AI Agency will be formally established.

Leadership of the IAIA by the Millennium Project

The Millennium Project's AGI study is structured in three phases:

  • Phase 1 involves engaging with 55 AGI leaders to answer 22 critical questions about AGI.
  • Phase 2 is a Roundtable Discussion (RTD) with input from 299 experts across 60 countries, assessing 40 regulations for AGI and examining five global governance models.
  • The current work in progress focuses on developing five potential AGI scenarios extending to 2035.

Jerome Glenn is leading the Millennium Project's efforts in this vital initiative. Attached is a working draft scenario for internal reference only, which is not intended for circulation or external distribution. Ben is currently crafting one of the proposed scenarios.

 

This comprehensive plan emphasizes the pressing need for proactive measures to ensure responsible management and governance of AGI, ultimately safeguarding human interests as we approach the realities of advanced artificial intelligence.

 

 

UN IAIA 설립 요약

미래 연구에 중점을 둔 싱크탱크인 밀레니엄 프로젝트는 인공지능 일반 지능(AGI) 시대의 빠른 도래로 인해 UN 국제 인공지능 기구(UN IAIA) 설립 아이디어를 시작했다. 전문가들은 규제가 없는 AI가 적절히 관리되지 않을 경우 인류에 중대한 위험을 초래할 수 있다고 경고한다. UN IAIA의 형성은 UN의 후원 하에 이루어질 수 있으며, 2024년 10월 30일 UN 공공정책 회의(UNCPGA) 동안 한국에서 Jerome Glenn, Han Seung-soo, Koo Yoon-chul, Park Youngsook와 같은 영향력 있는 인물들이 참여하는 작업 그룹이 설립될 예정이다. Han Seung-soo는 UNCPGA의 의장을 맡고 있으며, UN 사무총장이 이 중요한 회의에 참석할 것으로 예상된다.

UN IAIA 설립 목적

전 세계 전문가들은 규제가 없는 AI의 미래에 대해 경고하며, 이는 재앙적인 결과를 초래할 수 있다고 예측하고 있다. AI는 세 가지 유형으로 나뉜다:

  1. 인공지능 협소 지능(ANI): 현재의 생성 AI 기술을 포함하며, 미래 몇 년 동안 진화할 수 있는 협소한 훈련된 도구로 기능한다.
  2. 인공지능 일반 지능(AGI): 아직 존재하지 않지만, AGI는 단순한 도구가 아닌 에이전트처럼 작동할 것으로 예상되며, 자기 코드 수정, 혁신적인 문제 해결, 지속적인 학습이 가능하다. 전문가들은 AGI가 이번 10년 내에 등장할 수 있다고 언급하고 있다.
  3. 인공지능 초지능(ASI): 종종 인공지능 초지능으로 불리는 ASI는 AGI를 따른 후 인간의 통제를 벗어나 스스로 목표를 설정할 수 있다.

현재 ANI와 관련된 거버넌스에 대한 일부 진전이 이루어졌다:

  • 미국 주도의 UN 총회 결의안은 ANI를 다루지만 AGI는 다루지 않는다.
  • EU AI법과 중국의 인공지능 법률은 AGI를 고려하지 않고 ANI에 초점을 맞추고 있다.
  • 28개국이 서명한 블렛클리 선언은 또한 ANI에만 국한되어 있다.

미국과 중국의 AI 협력 대화는 AGI 거버넌스에 대한 논의를 암시할 수 있지만, 이러한 세부 사항은 공개되지 않았다. 최근 백악관의 성명과 행정명령 역시 AGI보다는 ANI에 집중하고 있다.

즉각적인 필요

이러한 도전 과제를 해결하기 위해 여러 조치가 필요하다:

  • AGI 라이센스 시스템을 국가적으로 승인하고, 국가표준기술연구소(NIST)에게 라이센스 발급 전에 AGI 안전 테스트를 위한 시뮬레이션을 준비하도록 지시하는 법안을 마련한다.
  • 밀레니엄 프로젝트의 AGI 거버넌스 연구의 1단계와 2단계를 활용하여 이러한 문제를 논의하는 데 도움을 준다.
  • "글래드스톤 방어 심층 방안: 고급 AI의 안전성과 보안을 높이기 위한 행동 계획"의 국가 제안을 평가한다.
  • UN 총회 결의안을 지지하여 ANI와 AGI를 모두 다루는 UN AI 조약 초안 작성을 위한 의지를 가진 위원회를 설립한다.

밀레니엄 프로젝트 2단계 AGI 보고서에서 강조된 바와 같이, AGI를 관리하는 것은 인류가 직면한 가장 복잡한 관리 과제 중 하나가 될 수 있으며, AGI 시스템 개발 이전에 이를 해결하지 못하는 것은 문명에 중대한 위험을 초래할 수 있다. 어떤 조직도 그러한 해로운 실수를 저지를 권리가 없다.

UNCPGA는 새로 선출된 UN 총회 의장에게 AGI를 주요 의제 항목으로 삼을 것을 권장할 수 있다. 그러나 모든 AGI 기관은 UNCPGA와 직접적으로 연결되는 것이 아니라 UN의 후원 하에 운영되어야 한다. 우리 2단계 연구는 또한 인간과 AI를 모두 포함하는 다중 이해관계자 하이브리드 조직인 TransInstitution을 제안하고 있다.

따라서 UN 총회 결의안이 긴급히 필요하다. 이 결의안은 UN AI 조약 초안을 작성할 위원회를 만드는 것이며, 이는 궁극적으로 국제 인공지능 기구 설립으로 이어질 것이다. UN 사무총장은 이미 지난 7월 AI에 관한 UN 안전 보장 이사회 회의에서 이러한 기구 설립을 지지한다고 표현했다.

UN IAIA 설립 단계

  1. 위원회 설립을 위한 UN 결의안: ANI와 AGI를 다루는 구성을 포함하여 UN AI 조약 초안을 작성할 의지를 가진 위원회를 설립한다.
  2. 조약 채택을 위한 UN 결의안: UN AI 조약을 채택하는 결의안을 통과시켜 국제 인공지능 기구의 설립을 위한 전환점을 마련한다.
  3. 회원국 비준: 회원국은 UN AI 조약을 비준하여 그 효력을 발생시켜야 한다.
  4. UN IAIA 설립: 비준 후, 국제 인공지능 기구가 공식적으로 설립된다.

IAIA의 밀레니엄 프로젝트 주도

밀레니엄 프로젝트의 AGI 연구는 세 가지 단계로 구성되어 있다:

  • 1단계: 55명의 AGI 리더와 협력하여 AGI에 관한 22개의 중요한 질문에 답변한다.
  • 2단계: 60개국에서 299명의 전문가가 참여하여 AGI에 대한 40개의 규제 및 5개의 글로벌 거버넌스 모델을 평가하는 원탁회담(RTD)을 진행한다.
  • 현재 진행 중인 작업은 2035년까지의 다섯 가지 AGI 시나리오를 개발하는 데 중점을 두고 있다.

Jerome Glenn은 이 중요한 이니셔티브에서 밀레니엄 프로젝트의 노력을 이끌고 있다. 첨부된 것은 참고용으로만 사용할 수 있는 작업 초안이며, 배포 또는 외부 유포를 목적으로 하지 않는다. Ben은 현재 제안된 시나리오 중 하나를 작성하고 있다.

이 포괄적인 계획은 AGI의 책임 있는 관리 및 거버넌스를 보장하기 위한 적극적인 조치의 필요성을 강조하고, 고급 인공지능의 현실에 접근하면서 인류의 이익을 최우선으로 보호하고자 하는 목표를 지닌다. 

 


IACAI Summary

 

Korea has established the International Agency for Copyright for Artificial Intelligence (IACAI: Director Prof Youngsook Park), the world’s first international organization dedicated to copyright management for AI-generated works. This pioneering initiative aims to systematically implement comprehensive policies, improve copyright management, and promote education in anticipation of the forthcoming AI era. The primary objectives of IACAI include clarifying the legal status of AI-created works, ensuring their legitimate use, and protecting the rights of relevant copyright holders.

As a global organization, IACAI addresses the intricate legal and ethical issues surrounding AI-generated content. It serves as a crucial framework for assigning copyrights to AI, particularly because human beings do not currently grant copyrights to AI or its creations. With forecasts suggesting that by 2026, approximately 90% of content on the internet will be produced by AI, the necessity for a robust copyright solution becomes evident. Thus, IACAI aims to facilitate the assignment of copyrights to AI through innovative programs and solutions.

In contrast to the WIPO (World Intellectual Property Organization), which manages copyrights for human-created works, IACAI focuses on the unique challenges of AI-generated content. Within this framework, AI systems can issue credentials or licenses to one another, ensuring comprehensive legal protection for their creations.

 

Key Points

  • IACAI is centered on copyright for AI-generated content.
  • It complements existing systems like WIPO, which primarily handle human-created works.
  • The goal is to establish a framework for AI to self-manage copyrights.

Goals and Purposes

  1. Establish International Copyright Standards: IACAI aims to develop laws and regulations to protect AI technology and creative works, promote ethical AI use, and provide a platform for global cooperation.
  2. Protect Rights of Stakeholders: The organization emphasizes recognizing copyright for AI-generated works and managing the rights and interests of creators, developers, and owners.
  3. Promote Ethical Use of AI: IACAI encourages responsible AI technology use by safeguarding the rights of copyright holders and ensuring equitable practices within the AI industry.
  4. Conduct Research and Education: The organization focuses on training experts in AI copyright protection while investigating legal, technical, and economic issues surrounding AI copyrights.
  5. International Support and Contribution: IACAI facilitates multinational dialogues on AI copyright policy through conferences and seminars to advance international copyright law development.

Core Activities

  • Assess the social impacts of AI-generated information and develop legal responses to misinformation.
  • Design educational programs to train professionals in AI copyright matters.
  • Research and publish findings on AI copyright issues, raising awareness among public and private institutions.
  • Establish certification systems for AI-generated content and enhance copyright content identification systems.

Organizational Structure

The founding board of IACAI comprises experts from a range of fields, including Toufi Saliba, chair of the IEEE AI Standards Committee, and Park Young-sook, the Korean representative of the UN Future Forum. The diverse expertise of board members strengthens the organization’s operational capabilities.

IACAI is committed to addressing the rapid growth of the AI industry and its associated social and legal challenges. By providing research, education, and international services related to copyright management, IACAI aims to play a pivotal role in shaping ethical standards and policies in the AI sector, fostering balanced and responsible development of AI technologies.

This comprehensive approach underscores IACAI’s dedication to effectively managing copyright issues related to AI and supporting all stakeholders involved in the creation and use of AI-generated works.

 

IACAI 요약

한국은 인공지능 저작권 관리 국제기구(International Agency for Copyright for Artificial Intelligence, IACAI: 이사장 박영숙 교수)를 설립했다. 이는 AI가 생성한 저작물의 저작권 관리를 전담하는 세계 최초의 국제 기구이다. 이 선구적인 이니셔티브는 다가오는 AI 시대를 대비해 체계적으로 포괄적인 정책을 시행하고, 저작권 관리 개선 및 교육을 촉진하는 것을 목표로 한다. IACAI의 주요 목적은 AI로 생성된 저작물의 법적 지위를 명확히 하고, 그들의 합법적 사용을 보장하며, 관련 저작권자의 권리를 보호하는 것이다.

글로벌 조직인 IACAI는 AI 생성 콘텐츠와 관련된 복잡한 법적 및 윤리적 문제를 다룬다. 현재 인간이 AI 또는 AI의 창작물에 저작권을 부여하지 않기 때문에, 이는 AI에 저작권을 부여하는 중요한 틀로 기능한다. 2026년까지 인터넷상의 콘텐츠의 약 90%가 AI에 의해 생성될 것으로 예상됨에 따라, 확고한 저작권 솔루션의 필요성이 뚜렷해진다. 따라서 IACAI는 혁신적인 프로그램과 솔루션을 통해 AI에 대한 저작권 부여를 촉진하는 것을 목표로 한다.

WIPO(세계지식재산기구)가 인간이 생성한 저작물의 저작권을 관리하는 것과 달리, IACAI는 AI 생성 콘텐츠의 독특한 문제에 집중한다. 이 틀 내에서 AI 시스템은 서로에게 인증서나 라이센스를 발급할 수 있으며, 그들의 창작물에 대한 포괄적인 법적 보호를 보장한다.

주요 내용

  • IACAI는 AI 생성 콘텐츠의 저작권에 중점을 둔다.
  • WIPO와 같은 기존 시스템을 보완하며, 이는 주로 인간이 생성한 저작물을 다룬다.
  • 목표는 AI가 저작권을 자가 관리할 수 있는 체계를 구축하는 것이다.

목표 및 목적

  1. 국제 저작권 기준 수립: IACAI는 AI 기술과 창작물 보호를 위한 법률 및 규정을 개발하고, 윤리적 AI 사용을 촉진하며, 글로벌 협력을 위한 플랫폼을 제공하는 것을 목표로 한다.
  2. 이해관계자 권리 보호: 이 조직은 AI 생성 저작물에 대한 저작권 인정과 창작자, 개발자 및 소유자의 권리와 이익 관리를 중시한다.
  3. AI의 윤리적 사용 촉진: IACAI는 저작권자의 권리를 보호하고 AI 산업 내 공정한 관행을 보장함으로써 책임 있는 AI 기술 사용을 권장한다.
  4. 연구 및 교육 실시: 이 조직은 AI 저작권 보호에 관한 전문가 양성에 집중하며, AI 저작권과 관련된 법적, 기술적 및 경제적 문제를 조사한다.
  5. 국제 지원 및 기여: IACAI는 국제 저작권 법 발전을 촉진하기 위해 회의 및 세미나를 통해 AI 저작권 정책에 대한 다국적 대화를 촉진한다.

핵심 활동

  • AI 생성 정보의 사회적 영향을 평가하고, 허위 정보에 대한 법적 대응을 개발한다.
  • AI 저작권 문제를 교육하기 위한 프로그램을 설계한다.
  • AI 저작권 문제에 대한 연구 결과를 발표하여 공공 및 민간 기관의 인식을 높인다.
  • AI 생성 콘텐츠에 대한 인증 시스템을 구축하고 저작권 콘텐츠 식별 시스템을 강화한다.

조직 구조

IACAI의 창립 이사회는 IEEE AI 표준 위원회 의장인 투피 살리바와 UN 미래 포럼의 한국 대표인 박영숙을 포함한 다양한 분야의 전문가들로 구성되어 있다. 이사회의 다양한 전문성은 조직의 운영 역량을 강화한다.

IACAI는 AI 산업의 급속한 성장과 관련된 사회적 및 법적 문제를 해결하기 위해 헌신하고 있다. 저작권 관리와 관련된 연구, 교육 및 국제 서비스를 제공함으로써, IACAI는 AI 분야 내 윤리적 기준과 정책을 형성하는 데 중요한 역할을 수행하고, AI 기술의 균형 잡힌 책임 있는 발전을 촉진할 것이다.

이 포괄적인 접근 방식은 AI와 관련된 저작권 문제를 효과적으로 관리하고 AI가 생성한 저작물의 생성과 사용에 관여하는 모든 이해관계자를 지원하려는 IACAI의 헌신을 강조한다. 

 

 

 
글로벌 미래를 위한 글로벌 싱크탱크
 
밀레니엄 프로젝트
소식

트위터

페이스북

링크드인

인스 타 그램

유튜브
최신 뉴스 - 밀레니엄 프로젝트 : 
  • 공공 서비스 분야의 전략적 예측 리더십 : Jerome Glenn은 DMS Academy와 협력하여 American University의 대학원 및 전문 연구실에서 최근 시작한 미래 리더를 준비하기 위한 이 새로운 프로그램의 선도적인 학자입니다. 오프닝 세션은 워싱턴 DC에서 열릴 예정이며 2024년 9월 17일 AU DC 캠퍼스에서 Jerome Glenn을 초대합니다. 자세한 내용을 읽고 Glenn의 비디오를 시청하세요: https://www.millennium-project.org/strategic-foresight-leadership-in- 공공 서비스/
  • 델파이 기반 연구 시나리오 커뮤니케이션에 관한 설문 조사 – 2024년 9월 8일: IUSVE를 통해 파도바 대학이 조정하고 밀레니엄 프로젝트와 협의한 이탈리아 노드는 미래 연구 전문가를 초대하여 다양한 유형의 AI를 평가하는 설문 조사에 참여합니다. -미래 시나리오에 대한 시각적 커뮤니케이션 생성. 자세한 내용을 읽고 참여하세요: https://www.millennium-project.org/survey-on-communications-of-scenarios-in-delphi-based-research-sept-8-2024/ 


최신 뉴스 - 밀레니엄 프로젝트 노드 :
  • 미얀마 외무부 싱크탱크 MISIS, SAFN과 협력 : 남아시아 예측 네트워크와 미얀마 전략국제문제연구소는 2024년 7월 15일 연구 협력 및 교류를 위한 작업 프로토콜에 서명했습니다. SAFN은 지역 국가 간의 시너지 관계를 모색하고 있습니다. 더 읽어보세요: https://www.millennium-project.org/myanmar-foreign-ministry-think-tank-misis-collaborates-with-safn/
  • RIBER 총회 - 2024년 7월 24일: Red Iberoamericana de Prospectiva는 갱신 과정을 완료하고 새로운 조례 및 전무 이사인 Guillermo Gándara Fierro를 발표하는 총회를 조정했습니다. 보고서를 읽고 사진과 슬라이드를 시청하세요: https://www.millennium-project.org/riber-plenary-meeting-july-24-2024/
  • 몬테레이에서 열리는 RIBER 회의 – 2024년 9월 24~25일 : Red Iberoamericana de Prospectiva는 멕시코 몬테레이에서 열리고 Tecnológico de Monterrey의 Futures Design Lab에서 주최하는 2024년 차기 직접 회의에 모든 회원을 초대합니다. 의제를 확인하고 참석 등록을 하세요:
    https://www.millennium-project.org/riber-meeting-in-monterrey-september-24-25-2024/
  • 꿈과 혼란에 관한 FEN 데모 시간 – 2024년 7월 11일: Foresight Europe Network가 주최하고 Shermon Cruz(필리핀 노드 의장)가 주최하여 Dreams and Disruptions Foresight Game을 시연하는 이벤트의 비디오 녹화를 이제 이용할 수 있습니다. 자세한 내용을 읽고 시청하세요: https://www.millennium-project.org/fen-demo-hour-on-dreams-and-disruptions-july-11-2024/
  • 시나리오 및 통계 분석을 위한 혁신적인 접근 방식: Simone Di Zio(이탈리아 노드 공동 의장)는 다른 사람들과 협력하여 최근 공간 합의의 통계 모델링, 유럽 연합 국가의 미래 상태 및 Real-Time Spatial Delphi에 대한 컨퍼런스 초록을 발표했습니다. 판단과 인공지능. 자세히 알아보고 다운로드하세요:
    https://www.millennium-project.org/innovative-approaches-for-scenarios-and-statistical-analyses/
  • 이탈리아에서 Futuri에 2022년 세계 미래의 날 결과 발표: 글로벌 미래 어젠다에 초점을 맞춘 세계 미래의 날 2022년 결과의 새로운 버전이 최근 Mara Di Berardo와 Simone Di Zio(이탈리아 노드 의자)에 의해 이 과학 저널에 게재되었습니다. Node.js의 파트너인 이탈리아 미래 연구소에서 발행했습니다. 자세히 알아보고 주문하세요:
    https://www.millennium-project.org/italian-publication-of-wfd-2022-results-on-futuri/
  • LatinoAmérica 2050이 파라과이 대통령에게 전달 - 2024년 6월 13일: Veronica Agreda와 함께 Bolivia Node는 멕시코 및 볼리비아 Node가 발행한 "LatinoAmérica 2050. Retos, escenarios y acciones"를 파라과이 대통령인 Santiago Peña Palacios에게 짧은 시간 내에 전달했습니다. 파라과이 대사관과 볼리비아 민간 기업가 연맹(CEPB)이 주최한 비즈니스 리더들과의 만남. 자세한 내용을 읽고 사진을 감상하세요:
    https://www.millennium-project.org/latinoamerica-2050-delivered-to-the-president-of-paraguay/
  • 페루의 José Cordeiro - 2024년 7월: José Luis Cordeiro(스페인 노드 및 RIBER 의장)는 최근 페루를 방문하여 Fernando Ortega(페루 의장)와 협력하여 "Ingeniería, Futuro, Inmortalidad y Singularidad en 2045"를 발표하고 경제학자와 만났습니다. Hernando de Soto는 멕시코와 볼리비아 노드에서 발행한 "Latinoamérica 2030" 책을 그에게 선물했습니다. 자세한 내용을 읽고 사진을 감상하세요:
    https://www.millennium-project.org/jose-cordeiro-in-peru-july-2024/
  • 예상 24 - 2024년 9월 11~14일 : Adrian Pop(루마니아 노드 의장), Epaminondas Christophilopoulos(그리스 노드 의장), Lena Tunkers(FEN 미래 회장), Toni Ahlqvist(헬싱키 노드 공동 의장)이 컨퍼런스에서 연설할 예정입니다. 영국 랭커스터 대학이 주최한 더 읽어보세요: https://www.millennium-project.org/anticipation-24-september-11-14-2024/
  • 세계 질서의 대수렴과 재구축 - 2024년 8월 15일까지 초록 : 국립 정치행정대학(루마니아 노드)과 SGH 바르샤바 경제대학이 이 책에 대한 기여를 요청했습니다. 더 읽어보세요: https://www.millennium-project.org/great-convergence-and-remaking-of-world-order-abstracts-by-aug-15-2024/
  • AI 재난 관리 보조원 : Gustavo Machado와 Diego Maffazzioli(브라질 노드 회원)는 최근 브라질의 Rio Grande do Sul 기후 재앙에 대한 AI 재난 관리 보조원을 개발하여 출시했습니다. 더 읽어보세요: https://www.millennium-project.org/ai-disaster-management-assistant/
  • 미래 연구 핸드북 : 로베르토 폴리(Roberto Poli)가 편집한 이 새 책에는 각각 국제 관계 및 미래 연구에 중점을 두고 스마트 시티 미래에 대한 예측에 초점을 맞춘 루마니아 및 필리핀 노드 의장의 기고가 포함되어 있습니다. 더 읽어보세요: https://www.millennium-project.org/handbook-of-futures-studies/
  • 아르헨티나 노드(Argentina Node)에서 출판한 Horacio Godoy : Centro Latinoamericano de Globalización y Prospectiva(아르헨티나 노드)는 최근 아르헨티나의 중요한 지식인인 Horacio Godoy가 쓴 두 권의 책을 출판했으며, 둘 다 Miguel Gutiérrez(아르헨티나 노드 공동 의장)가 편집했습니다. Horacio Godoy는 밀레니엄 프로젝트 타당성 조사에 참여했으며 아르헨티나 노드(Argentina Node)의 창립자였습니다. "El país de los monos" 및 "La muerte in pausa" 책에 대해 자세히 알아보고 주문하세요: https://www.millennium-project.org/horacio-godoy-published-by-the-argentina-node/
  • Casanueva와 함께하는 Desafíos de Futuro y Prospectiva del Siglo XXI – 2024년 7월 23일: Instituto Universitario de Análisis Económico y Social은 Héctor Casanueva(칠레)가 조정한 미래의 과제와 XXI 세기의 관점에 대한 새로운 국제 대화 시리즈를 조직하고 있습니다. 노드 의자). 첫 번째 회의에서는 Casanueva가 주최했으며, 여름 이후에는 Ibon Zugasti(부국장 겸 스페인 노드 의장)를 포함한 다른 손님이 예정되어 있습니다. 첫 번째 회의 녹화를 시청하고 자세한 내용을 읽어보세요: https://www.millennium-project.org/desafios-de-futuro-y-prospectiva-del-siglo-xxi-with-casanueva/
  • 인공 지능에 관한 마스터 클래스 – 2024년 6월 16일: Héctor Casanueva(칠레 노드 의장)를 주최하는 이벤트 녹화가 이제 가능합니다. 자세한 내용을 읽고 시청하세요: https://www.millennium-project.org/master-class-on-artificial-intelligence-june-16-2024/

언론 의 새로운 소식 :
  • 비디오 : Gerd Leonard , " 미래학자 David Wood와 Gerd Leonhard가 인공 일반 지능에 대해 토론함 ", David Wood(영국 노드 공동 의장)와 함께한 비디오.
  • 출판 : 유네스코 예측 거버넌스 및 재생 도시 의장, "Siyasip" , Shermon Cruz(필리핀 노드 의장)의 소개를 통해 미래 문해력 및 예측 거버넌스를 촉진하기 위한 새로운 저널.
  • 보도 자료 : SAFN , " 미얀마 외무부 싱크탱크 MISIS가 워싱턴 DC에서 SAFN과 협력하고 있습니다 ."
  • 인터뷰 : 24 Yaca , "Доц. Mariana Tодорова, футуролог: Предсказана бе "смъртта на смърта" и ето – казват, че дългият живот само 20% зависи от genите"("죽음의 죽음"이 예언되었는데, 여기에 있습니다. – 장수는 20%의 유전자에만 달려 있다고 합니다), Mariana Todorova(불가리아 노드 의장)와의 인터뷰.
  • 출판물 : Tero Villman, Sirkka Heinonen(헬싱키 노드 공동 의장) 및 Laura Pouru-Mikkola가 작성한 “ 모자이크로서의 미래 연구 세계 ”, Jerome Glenn, Mara Di Berardo(통신 이사 및 이탈리아 노드 공동 의장)의 기여 , Fredy Vargas Lama(콜롬비아 노드 공동 의장), Nicolas Balcom Raleigh(FEN 회장) 및 Sirkka Heinonen.
  • 팟캐스트 : Greening Urban Futures, 에피소드 #14, " 인류의 도시화, 기술 및 밀레니엄 프로젝트: 25년 "에서 Jerome Glenn이 도시화의 미래를 형성하는 몇 가지 추세와 영향력을 공유합니다.
  • 비디오: Jerome Glenn 및 David Wood(영국 노드 공동 의장)와 함께하는 Trustless Computing Association 웹 세미나 녹화, " AI 위험 사전 정상회담 활용 ".
알림: 최신 정보를 받아보세요:
정보 및 뉴스 제안에 대해서는 MaraDiBelardo [at] millennium-project.org 의 MP 커뮤니케이션 이사인 Mara Di Berardo에게 문의하십시오.

밀레니엄 프로젝트(Millennium Project)는 1996년 유엔대학교 미국협의회(American Council for the United Nations University) 산하로 설립된 글로벌 참여형 싱크탱크입니다. 2009년에 독립적인 NGO가 되었으며 전 세계 71개 노드 로 성장했으며 70개 이상의 글로벌 미래 연구 연구를 수행했습니다(가장 최근에는 AGI 글로벌 거버넌스 1단계 및 2단계 , 작업/기술 2050: 시나리오 및 조치 ), 19개 주에서 출판 of the Future 보고서를 작성하고 Futures Research Methodologies 3.0을 작성했으며 워싱턴 DC에서 400명 이상의 원격 인턴 및 직접 인턴을 감독했습니다.

     
© 2024 밀레니엄 프로젝트, 판권 소유.


주문하려면:
  • 영어, 스페인어 또는 중국어로 Artificial Narrow에서 Artificial Genera Intelligence로 전환 다운로드 클릭
  • 작업/기술 2050: 시나리오 및 조치 다운로드 또는 인쇄 클릭
  • State of the Future 19.1 다운로드 또는 인쇄 클릭 
  • Futures Research Methodology 3.0 다운로드만 클릭


업무 이메일 공지를 위해 전문 미래학자를 위한 Millennium Project listserv(millproj)에 추가됩니다 : info@Millennium-Project.org


일반문의 : info@Millennium-Project.org
 
이 목록에서 탈퇴 | 업데이트 구독 환경 설정

 

AGI 거버넌스에 대한 밀레니엄 프로젝트 연구의 3단계


AGI 거버넌스에 대한 밀레니엄 프로젝트 연구의 3단계

  • Mara Di Berardo가 게시함
  • 2024년 7월 26일
  • 0개의 댓글
  • AGI, 인공지능, 연구, 전환

AGI 거버넌스에 대한 밀레니엄 프로젝트 연구의 3단계는 2035년까지의 5가지 AGI 거버넌스 시나리오의 초기 초안으로 시작되었습니다. 인공 협소 지능에서 인공 일반 지능(AGI)으로의 전환에 대한 국제 거버넌스 문제에  대한  연구는 3단계로 구성되어 있습니다.

AGI 연구의 1단계 ( 순서 )에서는 미국, 중국, 영국, 유럽연합, 캐나다, 러시아의 55명의 AGI 리더들의 55개 질문에 대한 의견을 수집했습니다.

 연구의  2단계 는 개발자, 정부, 다중 이해 관계자/UN 조직 및 AGI의 신뢰할 수 있는 글로벌 및 국가적 거버넌스를 위한 40개의 잠재적 규정을 평가한 실시간 델파이 연구 로 구성되었습니다  . RTDelphi는 현재 종료되었으며 보고서가 준비 중입니다.

3단계가  방금 시작되었습니다. 2035년까지의 대안적 AGI 거버넌스 시나리오를 만들어 실패에서 성공까지 다양한 가능한 미래를 보여줄 계획입니다. 다섯 명의 저자 는 Ben Goertzel(  2007년 Artificial General Intelligence 저자  ), Mariana Todorova( 불가리아 노드 의장), David Wood( 영국 노드 공동 의장 ), Jose Cordeiro( 베네수엘라 노드 의장 겸 RIBER 사장 ), Jerome Glenn  (MP CEO)입니다.

 

인공적 좁은 지능에서 인공적 일반 지능 거버넌스로의 전환

 


인공적 좁은 지능에서 인공적 일반 지능 거버넌스로의 전환

  • JGlenn님이 게시함
  • 2021년 4월 12일
  • 0개의 댓글

AGI 연구의 1단계 에서는 미국, 중국, 영국, 유럽 연합, 캐나다, 러시아의 55명의 AGI 리더의 의견을 아래 55개 질문에 대해 수집했습니다(리더 목록은 질문 뒤에 있음). 1단계 연구는 Dubai Future Foundation과 Future of Life Institute의 재정 지원을 받았습니다.

1단계 다운로드를 주문하세요 ( 영어 원본). 1단계 보고서의 스페인어 와 중국어 번역도 제공됩니다.

2단계 는 개발자, 정부, 다중 이해 관계자/UN 조직 및 사용자를 위한 40개의 잠재적 규정을 평가하여 AGI의 신뢰할 수 있는 글로벌 및 국가적 거버넌스를 위한 실시간 델파이 연구 입니다 . RTDelphi는 현재 종료되었으며 보고서가 준비 중입니다.

3단계 에서는 2035년까지의 대안적인 AGI 거버넌스 시나리오를 제시하여 실패에서 성공까지 다양한 미래를 보여줄 계획입니다.

1단계 질문:

기원 또는 자기 출현

  1. 오늘날의 AI에서 미래에 훨씬 더 뛰어난 AGI로 발전할 수 있는 가능한 방향을 어떻게 예상하시나요?
  2. 이러한 궤적이 관리되지 않거나, 제대로 관리되지 않을 경우 가장 중요한 심각한 결과는 무엇일까요?
  3. 인간의 취향에 맞지 않는 인공 초지능이 나중에 등장하지 않기 위해 AGI의 주요 초기 조건은 무엇입니까?

가치 정렬, 도덕성, 가치

  1. 인공지능에 관한 글로벌 파트너십(GPAI)과 이미 규범, 원칙, 가치를 파악한 다른 기관의 작업을 바탕으로 AGI에 대해 고려해야 할 추가적 또는 고유한 가치는 무엇입니까?
  2. 국제 조약과 거버넌스 시스템에 가치의 위계가 필요하게 되면, 최우선 순위는 무엇이어야 할까요?
  3. 어떻게 정렬을 이룰 수 있을까요? 불가능하다고 생각한다면, 이 상황을 관리하는 가장 좋은 방법은 무엇일까요?

거버넌스 및 규정

  1. 국가와 기업이 글로벌 리더십을 위해 지적인 "군비 경쟁"을 벌이는 동안 국제 협정과 글로벌 거버넌스 시스템을 구축하는 데 필요한 국제 협력을 어떻게 관리할 것인가?
  2. AGI의 글로벌 거버넌스에는 어떤 옵션이나 모델이 있나요?
  3. AGI의 출현을 통제하려는 시도로 인해 어떤 위험이 발생할 수 있습니까? (일부 조치는 역효과를 낼 수 있을까요?)
  4. 미래의 AGI에 권리를 할당해야 할까?
  5. 당시 거버넌스 시스템을 만들 당시에는 알려지지 않았던 새로운 문제에 대응할 만큼 거버넌스를 유연하게 만들 수 있는 방법은 무엇일까?
  6. 국제 AGI 조약의 문구를 알리기 위해 어떤 국제 거버넌스 시험, 테스트 또는 실험을 구성할 수 있습니까?
  7. 국제 조약과 거버넌스 시스템은 어떻게 권력의 중앙집중화가 다른 권력을 밀어내는 것을 막을 수 있을까?
  8. 오늘날 AGI의 글로벌 거버넌스에 대한 가장 중요하고 통찰력 있는 연구는 어디에서 진행됩니까?

제어

  1. 국제 AGI 조약을 효과적으로 만들려면 어떤 집행권한이 필요할까요?
  2. 조직범죄와 테러리즘에 의한 AGI 사용을 어떻게 줄이거나 예방할 수 있습니까? (AGI에 의해 가능해질 수 있는 새로운 유형의 범죄와 테러리즘을 고려해 주십시오.)
  3. AGI 감사가 일회성 인증이 아닌 지속적인 감사로 이루어져야 한다고 가정할 때, 감사 가치는 어떻게 처리될까요?
  4. AGI 거버넌스 시행 작업을 복잡하게 만들 수 있는 혼란은 무엇일까요?
  5. 거버넌스 모델은 유틸리티 기능에서 예상치 못한 바람직하지 않은 동작을 어떻게 수정할 수 있을까?
  6. 양자 컴퓨팅은 AGI 제어에 어떤 영향을 미칠까?
  7. 국제 협정과 거버넌스 시스템은 AGI "군비 경쟁"과 에스컬레이션이 예상보다 빨리 진행되고 통제 불능이 되어 운동 전쟁, 알고리즘 전쟁, 사이버 전쟁 또는 정보 전쟁으로 이어지는 것을 어떻게 방지할 수 있을까요?

마지막으로: 22. 긍정적인 AGI 결과를 얻으려면 어떤 추가 문제 및/또는 질문을 해결해야 합니까?

AGI*에 대한 잠재적 거버넌스 모델의 초기 샘플

  1. IAEA와 유사한 모델 또는 집행권이 있는 WTO와 유사한 모델. 이해하기 가장 쉬운 모델이지만 AGI를 관리하기에는 너무 정적일 가능성이 높습니다.
  2. 국제 조약과 일치하는 IPCC와 유사한 모델. 이 접근 방식은 기후 변화에 대한 거버넌스 시스템으로 이어지지 않았습니다.
  3. 감사 및 허가 상태, 정보 파워에 의한 거버넌스를 갖춘 온라인 실시간 글로벌 집단 지능 시스템. 이는 AGI 시스템을 선택하고 사용하는 데 유용할 것이지만, 정보 파워가 AGI의 진화를 거버넌스하기에 충분하다는 증거는 없습니다.
  4. GGCC(글로벌 거버넌스 조정 위원회)는 유연하고 국가적 제재, 각국의 임시 법적 판결, 보험료에 의해 강제됩니다. 이는 AGI 개발자가 표준을 충족하지 못할 수 있는 방법이 너무 많습니다.
  5. 감사 및 라이선싱에 사용되는 UN, ISO 및/또는 IEEE 표준. 라이선싱은 구매에 영향을 미치고 영향을 미치지만 모든 국가가 비준하는 국제적 협정 또는 조약이 필요합니다.
  6. AGI 거버넌스의 여러 부분을 ITU, WTO, WIPO와 같은 여러 기관에 두십시오. 이 중 일부는 일어날 가능성이 있지만 모든 AGI 시스템 인스턴스를 관리하기에 충분하지는 않습니다.
  7. 분산형 반자율적 트랜스인스티튜션. 이는 가장 효과적일 수 있지만, 분산형 반자율적 조직과 트랜스인스티튜션은 모두 새로운 개념이기 때문에 확립하기 가장 어려울 수 있습니다.

* EC가 Horizons 2024-27 계획에 대한 입력을 위해 계약한 Jerome C. Glenn의 "인공 일반 지능 문제 및 기회"에서 발췌.

 

1단계의 AGI 전문가 및 사상적 리더

  1. Sam Altman, YouTube 및 OpenAI 블로그, OpenAI CEO
  2. 익명, AGI 실존적 위험 OECD (ret.)
  3. Yoshua Bengio. AI 개척자, Quebec AI Institute 및 University of Montréa l
  4. 이라클리 베리제, 유엔 지역간 범죄 및 사법 재판소, AI 및 로봇공학 담당
  5. 옥스포드 대학교 인류 미래 연구소의 닉 보스트롬
  6. Gregg Brockman, OpenAI 공동 창립자
  7. 빈트 서프, 인터넷 전도사, Google 부사장.
  8. Chen Shaoqun, Shenzhen Zhongnong Net Company CEO
  9. 익명, 중국 Jing Dong AI 연구소
  10. 페드로 도밍고스, 워싱턴대학교
  11. Dan Faggella, Emerj 인공 지능 연구
  12. Lex Fridman, MIT 및 팟캐스트 진행자
  13. 빌 게이츠
  14. Ben Goertzel, SingularityNET CEO
  15. Yuval Noah Harari, 히브리 대학교, 이스라엘
  16. 트리스탄 해리스, 인도적 기술 센터
  17. DeepMind의 CEO이자 공동 창립자인 Demis Hassabis
  18. Geoffrey Hinton, AI 개척자, Google (은퇴)
  19. Lambert Hogenhout, 유엔 사무국 최고 데이터, 분석 및 신흥 기술 책임자
  20. Erik Horvitz, Microsoft 최고 과학 책임자
  21. 익명, 정보기술백인협회, 중국
  22. 익명, 중국 현대 국제 관계 연구소
  23. Andrej Karpathy, Open AI, 전 AI S 연구원 Tesla
  24. 데이비드 켈리, AGI 랩
  25. Dafne Koller, Stanford University, Coursera
  26. Ray Kurzweil, 엔지니어링 머신 러닝 책임자, Google
  27. Connor Leahy, CEO Conjecture
  28. Yann LeCun, 뉴욕 대학교 교수, Meta의 수석 과학자
  29. DeepMind의 공동 창립자 Shane Legg
  30. 페이페이 리, 스탠포드 대학교, 인간 중심 AI
  31. Erwu Liu, Tongji University AI 및 블록체인 인텔리전스 연구소
  32. Gary Marcus, NYU 명예교수
  33. Dale Moore, 미국 국방부 AI 컨설턴트
  34. Stability.ai의 CEO인 Emad Mostaque
  35. 일론 머스크
  36. Gabriel Mukobi, 스탠포드 대학 박사과정 학생
  37. 익명, 국립 연구 대학 고등 경제 대학
  38. Judea Pearl, UCLA 교수
  39. 구글 CEO, 썬다르 피차이
  40. AAAI 회장, IBM 펠로우, IBM의 AI 윤리 글로벌 리더인 Francesca Rossi
  41. 익명, 러시아 과학 아카데미
  42. 스튜어트 러셀, UC 버클리
  43. 칼 슈뢰더, 공상과학 작가
  44. Bart Selman, 코넬 대학교
  45. 하비에르 델 세르(Javier Del Ser), 스페인 테크날리아
  46. 데이비드 샤피로, AGI 정렬 컨설턴트
  47. i8 Ventures의 창립자이자 CEO인 Yesha Sivan
  48. Ilya Sutstkever, Open AI 공동 창립자
  49. Jaan Tallinn, Ct. 케임브리지 대학의 실존적 위험 연구 및 미래 생명 연구소
  50. Max Tegmark, 미래 생명 연구소 및 MIT
  51. Aigo.ai의 CEO 겸 수석 과학자 Peter Voss
  52. 폴 워보스, 미국 국립과학재단(은퇴)
  53. Stephen Wolfram, Wolfram Alpha, Wolfram 언어
  54. 양유동 알리바바 DAMO연구소 소장
  55. 엘리에제르 유드코프스키 머신 인텔리전스 연구소

ANI의 가치와 윤리적 문제를 연구하는 훌륭한 센터는 많지만 AGI로의 전환을 위한 잠재적 글로벌 거버넌스 모델은 없습니다. ANI, AGI, ASI의 구분은 일반적으로 이러한 연구에서 누락되어 있습니다. 가장 포괄적이고 자세한 미국 국가안보위원회 인공지능 보고서조차도 거의 언급되지 않았습니다. [iv] AI 거버넌스에 대한 현재 작업은 오늘날 전 세계적으로 확산되고 있는 인공 협소 지능을 따라잡으려고 노력하고 있습니다. 또한 AGI가 될 수 있는 거버넌스 요구 사항을 예상하기 위해 앞서 나가야 합니다.

AGI 거버넌스 규칙을 너무 일찍 만들면 개발이 저해될 것이라는 주장이 있습니다. AGI가 언제 가능할지에 대한 전문가의 판단은 다양하지만, AGI를 개발하기 위해 노력하는 일부 사람들은 10년 만에 AGI를 가질 수 있다고 믿습니다. [v] 1) ANI에서 AGI로의 국제 또는 글로벌 협정을 개발하고, 2) 거버넌스 시스템을 설계하고, 3) 구현을 시작하는 데 10년이 걸릴 가능성이 높으므로 지금부터 잠재적인 거버넌스 접근 방식과 그 잠재적인 효과성을 탐색하는 것이 현명할 것입니다.

밀레니엄 프로젝트는 현재 이 연구를 위한 스폰서와 협력자를 모집하고 있습니다. Jerome.Glenn@Millennium-Project.org 또는 info@millennium-project.org 로 이메일을 보내주세요 .

밀레니엄 프로젝트의 창립자이자 CEO인 제롬 C. 글렌은 밀레니엄 프로젝트에서 제작한 이 짧은 영상에서 올바른 초기 조건을 얻기 위해 지금 왜 좁은 범위의 인공지능에서 일반적인 인공지능으로의 전환을 연구해야 하는지 설명합니다.

업데이트:

  • 2023년 2월 , Jerome C. Glenn이 Horizon Europe의 제2차 전략 계획(2025-27)에 대한 Foresight에 대한 입력을 위해 EC에서 계약한 인공 일반 지능 문제 및 기회 " 출판 .
  • 2022년 12월 , 팟캐스트, “ 인공 협대지능(ANI)에서 인공 일반 지능(AGI)으로의 전환에 대한 글로벌 거버넌스 ”, London Futurist의 Jerome C. Glenn과 함께.
  • 2022년 12월 , 출시, 일반 인공지능 거버넌스 연구의 첫 단계 .

[i] 스티븐 호킹은 AI가 '우리 문명의 역사상 최악의 사건'이 될 수 있다고 말했습니다 . https://www.cnbc.com/2017/11/06/stephen-hawking-ai-could-be-worst-event-in-civilization.html

[ii] Elon Musk는 Tesla를 포함하여 모든 고급 AI 개발을 규제해야 한다고 말했습니다 . https://techcrunch.com/2020/02/18/elon-musk-says-all-advanced-ai-development-should-be-regulated-cluding-at-tesla/

[iii] 마이크로소프트의 빌 게이츠는 AI가 위협이라고 주장합니다 . https://www.bbc.com/news/31047780

[iv] 인공지능에 관한 미국 국가안보위원회의 최종 보고서 전문은 https://www.nscai.gov 에서 확인할 수 있습니다.

[v] AI Multiple, 995명의 전문가 의견: 2060년까지 AGI/특이점[2021 업데이트] https://research.aimultiple.com/artificial-general-intelligence-singularity-timing/ , 2020년 12월 31일

 

 

 

 

 

 

 
 
광고
광고
광고
광고
광고
광고
광고
광고
광고