BGI 서밋 및 언컨퍼런스, 파나마 시티와 인터넷/메타버스에서 2월 27일~3월 1일 개최 BGI Summit & Unconference, Coming to Panama City and the Internet/Metaverse, Feb 27-March 1

AI 분야는 매주 발표되는 흥미진진한 새로운 개발과 함께 최근 눈에 띄게 활력을 얻었습니다. AGI가 가까워지고 있다는 인식이 점점 더 넓어지고 있으며, 이것이 인류에게 어떤 의미를 갖게 될지에 대한 우려도 그에 비례하여 증가하고 있습니다.The AI field has picked up steam remarkably in recent times, with exciting new developments announced weekly. There is an increasingly wide sense that AGI is coming near, and a commensurately increasing concern about what this is going to mean for humanity.

 

 

 

확실히 현재 인간 수준의 일반 인공 지능(AGI)은 아직 도달하기 어려운 수준입니다. 현대의 대형 언어 모델은 놀랍지만 자율성, 근본적인 창의성, 복잡한 다단계 추론 능력이 부족합니다. 그러나 이러한 모든 약점을 해결하기 위한 연구가 적극적으로 진행되고 있으며 상당한 자원의 지원을 받고 있습니다. LLM 개선 및 확장뿐만 아니라 상징적 추론, 진화 학습 또는 보다 현실적인 생물학적 시뮬레이션과 같은 AI 방법과 관련된 매우 다양한 접근 방식을 포함하여 다양한 방법이 탐색되고 있습니다.   For sure, at the moment Artificial General Intelligence (AGI) at the human level remains a bit out of reach. Modern Large Language Models are incredible, yet they lack autonomy, fundamental creativity, and the capability for complex multi-stage reasoning. However, research aimed at addressing all these weaknesses is energetically underway and backed by significant resources. Various avenues are being explored, including improving and expanding LLMs as well as quite different approaches involving AI methods like symbolic reasoning and evolutionary learning or more realistic biological simulation.  

 

어떤 연구 접근 방식이 다음 단계의 큰 도약에 성공하든 일단 인간 수준의 일반 지능을 갖춘 AGI가 생기면 인공 초지능(ASI)을 갖추는 데 그리 오랜 시간이 걸리지 않을 것이라고 내 직관으로 생각합니다. 이름에 걸맞은 인간 수준의 AGI는 이미 자체 소프트웨어와 하드웨어를 개선할 수 있는 능력을 갖추고 있어 1965년 IJ Good이 "지능 폭발"이라고 불렀던 눈덩이처럼 불어나는 능력의 급속한 가속화 프로세스로 이어질 것입니다.Whichever research approach succeeds at making the next big leap, once we have an AGI with general intelligence at the human level, my own intuition is that it probably won’t be much longer before we have Artificial Superintelligence (ASI). A human-level AGI worthy of the name will already have the ability to improve its own software and hardware, leading to a rapidly accelerating process of snowballing capability that I.J. Good in 1965 called “The Intelligence Explosion.”

 

 

이러한 종류의 발전이 가져올 잠재적인 영향에 대한 우려는 이해할 만합니다. 할리우드는 첨단 AI의 어두운 잠재력을 과장하지만 실제로는 위험도 매우 현실적입니다. Fears regarding the potential implications of this sort of development are understandable. Although Hollywood exaggerates the dark potentials of advanced AI, in reality, the risks are also very real.

 

인간 수준을 넘어서는 AGI는 우리를 풍요의 시대로 이끌고 죽음, 질병, 빈곤을 정복하고 생계를 위해 일할 필요를 없애고 인간과 다른 지각 있는 존재에게 현재 이해할 수 없는 다양한 놀라운 옵션을 열어줄 수 있습니다. 이를 상쇄하는 현재 AI 분야의 경제 및 통제 구조는 전적으로 긍정적인 희망을 불러일으키는 원인이 아닙니다. 지구상의 응용 AI 작업의 대부분을 담당하는 대기업과 주요 정부는 인류의 전반적인 이익과 나란히 때로는 모순되는 자신만의 특별한 이익을 염두에 두고 있습니다.An AGI beyond the human level could lead us into an era of abundance, conquering death, disease, and poverty, removing the need to work for a living and opening up a currently incomprehensible variety of astounding options for humans and other sentient beings. Counterbalancing this, the current economic and control structure of the AI field is not entirely a cause for positive hope. The large corporations and major governments that house the majority of the planet’s applied AI work have their own particular interests in mind, alongside and sometimes contradicting the overall interests of humanity.

 

그렇다면 우리가 처한 흥미롭고 전례 없는 위치와 관련된 불확실성에 대한 해결책은 무엇입니까?So what’s the solution to the uncertainty associated with the exciting and unprecedented position we find ourselves in?

 

팬데믹 이후 상황이 열리고 좀 더 신중한 속도로 다시 행사에 참석하기 시작하면서, 공통 공간에 다양한 사람들이 함께 모이는 것에서 오는 고유한 가치를 강하게 상기시키기도 했습니다. 가상 공간에 모이는 것은 환상적일 수 있으며 기술이 발전함에 따라 점점 더 좋아지고 있으며 매우 가치가 있을 수 있습니다. 하지만 현 시점에서도 공통의 물리적 공간에 몸을 모아 전체적인 방식으로 비전, 아이디어, 반응을 공유하는 데에는 여전히 강력하고 독특한 가치가 있습니다.As things opened up after the pandemic and I started going to events again at a more measured pace, I also got a strong reminder of the unique value that comes from gathering together with diverse others in a common space. Gathering in virtual spaces can be fantastic, and keeps getting better as the technology advances, and it can be extremely worthwhile. But at this point, there’s still some powerful, unique value in getting bodies together in a common physical space to share visions, ideas, and reactions in a holistic way.

 

나는 약간의 두려움 속에서 It was with a bit of trepidation that I decided to put together BGI(Beneficial General Intelligence)에 관한 컨퍼런스를 개최하기로 결정했습니다 a conference on Beneficial General Intelligence (BGI)..

 

 

 

이것이 현 시점에서 인류가 직면한 가장 중요한 문제입니까? 전적으로. 선한 일을 할 수 있는 다른 모든 기술은 유익한 AGI에 의해 더 빠르고 더 효과적으로 완성되고 출시될 수 있습니다. 해를 끼칠 수 있는 다른 기술은 자신의 지시나 악의적이거나 이기적인 인간의 지시에 따라 작동하는 유익하지 않은 AGI에 의해 더 효과적으로 배포되고 가해질 수 있습니다.Is this by far the most critical issue facing the human species at this point in time? Absolutely. Any other technology capable of doing good can likely be completed and rolled out faster and better by a Beneficial AGI. Any other technology capable of doing harm can likely be deployed and inflicted more effectively by a NON-beneficial AGI, working under its own direction or that of malevolent or selfish humans.

 

그러나 직접 또는 온라인으로 몇 가지 추가 대화와 패널이 이러한 문제를 해결하는 데 어떻게 도움이 될 수 있습니까? AI 윤리에 관한 대화와 패널은 수십 년 동안 진행되어 왔으며 많은 흥미로운 대화가 촉발되었습니다. 한편, AI 개발 및 배포는 이 모든 논의와 대체로 직교적으로 계속됩니다.But how can a few more talks and panels, whether in person or online, help address these issues? Talks and panels on AI ethics have been going on for decades, and plenty of interesting conversations have been triggered. Meanwhile, AI development and deployment continue largely orthogonally to all this discussion.

 

이러한 새로운 도전에 대처하기 위해 우리는 경청하고 토론해야 하지만 그 이상의 것도 필요합니다. 우리는 함께 모여 새롭고 더 나은 방식으로 미래를 재창조해야 합니다.To deal with these new challenges, we do need to listen and to discuss, but we also need more than that—we need to come together and re-invent our future in a new and better way.

 

 

 

미래에 AGI와 인류가 어떻게 공존할 것인지에 대한 이야기는 아직 펼쳐지지 않았습니다. 지금 매우 불굴의 것으로 보이는 조직과 역학은 필연적으로 Gregg 속기, Blockbuster Video, Honeywell, 육상 노선 및 말이 끄는 마차의 길을 갈 수 있습니다. 현재의 AI 기술은 놀랍지만 아직 여기와 인간 수준의 AGI 사이에는 몇 가지 획기적인 발명품이 남아 있고 이러한 발명품을 누가 만들 것인지, 어떤 형태로, 어떤 조직에 의해 굴러갈 것인지는 아직 쓰여 있지 않습니다. 밖으로.The story of how AGI and humanity co-exist in the future has yet to unfold. The organizations and dynamics that now seem so indomitable could inevitably go the way of Gregg shorthand, Blockbuster Video, Honeywell, land lines, and horse-drawn carriages. Current AI technology is amazing, but there are still a few radical inventions to be made between here and human-level AGI, and it’s not yet written who will make these inventions, in what form, or by what kind of organization they will be rolled out.

 

우리는 기술과 사회가 예측 불가능하고 빠른 방식으로 발전함에 따라 계획, 전략, 전술을 모두 몇 번이고 다시 생각해야 한다는 점을 잘 알고 있어야 합니다. 우리는 BGI(Beneficial AGI)의 출현을 촉진하는 중요한 사명을 놓치지 않으면서 변화하는 현실에 따라 스스로를 재구성할 수 있는 민첩하고 유연한 조직을 형성해야 합니다.We need to make plans, strategies, and tactics, knowing full well that they will all need to be re-thought time and time again as technology and society evolve in unpredictable and rapid ways. We need to form agile, flexible organizations that can reshape themselves in accordance with shifting realities without losing sight of the critical mission of catalyzing the emergence of Beneficial AGI (BGI).

 

목적에 꼭 맞는 BGI 이벤트의 단일 구조를 생각할 수 없어서 다양한 형식을 선택하기로 결정했습니다.   I couldn’t think of a single structure for a BGI event that would really suit the purpose, so I decided to go for multiple formats.   

 

2월 27일부터 28일까지 BGI 서밋이 열릴 예정이며, 제한된 수의 참가자가 BGI 관련 분야의 경험과 전문 지식은 물론 다양한 계층, 개념적 관점, 지리적 영역에 대한 다양성과 표현을 위해 선정되었습니다. . On February 27th to 28th, there will be a BGI Summit, with a limited number of participants selected for experience and expertise in areas related to BGI, but also for diversity and representation of a breadth of walks of life, conceptual perspectives, and geographical regions. 

 

서밋은 아름다운 위치와 상대적으로 수용적인 파나마 비자 정책으로 인해 선택된 힐튼 파나마에서 열릴 예정이며, 전 세계 참가자들이 불확실성이나 번거로움 없이 직접 참여할 수 있습니다.  The Summit will take place at the Hilton Panama, selected because of its beautiful location and also because of Panama’s relatively accepting visa policy, enabling participants from around the world to join in person without uncertainty or hassle.  

 

나는 엘리트주의를 좋아하지 않으며, 솔직히 소수의 엄선된 그룹이 있다는 개념이 조금 귀찮지만, 실용적인 관점에서 볼 때 상대적으로 작은 그룹이 F2F에서 집중적으로 상호 작용한다는 것은 특별한 가치가 있습니다.  I don’t like elitism, and frankly, the notion of having a small, hand-picked group bothers me a little, but from a practical standpoint, there is a special value to having a relatively small group interact intensively F2F.  

 

정상회담 기간 동안 오전 세션에는 대화와 패널이 있을 예정이며, 오후에는 BGI를 위한 다양한 측면에서 조율된 조치를 위한 구체적인 계획을 수립하는 것을 목표로 보다 실무 그룹 중심으로 진행됩니다.During the Summit, the morning sessions will have talks and panels, while the afternoons will be more working group-oriented, with the goal of creating concrete plans for coordinated actions in various respects working toward BGI.

 

서밋 직후에는 2월 29일과 3월 1일에 BGI 언컨퍼런스가 열릴 예정이며, 이곳에서 서밋 참가자들은 이를 원하는 다른 사람들과 합류하게 됩니다. 여기에서 의제는 활짝 열려 있습니다. Summit 세션에 대한 후속 조치는 자연스러운 요소가 될 것이지만, 함께 나타나는 놀라운 새로운 방향이 없다면 실망스러울 것입니다.   The Summit will immediately be followed by a BGI Unconference, Feb 29 and March 1, where the Summit participants will be joined by anyone else who’s up for it. Here, the agenda is wide open—follow-ons to Summit sessions will be a natural ingredient, but it will be disappointing if we don’t see any surprising new directions emerge alongside.   

 

Unconference는 Summit과 동일한 장소에서 F2F 측면을 가지며, 전통적인 화상 회의 플랫폼과 온라인 가상 "메타버스" 세계에서의 일부 실험 세션을 포함하는 가상 측면도 가질 것입니다.The Unconference will have a F2F aspect at the same location as the Summit and will also have a virtual aspect, which will involve traditional video conferencing platforms and also some experimental sessions in online virtual “metaverse” worlds.

 

이와 같은 특별한 이벤트조차도 유익한 AGI를 촉진하는 모든 문제를 해결하지는 못할 것입니다. 인간 수준의 AGI가 가까워지고 머지않아 ASI(인공초지능)가 펼쳐질 가능성이 높아 보이지만, 최초의 인간 수준 AGI가 어떤 형태를 취할지, 어떤 실천적 추구가 이루어질지, 인간 공동체가 무엇일지는 아직 알 수 없다. 가장 많이 관련될 것입니다.   Even an extraordinary event like this one is not going to solve all the problems of catalyzing Beneficial AGI. Although it seems probable that human-level AGI is near and ASI (Artificial Super Intelligence) may unfold not long after that, we can’t yet know the precise form the first human-level AGIs will take, nor what practical pursuits or human communities it will be most involved with.  

 

하지만 우리가 할 수 있는 일은… What we can do, however, is… 

• 다양한 관점을 모아 공개적으로, 진심으로, 상상적으로 그럴듯한 미래 시나리오와 가능성을 구현해 보세요.Bring together a diversity of perspectives to openly, sincerely, and imaginatively flesh out plausible future scenarios and possibilities.

• 유익한 AGI를 목표로 하는 실질적인 조치를 역동적으로 구상하고 실행하기 위한 우정, 네트워크 및 동맹을 형성합니다.Form friendships, networks, and alliances oriented toward dynamically conceiving and taking practical actions aimed at beneficial AGI.

• 우리가 마음을 열고 우리 자신과 이해에 힘쓰면 비생산적인 선입견, 편견, 애착을 최소화하면서 펼쳐진 미래에 직면할 수 있습니다.Open our minds and work on our own selves and understandings so that we can confront the unfolding future with a minimum of counterproductive preconceptions, biases, and attachments.

• 우리의 역사적 신념 체계와 개인적인 이익을 제쳐두고 깨끗한 마음과 자비로운 마음으로 관련 문제에 대해 함께 생각하십시오.Think together about the relevant issues with clear minds and compassionate hearts, setting aside our historical belief systems and personal interests.

• AGI가 개발됨에 따라 인간과 다른 지각 있는 존재에게 유익한 힘으로 나타날 가능성을 극대화하기 위한 구체적인 계획과 전략을 구상하고 이러한 계획이 인간 수준 AGI 이전에 여러 번 여러 방식으로 변형될 것이 거의 확실하다는 점을 이해합니다. 도달했습니다.Conceive specific plans and strategies for maximizing the odds that, as AGI is developed, it emerges as a beneficial force for humans and other sentient beings, understanding that these plans are almost surely going to morph multiple times and in multiple ways before human-level AGI is reached.

• BGI Summit & Unconference가 이러한 목표를 향해 조금이나마 도움이 될 수 있기를 바랍니다. It is our humble hope that the BGI Summit & Unconference will be able to help at least a little bit toward these goals.행사에 대한 자세한 내용은 컨퍼런스 웹사이트를

참조하세요 . 2월 27일이 다가올수록 더 많은 정보가 추가될 예정입니다!Please see the conference website for more details on the event … and more and more info will be added there as February 27 approaches!