최근 몇 달 동안 AI의 눈사태가 일어났다. ChatGPT 및 그 후속 제품인 GPT-4와 같은 언어 모델에서 사실적인 이미지 생성 및 비디오 합성, 다중 모드 로봇 공학에 이르기까지 최신 발전은 이전에 본 어떤 것보다 한 단계 변화이다. 한때 공상과학처럼 보였던 것이 이제 빠르게 시야에 들어오면서 AI에 대한 대중의 관심이 급증했다.
지난주 마이크로소프트의 공동 창업자이자 자선사업가인 빌 게이츠는 자신의 블로그에 "AI의 발전은 마이크로프로세서, 개인용 컴퓨터, 인터넷, 휴대폰의 탄생만큼이나 근본적이다. AI는 사람들이 일하는 방식을 바꿀 것이다. 배우고, 여행하고, 건강 관리를 받고, 서로 소통한다. 전체 산업이 이를 중심으로 방향을 바꿀 것이다."
그러나 AI가 인류에게 엄청난 혜택을 제공할 수 있는 반면, 그러한 강력한 기술의 생성은 많은 위험과 미지의 요소를 가져오고 제대로 관리하지 않으면 잠재적으로 재앙이 될 수 있다. 핵무기의 발명과 마찬가지로 인공 일반 지능(AGI)은 세상을 바꿀 수 있다.
터미네이터 스타일의 종말이라는 최악의 시나리오를 무시하더라도 다른 중요한 영향이 발생할 수 있다. 이전에 인간이 수행했던 작업을 기계와 소프트웨어가 수행할 수 있게 되면서 기술 실업률이 앞으로 수십 년 동안 급증할 수 있다. 골드만 삭스는 가까운 미래에 3억 개의 일자리가 사라질 것이라고 경고하는 보고서를 발표했다.
프라이버시와 보안은 더욱 정교한 알고리즘으로 처리하기 위해 방대한 양의 개인 데이터를 수집하는 AI 시스템에 의해 위협받을 수도 있다. 모델에 결함과 부정확한 데이터가 포함되어 있으면 기존의 편견, 가짜 뉴스 및 사회 차별이 지속될 수 있다.
점점 더 큰 모델을 생산하려는 현재 경쟁(일부는 현재 수천억 개의 매개변수에 도달함)에 관심을 갖는 사람들이 점점 더 많아지고 있다. 1,200명 이상의 과학자와 기술 리더가 안전성과 위험을 평가하기 위해 이러한 대규모 모델 개발을 즉시 중단할 것을 촉구하는 공개 서한을 발표했다. 우리는 그들의 진술을 아래에 완전히 재현했다.
인간과 경쟁하는 지능을 갖춘 AI 시스템은 광범위한 연구와 최고의 AI 연구소에서 인정한 바와 같이 사회와 인류에 심각한 위험을 초래할 수 있다. 널리 승인된 Asilomar AI 원칙에 명시된 바와 같이 고급 AI는 지구상의 생명 역사에 중대한 변화를 나타낼 수 있으며 이에 상응하는 보살핌과 자원으로 계획하고 관리해야 한다. 불행하게도 이러한 수준의 계획 및 관리는 이루어지지 않고 있다. 최근 몇 달 동안 AI 연구실은 그 누구도, 심지어 제작자도 이해할 수 없는 더욱 강력한 디지털 마인드를 개발하고 배포하기 위해 제어할 수 없는 경쟁에 갇힌 것을 보았다. 예측하거나 안정적으로 제어한다.
현대의 AI 시스템은 이제 일반적인 작업에서 인간과 경쟁하고 있으며 우리는 스스로에게 질문해야 한다. 기계가 정보 채널을 선전과 거짓으로 가득 채우도록 내버려 두어야 할까? 만족스러운 작업을 포함하여 모든 작업을 자동화해야 할까? 결국 우리를 능가하고, 똑똑하고, 구식이 되어 우리를 대체할 수 있는 비인간적인 마음을 개발해야 할까? 우리 문명의 통제력을 잃을 위험을 감수해야 할까? 그러한 결정은 선출되지 않은 기술 리더에게 위임되어서는 안 된다. 강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다. 이러한 확신은 충분히 정당화되어야 하며 시스템의 잠재적 영향의 크기에 따라 증가해야 한다. 인공 일반 지능(AGI)에 관한 OpenAI의 최근 성명에서는 "언젠가는 미래 시스템 교육을 시작하기 전에 독립적인 검토를 받는 것이 중요할 수 있으며, 새로운 시스템을 생성하는 데 사용되는 컴퓨팅의 성장 속도를 제한하는 데 동의하는 가장 진보된 노력을 위해 모델." 우리는 동의한다. 그 시점은 지금이다.
따라서 우리는 모든 AI 연구실에 GPT-4보다 강력한 AI 시스템 교육을 최소 6개월 동안 즉시 중단할 것을 요청한다. 이 일시 중지는 공개적이고 검증 가능해야 하며 모든 주요 행위자를 포함해야 한다. 이러한 중단을 신속하게 시행할 수 없다면 정부가 개입하여 유예 조치를 취해야 한다.
AI 연구실과 독립적인 전문가는 이 일시 중지를 사용하여 독립적인 외부 전문가가 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 일련의 공유 안전 프로토콜을 공동으로 개발하고 구현해야 한다. 이러한 프로토콜은 이를 준수하는 시스템이 합리적 의심의 여지없이 안전하도록 보장해야 한다. 이것은 일반적으로 AI 개발의 중단을 의미하는 것이 아니라, 위험한 경쟁에서 벗어나 새로운 기능을 갖춘 예측할 수 없는 블랙박스 모델로 한 걸음 물러나는 것일 뿐이다.
AI 연구 및 개발은 오늘날의 강력한 최신 시스템을 보다 정확하고 안전하며 해석 가능하고 투명하고 견고하며 정렬되고 신뢰할 수 있으며 충실하게 만드는 데 다시 초점을 맞춰야 한다.
동시에 AI 개발자는 강력한 AI 거버넌스 시스템의 개발을 극적으로 가속화하기 위해 정책 입안자와 협력해야 한다. 여기에는 최소한 다음이 포함되어야 한다. AI에 전념하는 새롭고 유능한 규제 당국; 고도로 유능한 AI 시스템과 대규모 계산 능력 풀에 대한 감독 및 추적 실제와 합성을 구별하고 모델 누출을 추적하는 데 도움이 되는 출처 및 워터마킹 시스템 강력한 감사 및 인증 생태계; AI로 인한 피해에 대한 책임; 기술 AI 안전 연구를 위한 강력한 공적 자금 지원; AI가 야기할 극적인 경제적, 정치적 혼란(특히 민주주의)에 대처할 수 있는 풍부한 자원을 갖춘 기관.
인류는 AI와 함께 번영하는 미래를 누릴 수 있습니다. 강력한 AI 시스템을 만드는 데 성공한 우리는 이제 보상을 거두고 모두에게 분명한 이익을 위해 이러한 시스템을 설계하며 사회에 적응할 기회를 제공하는 "AI 여름"을 즐길 수 있다. 사회는 잠재적으로 사회에 치명적인 영향을 미칠 수 있는 다른 기술(예: 인간 복제, 인간 생식계열 변형, 기능 획득 연구 및 우생학)을 중단했다. 여기서 할 수 있습니다. 기나긴 AI 여름을 즐기자.
서명자(작성 당시 1,279명)에는 다음과 같은 저명한 과학자 및 업계 인사가 포함된다. 스티브 워즈니악(Apple 공동 창립자), 일론 머스크(SpaceX, Tesla 및 Twitter CEO, OpenAI 공동 창립자), 레이첼 브론슨(원자력과학자회보 회장), 막스 테크마크((MIT의 인공지능 및 기본 상호 작용 센터 교수, 미래 생명 연구소 회장).
그러나 소셜 미디어에서 다른 사람들은 편지에 반대했다. OpenAI와 같은 회사가 연구를 중단하면 적대적인 국가와 나쁜 행위자가 이를 이용하여 앞서 나갈 수 있다고 지적했다.
