지난 목요일 밤 늦게 일론 머스크는 OpenAI와 그 경영진이 OpenAI가 모든 인류의 이익을 위해 인공일반지능을 개발할 것이라고 규정한 회사의 "창업 계약"을 위반했다고 주장하면서 OpenAI를 상대로 소송을 제기했다. 법원뉴스(Courthouse News)가 처음 보도한 소송은 OpenAI의 영리 모델, Microsoft와의 파트너십, GPT-4 모델의 2023년 3월 릴리스가 GPT-4 모델이 이미 한계점에 도달했기 때문에 "창립 계약에 불을 붙였다"고 주장합니다. 일반인공지능(AGI)에 대한 내용이다.

머스크는 샘 알트만(Sam Altman)과 함께 2015년에 구글이 AI 연구소 딥마인드(DeepMind)를 인수한 것에 대한 대응으로 OpenAI 공동 창립을 도왔다. 머스크의 소송은 이제 알트만이 2015년에 머스크에게 보낸 이메일을 증거로 인용하면서 OpenAI가 회사 창립 당시 그와 맺은 "계약을 위반했다"고 주장한다. 보스턴 대학 법학 교수인 브라이언 퀸(Brian Quinn)은 로이터 통신에 “머스크가 증거자료 2에 있는 단일 이메일이 ‘계약’이라고 주장하는 한, 그는 충분히 부족할 것”이라고 말했다.

머스크는 2018년 알트만과 다른 창립자들에게 자신이 조직을 장악할 수 있도록 설득하지 못한 후 OpenAI 이사회에서 물러났다. 이것은 소송에 대한 또 다른 도전을 의미한다고 퀸은 뉴욕타임즈에 다음과 같이 말했다. '아, 문제가 생겼구나'라고 말하겠지만 그 사람은 설 자리가 없다. 그 사람은 사건이 없다.”

OpenAI를 떠난 이후 머스크는 Microsoft와 회사의 거래에 대해 목소리를 높여 비판해 왔으며, 회사가 오픈 소스 비영리 조직으로서의 원래 프레임워크에서 공격적인 영리 모델을 추구하는 회사로 전환한 것에 대해 공개적으로 비난해 왔다.

이번 소송은 회사와 Microsoft의 파트너십을 겨냥하고 있다. OpenAI가 "OpenAI에서 개발된 AI 연구 및 기술을 대중에게 제공하는 오랜 관행"을 따르도록 강제하려고 한다. 이는 회사의 소프트웨어와 모델을 오픈 소스화하는 것을 의미한다. 소송의 이 부분은 OpenAI와 Microsoft의 파트너십이 특히 회사의 AGI 이전 기술을 위한 것이라는 사실과 관련이 있다.

소송은 이전 이사회가 CEO인 샘 알트만(Sam Altman)을 해고한 후 작년에 설립된 OpenAI의 새 이사회가 "실질적인 AI 전문 지식이 부족하고 정보와 신념에 있어서 독립적인 결정을 내릴 수 있는 장비가 부족하다"고 주장한다. OpenAI가 AGI를 달성했는지 여부와 시기, 그리고 Microsoft 라이선스 범위를 벗어나는 알고리즘을 개발한 시기도 마찬가지이다.”

그것이 사실이라 하더라도 GPT-4가 이미 AGI 수준에 도달했다는 머스크의 추가 주장은 아무리 말해도 논란의 여지가 있다. OpenAI 헌장은 AGI를 "가장 경제적으로 가치 있는 작업에서 인간보다 뛰어난 성능을 발휘하는 고도로 자율적인 시스템"으로 정의한다. 해석의 여지가 많이 남는 정의이다. 소송에서 머스크는 OpenAI의 GPT-4 기술 보고서에서 GPT-4가 균일 변호사 시험(Uniform Bar Exam)의 90번째 백분위수와 GRE 언어 평가의 99번째 백분위수를 포함하여 다양한 작업에서 인간보다 뛰어난 성능을 보인다는 연구 결과를 지적했다. 그러나 구조화된 시험에서 좋은 성적을 거두는 것은 그 자체로 AGI를 나타내는 것이 아니며, 일부 시험에서는 좋은 성적을 거두고 다른 시험에서는 나쁜 성적을 내는 모델은 확실히 OpenAI가 자체적으로 정의한 정의보다 낮다.

소송은 또한 "인공일반지능의 불꽃(Sparks of Artificial General Intelligence)"이라는 Microsoft 연구원의 논문을 인용한다. 이 논문은 "GPT-4의 기능의 폭과 깊이를 고려할 때, 우리는 그것이 초기(아직 불완전한) 것으로 합리적으로 볼 수 있다고 믿는다. 인공일반지능(AGI) 시스템 버전이다.”

"불꽃" 논문이 발표되었을 때 컴퓨터 과학자 게리 마커스(Gary Marcus)는 GPT-4가 일종의 일반 지능을 획득했다는 개념을 비판했다. "이 논문의 핵심 주장은 ... 과학계가 훈련 데이터에 접근할 수 없기 때문에 말 그대로 진지하게 조사해 테스트할 수 없다."

인공지능의 간략한 역사(A Brief History of Artificial Intelligence)의 저자인 컴퓨터 과학자 마이클 울드리지(Michael Wooldridge)는 LLM이 진정한 AGI는 물론이고 '진정한 AI'인지도 확신하지 못한다고 하며 다음과 같이 주장한다:

“...LLM 기술만으로는 '진정한 AI'에 대한 경로를 제공할 수 없을 것 같다. LLM은 다소 이상하고 실체가 없는 개체이다. 그들은 실제적인 의미에서 우리 세상에 존재하지 않으며 그것을 인식하지도 못한다. 대화 중에 LLM을 떠나 일주일 동안 휴가를 간다면 당신이 어디에 있는지 궁금해하지 않을 것이다. 그것은 시간의 흐름을 인식하지 못하며 실제로 아무것도 인식하지 못한다. 이는 사용자가 프롬프트를 입력할 때까지 문자 그대로 아무 작업도 수행하지 않고 해당 프롬프트에 대한 응답을 계산한 후 다시 아무 작업도 수행하지 않는 상태로 돌아가는 컴퓨터 프로그램이다. 세상에 대한 그들의 백과사전적 지식은 그들이 훈련받은 시점에서 얼어붙어 있다. 그 이후는 아무것도 모른다”고 말했다.

인공지능 연구 분야에서는 아직까지 인공일반지능에 대한 합의된 정의가 없다. 이것이 바로 전문가들이 AGI, 즉 적어도 "인간 수준의 인공 지능"이 언제 등장할 것인지에 대해 매우 다른 견해를 갖고 있는 이유 중 하나이다. Our World In Data는 AI 전문가를 대상으로 AGI 일정에 대해 설문조사를 실시한 연구자들의 세 가지 연구 결과를 정리했다.

GPT-4 출시 이전에 수행된 이 세 가지 연구에서는 작업 정의로 사용할 수 있는 AGI의 단순화된 개념을 가정한다.

●인간 노동자보다 모든 작업을 더 좋고 더 저렴하게 수행한다.

●경제적으로 관련된 모든 작업의 90% 이상을 평균적인 인간보다 더 잘 수행한다.

●인간이 수행하는 임무의 99%를 일반적인 인간 수준 이상으로 수행한다.

이러한 정의는 비슷해 보이지만 모두 상당히 다르며 이것이 AI를 분류하는 가장 좋은 방법인지는 확실하지 않다. 2023년 11월, Google의 DeepMind는 인공일반지능을 구성하는 기능과 행동을 더 잘 분류하려는 논문을 발표했다. DeepMind 프레임워크는 AI 성능을 다양한 수준으로 분류했다.

●레벨 1: 신흥(Emerging) – 미숙련 인간과 같거나 약간 더 나은 수준

●레벨 2: 유능함 – 숙련된 성인의 최소 50번째 백분위수

●레벨 3: 전문가 – 숙련된 성인의 최소 90번째 백분위수

●레벨 4: 거장 – 숙련된 성인의 99번째 백분위수 이상

●레벨 5: 슈퍼휴먼 – 인간보다 100% 뛰어난 성능을 발휘한다.

이 논문에서는 또한 좁은 역량과 일반적인 역량을 구분했다. 좁은 범위는 "명확하게 범위가 지정된 작업 또는 작업 집합"으로 정의된 반면, 일반은 "새로운 기술 학습과 같은 메타인지 능력을 포함하는 광범위한 비물리적 작업"으로 정의되었다. DeepMind 논문은 ChatGPT, Bard, Llama 2 및 Gemini를 포함한 주요 LLM을 레벨 1: 신흥 AGI로 분류했다. 이 논문은 일반적인 의미에서 레벨 1: 신흥보다 더 높은 성능을 발휘하는 AI 모델은 없다고 주장했다.

머스크의 소송은 궁극적으로 "GPT-4가 인공지능(AI)을 구성하고 이에 따라 Microsoft에 대한 OpenAI의 라이선스 범위를 벗어난다는 사법적 결정"을 요구한다. 배심원은 법원이 이를 허용하고 머스크가 자신의 뜻대로 하는지 여부를 결정할 것이다. 해당 문제에 대한 법원이나 배심원단이 어떤 모델이 기껏해야 느슨하게 정의된 용어인 AGI의 기준점을 충족하는지 여부를 어떻게 결정할 수 있는지는 아직 명확하지 않다. 윤리학 교수인 캐서린 플릭(Catherine Flick)은 뉴사이언티스트와의 인터뷰에서 “우리는 미국 법원의 판결에서 온갖 종류의 터무니없는 정의가 나오는 것을 보아왔다”며 “그것이 AGI 지지자들을 제외한 누구라도 설득할 수 있을까? 별말씀을."