우리가 알고 있던 OpenAI는 죽었다, 그들의 숨은 의도가 드러났다.

 

ChatGPT를 제공한 회사인 OpenAI가 최근 당신을 팔아먹었다.

2015년 창립 이후 리더들은 인공지능이 안전하고 유익하게 개발되도록 하는 것이 최우선 과제라고 말해왔다. 그들은 동기의 순수성을 증명하는 방법으로 회사의 특이한 기업 구조를 선전했다. OpenAI는 CEO나 주주가 아니라 인류를 안전하게 보호한다는 단 하나의 사명을 가진 이사회에 의해 통제되는 비영리 단체였다.

 

그러나 이번 주에는 OpenAI가 더 이상 비영리 단체 이사회의 통제를 받지 않을 것이라는 소식이 전해졌다. OpenAI는 본격적인 영리기업으로 변신하고 있다. 아, 그리고 이전에 회사에 지분이 없다고 강조했던 샘 알트만(Sam Altman) CEO는 이제 OpenAI에 대한 궁극적인 통제권 외에도 수십억 달러 상당의 지분을 갖게 된다.

 

우연처럼 보이지 않는 발표에서 CTO 미라 무라티(Mira Murati)는 그 소식이 전해지기 직전에 자신이 회사를 떠난다고 말했다. 직원들은 너무나 눈이 먼 나머지 Slack의 "WTF" 이모티콘으로 그녀의 갑작스러운 퇴사에 반응한 것으로 알려졌다.

 

OpenAI의 요점은 비영리적이고 안전을 최우선으로 삼는 것이었다. OpenAI는 몇 년 전인 2019년에 고급 AI 구축 비용이 증가함에 따라 Microsoft로부터 필요한 막대한 투자를 받을 수 있도록 영리 부문을 창설하면서 이러한 비전에서 벗어나기 시작했다. 그러나 일부 직원과 외부 추종자들은 여전히 ​​회사가 원칙을 고수할 것이라는 희망을 품고 있었다. 그 희망은 이제 잠자리에 들 수 있다.

 

2018년에 OpenAI에 합류하여 GPT-2 및 GPT-3와 같은 초기 모델을 작업한 제프리 우(Jeffrey Wu)는 "우리는 재정적 의무의 제약을 받지 않기를 원했던 원래 OpenAI 버전에 작별 인사를 할 수 있다"라고 말했다.

코넬 대학 기술 정책 연구소 소장인 사라 크렙스(Sarah Kreps)는 “핵심 영리 기업을 중심으로 한 구조 조정은 외부인들이 오랫동안 알고 있던 사실, 즉 OpenAI가 최근 몇 년간 엄청난 투자를 받은 업계에서 이익을 추구한다는 사실을 공식화한다”라고 말했다. 이러한 변화는 OpenAI의 "안전성, 투명성 및 권력 집중 방지 목표에 대한 기본 강조"에서 출발한다.

그리고 이번 주 뉴스가 OpenAI의 고상한 창립 비전에 대한 마지막 종언을 알리는 소식이라면 누가 그것을 죽였는지는 분명하다.

 

샘 알트만(Sam Altman)이 어떻게 OpenAI의 사명에 실존적 위험이 되었을까?

OpenAI는 2015년 AI가 인류에게 실존적 위험을 초래할 수 있다고 우려했던 일론 머스크(알트만 및 다른 사람들과 함께)에 의해 공동 설립되었을 때, 신생 연구소는 다음 세 문장으로 세상에 자신을 소개했다:

 

OpenAI는 비영리 인공지능 연구 회사이다. 우리의 목표는 금전적 수익 창출의 필요성에 구애받지 않고 인류 전체에 가장 이익이 되는 방식으로 디지털 지능을 발전시키는 것이다. 우리의 연구에는 재정적 의무가 없기 때문에 긍정적인 인간 영향에 더 집중할 수 있다.

 

지금은 그 모든 것이 객관적으로 거짓이다.

알트만이 2019년 OpenAI의 지휘권을 잡은 이후 회사는 사명에서 벗어나고 있다. 그 해에 이 회사(원래 비영리 단체를 의미함)는 최첨단 AI 구축에 필요한 막대한 투자를 유치하기 위해 영리 자회사를 설립했다. 그러나 그것은 실리콘 밸리에서 전례 없는 일을 해냈다.

 

즉, 투자자들이 벌 수 있는 수익의 한도를 제한한 것이다. 투자한 금액의 최대 100배까지 얻을 수 있지만 그 이상은 비영리 단체에 전달되어 대중에게 혜택을 주는 데 사용된다. 예를 들어, 사람들이 자동화로 인한 실업에 적응하도록 돕기 위해 보편적 기본 소득 프로그램에 자금을 지원할 수 있다.

 

이후 몇 년 동안 OpenAI는 제품 상용화에 박차를 가하면서 안전에 대한 초점을 점점 더 우선시했다. 2023년까지 비영리단체 이사회는 알트만에 대한 의심이 너무 커져서 그를 축출하려고 했다. 그러나 그는 Microsoft와의 관계를 이용하여 재빨리 권력을 되찾았고 자신에게 유리하게 새 이사회를 구성했다. 그리고 올해 초 직원들이 알트만에 대한 신뢰를 잃고 회사를 그만두면서 OpenAI의 안전팀은 붕괴했다.

 

이제 알트만은 자신의 권력을 강화하는 마지막 단계를 밟았다. 그는 이사회의 통제권을 완전히 박탈했다. 비록 여전히 존재하지만 이빨이 없을 것이다.

 

제프리 우는 “원래 비영리 단체의 역량이 상실되고 사명이 완전히 이익과 일치하도록 재해석된 것 같다.”라고 말했다.

 

이익은 알트만이 회사에 절실히 필요하다고 느끼는 것일 수도 있다. 이번 주에 발표된 매우 자신감 넘치는 블로그 게시물에서 그는 AI가 "기후를 고치고 우주 식민지를 건설하며 모든 물리학의 발견"에 도움이 될 것이라고 주장했지만 OpenAI는 실제로 혼란에 빠졌다. 수십억은 아니더라도 수억 달러의 비용이 소요되는 모델의 재정적 성공을 위한 명확한 길을 찾기 위해 고군분투하고 있다. 사업을 영리 목적으로 재구성하면 투자자 유치에 도움이 될 수 있다.

그러나 머스크 자신을 포함한 일부 관찰자들은 이러한 움직임에 대해 다음과 같이 묻고 있다.

 

이것이 어떻게 합법적일 수 있을까?

OpenAI가 이익 상한선을 폐지한다면 엄청난 양의 돈(향후 수십억 달러가 될 것으로 예상됨)이 비영리 단체에서 투자자에게로 전환될 것이다. 비영리단체는 대중을 대표하기 위해 존재하기 때문에 이는 사실상 당신과 나 같은 사람들로부터 수십억 달러를 빼앗아가는 것을 의미한다. 일부 사람들이 지적했듯이 그것은 도둑질과 매우 흡사하다.

 

핵심 메시지는 명확하다. 규제, 규제, 규제

AI 안전을 옹호하는 사람들은 캘리포니아의 SB 1047 법안과 같이 대규모 AI 회사에 대한 일부 감독을 제공하는 규정을 통과시켜야 한다고 주장해 왔다. 개빈 뉴섬(Gavin Newsom)은 앞으로 며칠 안에 법안에 서명하거나 거부권을 행사해야 한다.

이제 알트만은 그들을 위해 깔끔하게 주장을 펼쳤다.

 

제프리 우는 "일반 대중과 규제 당국은 기본적으로 AI 기업이 AI 배포에 따른 일부 비용과 위험을 무시하도록 인센티브를 받게 되며 이러한 위험이 엄청날 가능성이 있다는 점을 인식해야 한다"라고 말했다.

 

알트만은 또한 주요 AI 회사의 직원에게 고급 AI에 대해 "경고할 권리"를 허용하도록 요구하는 제안을 발표한 전직 직원의 우려를 확인하고 있다. 제안에 따르면 "AI 회사는 효과적인 감독을 피하기 위해 강력한 재정적 인센티브를 가지고 있으며 맞춤형 기업 거버넌스 구조가 이를 바꾸기에 충분하지 않다고 생각한다."

 

분명히 그들이 옳았다. OpenAI의 비영리 단체는 영리 부문을 장악할 예정이었지만 알트만은 그 구조를 뒤집어 놓았다.

OpenAI가 규제를 원하고 돈보다 안전에 더 신경을 쓴다는 사실을 언론, 대중, 의회의 정책 입안자들에게 수년 동안 다정하게 이야기한 끝에 알트만은 더 이상 게임을 하는 데 신경을 쓰지 않는다. 그는 모든 사람에게 자신의 진정한 색깔을 보여주고 있다.