지난 몇 주 동안 우리는 OpenAI의 리더십이 맛있는 내부 전쟁을 시작하면서 험담, 음모, 감상적인 헛소리, 뻔뻔한 권력 장악 등의 놀라운 광경을 접했다. 샘 알트만(Sam Altman)과 브록(Brock)은 퇴장했고, 다시 세 명의 CEO가 등장했다. 은밀한 메시지, 어두운 비밀, 도망친 AGI의 겁에 질린 속삭임, 그리고 쇼를 덮치는 마이크로소프트는 강당 전체를 매입하고 청중을 쫓아내겠다고 위협했다.
불안한 동맹
해결책이 발견된 것 같다. 알트만이 이사회 의장으로 복귀하고 마이크로소프트가 '관찰자' 자리를 차지하는 등 강력한 플레이어 간의 화해 관계이다. 알트만을 상대로 이아고(Iago)처럼 보드를 중독시킨 일리아(Ilya)는 트위터에 하트 이모티콘을 게시하고 그가 정면에서 찌르려고 했던 남자의 복귀를 축하했다.
전반적으로 OpenAI의 직원은 적어도 공개적으로는 이러한 게임이 결과를 가져오고 마이크로소프트와 같은 강력한 세력이 미래의 노래 시트에서 OpenAI를 제거할 수 있다는 사실을 깨닫기 전에 현실 정치에서 노는 대학생처럼 보였다. 그리고 여러분은 막연하게 컬트적인 학생 기숙사 분위기에 대해 궁금해하지 않을 수 없었고, 일부 사람들이 말하는 것 중 가장 강력하고 사회를 변화시키는 기술이 될 수 있다고 말하는 것을 정확히 지휘하고 있는 사람이 누구인지 심문하기 시작했다.
드라마 판매
이 모든 추악한 사건에는 잘못된 것이 너무 많아서 어디서부터 시작해야 할지 알기가 어렵다. 대부분 기업 세계의 모든 사람이 말 그대로 공개적으로 그리고 수치심 없이 얼마나 두 얼굴을 가지고 있는지에 대한 우울한 절망이다. 세계에서 가장 중요한 회사 중 하나에서 엄청난 규모로 나타나는 전문성의 부족은 경각심을 불러일으킨다. 알트만의 축출은 눈에 띄게 권력을 장악하는 것이었고 그리고 알트만은 전체 프로젝트를 강 아래로 팔고 마이크로소프트라는 사악한 자이바츠에게 왕국의 열쇠를 선물하여 자신이 계속 책임을 맡을 수 있도록 하고 AI 혁명의 일인자로서 계속 활동할 의향이 있었다. 정말 짜증나는 일이었다.
슬프고 무책임하며, 무엇보다도 관련된 모든 사람이 '원칙'의 입장에서 주장하는 것은 이 신랄한 관찰자에게는 완전히 어리석고 거짓이다. 실수하지 말아야 한다. 이것은 돈에 관한 것이고, 이것은 권력에 관한 것이며, 흥미롭게도 광고에 관한 것이다. 보트 흔들림이 승무원을 배 밖으로 밀어내지는 않았지만 확실히 약간의 파도를 일으켰다. '위험한 신모델', '무서운 강력함' – Q*에 대해 사람들이 말하는 것이다. 글쎄, 스테이크가 아니라 지글지글을 끓고 있다, 그렇지 않는가? GPT 제품의 차세대 물결이 온라인에 등장함에 따라 AI에 관심이 있는 모든 사람의 마음 속에 OpenAI가 다시 자리잡게 되었다.
가속론자 또는 감속론자
물론 내가 틀렸을 수도 있다. 그리고 내가 그렇지 않더라도 상업적 이익과 '모든 인류에게 이익이 되는' 방식으로 AI를 구축하는 것 사이의 균형에 대해 OpenAI와 해당 부문 전체에서 분명한 분열이 진행되고 있다(OpenAI의 사명 선언문에 나와 있음). 악한 행동을 하지 말라. – Google이 말했듯이).
AI가 사회를 재건할 것이며 AI를 일상 생활에서 발전시키고 배치하는 데 모든 힘을 다해야 한다고 믿는 가속주의자들이 있다. 통제되지 않은 AI와 관련된 위험이 사회를 재건하기보다는 사회를 붕괴시키겠다고 위협한다고 믿는 감속론자들이 있다. 알트만은 더 빨리 가고 싶어하고 일리아는 속도를 늦추고 싶어한다. 알트만은 판매, 판매, 판매를 원한다. 일리아는 올바른 방식을 구축하고 싶어한다.
그만한 가치가 있기 때문에 감속주의자들은 틀렸다. 우리 인간은 판도라의 무리이며 상자를 열 것이다. 당신이 하지 않으면 다른 사람이 할 것이다. 자본주의는 다른 어떤 것도 허용하지 않는다. 속도를 늦추고 싶다면 괜찮고 사임하고 섬에서 남은 일상을 보내라. 멈출 수 없다, 일리아. 원칙적인 입장에 박수를 보낸다. 쿠데타 시도를 통해 달성한 입장이 효과가 없다는 것을 깨닫자마자 포기한 것은 안타까운 일이다.
그러나 알트만 또는 알트만 팬을 위한 것이다. 가속주의, 상업주의, 마이크로소프트(진정한 승자)의 승리가 AI 발전을 위한 신성한 사명이라고 너무 성급하게 생각하지 말라. 소셜 미디어에서 타겟 광고로 할머니들을 괴롭히기 위해 AI 로봇이 채찍질을 당하는 것은 시간문제일 뿐이다.
생성 프로토콜
완전히 정렬된 AGI는 강력한 꿈이다. 인류를 행정하고 발전시키며 보호하기 위해 일하는 자비롭고 기술이 뛰어나며 지칠 줄 모르는 요원이다. 특히 주어진 목적을 넘어서 행동할 수 있는 모든 유형의 독립적인 '의지'를 가진 지능을 제조하는 경우 정렬 문제는 필수적이다. 하지만 마케팅 메시지, 판매 전화, 사회적 상호 작용을 확산시키기 위해 '멍청한' LLM을 사용하는 것과 LLM을 계속 사용하는 것이 어떻게 사회 구조를 불안정하게 만들 수 있는지도 마찬가지로 중요하다. OpenAI와 기타 AI 제조업체는 두 가지 질문에 맞서 싸워야 한다. 그러나 주주들에게 대답할 때 그들이 무엇을 선택할 것인지 추측하기는 쉽다.
인간의 결함이 있다. 우리는 새로운 신을 만들고 있지만 그들은 우리 도덕의 오점에서 벗어날 수 없다. 우리 인간은 위계와 권력을 놓고 싸울 수밖에 없다. 우리는 도울 수 없지만 점점 더 많은 것을 원한다. 우리가 종으로서 초월하는 데 도움이 될 수 있는 특이점에 접근하는 순간, 우리의 원숭이 같은 긴장과 노변의 말다툼이 모든 것을 무너뜨린다면 그것은 우주적인 농담이 될 것이다. 더 나쁜 것은, 우리가 무엇을 하든 상관하지 않는 기업의 도움과 부추김을 받아 프로메테우스 같은 괴물을 만들게 될 수도 있다는 것이다. 그들을 용서하는 것은 우리에게 달려 있다.
