광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[MindPlex-인간의 결점: 하나님을 통제하려는 권력 투쟁] 드라마로 가득 찬 이야기 속에서 펼쳐지는 OpenAI의 리더십 혼란, 권력 투쟁, 불안한 동맹을 탐구한다. 기업 갈등, 윤리적 딜레마, AI 혁신의 위태로운 미래에 대한 경고적인 이야기이다.

https://magazine.mindplex.ai/the-human-flaw-the-power-struggle-to-control-god/

운영자 | 기사입력 2023/12/19 [00:00]

[MindPlex-인간의 결점: 하나님을 통제하려는 권력 투쟁] 드라마로 가득 찬 이야기 속에서 펼쳐지는 OpenAI의 리더십 혼란, 권력 투쟁, 불안한 동맹을 탐구한다. 기업 갈등, 윤리적 딜레마, AI 혁신의 위태로운 미래에 대한 경고적인 이야기이다.

https://magazine.mindplex.ai/the-human-flaw-the-power-struggle-to-control-god/

운영자 | 입력 : 2023/12/19 [00:00]

지난 몇 주 동안 우리는 OpenAI의 리더십이 맛있는 내부 전쟁을 시작하면서 험담음모감상적인 헛소리뻔뻔한 권력 장악 등의 놀라운 광경을 접했다샘 알트만(Sam Altman)과 브록(Brock)은 퇴장했고다시 세 명의 CEO가 등장했다은밀한 메시지어두운 비밀도망친 AGI의 겁에 질린 속삭임그리고 쇼를 덮치는 마이크로소프트는 강당 전체를 매입하고 청중을 쫓아내겠다고 위협했다.

 

불안한 동맹

해결책이 발견된 것 같다알트만이 이사회 의장으로 복귀하고 마이크로소프트가 '관찰자자리를 차지하는 등 강력한 플레이어 간의 화해 관계이다알트만을 상대로 이아고(Iago)처럼 보드를 중독시킨 일리아(Ilya)는 트위터에 하트 이모티콘을 게시하고 그가 정면에서 찌르려고 했던 남자의 복귀를 축하했다.

전반적으로 OpenAI의 직원은 적어도 공개적으로는 이러한 게임이 결과를 가져오고 마이크로소프트와 같은 강력한 세력이 미래의 노래 시트에서 OpenAI를 제거할 수 있다는 사실을 깨닫기 전에 현실 정치에서 노는 대학생처럼 보였다그리고 여러분은 막연하게 컬트적인 학생 기숙사 분위기에 대해 궁금해하지 않을 수 없었고일부 사람들이 말하는 것 중 가장 강력하고 사회를 변화시키는 기술이 될 수 있다고 말하는 것을 정확히 지휘하고 있는 사람이 누구인지 심문하기 시작했다.

 

드라마 판매

이 모든 추악한 사건에는 잘못된 것이 너무 많아서 어디서부터 시작해야 할지 알기가 어렵다대부분 기업 세계의 모든 사람이 말 그대로 공개적으로 그리고 수치심 없이 얼마나 두 얼굴을 가지고 있는지에 대한 우울한 절망이다세계에서 가장 중요한 회사 중 하나에서 엄청난 규모로 나타나는 전문성의 부족은 경각심을 불러일으킨다알트만의 축출은 눈에 띄게 권력을 장악하는 것이었고 그리고 알트만은 전체 프로젝트를 강 아래로 팔고 마이크로소프트라는 사악한 자이바츠에게 왕국의 열쇠를 선물하여 자신이 계속 책임을 맡을 수 있도록 하고 AI 혁명의 일인자로서 계속 활동할 의향이 있었다정말 짜증나는 일이었다.

 

슬프고 무책임하며무엇보다도 관련된 모든 사람이 '원칙'의 입장에서 주장하는 것은 이 신랄한 관찰자에게는 완전히 어리석고 거짓이다실수하지 말아야 한다이것은 돈에 관한 것이고이것은 권력에 관한 것이며흥미롭게도 광고에 관한 것이다보트 흔들림이 승무원을 배 밖으로 밀어내지는 않았지만 확실히 약간의 파도를 일으켰다. '위험한 신모델', '무서운 강력함' – Q*에 대해 사람들이 말하는 것이다글쎄스테이크가 아니라 지글지글을 끓고 있다그렇지 않는가? GPT 제품의 차세대 물결이 온라인에 등장함에 따라 AI에 관심이 있는 모든 사람의 마음 속에 OpenAI가 다시 자리잡게 되었다.

가속론자 또는 감속론자

물론 내가 틀렸을 수도 있다그리고 내가 그렇지 않더라도 상업적 이익과 '모든 인류에게 이익이 되는방식으로 AI를 구축하는 것 사이의 균형에 대해 OpenAI와 해당 부문 전체에서 분명한 분열이 진행되고 있다(OpenAI의 사명 선언문에 나와 있음). 악한 행동을 하지 말라. – Google이 말했듯이).

AI가 사회를 재건할 것이며 AI를 일상 생활에서 발전시키고 배치하는 데 모든 힘을 다해야 한다고 믿는 가속주의자들이 있다통제되지 않은 AI와 관련된 위험이 사회를 재건하기보다는 사회를 붕괴시키겠다고 위협한다고 믿는 감속론자들이 있다알트만은 더 빨리 가고 싶어하고 일리아는 속도를 늦추고 싶어한다알트만은 판매판매판매를 원한다일리아는 올바른 방식을 구축하고 싶어한다.

그만한 가치가 있기 때문에 감속주의자들은 틀렸다우리 인간은 판도라의 무리이며 상자를 열 것이다당신이 하지 않으면 다른 사람이 할 것이다자본주의는 다른 어떤 것도 허용하지 않는다속도를 늦추고 싶다면 괜찮고 사임하고 섬에서 남은 일상을 보내라멈출 수 없다일리아원칙적인 입장에 박수를 보낸다쿠데타 시도를 통해 달성한 입장이 효과가 없다는 것을 깨닫자마자 포기한 것은 안타까운 일이다.

그러나 알트만 또는 알트만 팬을 위한 것이다가속주의상업주의마이크로소프트(진정한 승자)의 승리가 AI 발전을 위한 신성한 사명이라고 너무 성급하게 생각하지 말라소셜 미디어에서 타겟 광고로 할머니들을 괴롭히기 위해 AI 로봇이 채찍질을 당하는 것은 시간문제일 뿐이다.

 

생성 프로토콜

완전히 정렬된 AGI는 강력한 꿈이다인류를 행정하고 발전시키며 보호하기 위해 일하는 자비롭고 기술이 뛰어나며 지칠 줄 모르는 요원이다특히 주어진 목적을 넘어서 행동할 수 있는 모든 유형의 독립적인 '의지'를 가진 지능을 제조하는 경우 정렬 문제는 필수적이다하지만 마케팅 메시지판매 전화사회적 상호 작용을 확산시키기 위해 '멍청한' LLM을 사용하는 것과 LLM을 계속 사용하는 것이 어떻게 사회 구조를 불안정하게 만들 수 있는지도 마찬가지로 중요하다. OpenAI와 기타 AI 제조업체는 두 가지 질문에 맞서 싸워야 한다그러나 주주들에게 대답할 때 그들이 무엇을 선택할 것인지 추측하기는 쉽다.

인간의 결함이 있다우리는 새로운 신을 만들고 있지만 그들은 우리 도덕의 오점에서 벗어날 수 없다우리 인간은 위계와 권력을 놓고 싸울 수밖에 없다우리는 도울 수 없지만 점점 더 많은 것을 원한다우리가 종으로서 초월하는 데 도움이 될 수 있는 특이점에 접근하는 순간우리의 원숭이 같은 긴장과 노변의 말다툼이 모든 것을 무너뜨린다면 그것은 우주적인 농담이 될 것이다더 나쁜 것은우리가 무엇을 하든 상관하지 않는 기업의 도움과 부추김을 받아 프로메테우스 같은 괴물을 만들게 될 수도 있다는 것이다그들을 용서하는 것은 우리에게 달려 있다.

 
인공지능, 특이점, AGI, 권력, 대기업 독점, OpenAI 관련기사목록
PHOTO
1/6
광고
광고
광고
광고
광고
광고
광고
많이 본 기사
AI메타홈서비스 많이 본 기사
최신기사