AI에 관한 최신 뉴스

AI 빙산

ArsTechnica는 AI 시스템 표면 아래에 숨어 있는 탄소 배출, 저작권 침해 등과 같은 지저분한 현실을 모두 보여주는 매혹적인 이미지를 게시했다. 이 그래프는 Peter King에 의해 작성됨.

AI에 관한 EU 입법

포츈은 유럽 연합의 AI 법이 올해 말까지 시행될 것으로 예상한다고 보도했다. 이 법은 AI 회사가 "고위험" A.I로 시장에 진입하기 위해 "사전" 승인을 얻도록 요구할 것이다. 응용 프로그램을 사용하거나 전면 금지에 직면한다. EU는 브라질, 인도, 터키 및 기타 국가와 함께 소셜 미디어를 통제한다.

레이 커즈와일, AI 모라토리엄 반대

유명한 레이 커즈와일(Ray Kurzweil)은 다른 사람들이 계속 나아가는 것을 막지 않을 것이기 때문에 AI에 대한 모라토리엄에 반대한다는 특별 공지를 보냈다. 대신 그는 앞으로 다가올 중요한 돌파구에 대한 진전을 허용하는 보안에 대한 보다 "미묘한" 접근 방식을 옹호한다.

데이비드 겔렌터(David Gelernter)는 의식 있는 AI를 "넌센스"라고 부른다.

AI 분야에서 저명한 권위자인 예일대 컴퓨터 과학자 데이비드 겔렌터 David Gelernter는 ChatGPT의 부상에 대응하여 워싱턴 포스트(2023년 4월 25일)에 Op/Ed를 게시했다. 겔렌터는 "'의식 있는 컴퓨터'에 대해 말하는 것은 '의식 있는 토스터기'에 대해 말하는 것과 같이 넌센스이다... 느낄 수 없다... 따라서 영어나 인간 또는 그 어떤 것도 이해할 수 없다... 실제 물리적 감정은 데이터 처리 아날로그가 아니라 필수이다.”고 말했다.

AI는 엄청난 시간 낭비일까?

Atlantic은 최근 챗봇, 소셜 미디어 및 기타 스마트 플랫폼을 가지고 노는 데 낭비되는 모든 시간에 대해 궁금해하는 흥미로운 기사를 게재했다. 그들은 "경제학자들은 "시간 사용" 기술(예: TV 및 라디오)이 "시간 절약" 기술(청소기, 냉장고, 세탁기)보다 더 빠르게 확산된다고 결론지었다."

 

이러한 번거로운 문제에 대한 명확성을 제공하기 위해 이제 다음과 같은 중요한 질문에 대한 견추정과 의견을 초대한다.

1. 모라토리엄: AI를 일시적으로 중단하는 것이 좋은 생각(모라토리엄)이라고 생각하는가? 아니면 중단이 무의미하고 필요에 따라 제어가 개발될 것이라고 생각하는가(필요에 따라 개발)? "모라토리엄" 또는 "필요에 따라 개발"을 표시하여 응답하라.

2. 제어 전망: AI 제어가 어느 정도 효과적일 수 있다고 생각하는가? 0~100%의 범위로 응답해 주시요. 여기서 0% = 혼돈, 50% = 간헐적인 오류가 일반적임, 100% = 최소한의 오류이다.

3. 실업: AI가 실업을 얼마나 심각하게 일으킬 것이라고 생각하는가? AI가 성숙할 때 현대 국가의 실업률을 추정하라. 미국은 현재 약 4%이다. 전 세계 실업률은 약 8%인 경향이 있다. 대공황 당시 실업률은 약 25%에 달했다.

4. AGI 예측: AI는 언제쯤 인간의 모든 지능을 수행할 수 있게 될까? 이러한 일이 발생할 가능성이 있는 연도를 추정하라(연도 지정 또는 "훨씬 늦거나 없음"). 이런 일이 일어날 확률이 얼마라고 생각하는가(0-100%)?

5. 사회적 영향: 전반적으로 AI 혁명이 사회 전반에 어떤 영향을 미칠 것이라고 생각하는가?

-10에서 +10까지의 범위로 답해 주시요. 여기서 -10은 재난이고 +10은 안정적인 번영이다.

6. 인간의 영향: 전반적으로 AI 혁명이 일반적으로 인간의 성격과 기술에 어떤 영향을 미칠 것이라고 생각하는가? -10에서 +10까지의 범위로 응답해 주시요. 여기서 -10 = 구식, 로봇 등, +10 = 보다 지능적, 창의적 등이다.

 

전문가 의견

아트 머레이 Art Murray

AI는 세상을 멸망시킬 것인가?

터미네이터나 웨스트월드와 같은 공상과학 영화에서는 그렇다. 실제로는, 아니다.

대량실업 발생?

반드시 대량 실업은 아니지만, 오랜 세월에 걸쳐 발생한 다른 많은 기술 중단과 달리 노동력의 대규모 이동은 분명하다.

우리를 바보로 만들까?

우리는 그것을 하기 위해 AI가 필요하지 않다. 우리는 표준화된 시험에서 급락하는 성적, 비참할 정도로 시대착오적인 교육 시스템, 비판적 사고에 대한 강조 부족 등으로 스스로 꽤 잘하고 있다.

아니면 고역을 없앨 것인가? 인간의 잠재력을 풀어줄까? 글로벌 대위기를 해결할까?

전적으로 우리에게 달려 있다. 그것은 또한 발견의 과정이며 잠재적으로 미지의 세계로의 흥미진진한 여행이다. 우리는 칼 포퍼Karl Popper의 4진 도식을 염두에 두기만 하면 된다.

P1 → TS → EE → P2,

어디:

P1 = 초기 문제

TS = 임시 솔루션

EE = 오류 제거

P2 = 새로운 문제

아래의 이전 의견에 추가하여 나의 유일한 의견은 AI에 "모라토리엄"을 부과하는 최면 상태에 빠지지 않기를 바란다.

더 많은 "정부 규제"를 요구하는 더 큰 어리석음도 마찬가지이다.

상황의 현실은 좋든 싫든 고양이가 가방에서 나왔고 다시 넣을 수 없다는 것이다.

따라서 최선의 접근 방식은 완전한 개방성과 투명성, 기간이다.

 

이안 브라우데 Ian Browde

나는 예술에 100% 동의한다.

AI는 진화할 것이고 그것이 나타나는 훌륭한 방법과 끔찍한 방법도 있을 것이다. 인류는 그것을 볼 것이다.

유전 공학은 여러 면에서 잠재적으로 더 위험할 수 있으며 이 또한 빠른 속도로 진화하게 된다.

개인으로서 우리는 기술의 긍정적인 사용에 영향을 미치고 우리 자신의 두려움과 편견에 관한 독선과 맹점을 피하기 위해 할 수 있는 일을 해야 한다.

내 생각에는 AI에 대한 대화는 금전적 수익에 대한 정당한 안목을 가진 마케팅 담당자에 의해 주도되고 있다.

그것은 또한 인간보다 우월한 지능의 출현을 몇 년 동안 예언해 온 사람들에 의해 촉진되고 있다. 불과 몇 십 년 만에. 대부분 훌륭한 기술 배경과 높은 IQ를 가지고 있지만 신경 과학에 대한 깊이는 거의 없는 사람들에 의해 이루어진다.

나는 우리가 AI라고 부르는 것이 혼란과 경악을 유발할 뿐만 아니라 인간이 기계만큼 좋지 않거나 빠르거나 인내심이 없는 영역에 크게 기여할 것이라고 확신한다. 중요한 데이터 마이닝 및 비교가 필요한 이러한 영역에서 AI가 빛을 발한다. 결국 AI는 현재로서는 데이터에 뛰어들고 점점 더 정교해지는 프로그래밍을 기반으로 형편없고, 좋고, 훌륭하고, 심지어 뛰어난 결과를 제공하는 방법일 뿐이다.

이것을 인간의 지능과 혼동하는 것은 이 논의의 범위를 넘어서는 인간의 두뇌(우리가 더 잘 이해하고 있지만 아직 멀었다)와 신체, 타인, 자연 및 기계를 포함한 환경 사이의 복잡한 관계이다. 실수이다.

인공지능이 능가하기는 커녕 동등해 지려면 인간 지능이 수 세대에 걸쳐 자율적으로 진화해야 한다. 인간의 두뇌 능력을 훨씬 뛰어넘는 속도에서도 그것은 긴 휴식 시간이다.

지금은 또 다른 흥미진진한 디지털 플레이어가 우리 놀이터에 들어왔고 나는 그것을 환영한다.

인간이 핵무기와 기타 악의적인 세력을 통제하는 방법을 얼마나 잘 배웠는지 생각해 보라. 우리는 하지 않았다. 그리고 내 생각에는 인간이 다른 결과를 예상하면서 같은 일을 계속해서 반복하기 때문에 핵 교환이 발생할 가능성이 여전히 높다. 이 모든 것은 말할 것도 없고 기후 악화, 식량 불안정, 물 부족 및 이에 수반되는 영향이 나타나기 시작했다. 나는 우리가 성급한 결론에 도달하고 있다고 생각한다.

 

피터 킹Peter King

친애하는 빌 – 지금 쯤이면 내가 AI에 찬성할 것이라고 기대하지 않으실 것 같다. 당신의 진술 "물론, 인간이 기계를 감독하지 않을 만큼 우리가 멍청하다면 AI는 통제 불능의 자동 무기, 폭주하는 항공기, 중독된 AI 물 시설 및 수많은 다른 위협으로 우리 모두를 파괴할 수 있다." 기계를 감독해야 한다. 내 두려움은 우리가 AI를 사용하여 대혼란, 혼돈, 죽음을 일으키는 영리하지만 병리적인 인간을 감독할 수 없다는 것이다. AI 논리에는 윤리적 "꺼짐" 버튼이 없기 때문이다. AI가 몸값 요구에 어떻게 사용되거나 계약 살인범을 위한 추적 불가능한 웹사이트를 만들 수 있는지 상상해 보라. AI는 약간의 생산성 이점이 있지만 ISIS나 다른 테러 조직의 손에 들어가지 않도록 하기 위한 규제 통제는 어디에 있을까? 나는 당신의 분석이 살인자의 눈을 통해 AI의 힘을 본 다음 이것이 일어나지 않도록 하는 방법을 묻고 싶다.

 

스티브 하우스만 Steve Hausman

AI의 약속

●건강 개선: AI를 사용하여 신약 및 치료법을 개발하고, 질병을 보다 정확하게 진단하고, 환자에게 개인화된 치료를 제공할 수 있다. AI가 숙련된 방사선 전문의보다 많은 전문성(때로는 그 이상)으로 방사선 이미지를 진단할 수 있는 능력에서 이미 이를 확인했다. 핵심은 훈련된 방사선 전문의가 없는 지역에서 AI를 사용할 수 있다는 것이다.

●강력한 경제: AI를 사용하여 작업을 자동화하고 생산성을 개선하며 새로운 일자리를 창출할 수 있다.

●더 깨끗한 환경: AI를 사용하여 보다 효율적인 에너지원을 개발하고 오염을 줄이며 천연 자원을 보호할 수 있기를 바란다.

●보다 만족스러운 삶: AI를 사용하여 새로운 형태의 엔터테인먼트를 만들고 교육 기회를 제공하며 다른 사람들과 연결할 수 있다. 불행하게도 엔터테인먼트의 한 형태는 현재 미디어와 영화 배우를 포르노로 표현하는 것 같다. 딥 페이크 제작은 말할 것도 없고 현재 우리가 가지고 있는 것보다 훨씬 더 잘못된 정보로 이어질 수 있다.

AI의 위험

●일자리 손실: AI가 더욱 정교해짐에 따라 현재 인간이 수행하는 많은 작업을 자동화할 가능성이 높다. 이것은 경제의 일부 부문에서 일자리 손실로 이어질 수 있다. 그러나 다른 한편으로는 과거의 기술 덕분에 결국 더 많은 일자리가 생겨났다. 한 가지 예는 인터넷 이후 우리는 이제 수백만 명의 사이버 보안 전문가를 고용해야 한다는 것이다. 이는 이전에는 존재하지도 않았던 직업 기술이다.

●자율 무기 시스템 개발: AI는 인간의 개입 없이 누구를 죽일지 결정할 수 있는 자율 무기 시스템을 개발하는 데 사용될 수 있다. 이로 인해 전쟁과 민간인 사상자가 증가할 수 있다. 그러나 실제로 AI 이전에도 자동화된 기관총 방어 시스템이 남북한 사이의 완충지대를 따라 배치되었다.

●편향: AI 시스템은 인간이 생성한 데이터에 대해 교육을 받는다. 이러한 데이터가 편향되면 AI 시스템도 편향된다. 이는 특정 집단에 대한 차별로 이어질 수 있다.

●제어력 상실: AI 시스템은 점점 더 복잡해지고 이해하기 어려워지고 있다. 이것은 우리가 이러한 시스템에 대한 통제력을 상실하고 우리에게 해로운 결정을 내리기 시작하는 상황으로 이어질 수 있다. 나는 개인적으로 고등학교(1960년대 초반)에 있는 펜실베니아 대학의 무어 전기 공학 학교에서 컴퓨터 프로그래밍 과정을 수강할 때 강사로부터 전화 교환 시스템의 컴퓨터가 스스로 수리된다는 말을 들었다. 그리고 엔지니어들은 그것이 어떻게 이루어졌는지 알아내지 못할 것이다.

당신이 물었던 또 다른 질문은 AGI의 숨겨진 예상치 못한 영향은 무엇일까? AGI(인공일반지능)는 인간이 할 수 있는 모든 지적 작업을 수행할 수 있는 가상의 인공지능(AI) 유형이지만 아직은 실현되지 않았다고 생각한다.

●실존적 위험: 일부 전문가들은 AGI의 개발이 인류에게 실존적 위험을 초래할 수 있다고 경고했다. AGI가 잠재적으로 너무 지능화되어 인간의 지능과 능력을 능가할 수 있기 때문이다. 만약 이런 일이 일어난다면 AGI는 잠재적으로 인류를 파괴하기로 결정할 수도 있고, 단순히 우리를 무시하고 우리 자신의 장치에 우리를 맡기기로 결정할 수도 있다. 레이 커즈와일Ray Kurtzweil은 특이점(컴퓨터가 인간의 마음만큼 강력해지거나 더 강력해지면 2045년(플러스 또는 마이너스 10년)이 될 것이라고 생각한다. 그는 또한 컴퓨터가 2029년까지 튜링 테스트를 통과할 것이라고 언급했다. 시간이 지나면 말해준다.

●직업 대체: AGI는 잠재적으로 광범위한 직업 대체로 이어질 수 있다. 이는 AGI가 현재 인간이 수행하는 많은 작업을 잠재적으로 자동화할 수 있기 때문이다. 예를 들어 AGI는 고객 서비스 작업, 제조 작업 및 일부 사무직 작업을 자동화하는 데 사용될 수 있다. 다른 한편으로 위에서 언급했듯이 AGI가 대체하는 일자리보다 더 많은 일자리를 창출할 가능성도 있다.

●사회적 혼란: AGI의 개발은 잠재적으로 사회적 혼란으로 이어질 수 있다.

AGI는 잠재적으로 우리가 살고 일하는 방식을 근본적으로 바꿀 수 있기 때문이다. 예를 들어, AGI는 잠재적으로 모든 사람이 필요한 모든 상품과 서비스에 접근할 수 있는 탈-희소성 사회로 이어질 수 있다고 가정했다. 이것은 우리가 사회를 조직하는 방식에 근본적인 변화를 가져올 수 있다. 나는 이것을 세상에 더 이상 전쟁이 없고 식량 부족이 없을 것과 같이 실현되지 않은 다른 급진적인 예측의 범주에 넣는다.

●도덕적 및 윤리적 문제: AGI의 개발은 또한 많은 도덕적 및 윤리적 문제를 제기할 수 있다. 예를 들어, 우리는 AGI가 악이 아닌 선을 위해 사용되도록 보장하는 방법을 결정해야 한다. 우리는 또한 AGI가 인간의 지능과 능력을 능가할 가능성을 어떻게 처리할지 결정해야 한다. 말보다 행동이 더 쉽다.

 

클레이튼 딘 Clayton Dean

Q: AI가 세상을 멸망시킬까? 대량실업 발생? 우리를 바보로 만들까?

AI는 세상을 파괴하지 않을 것이다. 자동화로 대체된 직업과 같은 '대량생산/저복잡성'의 암묵적인 행진은 계속될 것이다. 이 경우에만 산업 작업이 아니라 하급 서비스 작업이 될 것이다. 일부 사람들은 비천한 노동이라고 할 수 있다. 고객 서비스(이미 진행되고 있음), 아마도 자동 호텔 체크인, 회의 일정 잡기, 문서 초안 작성 등이 있다. 그러나 AI가 생산하는 것을 편집, 감사, 개선하기 위해 더 많은 작업이 생성될 것이다. 그것은 우리를 계산기보다 더 멍청하게 만들지는 않을 것이지만 아마도 그것은 인간과 인간의 상호작용의 수를 감소시킬 것이기 때문에 우리를 사회적으로 더욱 무능하고 고립되게 만들 것이다.

Q: AI가 고역을 없앨까? 인간의 잠재력을 풀어줄까? 글로벌 대위기를 해결할까?

고역은 보는 사람의 눈에 달려 있다. 운전을 좋아하는 사람도 있고 싫어하는 사람도 있다. AI는 최소한 인간의 잠재력을 높이는 데 도움이 될 수 있지만 사실 '인터넷'이나 메타버스의 어떤 것도 물리적 등가물을 초과하지 않는다. XBOX를 더욱 매력적으로 만들 것이다. 그것은 당신이 문제를 해결하는 데 도움이 될 것이다; 부족할 때 소모품을 재주문하는 데 도움이 될 것이다. 그런 의미에서 AI는 고된 일을 줄이고 일부 사람들의 잠재력을 향상시킬 것이다. 그러나 우리가 소셜 미디어, 휴대폰, 스마트 TV에서 보았듯이 일반적으로 고된 일의 한 형태가 다른 것으로 대체된다. 그리고 AI를 뒤따를 것이 확실한 악영향에 사로잡히지 않고 잠재적인 이점을 활용하려면 독특하게 훈련된 사람이 필요하다.

 

데니스 부시넬Dennis Bushnell

기사는 훌륭하지만 불완전하다. 필연적으로 AGI를 향한 대중의 가속도에 의해 예상하지 못한 엄청난 양의 문헌이 있다. IMHO 가속은 주로 웹 로딩 때문이다. 제한된 데이터를 로드하면 제한적이고 "좁은" 결과만 얻게 된다. 글로벌 센서 그리드의 출력도 입력되고 더 많은 웹이 있으면 성능이 더욱 향상된다. 웹에는 사실에서 사실이 아닌 것까지 다양한 콘텐츠 스펙트럼이 있기 때문에 코드 결과가 혼합되어 이제는 점점 더 필터링되고 있으며 잠재적인 직교 아이디어의 마더로드인 흥미롭고 다양한 결과를 필터링할 수도 있다. 가까운 시일 내에 기계와 인간의 파트너십을 구축하기 위한 많은 노력이 있을 것이며, 직접적인 기계-두뇌 통신 및 두뇌 칩의 개발로 효율성이 증가할 것이다. 그러나 결국 일반적으로 발생하는 일은 대부분 계량 경제학에 의해 결정되며 기계는 인간보다 점점 더 저렴하고 빠르며 능력이 향상되며 연구에 따르면 머지않아 기계가 대부분의 작업을 수행하게 될 것이다. 그러나 훨씬 향상된 기계 생산성은 안락한 연간 수입을 보장할 수 있을 만큼 충분히 커야 하며, 그러면 문제는 인간이 하루 종일 무엇을 할 것인가가 될 것이다. 이에 대한 답변이 진화하고 있다. AGI 등으로 인한 인간에 대한 실존적 위협에 대한 우려는 현실적이며, 이 시점에서 우리는 이 비인간 형태의 지능이 실제로 어떻게 기능하는지 알지 못하기 때문에 이를 제어하는 방법을 알지 못하고 작업을 진행한다.

 

AI의 약속과 위험

생산성과 주관성의 큰 도약

ChatGPT의 출시는 최근 예측의 놀라운 정확성을 확인시켜준다. 최소 20년 동안 TechCast는 AI가 거의 정확하게 이 시기에 도달할 것이라고 예측해 왔다. 아래 수명 주기 그래프에서 볼 수 있듯이 TechCast 전문가는 AI가 2023년에 15% 채택이라는 도약점에 도달하고 2025년경 30% 채택으로 주류에 진입할 것으로 추정했다. 이러한 추정은 ChatGPT의 출시와 거의 완벽하게 일치한다. 앞으로 우리는 AI가 약 5,500억 달러의 총 시장 규모와 함께 90% 채택 수준에서 2035년경에 성숙할 것으로 예상한다.

시간이 지나면 스마트폰에 있는 이 힘이 우리가 하는 모든 일을 알고 다른 사람과 함께 일하도록 돕고 개인적인 문제에 대해 조언하는 가상 비서로 상상하기 쉽다. 매우 유능한 실제 비서가 하는 것과 같다. 이 가상 비서에 관련된 이름을 지정할 수 있다. . . "리틀 빌"처럼. 지금도 OpenAI는 자신의 취향에 맞게 개인화할 수 있는 ChatGPT 버전을 제공하고 있다.

 

이제 영향에 대해 논의하겠다. 장궁, 화약, 탱크 및 핵무기의 발명은 각각 미래를 파멸시키는 치명적인 위협으로 간주되었다. 이것은 일반적으로 ChatGPT와 AI를 이해하는 좋은 방법이다. 이 강력한 신기술은 인간의 진보를 발전시키고 모든 기술이 초래하는 일반적인 위험에 대한 큰 약속을 제공한다. 또한 우리가 총, 탱크, 심지어 핵무기의 위협을 관리하는 방법을 배운 것처럼 많이 예언된 AI 종말을 길들여야 할 타당한 이유가 없다.

이제 두려움이 가라앉았으니, 바라건대 AI가 제공하는 막대한 약속과 그것이 품고 있는 위험을 요약해 본다.

약속: 생산성의 또 다른 거대한 도약

ChatGPT에 대한 뉴스는 모든 주제에 대한 에세이 작성부터 질문에 답하고 멋진 이미지 생성에 이르기까지 수행할 수 있는 모든 놀라운 인간과 같은 작업으로 불타오르고 있다. 그리고 이 대규모 전환이 즉시 일어나고 있다. ChatGPT 4를 생산하기 위해 100억 달러를 투자한 후 Microsoft는 이를 Bing 검색 엔진 및 Office 제품군에 추가하느라 바쁘다. 흥미로운 점은 ChatGPT 4가 역사상 어떤 앱보다 빠르게 사용자 1억 명의 임계점에 도달했다는 것이다. 빌 게이츠는 AI의 시대가 시작되었다고 주장했다.

다른 기술 회사들은 이제 이 경쟁에 맞서기 위해 고군분투하고 있다. Google은 Gmail, Google 문서 및 슬라이드에 추가하고 있다. GM, Coca-Cola 및 Sales Force는 비즈니스 요구 사항에 적용하기 위해 수백만 달러를 투자하고 있다.

경제적으로 큰 이익을 얻을 가능성은 분명하다. MIT Technology Review의 최근 호에서는 "ChatGPT가 어떻게 경제를 혁신할 것인가"에 대해 설명한다. 세계경제포럼(World Economic Forum)은 AI로 인한 생산성 향상으로 인해 10년 동안 연간 세계 GDP가 7% 증가하여 2030년까지 총 15조 7000억 달러에 달할 것으로 추정한다.

분명히 이것은 일상적인 작업을 수행하는 사람들뿐만 아니라 오늘날 노동 풀을 지배하는 방대한 지식 근로자 군대의 일자리를 위협한다. 가트너는 AI가 인력의 80%에 영향을 미칠 것으로 예상하고 "모든 직업이 AI의 영향을 받을 것이다."

TechCast가 이전에 보여주었듯이 일부 일자리가 사라지더라도 대량 실업이 발생한다는 의미는 아니다. 가트너는 저숙련 직업이 AI에 의해 제거되는 것이 아니라 증가될 것이라고 생각한다. MIT 노동 경제학자 데이비드 오터(David Autor)는 AI가 저숙련 노동자들이 더 많은 교육과 전문 지식이 필요한 더 힘든 일을 할 수 있게 함으로써 그들을 업그레이드할 것이라고 주장한다. 실제로 TechCast 연구에 따르면 많은 경우 최종 결과는 단조로운 작업을 자동화하여 지금은 무인으로 진행되는 창의적이고 복잡한 대인 작업에 집중할 수 있게 된다.

 

위험: 안전 장치가 필요하고 주관성에 주의를 기울여야 한다.

AI의 위험은 호모 데우스 명성의 유발 하라리에 의해 멋지게 구성되었다. 700명의 최고 학자들이 AI가 인류 멸종과 같은 중대한 재난을 초래할 확률을 10%로 추정한다는 점에 주목하면서 하라리는 질문한다. 조종사가 모든 사람이 추락하여 사망할 확률이 10%라면 비행기에 탑승하시겠는가?

스마트 머신의 위험성은 2019-20년에 보잉 737 항공기 2대가 추락해 자동 조종 장치가 작동하지 않아 전원을 끌 수 없어 탑승한 전원이 사망했을 때 분명해졌다. 이 위험을 자율 무기, 전기 그리드 또는 기타 위험한 시설과 같은 모든 종류의 지능형 기계로 확장하는 것은 쉽다. 이를 위해서는 AI 시스템을 주의 깊게 모니터링 및 제어하고 사람들이 실패한 시스템을 무시할 수 있도록 해야 한다.

TechCast는 AI를 보호하는 열쇠는 목표, 목적, 가치, 감정 및 기타 형태의 주관적 의식과 같이 인간이 뛰어난 인지 기능에 초점을 맞추는 데 있다고 주장했다. 예를 들어 GPS 내비게이션 시스템은 목적지까지 안내하는 데 큰 역할을 할 수 있지만 목적지를 정의할 수 있는 권한은 항상 보유하고 있다. 또한 GPS 내비게이션 시스템이 절벽에서 떨어지는 것을 원하지 않는다면 어디로 가는지 모니터링하고 시정 조치를 취하는 것이 좋다.

다시 말하지만, TechCast는 AI가 현재 인간의 생각에 미치는 극적인 효과를 아래 그림에서 보여주었다는 점에 유의하라.

 

그림에서 알 수 있듯이 AI는 객관적 사고를 자동화하여 주의력을 의식 계층 위로 끌어 올린다. 스마트폰과 소셜 미디어는 누구나 원하는 것을 방송할 수 있게 하여 사람들이 무엇을 생각해야 할지 당황하게 만드는 무작위 정보의 홍수를 생성한다. . . 그래서 그들은 자신이 좋아하는 것, 심지어 감정적으로 어떻게 느끼는지에 따라 주관적인 선택을 한다. 그런 다음 지능형 알고리즘이 동일한 주제에 대한 관심을 높인다. 결과적으로 주관적 사고의 물결은 이제 권위 있는 출처의 사실과 객관성을 대체하는 "더 높은" 의식을 구성한다. 그 의미는 역사적이며 이 중요한 새로운 현실을 보지 않고 오늘날의 세계를 이해하는 것은 불가능하다고 생각한다.

좋은 예는 편견을 피하고 사회 윤리와 일치하도록 AI 시스템에 수용 가능한 "가치"를 구축해야 한다는 폭넓은 인식에서 볼 수 있다. 저명한 노엄 촘스키Noam Chomsky는 ChatGPT가 "인간의 추론 방식과 근본적으로 다르다... 가능한 것과 불가능한 것을 구별할 수 없으며... 항상 피상적이고 의심스러운 결과를 생성한다."라고 생각한다. 워싱턴 포스트는 포드 재단의 Darren Walker 회장과 General Catalyst의 CEO인 Hemant Taneja의 "AI가 모든 것을 바꾼다"이라는 기사에서 이를 요약했다.

"AI는 인간의 모든 결점을 확장하고 퍼뜨릴 수 있는 능력을 가지고 있다. 우리 사회에 만연한 인종 차별, 카스트, 불평등을 영속화 한다. 알고리즘은 인간의 오류와 편견을 복제한다... 진행 중인 변환은 인터넷을 워밍업처럼 보이게 만들 것이다. 행동... 가짜 뉴스와 같은 악의적인 콘텐츠를 찾아내도록 설계된 알고리즘 카나리아를 통한 지속적인 모니터링이 필요하다. 외부 감사... 규제 프레임워크... 기업은 모든 이해관계자를 포함하도록 가치 정의를 확장해야 한다..."

다음은 AI가 촉발하는 주관성의 만연한 표시에 대한 몇 가지 경고이다.

AI의 교황: 현재 매장에 있는 상상의 응용 프로그램에 대한 간단한 힌트로 교황은 "푹신한" 재킷을 입은 딥페이크 이미지로 표시되었다.

보수적 AI: ChatGPT가 너무 진보적이라는 것을 두려워한 보수주의자들은 신속하게 자체 버전의 생성 AI를 구축할 계획을 발표했다. 한 결과는 “2020년 대선이 조작됐다는 것이 널리 받아들여지고 있다”고 밝혔다.

깨어난 AI와 싸우기: 일론 머스크는 ChatGPT가 "깨어났다"고 비난하고 자신의 버전을 만들겠다고 약속했다.

중국 AI: 중국은 공산당과 반대되는 사실이나 생각에 시민들을 노출시킬 수 있다는 두려움 때문에 ChatGPT와 유사한 도구의 사용을 금지했다.

AI 포르노: 포르노에서 가장 눈에 띄는 웹사이트 중 하나인 MrDeepFakes는 한 달에 1,700만 명의 방문자가 방문하는 수천 개의 성적으로 노골적인 딥페이크 비디오를 호스팅한다.

이것은 최근의 몇 가지 사례에 불과하지만 요점은 분명해야 한다. 물론, 우리가 인간이 기계를 감독하지 않을 만큼 멍청하다면 AI는 통제 불능의 자동화 무기, 폭주하는 항공기, 중독된 AI 수자원 시설 및 기타 수많은 위협으로 우리 모두를 파괴할 수 있다. 그러나 진짜 위험은 우리가 가짜 이미지, 허위 정보, 노골적인 거짓말, 심지어 지금도 사회를 양극화하고 모든 곳에서 갈등을 조장하고 있는 기타 주관적인 광기의 바다에 빠져들 가능성이 있다는 것이다.

기술 회사가 이익을 위해 보호 장치의 필요성을 경시하는 것은 도움이 되지 않는다. 2023년 4월 1일자 워싱턴 포스트 기사 "AI 기술이 붐을 일으키면서 기업들은 윤리학자를 해고하고 있다"라고 결과를 강조했다.

경쟁에 뛰어들기 위해 아마존, 트위터, 마이크로소프트, 구글은 최근 AI 윤리학자를 해고했다. 축출되기 전 Google의 윤리적 AI 팀. Amazon의 전 AI 팀 구성원은 '이것은 매우 한 걸음 뒤로 물러났다.'라고 말했다.

 

결론

AI가 가하는 위협은 초지능으로 인간을 능가하거나 자신도 모르게 문명을 멸종시킬 수 있다는 것만이 아니다. 더 교활한 위협은 AI가 다른 버전의 현실과 경쟁하는 챗봇에서 정보 불협화음을 방출한다는 것이다. AI는 객관적인 지식을 자동화함으로써 인간의 인식이 상상할 수 있는 모든 방향으로 날아갈 수 있는 천상의 무인 지역으로 인간의 관심을 유도한다. 오늘날 소셜 미디어에서 흘러나오는 허위 정보와 혼란의 홍수는 AI로 가능한 광기의 일면에 불과하다.

우리는 이것이 AI가 의미하는 창의성과 고귀한 성취에 대한 모든 전망과 함께 우리를 더 인간적으로 만들 약속을 제공한다는 것을 의미한다고 생각한다. 그러나 이 고양된 인류애는 또한 우리가 기후 변화, 불평등 및 우리 시대의 다른 실존적 위기와 같은 어려운 문제에 대해 실행 가능한 합의를 찾기 위해 결과적인 불협화음을 통제할 것을 요구한다. 지능형 기계는 우리를 위해 그렇게 하지 않을 것이다. 인간만이 인류 자체가 만든 문제를 해결할 수 있다. 그리고 AI를 효과적으로 모니터링하고 제어하는 방법에 대한 합의에 도달하는 것부터 시작해야 한다.