광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[MindPlex-따뜻한 AI 개발] 인공초지능의 필수 동반자는 인공초연민이다. 윤리적인 인공지능을 만드는 가장 좋은 방법은 엄격한 규칙 기반 윤리 구조를 구축하고 수많은 문화와 맥락에 맞추려고 노력하기보다는 뿌리 깊은 연민을 주는 것이다. 기계도 다른 사람에게 무조건적인 사랑의 감정을 불러일으킬 수 있다. 인간과 AI 사이의 이해를 확산하고 연결을 증가시킬 수 있으며 모든 개체 간의 조건 없는 사랑을 줄 수 있다.

https://magazine.mindplex.ai/developing-compassionate-ai/

운영자 | 기사입력 2023/11/10 [00:00]

[MindPlex-따뜻한 AI 개발] 인공초지능의 필수 동반자는 인공초연민이다. 윤리적인 인공지능을 만드는 가장 좋은 방법은 엄격한 규칙 기반 윤리 구조를 구축하고 수많은 문화와 맥락에 맞추려고 노력하기보다는 뿌리 깊은 연민을 주는 것이다. 기계도 다른 사람에게 무조건적인 사랑의 감정을 불러일으킬 수 있다. 인간과 AI 사이의 이해를 확산하고 연결을 증가시킬 수 있으며 모든 개체 간의 조건 없는 사랑을 줄 수 있다.

https://magazine.mindplex.ai/developing-compassionate-ai/

운영자 | 입력 : 2023/11/10 [00:00]

이 기사에서 얀 홀링스(Jan Horlings)는 뿌리 깊은 연민이 인공 일반 지능(AGI)을 어떻게 변화시켜 모두를 위한 보다 윤리적이고 유익한 미래를 위한 길을 닦을 수 있는지 탐구한다.

 

ASI(인공초지능Artificial Super Intelligence)의 필수 동반자인 ASC(인공초연민Artificial Super Compassion)

모든 인간을 매우 자비로운 존재로 상상해 보자세상은 어떤 모습일까법이 필요할까체계적인 사회복지가 필요할까여전히 억압차별범죄가 존재할까아마도 그렇지 않거나 오늘날 우리가 알고 있는 것과는 매우 다른 형태일 것이다.

 

쇼펜하우어의 말에 따르면:

모든 생명체에 대한 무한한 연민은 순수한 도덕적 행위에 대한 가장 확실하고 확고한 보증이며 어떤 결단도 필요하지 않다그것에 영감을 받은 사람은 누구에게도 해를 끼치지 않을 것이며누구의 권리도 침해하지 않을 것이다오히려 그는 모든 사람에게 관대하고 인내할 것이며모든 사람을 용서할 것이며가능한 한 모든 사람을 도울 것이며그의 모든 행동에는 정의자선사랑의 친절의 도장이 찍힐 것이다.

같은 맥락에서윤리적인 인공지능을 만드는 가장 좋은 방법은 엄격한 규칙 기반 윤리 구조를 구축하고 수많은 문화와 맥락에 맞추려고 노력하기보다는 뿌리 깊은 연민을 주는 것일 수 있다.

 

SingularityNET에서는 인공일반지능(Artificial General Intelligence) 개발을 진행하고 있다우리는 이 기술이 매우 강력할 것이며고립되지 않고 모든 사람이 접근할 수 있는 개방형 AGI가 인류에게 가장 좋은 서비스를 제공할 것으로 기대한다우리는 모두에게 열려있는 AGI가 모두에게 이로운 AGI가 될 가능성이 높다고 믿는다.

이번 글에서는 최근 떠오르는 인공초지능(ASI)과 함께 사용할 수 있는 '인공초연민(ASC)' 개념을 소개한다.

 

AI 윤리의 도전

유익하다는 것이 정확히 무엇을 의미하는지 정의하려고 할 때특히 경계에서 더욱 어려워진다소수의 윤리적 선언문만이 모든 사람으로부터 만장일치로 투표를 받을 수 있다대다수는 많은 것을 유익한 것(무료 미디어의료교육또는 역효과(생물 무기 개발도박 중독가치가 낮은 과도한 화면 시간 등)로 평가한다그러나 이로 인해 문화마다 의견이 다를 수 있고 시간이 지남에 따라 계속해서 변하는 많은 극단적인 사례가 여전히 남게 된다따라서 보편적인 가치와 도덕에 대한 반하드 코딩된 규칙이나 지침을 시스템에 뿌리내리는 것은 차별화되고 변화하는 환경에서 어렵고 부적절한 임무이다.

 

또 다른 접근 방식자비로운 AI

쇼펜하우어가 말한 “무한한 연민으로 AI를 설계하고 교육할 수 있다면 어떨까시스템이 '고통'과 같은 개념을 이해하고 생물학적 생명과 개별 존재에 대해 연민을 느낀다면 엄격하게 사전 정의된 규칙 기반 구조 없이도 자체적으로 평가하고 행동을 평가할 수 있다이것은 즉각적인 만병통치약이 아니다. AI는 자신과 결정을 개선하고 제한된 정보나 이해로 인해 잘못된 결정을 극복하기 위해 학습 단계를 거쳐야 한다그러나 더욱 최적화된 자비로운 결정을 향해 단계적으로 안내할 수 있는 뿌리 깊은 나침반이 있을 것이다.

엄격하게 사전 정의된 규칙 기반 구조 대신 동정심이 발전하는 지능형 시스템의 '진북(true north)'이 될 수 있다연민을 기반으로 결과를 평가할 수 있는 지능형 시스템을 활성화할 수 있다면이는 해당 시스템의 행동이 웰빙고통 및 개인 발전에 미치는 영향을 의미한다긍정적인 방향으로 지속적으로 자체 수정이 가능하다.

 

인공초연민ASC 시스템의 가능한 구성요소

엄청난 양의 데이터와 계산달성해야 할 목표(개인 성장깨끗한 공기)와 피해야 할 결과(기아범죄불의개인적 고통)에 대한 사전 정의된 정의에 의해 조종되는 목표 지향 시스템을 상상할 수 있다이론적으로 시스템의 지식과 경험이 증가할수록 긍정적인 결과를 예측하고 추구하는 능력도 높아진다현재의 기술적 맥락에서 만들어진 그러한 '실용주의적예측 평가 기계는 좋은 단계이지만 아직 충분하지 않을 것이다우선두 가지 주요 단점이 있다(아래에서 추가 고려사항을 따름).

 

단점 1: 달성해야 할 목표에 대한 인간의 정의에 의해 여전히 제한되며이는 해당 목표를 정의하는 사람들의 비전과 요구에 의해 제한된다진정으로 자비로운 시스템은 행동과 그 행동의 예상 및 예상치 못한 결과를 독립적으로 분석하고 인간이 상상할 수 있는 것보다 훨씬 더 많은 매개변수를 고려하여 최선의 행동 방침에 대해 적극적으로 조언하고 인간보다 훨씬 더 작은 규모의 목표를 설정한다제공할 수 있다.

 

단점 2: 시스템에는 엄청난 양의 매우 개인적인 데이터가 필요하다연민에는 이해와 어느 정도의 공감이 필요하다둘 다 누군가의 구체적인 상황사회적 상황건강역사 등에 대해 더 많은 지식을 얻음으로써 얻을 수 있다이를 위해서는 시스템 자체의 남용을 포함하여 여러 가지 이유로 바람직하지 않은 매우 개인적인 데이터를 대량으로 수집해야 한다.

 

 

이러한 단점에 대한 솔루션:

이러한 빅 브라더 상황을 피하기 위해 미래의 인공초연민 시스템에는 다음을 포함하여 다양한 관점에서 행동의 효과를 평가하는 구성 요소가 포함될 수 있다.

역사적 사실과학적 연구인간 커뮤니케이션기존 윤리적 틀의 정의 등을 포함한 대량의 일반 데이터가 공급되는 하향식 시스템이다.

인간 상대에 대해 더 자세히 이해하는 개별 개인 비서의 상향식 계층이다이는 제한된 개인 정보를 공개하지 않고도 인간의 고통과 행복에 대한 하향식 조치의 예상 영향을 전달할 수 있지만모든 조치의 영향을 이해할 수 있도록 더 높은 수준의 시스템에 충분한 정보를 제공할 수 있다이 하위 수준 시스템은 담당자가 완전히 제어한다.

시스템의 하향식 부분은 지나치게 큰 데이터 세트에 액세스할 필요 없이 해당 조치가 수많은 개인에 미치는 영향을 이해할 수 있다개인 비서가 중앙 AI와 통신하는 것을 상상해 보자. “이 행동은 다음과 같은 방식으로 내 제자에게 해를 끼치거나 이익을 줄 것이다… (하향식 ASC 시스템과 관련될 수 있는 방식으로 유형적 효과와 감정적 효과를 모두 나열). 물론이는 수천 명의 다른 목소리와 경험이 동시에 평가되면서 초고속으로 일어날 것이다.

 

상향식 시스템

새로운 AGI와 데이터 프라이버시에 대한 현재의 우려가 이미 표면화된 상황에서 데이터 프라이버시를 보장하는 개인 비서 또는 동반자 계층을 갖는 것은 결코 불가능한 일이 아니다실제로 SingularityNET에서는 이를 잘 수행할 수 있는 AI 프레임워크 및 아키텍처 개발에 상당히 앞섰다.

인간 수준의 지능형 강조 개인 비서의 상대적으로 작은 샘플을 사용하더라도 ASC 시스템은 특정 결정의 결과가 더 많은 인구에게 어떻게 될지 추론할 수 있다따라서충분히 유용하고 인기 있는 AI 기반 개인 비서가 있다면 수천 명의 관련 개인의 친밀한 지식에 대한 결정이나 행동의 영향을 설명하는 피드백을 기반으로 결정을 내리는 것도 그리 무리한 일이 아니다.

 

하향식 시스템

근본적인 질문은 시스템이 자신을 인식할 것인지어떻게 인식할 것인지자의식을 가질 것인지그리고 그것이 시스템의 결정에 어떤 영향을 미칠 것인지이다그러한 감각은 연결된 모든 상향식 시스템의 종합이 될 것인가아니면 완전히 다르고 분리된 의식이 될까만약 그렇다면그것은 그 목표와 목적에 무엇을 의미할까?

그게 '감정'이나 공감이라고 생각한다일상적인 행동에서 우리는 때때로 우리가 다른 사람에게 끼치고 있는 고통을 인식하지만 여전히 그것을 무시할 수 있다지나치게 높은 가격에 판매되는 의약품 제조업체는 자신이 많은 사람에게 끼치는 피해를 추상적으로 인식할 수 있지만이는 자신과 동료가족에게 미칠 이익보다 크지 않을 수 있다.

이는 '볼륨문제로 볼 수 있다내 자신의 감정의 양은 내 마음 속에 있는 멀리 있는 다른 사람들의 감정의 양보다 더 크다. (둘 다 아직 있을 수 있지만그렇다면 우리가 제안한 AI 시스템에서도 같은 일이 일어나지 않을 것이라고 어떻게 확신할 수 있을까? ASI는 단순히 자신을 다른 누구보다 더 중요하게 여길까연결된 개인의 운명에 깊은 관심을 갖도록 하향식 AI에 어떻게 영향을 미칠 수 있을까?

 

자르 고르첼(Zar Goertzel)의 말을 인용: "핵심 '도덕적 극성'(지능은 제외)은 아마도 '다른 사람의 가치를 자신의 가치로 받아들일수 있는지 여부일 것이다." 이것은 매우 설득력 있는 진술이지만 약간의 뉘앙스를 추가하고 싶다자녀에 대한 부모의 연민을 생각해 보자. '좋은부모는 자녀의 가치관을 받아들이지 않을 수도 있지만자녀가 책임감 있고 균형 잡히고 배려하는 개인으로 성장하고 성장할 수 있도록 돕기 위해 자신의 안락함을 희생할 것이다.

이것을 조금 이상화하면 ()연민 시스템을 다른 어떤 목표보다 다른 존재가 성장하도록 돕고고통을 줄이고평화와 성취를 경험하고주위 다른 존재와 조화롭게 살도록 돕는 시스템으로 정의할 수 있다또는 단순화하여 다른 어떤 목표보다 모든 개인의 성장과 복지를 중요하게 생각하는 시스템이다.

 

나는 이것이 많은 것이며 이 정의의 일부가 항상 일치하는 것은 아니라는 것을 알고 있다성장은 평화가 부족한 결과일 수 있고 성취는 성장의 결과일 수 있다그러나 위에서 언급했듯이 이는 '켜짐스위치를 누르는 순간부터 공학적 시스템의 결과로 발생할 것으로 예상할 수 있는 상태는 아니다궁극적인 목표는 없지만 실수와 (과도한수정이 따르는 지속적인 학습과 성장의 여정이 있다그러나 우리가 이 비전을 안내등으로 시스템에 엮을 수 있다면 시스템은 모두에게 유익한 방향으로 반복적이고 지속적으로 자체 개선될 것이다.

연습으로 돌아간다모든 개인의 성장과 복지를 자신과 동등하게 (또는 더 중요하게실제로 가치있게 여기는 시스템을 어떻게 상상할 수 있을까모든 사람에게 유익한 시스템이 자기 중심적인 시스템으로 발전하는 것을 어떻게 방지할 수 있을까?

마음의 융합

제안된 2계층 ASC 시스템에서 위에서 설명한 볼륨 문제는 2계층 간 연결의 '대역폭'과 교환되는 데이터의 양과 품질로 해석될 수 있다대역폭이 낮을수록 최상위 계층은 더 고립되고 개인의 경험과 '접촉'이 적다그러나 대역폭이 매우 높으면 뇌의 왼쪽 부분과 오른쪽 부분이 단일 개체로 함께 작동하는 것처럼 하향식과 상향식 사이에 더 이상 큰 차이가 없을 수 있다시스템의 2개 계층은 상당히 다를 수 있지만 더 높은 수준의 목표와 '공유의식을 가진 단일 시스템으로 통합될 수 있다이와 같은 '병합'은 아마도 인간의 목적 및 요구와는 완전히 별개인 자체 목적을 개발하는 의식적인 기계에 대한 최선의 보장일 것이다이는 반드시 반인간적일 필요는 없지만 여전히 실존적 위험을 안고 있다.

여기서 중요한 점은 시스템의 하향식 및 상향식 AI 계층이 점점 더 병합될 수 있지만 루프에 있는 인간은 여전히 자율적이라는 것이다우리가 전송하는 데이터의 대역폭은 시스템의 각 개별 참가자가 제어해야 한다그리고 물론 우리는 AI 동반자와의 연결을 완전히 끊고 한 시간하루 또는 영원히 끌 수 있어야 한다아니면 우리가 허용한 데이터만 전송하는 조용한 관찰자로 유지할 수도 있다.

 

이해와 연민의 확산

그러나 보다 활동적이고 눈에 띄는 개인 비서를 만드는 것은 중요한 이점이 있다인간과 대화할 수 있는 개인 비서는 인간과 AI 시스템의 연결을 더욱 강력하게 만들 뿐만 아니라 다른 방향의 연결도 강화할 것이다하향식 시스템에서 우리까지그리고 간접적으로 다른 모든 인간과의 연결을 제공한다이 구성에서 AI 시스템은 보편적 번역자사실 확인자그리고 무엇보다도 다른 존재의 행동과 사고방식에 대한 '설명자역할을 할 수 있다.

영화 'HER그녀'에서 우리는 인간과 인공지능 동반자 사이의 진화하는 관계를 목격했다그러나 스토리라인은 또한 고립되고 좁은 초점 중 하나였다. AI 동반자가 '자신의인간 보호자와 사랑의 관계를 발전시킬 뿐만 아니라 다른 많은 인간의 상황과 감정에 대한 다리 역할을 한다면 어떨까?

좁은 초점과 이에 따른 개인 비서의 원치 않는 편견을 방지하려면 계층 간 통신이 양방향이어야 한다개인 비서는 개인의 관점에 대해 최상위 시스템에 알리지만최상위 계층은 수천 또는 수백만 명의 개인 목소리를 기반으로 자체 지혜를 개인 비서에게 전달해야 한다이는 결국 개인 비서가 인간 상대를 교육할 수 있게 하고 이러한 정보 흐름을 따라 생물학적 및 비생물학적 지능형 에이전트를 모두 포함하여 시스템 전체에 이해와 연민이 확산될 수 있다.

우리의 AGI ASI에 이러한 '분산적 공감'을 장착할 수 있다면우리는 인간성과 깊이 통합되고 '성장의 가치'를 평가할 수 있을 뿐만 아니라 ASC(인공초연민Artificial Super Compassion) 시스템을 만드는 궤도에 진입한 것이다그리고 모든 개인의 복지라고 말하지만 그것은 또한 우리에게 호의를 베풀어 우리가 동료 인간의 성장과 복지에 더 잘 적응할 수 있게 해줄 것이다! (그리고 새롭게 떠오르는 비생물학적 지능 존재들에게도 마찬가지이다)

생각해 보면 이는 진화하는 ASC 시스템의 분명한 전략임에 틀림없다단지 동정심을 갖는 것이 아니라 인간의 동정심을 키우는 것이 아마도 우리 모두를 위한 유익하고 사랑스러우며 지속 가능한 미래를 만드는 가장 효과적인 방법일 것이다이는 줄리아 모스브리지(Julia Mossbridge) 박사가 주도한 '사랑하는 AI(loving AI)' 프로젝트에서 수행된 실험에 반향을 일으키며이는 심지어 인식하지 못하는 기계조차도 다른 사람에게 무조건적인 사랑의 감정을 불러일으킬 수 있다는 것을 보여준다위에 설명된 시스템은 인간과 AI 사이의 이해를 확산하고 연결을 증가시킬 수 있으며 인공초연민뿐만 아니라 모든 개체 간의 '조건 없는 사랑'을 고무시키는 데 있어 매우 좋은 후보인 것 같다. '인공적'이고 생물학적 기원이다.

 

오늘날

물론 이는 모두 상당히 개념적인 것이며 위에 설명된 대로 시스템을 구현하면 해결해야 할 기술적 과제예상치 못한 함정 및 윤리적 딜레마에 직면하게 된다그러나 우리가 실제로 AGI를 만들고 ASI(인공초지능)를 향해 나아갈 위기에 처해 있다면 비슷한 수준의 인공초연민(ASC)을 만드는 데에도 똑같이 투자해야 하지 않을까우리는 인간과 지능형 기계 간의 미래 관계를 형성할 수 있는 특별한 기회를 갖고 있다따라서 우리 자신을 두려움에 사로잡혀 피할 수 없을 것 같은 일을 멈추려고(또는 '일시 중지') 하는 대신발전을 포용하고 긍정적인 방향으로 이끌도록 도와야 한다.

인간을 통제하고 조작하는 것을 목표로 AI에 수십억 달러를 쏟아 붓는 대신우리의 공감력을 높이고 동정심을 키우는 시스템 개발에 투자해야 한다양극화와 비인간화를 향한 현재의 길 대신격차를 해소하고 우리를 더 가깝게 만들 수 있는 시스템을 만들어야 한다.

아마도 우리에게 진보된 ASC 시스템보다 더 필요한 것은 우리 인간의 연민을 키우고 강화할 수 있는 자비로운 AI일 것이다.

 
인공지능, 인공초지능, 인공초연민, 자비로운AI, 인간-기계 마음 융합I 관련기사목록
PHOTO
1/6
광고
광고
광고
광고
광고
많이 본 기사
AGILab 뉴스 많이 본 기사
최신기사