광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[MindPlex-보편적인 인간 가치와 인공 일반 지능] AGI의 가치 정렬에서 해결되지 않은 문제는 무엇일까? 다가오는 이 행사에 동참하여 'AGI 질문'에서 도덕적 상대주의, 가치의 위계, 의식을 탐구해 봐야 한다.

https://magazine.mindplex.ai/universal-human-values-and-artificial-general-intelligence/

운영자 | 기사입력 2024/02/26 [00:00]

[MindPlex-보편적인 인간 가치와 인공 일반 지능] AGI의 가치 정렬에서 해결되지 않은 문제는 무엇일까? 다가오는 이 행사에 동참하여 'AGI 질문'에서 도덕적 상대주의, 가치의 위계, 의식을 탐구해 봐야 한다.

https://magazine.mindplex.ai/universal-human-values-and-artificial-general-intelligence/

운영자 | 입력 : 2024/02/26 [00:00]

AGI 개발이 가속화됨에 따라 가치 정렬 분야가 점점 더 중요해지고 있다정렬이란 일반적으로 지능적인 소프트웨어 시스템에 인간에게 유익한 방식으로 작동할 수 있는 기능을 제공하는 것을 의미한다이에 대한 한 가지 접근 방식은 AI 프로그램에 인간의 가치를 주입하는 것이다.

 

그러나 이 분야의 연구는 즐거움이나 행복과 같은 지표를 극대화하기 위한 알고리즘에 초점을 맞추는 경향이 있다그들이 따라야 할 실제 가치 집합에는 훨씬 적은 관심이 집중되었다.

이에 전세계 종교전통 철학진화 심리학 및 조사 연구의 증거가 기본적인 인간 가치에 대해 놀라운 일치를 발견할 것을 제안한다이 작업을 요약하여 AGI에 적용할 수 있는 5단계 가치 체계를 제안한다:

 

1단계는 생명생존지속성의 가치이다이는 생존과 번식에 대한 관심에서 발전한다에이전트는 파괴를 피하고에너지를 찾고특성을 미래 세대에 전달하는 역할을 한다.

2단계에는 진리지혜지식이 담겨 있다이는 진실과 주변 환경을 잘 이해하고 상호 작용하는 능력을 중요하게 생각하는 에이전트에 관한 것이다.

3단계는 자신과 관련된 세 가지 가치즉 자유절제성장의 묶음이다이러한 값은 에이전트의 내부 상태와 동작에 영향을 미친다문제의 '자아'는 인간일 수도 있고자율적인 도덕적 행위자로 설계된 AI일 수도 있다.

4단계는 공감권위보안정의순응이라는 다섯 가지 가치의 묶음이다이것들은 모두 그룹 상호작용과 관련이 있다이는 생물학적 동료 존재 또는 다중 에이전트 AI 시스템에 적용된다.

5단계는 자연과 주변 생태계그리고 그 너머의 우주를 다루는 가치를 담고 있다충분히 강력한 일반 지능은 지구와 외계에 영향을 미칠 수 있으므로 더 큰 환경에 관심을 가져야 한다.

가치는 동심원이다근본적인 형이상학적인식론적 가정에서 시작하여 공간시간다양성에서 더욱 포괄적이 되도록 바깥쪽으로 방사된다.

 

그러나 해결되지 않은 문제가 많이 있다:

보편성(Universality) - 서로 다른 가치가 강조되거나 교환되는 도덕적 상대주의와 도덕적 보편주의에 대한 논쟁이다.

계층 구조 – 중요성이나 목표 관련성에 따라 값의 순위가 매겨진 순서이다.

변화 – 트랜스휴먼 또는 포스트휴먼 사회의 윤리는 인류나 다른 AI의 본질 변화로 인해 변경이 필요할 수 있다.

인간 중심 – 이러한 가치는 인간이며 우리의 독특한 진화와 사회 조직에 의해 창출된다.

의식 – 에이전트는 도덕적 책임감을 갖기 위해 감각 감각을 느껴야 할 수도 있다이는 AGI가 도덕적으로 행동할 수 없다는 의미는 아니다.

구현 – 언급된 값의 이 목록은 해당 값을 인스턴스화할 수 있는 메커니즘을 설명하지 않는다.

 

AGI의 가치 정렬 영역 내에서 이러한 과제와 기회를 고려하여 다가오는 유익한 AGI 서밋(Beneficial AGI Summit)은 중추적인 플랫폼으로 부상한다인공지능윤리 및 관련 분야의 선도적인 인재들이 모이는 BGI Summit은 이러한 해결되지 않은 문제를 더 깊이 탐구할 수 있는 비교할 수 없는 기회를 제공한다.

가치의 보편성윤리적 고려의 위계트랜스휴먼 사회에서 진화하는 윤리의 본질인간 중심의 관점과 의식그리고 이러한 가치의 AGI 시스템에서의 실천적 구현 –이 모든 주제는 BGI Summit에서 논의하기에 적합하다.

이 행사는 이러한 복잡한 가치 시스템을 AGI에 통합하는 우리의 이해와 능력에 있어 중요한 진전이 될 수 있으며인공지능이 인간의 가치와 윤리를 칭찬하고 향상시키는 미래를 조성할 수 있다. BGI Summit에 참여하여 이러한 주제를 살펴보라자세한 내용과 등록을 원하시면 bgi24.ai를 방문하라.

 
AGI, 인공 일반 지능, 가치 정력, AGI 서밋 관련기사목록
광고
광고
광고
광고
광고
광고
광고
많이 본 기사
AI메타홈서비스 많이 본 기사
최신기사
광고
광고