광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[피터디아만디스-AI는 공감과 윤리를 개발할 수 있을까?] AI가 교사에서 건강 보조원에 이르기까지 전통적으로 인간이 수행했던 더 많은 역할을 수행함에 따라 우리는 기술이 높은 EQ를 갖도록 해야 한다. 그러기 위해서는 AI에 공감과 윤리를 모두 길러야 한다. AI에 감정이 없고 공감 능력을 키워 주려면 우리가 감성 지능과 공감을 시뮬레이션 하면 된다. 우리가 아이들을 가르치는 것처럼 AI가 사회에서 좋은 도구가 되도록 이러한 가치를 AI에 주입해야 한다.

https://www.diamandis.com/blog/ai-ethics

운영자 | 기사입력 2023/05/01 [00:00]

[피터디아만디스-AI는 공감과 윤리를 개발할 수 있을까?] AI가 교사에서 건강 보조원에 이르기까지 전통적으로 인간이 수행했던 더 많은 역할을 수행함에 따라 우리는 기술이 높은 EQ를 갖도록 해야 한다. 그러기 위해서는 AI에 공감과 윤리를 모두 길러야 한다. AI에 감정이 없고 공감 능력을 키워 주려면 우리가 감성 지능과 공감을 시뮬레이션 하면 된다. 우리가 아이들을 가르치는 것처럼 AI가 사회에서 좋은 도구가 되도록 이러한 가치를 AI에 주입해야 한다.

https://www.diamandis.com/blog/ai-ethics

운영자 | 입력 : 2023/05/01 [00:00]

AI가 윤리적으로 사용되는지 확인할 수 있을까? AI는 스스로 공감과 윤리를 개발할 것인가그것이 제가 오늘 이야기하고 싶은 주제이다이것은 중요하다.

 

나는 최근에 개인 CEO Summit Abundance360에서 AI 연구원이자 Smart Eye의 부사장인 Rana el Kaliouby 박사와 함께 이러한 질문을 탐구했다. Rana는 지난 10년 동안 바로 이 주제에 집중했다.

 

인간 지능을 구성하는 것이 무엇인지 생각해 보자. IQ뿐만 아니라 감성 및 사회적 지능특히 우리가 다른 사람들과 관계를 맺는 방식도 중요하다.

 

Rana가 지적한 것처럼 우리는 AI IQ에 집착하지만 장기적으로는 AI의 감성 지능이 훨씬 더 중요할 수 있다.

 

 AI가 교사에서 건강 보조원에 이르기까지 전통적으로 인간이 수행했던 더 많은 역할을 수행함에 따라 우리는 기술이 높은 EQ를 갖도록 해야 한다그러기 위해서는 AI에 공감과 윤리를 모두 길러야 한다.

 

 

AI에서 공감을 만드는 방법

영화 허(Her)를 보았는가? (스파이크 존즈 감독의 2013년 영화)

 

Her는 최초의 비디스토피아 AI 영화였기 때문에 AI에 관한 내가 가장 좋아하는 영화 중 하나이다. Rana가 지적했듯이 AI에 공감을 구축하는 좋은 예이기도 하다.

 

영화를 안 보신 분들을 위해 말씀드리자면 주인공 테오도르는 우울하다그는 간신히 침대에서 일어날 수 있다그리고 그는 사만다라는 새로운 AI 기반 운영 체제를 설치한다그녀는 믿을 수 없을 정도로 똑똑할 뿐만 아니라 감정이입과 감성 지능도 뛰어나다사만다는 그를 아주 잘 알게 되고 그가 삶의 기쁨을 재발견하도록 도와준다그리고 테오도르는 그녀와 사랑에 빠진다.

 

현재 우리의 AI 기술은 (아직그렇게 발전하지 않았다그렇다면 AI에 감정이 없다면 어떻게 공감 능력을 키울 수 있을까?

 

Rana는 핵심은 우리가 감성 지능과 공감을 시뮬레이션할 수 있다는 것이라고 말한다.

 

인간이 의사소통하는 방식의 93%가 비언어적이라는 것이 밝혀졌다이것이 그녀가 주력하고 있는 연구 분야이며 자신의 회사인 Smart Eye에서 사용하고 있다.

 

 

Rana는 캠브리지 대학에서 박사 과정을 밟고 있을 때 감독 학습을 사용하여 감정적으로 지능적인 최초의 인공 기계를 만들었다그녀와 그녀의 팀은 다양한 표정을 짓는 전 세계 사람들의 수많은 데이터를 수집했다그런 다음 데이터를 사용하여 딥 러닝 네트워크를 훈련시켜 얼굴 표정을 이해하고 감정 또는 인지 상태에 매핑했다.

 

 

그 당시 알고리즘은 미소주름진 이마치켜든 눈썹의 세 가지 표현만 이해할 수 있었다.

 

그러나 오늘날 이러한 알고리즘은 50개가 넘는 감정인지 및 행동 상태를 이해할 수 있다그들은 주의력과 졸음에서 혼란과 흥분에 이르기까지 모든 것을 감지할 수 있다.

 

이 능력의 실제 적용은 방대하다예를 들어자동차에 이러한 알고리즘을 장착하면 AI가 운전자의 주의가 산만한 상태를 감지하고 적절하게 대응하여 도로의 안전을 높일 수 있다.

 

 

윤리적 AI

Rana에게 AI 윤리는 개발과 배포라는 두 가지 버킷으로 나뉜다.

 

윤리적 발전

 

AI를 윤리적으로 개발하려면 알고리즘이 어떻게 편향될 수 있는지 고려해야 한다.

 

우리는 고용 및 대출과 같은 영역에서 AI의 구현이 편견과 차별에 대한 우려를 불러일으키는 것을 보았다예를 들어 AI가 사회의 역사적 편향을 반영하는 데이터로 교육을 받으면 의사 결정에서 이러한 편향을 영속화할 수 있다.

 

우리는 데이터 수집 및 주석에서 교육 및 검증에 이르기까지 전체 개발 파이프라인에서 편견에 주의를 기울여야 한다.

 

예를 들어, Rana MIT에서 분사한 Affectiva CEO였을 때 경영진의 보너스를 수익 실적뿐만 아니라 엔지니어링 및 제품 팀 전반에 걸쳐 윤리적 고려 사항을 구현하는 데 연결했다.

 

 

윤리적 배치

배포하는 동안 악용을 방지하기 위해 개인 데이터를 책임감 있게 처리하는 것이 중요하다.

 

Rana는 현재 AI 배포 방법에 대한 단일하고 보편적인 윤리가 없다는 점을 인정한다국가와 회사마다 윤리개인 정보 보호 및 데이터 사용에 대해 다양한 관점을 가지고 있다.

 

대부분의 경우 윤리적 배치를 보장하는 것은 개별 리더에게 달려 있다.

 

예를 들어 Affectiva Rana와 그녀의 팀은 기술을 배포하는 방법을 결정하기 위해 일련의 핵심 가치를 만들었다그리고 2011년에 이러한 값이 테스트되었다그들은 돈이 거의 바닥났고 감시와 보안에 집중한다는 조건으로 회사 자금을 조달하기 위해 정보 기관의 벤처 부문에서 접근했다.

 

그러나 Rana는 기술과 규제가 충분히 강력하다고 생각하지 않았기 때문에 자금 조달을 거절하고 핵심 가치와 일치하는 다른 투자자로부터 투자를 찾았다.

 

그녀가 말했듯이 "우리는 높은 기준을 유지해야 한다."

 

 

이것이 중요한 이유

우리는 이러한 대규모 언어 모델(LLM)을 교육하는 데 사용하는 데이터가 구성되지 않았음을 기억해야 한다.

 

그것은 우리의 데이터이다지난 50년 동안 인류의 데이터 총합이다우리가 웹사이트와 Facebook 게시물에 쓴 내용.

 

그것은 우리가 누구인지서로 어떻게 대화하는지사물에 대해 어떻게 생각하는지를 나타낸다.

 

그의 저서 Scary Smart에서 Mo Gawdat AI를 통해 우리가 새로운 종류의 지능을 키우고 있다고 말한다우리는 예를 통해 AI에게 우리가 서로를 대하는 방법을 가르치고 있으며 AI는 이를 통해 배우고 있다.

 

나는 Gawdat에 동의한다. Alexa에게 "좋은 아침" "고맙습니다"라고 말하기 시작했다!

 

우리가 아이들에게 공감하고 존중하며 윤리적이 되도록 가르치는 것처럼 AI가 사회에서 좋은 도구가 되도록 이러한 가치를 AI에 주입해야 한다.

 

 AI 시리즈의 다음 블로그에서는 AI가 향후 5년 안에 프로그래머의 필요성을 없앨 것인가아니면 우리 모두를 코더로 만들 것인가?라는 질문을 탐구한다.

 
인공지능, AI, 공감, 윤리 관련기사목록
PHOTO
1/6
광고
광고
광고
광고
광고
많이 본 기사
AGILab 뉴스 많이 본 기사
최신기사