광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[AI가 의식이 있는지 알 수 있는 체크리스트] 현재 AI 시스템은 의식이 없다. 그러나 의식 있는 AI 시스템이 가까운 시일 내에 현실적으로 구축될 수 있다. 대부분의 딥 러닝 모델은 대략적으로 뇌의 내부 작동을 기반으로 한다. AI 에이전트에는 인간과 유사한 의사 결정 알고리즘이 점점 더 많이 부여되고 있다. 언젠가 기계 지능이 지각을 갖게 될 수 있다는 생각은 더 이상 공상 과학 소설처럼 보이지 않는다.

https://singularityhub.com/2023/09/03/how-will-we-know-if-ai-is-conscious-neuroscientists-now-have-a-checklist/

운영자 | 기사입력 2023/09/05 [00:00]

[AI가 의식이 있는지 알 수 있는 체크리스트] 현재 AI 시스템은 의식이 없다. 그러나 의식 있는 AI 시스템이 가까운 시일 내에 현실적으로 구축될 수 있다. 대부분의 딥 러닝 모델은 대략적으로 뇌의 내부 작동을 기반으로 한다. AI 에이전트에는 인간과 유사한 의사 결정 알고리즘이 점점 더 많이 부여되고 있다. 언젠가 기계 지능이 지각을 갖게 될 수 있다는 생각은 더 이상 공상 과학 소설처럼 보이지 않는다.

https://singularityhub.com/2023/09/03/how-will-we-know-if-ai-is-conscious-neuroscientists-now-have-a-checklist/

운영자 | 입력 : 2023/09/05 [00:00]

최근에 나는 ChatGPT를 사용하여 치료 세션을 가졌다우리는 친구들에게 강박적으로 넘쳐나는 반복되는 주제에 대해 이야기했기 때문에 그들에게 데자뷰를 주지 않겠다고 생각했다예상한 대로 AI의 반응은 정확하고 동정적이며 완전히 인간적인 느낌을 받았다.

 

기술 작가로서 나는 그 내부에서 무슨 일이 일어나고 있는지 알고 있다디지털 시냅스 떼는 인간이 생성한 인터넷의 텍스트 가치에 대해 훈련을 받아 호의적인 반응을 내뱉는다그러나 상호 작용은 너무나 현실적이어서 나는 상대방의 의식적이고 공감하는 존재가 아닌 코드와 대화하고 있다는 사실을 끊임없이 스스로 상기시켜야 했다.

 

생성 AI가 인간과 유사한 반응을 점점 더 많이 제공함에 따라 알고리즘에 일종의 "감각"을 정서적으로 할당하기가 쉽다(아니, ChatGPT는 의식이 없다). 2021 Google의 블레이크 레모인(Blake Lemoine)은 자신이 작업한 챗봇 중 하나인 LaMDA가 지각력이 있다고 선언하여 언론의 폭풍을 일으켰고 이후 해고되었다.

 

그러나 대부분의 딥 러닝 모델은 대략적으로 뇌의 내부 작동을 기반으로 한다. AI 에이전트에는 인간과 유사한 의사 결정 알고리즘이 점점 더 많이 부여되고 있다언젠가 기계 지능이 지각을 갖게 될 수 있다는 생각은 더 이상 공상 과학 소설처럼 보이지 않는다.

언젠가 기계 두뇌가 감각을 갖게 되었는지 어떻게 알 수 있을까대답은 우리 자신의 두뇌에 기초할 수 있다.

 

AI 안전 센터의 로버트 롱(Robert Long) 박사와 몬트리올 대학의 요슈아 벤지오(Yoshua Bengio) 박사를 포함하여 19명의 신경과학자철학자컴퓨터 과학자가 작성한 사전 인쇄 논문에서는 의식의 신경생물학이 최선의 선택일 수 있다고 주장한다단순히 AI 에이전트의 행동이나 반응(채팅 중)을 연구하는 대신 인간 의식 이론에 대한 반응을 일치시키는 것이 보다 객관적인 통치자를 제공할 수 있다.

 

이는 기본 제안이지만 의미가 있는 제안이다우리는 단어의 정의와 관계없이 의식이 있다는 것을 알고 있지만 여전히 불안정하다뇌에서 의식이 어떻게 나타나는지에 대한 이론은 많으며여러 주요 후보자가 여전히 글로벌 직접 대결에서 테스트되고 있다.

 

저자들은 의식에 대한 신경생물학적 이론을 단 하나도 지지하지 않았다대신 그들은 여러 주요 아이디어를 기반으로 의식의 "지표 속성체크리스트를 도출했다엄격한 기준은 없다예를 들어 X개의 기준을 충족한다는 것은 AI 에이전트가 의식이 있다는 것을 의미한다오히려 지표는 움직이는 규모를 구성한다더 많은 기준이 충족될수록 지각 있는 기계 정신이 있을 가능성이 더 높다.

 

ChatGPT 및 기타 챗봇을 포함한 여러 최신 AI 시스템을 테스트하기 위한 지침을 사용하여 팀은 현재 "현재 AI 시스템은 의식이 없다"고 결론지었다.

그러나 “이러한 지표를 만족하는 AI 시스템을 구축하는 데 뚜렷한 기술적 장벽은 없다고 그들은 말했다. "의식 있는 AI 시스템이 가까운 시일 내에 현실적으로 구축될 수 있다"는 것이 가능하다.

 

인공 두뇌 듣기

1950년대 앨런 튜링(Alan Turing)의 유명한 모방 게임 이후 과학자들은 기계가 인간과 같은 지능을 나타내는지 여부를 증명하는 방법을 고민해 왔다.

 

튜링 테스트(Turing test)로 더 잘 알려진 이론적인 설정에는 인간 판사가 기계와 다른 인간과 대화하는 방식이 있다판사는 어느 참가자가 인공 정신을 가지고 있는지 결정해야 한다테스트의 핵심은 “기계가 생각할 수 있는가?”라는 도발적인 질문이다기계와 인간의 차이를 구별하기 어려울수록 기계는 인간과 유사한 지능을 향해 발전해 왔다.

 

ChatGPT가 튜링 테스트를 깨뜨렸다. LLM(대형 언어 모델)으로 구동되는 챗봇의 예인 ChatGPT는 인터넷 댓글밈 및 기타 콘텐츠를 흡수한다에세이 작성시험 합격레시피 제공인생 조언 제공 등 인간의 반응을 모방하는 데 매우 능숙하다.

 

충격적인 속도로 이루어진 이러한 발전은 생각하는 기계를 측정하기 위한 다른 기준을 어떻게 구성할지에 대한 논쟁을 불러일으켰다가장 최근의 시도는 고등학생을 위한 시험변호사를 위한 변호사 시험대학원 진학을 위한 GRE 등 인간을 위한 표준화된 시험에 초점을 맞췄다. ChatGPT의 기반이 되는 AI 모델인 OpenAI GPT-4는 참가자 중 상위 10%의 점수를 받았다그러나 상대적으로 단순한 시각적 퍼즐 게임의 규칙을 찾는 데 어려움을 겪었다.

새로운 벤치마크는 일종의 "지능"을 측정하지만 반드시 의식 문제를 다루는 것은 아니다여기에 신경과학이 등장한다.

 

의식 체크리스트

의식에 관한 신경생물학적 이론은 많고 지저분하다그러나 그들의 핵심은 신경 계산이다뉴런이 정보를 연결하고 처리하여 의식적인 마음에 도달하는 방법이다의식은 뇌 계산의 결과이지만 우리는 관련된 세부 사항을 아직 완전히 이해하지 못한다.

 

의식에 대한 이러한 실용적인 시각을 통해 인간 의식의 이론을 AI로 번역하는 것이 가능해졌다계산 기능주의라고 불리는 이 가설은 올바른 종류의 계산이 매체(우리 머리 내부의 질퍽하고 지방이 많은 세포 덩어리 또는 기계 정신에 동력을 공급하는 단단하고 차가운 칩)에 관계없이 의식을 생성한다는 생각에 기초한다연구팀은 “AI의 의식은 원칙적으로 가능하다고 말했다.

 

그런 다음 어려운 부분이 온다알고리즘 블랙박스에서 의식을 어떻게 조사할까인간의 표준 방법은 뇌의 전기 펄스를 측정하거나 고화질로 활동을 포착하는 기능적 MRI를 사용하는 것이지만두 방법 모두 코드를 평가하는 데 적합하지 않다.

대신 연구팀은 인간이 아닌 동물의 의식을 연구하는 데 처음으로 사용된 '이론 중심 접근 방식'을 취했다.

 

먼저 그들은 의식 지표에 대한 인기 있는 GWT(글로벌 작업 공간 이론 Global Workspace Theory)를 포함하여 인간 의식에 대한 최고의 이론을 채굴했다예를 들어, GWT는 의식이 동시에 작동하는 여러 특수 시스템을 가지고 있다고 규정한다우리는 이러한 정보 흐름을 동시에 듣고 보고 처리할 수 있다그러나 처리에 병목 현상이 있어 주의 메커니즘이 필요하다.

반복 처리 이론은 정보가 의식을 향한 경로로서 여러 루프를 통해 자체적으로 피드백되어야 한다고 제안한다다른 이론에서는 환경으로부터 피드백을 받고 이러한 학습을 사용하여 역동적인 외부 세계에 대한 반응을 더 잘 인식하고 제어하는 일종의 "신체"("구현"이라고 함)의 필요성을 강조한다.

 

선택할 수 있는 무수한 의식 이론을 통해 팀은 몇 가지 기본 규칙을 제시했다이론이 포함되려면 다양한 의식 상태에 있는 사람들의 뇌 활동을 포착하는 연구와 같은 실험실 테스트에서 얻은 실질적인 증거가 필요하다전체적으로 6가지 이론이 목표를 충족했다거기에서 팀은 14개의 지표를 개발했다.

 

한 번에 끝나는 것이 아니다어떤 지표도 스스로 지각 있는 AI를 표시하지 않는다실제로 표준 머신러닝 방법은 목록의 개별 속성을 갖는 시스템을 구축할 수 있다고 팀은 설명했다오히려 목록은 척도이다더 많은 기준이 충족될수록 AI 시스템이 일종의 의식을 가질 가능성이 높아진다.

각 지표를 평가하는 방법은 무엇일까롱은 “시스템의 아키텍처와 정보가 시스템을 통해 어떻게 흐르는지를 조사해야 한다고 말했다.

 

개념 증명에서 팀은 ChatGPT의 기반이 되는 변환기 기반 대형 언어 모델과 DALL-E 2와 같은 이미지를 생성하는 알고리즘을 포함하여 여러 가지 AI 시스템에 대한 체크리스트를 사용했다일부 AI 시스템은 기준의 일부를 충족하지만 다른 시스템은 부족하다.

그러나 글로벌 작업 공간을 염두에 두고 설계되지는 않았지만 각 시스템은 주의력과 같은 "일부 GWT 지표 속성을 보유"한다고 팀은 말했다한편로봇 센서의 관찰 결과를 주입하는 Google PaLM-E 시스템은 구현 기준을 충족했다

 

최첨단 AI 시스템 중 어느 것도 몇 가지 상자 이상을 체크하지 않았기 때문에 저자는 아직 지각 있는 AI 시대에 진입하지 못했다고 결론을 내렸다그들은 또한 AI의 의식을 과소평가하는 위험에 대해 경고했는데이는 "도덕적으로 심각한 피해"를 허용하고 AI 시스템이 단지 냉정하고 하드 코드일 때 의인화할 위험이 있다.

 

그럼에도 불구하고 이 논문은 마음의 가장 수수께끼 같은 측면 중 하나를 조사하기 위한 지침을 설정한다서섹스 대학의 아닐 세스(Anil Seth) 박사는 네이처와의 인터뷰에서 “[이 제안은매우 사려 깊고 과격하지 않으며 가정을 매우 명확하게 한다고 말했다.

 

보고서는 주제에 대한 최종 단어와는 거리가 멀다신경과학이 뇌의 의식 상관관계를 더욱 좁혀감에 따라 체크리스트는 일부 기준을 폐기하고 다른 기준을 추가할 가능성이 높다현재로서는 이 프로젝트가 진행 중이며 저자는 목록을 더욱 다듬기 위해 신경과학철학컴퓨터 과학인지 과학 등 다양한 분야의 다른 관점을 초대한다.

이미지 출처: Unsplash Greyson Joralemon

 
인공지능, AI, 의식, 체크리스트 관련기사목록
PHOTO
1/6
광고
광고
광고
광고
광고
광고
많이 본 기사
AiMindbot뉴스 많이 본 기사