과학자와 철학자들이 AI 의식과 복지에 대해 논의한다.

인공지능(AI)의 급속한 성장은 AI 윤리에 대한 논쟁을 불러일으켰는데, 특히 AI가 언젠가 인간처럼 생각하고 느낄 수 있을지에 대한 논쟁이 있었다. AI 전문가들은 현재 AI가 주관적인 경험을 할 수 있는지, 즉 개인적인 감정이나 의식을 가질 수 있는지, 그리고 AI가 고통을 받을 수 있는지에 대해 논의하고 있다고 네이쳐 뉴스가 보도했다.

arXiv에 사전 게재된 최근 논문에서 AI 연구자들은 AI 회사가 AI 시스템이 의식이 있는지 또는 스스로 결정을 내릴 수 있는지 확인해야 한다고 제안했다. AI 시스템이 의식을 갖게 되면 이를 처리하는 방법에 대한 규칙이 있어야 한다.

AI에서 의식을 무시하면 방치나 해를 끼쳐 AI가 고통을 받을 수 있다. 일부 사람들은 AI 복지라는 개념을 재밌게 여기지만, 서식스 대학교의 아닐 세스와 같은 다른 사람들은 비록 터무니없어 보이더라도 대비해야 한다고 생각한다. 그는 의식이 있는 AI의 가능성을 무시하는 것은 프랑켄슈타인 이야기의 문제와 매우 유사하게 위험할 수 있다고 주장한다.

옥스퍼드의 수학자 조나단 메이슨은 사회가 이러한 기술에 더 많이 의존함에 따라 AI 의식을 이해하는 것이 중요하다고 강조한다. AI에 지각이 있는지 모르는 것은 무책임할 수 있다. NYU의 철학자이자 이 논문의 공동 저자인 제프 세보는 AI가 의식이 없는 데도 의식이 있다고 가정하면 인간이나 동물의 복지에 쓰일 자원을 오도할 수 있다고 경고한다.

전환기

AI 연구자들은 지금이 AI 복지에 대한 "전환기"라고 주장한다. 이 논문의 저자 중 한 명인 카일 피시는 Anthropic에서 AI 복지를 연구하도록 고용되어 업계의 새로운 초점을 맞추었다. 이러한 변화는 일부 최고 AI 기업의 AI 의식의 윤리적 의미를 심각하게 받아들이고 있음을 보여준다.

네이쳐와 같은 출판사가 이 논문을 확대하기로 결정했다는 사실은 AI 의식의 가능성을 매우 심각하게 받아들일 때가 되었음을 보여준다.

"현재 증거를 감안할 때 일부 AI 시스템이 가까운 미래에 복지 주체이자 도덕적 환자가 될 가능성이 현실적으로 무시할 수 없다고 주장했다." 논문의 결론에 이렇게 적혀 있다.

"선도적인 AI 시스템이 이미 의식의 일부 마커와 강력한 대행 능력을 보유하고 있고, 추가 AI 개발이 매우 빠를 수 있으며, 적절한 정책 대응의 개발이 매우 느릴 수 있다는 점을 감안할 때, 선도적인 AI 회사는 가능한 한 빨리 이러한 조치를 취해야 한다."