AI 시대에 철학은 필수이다.

 

새로운 과학적 이해와 엔지니어링 기술은 항상 감동을 주고 두렵게 했다. 앞으로도 계속 그럴 것이다. OpenAI는 최근 "초지능", 즉 AI가 인간의 능력을 능가할 것이라고 발표했다. 따라서 새로운 팀을 구성하고 컴퓨팅 리소스의 20%를 이러한 AI 시스템의 동작이 인간의 가치와 일치하도록 하는 데 할애하고 있다.

 

제임스 카메론의 1984년 공상과학 스릴러 터미네이터(불길하게도 아놀드 슈워제네거의 터미네이터는 2029년에서 과거로 보내진다)에서처럼, 사기성 초지능 AI가 인간과 전쟁을 벌이는 것을 원하지 않는 듯하다. OpenAI는 이 문제를 해결하기 위해 최고의 머신러닝 연구자와 엔지니어를 찾고 있다.

 

하지만 철학자들이 기여할 것이 있을까? 보다 일반적으로, 지금 등장하고 있는 새로운 기술적으로 진보된 시대에 오래된 학문 분야에서 무엇을 기대할 수 있을까?

 

이에 대한 답을 찾기 위해, 철학은 AI가 시작된 이래로 중요한 역할을 했다는 점을 강조할 가치가 있다. 최초의 AI 성공 사례 중 하나는 앨런 뉴웰(Allen Newell)과 허버트 시몬(Herbert Simon)이 만든 논리 이론가(Logic Theorist)라는 이름의 1956년 컴퓨터 프로그램이다. 이 프로그램의 목적은 철학자 앨프리드 노스 화이트헤드(Alfred North Whitehead)와 버트런드 러셀(Bertrand Russell)이 1910년에 쓴 3권짜리 저서인 수학 원리(Principia Mathematica)의 명제를 사용하여 정리를 증명하는 것이었으며, 모든 수학을 하나의 논리적 토대 위에 재구성하는 것을 목표로 했다.

 

사실, AI에서 논리에 대한 초기 초점은 수학자와 철학자가 추구한 기초적 논쟁에 크게 빚을 졌다.

중요한 단계 중 하나는 19세기 후반 독일 철학자 고틀로프 프레게(Gottlob Frege)가 현대 논리를 개발한 것이다. 프레게는 사람과 같은 사물이 아닌 정량화 가능한 변수를 논리에 도입했다. 그의 접근 방식은 예를 들어 "조 바이든이 대통령이다"라고 말할 수 있을 뿐만 아니라 "X가 존재하여 X가 대통령이다"와 같은 일반적인 생각을 체계적으로 표현할 수 있게 했다. 여기서 "존재한다"는 양화사이고 "X"는 변수이다.

 

1930년대에 중요한 기여를 한 다른 인물로는 오스트리아 태생의 논리학자 쿠르트 괴델이 있다. 그는 완전성과 불완전성의 정리를 통해 증명할 수 있는 것의 한계를 다루었고, 폴란드 논리학자 알프레드 타르스키는 "진실의 정의 불가능성 증명"을 했다. 후자는 모든 표준 형식 체계의 "진실"을 해당 체계 내에서 정의할 수 없으므로 예를 들어 산술적 진실은 산술 체계 내에서 정의할 수 없음을 보여주었다.

 

마지막으로, 영국의 선구자 앨런 튜링이 1936년에 내놓은 컴퓨팅 머신에 대한 추상적 개념은 이러한 개발을 바탕으로 초기 AI에 큰 영향을 미쳤다.

그러나 그런 좋은 구식 상징적 AI가 고수준 철학과 논리에 빚을 졌다고 하더라도, 딥 러닝을 기반으로 하는 "2차" AI는 방대한 양의 데이터를 처리하는 것과 관련된 구체적인 엔지니어링 기술에서 더 많은 것을 이끌어낸다고 할 수 있다.

 

그래도 철학도 여기서 역할을 했다. 대화형 텍스트를 생성하는 ChatGPT를 구동하는 것과 같은 대규모 언어 모델을 살펴보겠다. 그것은 수십억 또는 수조 개의 매개변수가 있는 거대한 모델이며, 방대한 데이터 세트(일반적으로 인터넷의 대부분을 구성)에서 학습되었다. 하지만 그 핵심은 언어 사용의 통계적 패턴을 추적하고 활용하는 것이다. 이와 매우 유사한 아이디어는 20세기 중반 오스트리아 철학자 루트비히 비트겐슈타인이 "단어의 의미는 언어에서의 사용이다."라고 말한 것과 매우 유사하다.

 

하지만 현대 철학은 역사뿐만 아니라 AI와 그 개발과 관련이 있다. LLM이 처리하는 언어를 진정으로 이해할 수 있을까? 의식을 달성할 수 있을까? 이것들은 매우 철학적인 질문이다.

과학은 지금까지 의식이 인간 뇌의 세포에서 어떻게 발생하는지 완전히 설명하지 못했다. 일부 철학자들은 이것이 너무 "어려운 문제"라서 과학의 범위를 넘어설 수 있고 철학의 도움이 필요할 수도 있다고 믿기도 하다.

 

비슷한 맥락에서 이미지를 생성하는 AI가 진정으로 창의적일 수 있는지 물어볼 수 있다. 영국의 인지 과학자이자 AI 철학자인 마가렛 보든은 AI가 새로운 아이디어를 만들어낼 수는 있겠지만 창의적인 사람들이 하는 것처럼 이를 평가하는 데 어려움을 겪을 것이라고 주장한다.

그녀는 또한 논리적 기술과 데이터에서 딥 러닝을 모두 사용하는 하이브리드(신경-상징) 아키텍처만이 인공 일반 지능을 달성할 수 있을 것으로 예상한다.

 

인간의 가치

OpenAI의 발표로 돌아가서, AI 시대에 철학의 역할에 대한 질문을 받았을 때 ChatGPT는 (다른 것들 중에서도) "AI의 개발과 사용이 인간의 가치와 일치하도록 하는 데 도움이 된다."라고 제안했다.

 

이러한 정신으로, OpenAI가 믿는 것처럼 AI 일치가 심각한 문제라면, 그것은 엔지니어나 기술 회사가 해결해야 할 기술적 문제일 뿐만 아니라 사회적 문제이기도 하다고 제안할 수 있을 것이다. 이를 위해서는 철학자뿐만 아니라 사회 과학자, 변호사, 정책 입안자, 시민 사용자 등의 의견이 필요하다.

 

실제로 많은 사람들이 기술 회사의 힘과 영향력이 증가하고 민주주의에 미치는 영향에 대해 걱정하고 있다. 어떤 사람들은 산업을 지원하는 기본 시스템을 고려하여 AI에 대한 완전히 새로운 사고방식이 필요하다고 주장한다. 예를 들어, 영국의 변호사이자 작가인 제이미 서스킨드는 "디지털 공화국"을 구축할 때라고 주장했다. 이는 궁극적으로 기술 회사에 많은 영향력을 부여한 정치 및 경제 시스템을 거부하는 것이다.

 

마지막으로, AI가 철학에 어떤 영향을 미칠지 간단히 질문해 보겠다. 철학의 형식 논리는 실제로 고대 아리스토텔레스의 작업으로 거슬러 올라간다. 17세기에 독일 철학자 고트프리트 라이프니츠는 언젠가는 "미적분 계산기calculus ratiocinator"가 생길 수 있다고 제안했다. 이 계산기는 준신탁 방식으로 철학적, 과학적 질문에 대한 답을 도출하는 데 도움이 될 것이다.

 

아마도 우리는 이제 그 비전을 실현하기 시작했을 것이다. 일부 저자는 가정을 문자 그대로 인코딩하고 그로부터 결과를 도출하는 "계산 철학"을 옹호하고 있다. 이를 통해 궁극적으로 결과에 대한 사실적 및/또는 가치 지향적 평가가 가능하다.

 

예를 들어, PolyGraphs 프로젝트는 소셜 미디어에서 정보 공유의 효과를 시뮬레이션한다. 그런 다음 이를 사용하여 의견을 어떻게 형성해야 하는지에 대한 질문을 계산적으로 해결할 수 있다.

확실히 AI의 발전은 철학자들에게 생각할 거리를 많이 제공했다. 심지어 몇 가지 답을 제공하기 시작했을 수도 있다.