인공지능이 어디까지 갈 수 있는지에 대한 논쟁은 실제로 인간 지능을 구성하는 것이 무엇인지, 그리고 기계가 인간 두뇌와 비슷하게 기능할 수 있는지에 대한 질문을 중심으로 전개된다.
영국에 본사를 둔 Stanhope AI는 AGI를 위해 촬영하지는 않지만 신경과학 원리에 따라 모델을 구축하고 영감을 얻기 위해 우리의 두뇌를 구성하는 예측 계층적 기계를 사용하고 있다.
그 결과 훈련이 필요 없는 AI가 탄생했다. 기본적으로 존재한다는 말을 듣고 사전 믿음 시스템을 제공한 다음 문자 그대로 현실 세계로 이륙하여 센서를 사용하여 주변 환경으로부터 학습하면 된다. 지식을 확장하고 세계관을 업데이트(또는 강화)하게 만드는 것들을 보고 듣고 느끼는 방식과 다르지 않다.
유니버시티 칼리지 런던에서 분사한 이 스타트업은 신경과학에서 영감을 받은 "에이전트 AI"를 위해 230만 파운드를 모금했다. 우리는 스타트업의 기술과 미래 비전에 대해 자세히 알아보기 위해 공동 창립자이자 CEO이자 전산 신경 과학 교수인 로잘린 모란(Rosalyn Moran)을 만났다.
Stanhope AI의 계층화된 '두뇌'
Stanhope AI의 방법은 뇌에 세계의 모델이 있다는 이론을 기반으로 하며 해당 모델을 검증하고 업데이트하기 위해 지속적으로 증거를 수집하려고 노력하고 있다.
"AI에는 몇 단계 깊이의 '뇌'가 있으며, 뇌의 맨 아래에는 센서가 있다."라고 모란은 설명한다. 여러분과 저에게는 눈이 될 센서가 이 경우에는 카메라와 LiDAR이다.
“그런 다음 예측 계층에 입력되어 '좋아, 저기 벽을 봤어'라고 말하려고 한다. 이제 계속 찾을 필요가 없다. 그리고 이는 더 높은 수준에서 더욱 흥미로운 인지적 예측에 내장되어 있다. 그래서 그것은 계층적 두뇌와 매우 흡사하다.”
이것은 세상을 이해하고 에너지를 절약하기 위해 인간의 두뇌가 참여하는 것과 동일한 종류의 예측이다(뇌는 우리가 가지고 있는 가장 에너지를 많이 요구하는 기관이다). 이것은 모란의 공동 창립자이자 이론 신경생물학 교수인 칼 프리스톤(Karl Friston)이 개발한 자유 에너지 이론의 일부인 "능동 추론"이라는 신경과학 원리이다.
“벽인지 확인하기 위해 벽의 모든 픽셀을 확인할 필요는 없다. 조금만 채워 넣으면 된다. 이것이 바로 우리가 인간의 두뇌가 매우 효율적이라고 생각하는 이유이다.”라고 모란은 덧붙인다.
본질적으로, 당신이 세상을 경험하는 방식은 에너지 효율성 측면에서 당신의 두뇌가 세상을 보게 될 것이라고 예측하는 방식의 결과이다. 그러나 우리의 두뇌는 들어오는 감각 데이터를 기반으로 이러한 예측을 개선한다. Stanhope AI의 모델도 주변 세계의 시각적 입력을 사용하여 동일한 작업을 수행한다. 그런 다음 새로운 실시간 데이터를 기반으로 자율적인 결정을 내린다.
대규모 교육 데이터 세트가 필요하지 않다.
AI에 대한 이러한 접근 방식을 사용하는 것은 LLM을 훈련하는 데 사용되는 것과 같은 전통적인 기계 학습 방법과 크게 다르다. LLM은 훈련하는 사람이 제공한 데이터로만 작동할 수 있다.
모란은 "우리는 [모델을] 훈련하지 않다."라고 말한다. "생성 모델을 설정하고 그것이 정확하고 작동하려는 위치와 일관된 사전 설정을 가지고 있는지 확인하는 과정에서 어려운 작업이 수행된다."
이론적으로는 모두 흥미롭지만, 스타트업이 연구실 밖으로 나가려면 실제 애플리케이션이 필요하다. 스탠호프 AI(Stanhope AI)는 자사의 AI가 배달 드론, 로봇 등 자율 기계에 탑재될 수 있다고 밝혔다. 이 기술은 현재 독일 연방 파괴적 혁신청(Federal Agency for Disruptive Innovation) 및 영국 해군을 포함한 파트너와 함께 드론을 테스트하고 있다.
지금까지 스타트업이 극복한 가장 큰 기술적 과제는 실험실 환경에서 작동하는 소형 모델에서 훨씬 더 광범위한 환경을 탐색하는 방법을 배울 수 있는 대형 모델로 확장하는 것이었다.
모란은 "우리는 훨씬 더 효율적인 자유 에너지 계산을 수행하기 위해 세 가지 수학적 경로를 사용해야 했고, 덕분에 드론을 위한 훨씬 더 큰 세계를 구축할 수 있었다."라고 말한다. 그녀는 또한 회사가 제3자에 의존하지 않고 액세스하고 제어할 수 있는 올바른 하드웨어를 찾는 것도 상당한 엔지니어링 장애물을 제시했다고 덧붙였다.
에이전트 AI의 새로운 물결
Stanhope AI의 "능동 추론 모델"은 진정으로 자율적이며 예측을 재구성하고 개선할 수 있다고 회사는 말한다. 이는 인간의 두뇌와 마찬가지로 예측과 실시간 데이터 간의 불일치로부터 지속적으로 학습하여 항상 "다음에 무슨 일이 일어날지 추측"하려고 노력하는 "에이전트 AI"의 새로운 물결의 일부이다. 광범위한(및 비용이 많이 드는) 사전 교육이 필요하지 않으며 이 접근 방식은 AI "환각"의 위험도 낮춘다.
특히 Stanhope의 AI는 "아키텍처에 설명 가능성이 내장되어 있는" 화이트 박스 모델이다. 모란은 “시뮬레이션에서 완벽하게 작동하는지 확인한다. AI나 드론이 이상한 행동을 하면 우리는 AI가 무엇을 믿었는지, 왜 그렇게 했는지 자세히 조사한다. 따라서 이는 AI를 개발하는 매우 다른 방법이다.” 그녀는 AI와 로봇 공학의 기능을 변화시키고 실제 시나리오에서 더욱 영향력을 갖도록 만드는 것이 아이디어라고 말한다.
UCL 기술 기금은 Stanhope AI의 230만 파운드 자금 조달 라운드를 주도했다. Creator Fund, MMC Ventures, Moonfire Ventures, Rockmount Capital도 여러 업계 투자자들과 함께 참여했다.
Stanhope AI는 로잘린 모란 교수, 칼 프리스톤 이사 교수, 기술 고문 비스와 센굽타 박사가 2021년에 설립했다.
