조지워싱턴대학교(GWU) 연구진이 주도한 새로운 연구에서는 2024년 중반까지 일상적인 악당 AI 활동이 증가해 50개국의 선거 결과에 영향을 미칠 수 있는 위협이 커질 것으로 예측했다. 최근 PNAS Nexus 저널에 발표된 이 연구는 악의적인 행위자가 전 세계적으로 AI를 어떻게 오용할지 예측하는 최초의 정량적 과학적 분석이다.

그 결과는 다음과 같다.

●악의적인 행위자는 악의적인 활동을 완화하기 위해 더 많은 가드레일이 있는 경향이 있는 GPT 3 및 4와 같은 고급 시스템보다는 플랫폼의 정보를 조작하고 편향하기 위해 기본 GPT(생성적 사전 훈련된 변환기 Generative Pre-trained Transformer) AI 시스템만 필요하다.

●23개 소셜 미디어 플랫폼에 걸친 도로 네트워크를 통해 악의적인 행위자 커뮤니티가 사용자가 모르는 사이에 전 세계 수십억 명의 사용자와 직접 연결될 수 있다.

●AI가 주도하는 악의적 행위자 활동은 2024*년 여름까지 일상적으로 발생하게 될 것이다.

●소셜 미디어 회사는 모든 콘텐츠를 제거하는 것이 아니라 허위 정보를 억제하기 위한 전술을 배포해야 한다. 연구원에 따르면 이는 더 작고 고립된 행위자를 참으면서 조정된 활동의 더 큰 부분을 제거하는 것처럼 보인다.

* 이를 확인하기 위해 연구원들은 온라인 전자 정보 시스템 조작과 관련된 두 가지 역사적, 기술적으로 유사한 사건의 프록시 데이터를 사용했다. 첫 번째 데이터 세트는 2008년 미국 금융 시장에 대한 자동화된 알고리즘 공격에서 나온 것이고, 두 번째 데이터 세트는 2013년 미국 인프라에 대한 중국 사이버 공격에서 나온 것이다. 이러한 데이터 세트를 분석함으로써 연구원들은 이러한 체인의 공격 빈도를 추정할 수 있었다. AI의 현재 기술 발전 맥락에서 이 정보를 조사한다.

오픈 액세스 논문인 "온라인 전장에서 대규모로 악의적 행위자 AI 활동 제어"가 PNAS Nexus 저널에 게재되었다. 이 연구는 미 공군 과학연구국과 템플턴 재단의 자금 지원을 받았다.

인용: 온라인 전장을 횡단하라. PNAS 넥서스, 3(1).

https://doi.org/10.1093/pnasnexus/pgae004 (오픈 액세스)