선거 개입

인기 있는 챗봇 ChatGPT의 11월 출시로 생성 AI 기술의 대중적 채택이 시작된 것으로 알려진 OpenAI CEO 샘 알트만(Sam Altman)은 다시 한 번 자신이 적극적으로 구축하고 있는 기술의 영향에 대해 우려하고 있다.

이번에 그는 생성AI 도구가 민주적 절차에 미칠 수 있는 잠재적으로 파괴적인 영향에 대해 우려하며 고품질의 고도로 표적화 된 합성 미디어가 미래 선거에서 강력하고 잠재적으로 피해를 줄 수 있는 힘이 될 것이라고 주장한다. 이것은 많은 전문가와 업계 리더들이 이미 제기한 두려움이다.

알트만은 목요일 트위터에 올린 글에서 "AI가 미래 선거에 미칠 영향이 (적어도 모든 사람이 익숙해질 때까지) 걱정된다"며 "개인화된 1:1 설득, 높은 -품질 생성 미디어는 강력한 힘이 될 것이다."

요점을 알게 되다.

정당한 우려이다. AI로 생성된 미디어는 이미 2024년 선거와 관련된 여러 미국 캠페인 광고에 사용되었으며, 특히 공화당 전국위원회와 대선 후보 론 데산티스(Ron Desantis)의 캠페인에서 AI 도구를 사용하여 가상 중국의 가짜 이미지를 생성했다. -미국 침공과 조 바이든 대통령이 각각 전 미국 전염병 대응 책임자인 앤서니 파우치를 질식시키고 있다.

AI가 만들어낸 잘못된 정보도 이미 상당히 설득력이 있음이 입증되었다. 그것이 가짜 뉴스라는 것이 빠르게 폭로되었지만, 예를 들어 펜타곤 근처에서 발생한 폭격에 대한 AI가 생성했을 가능성이 있는 사진은 5월 트위터에서 입소문을 탄 후 짧지만 눈에 띄는 하락을 일으켰다.

그리고 6월에 Target에서 악마적인 아동복의 합성 이미지는 극우 소셜 미디어 그룹을 문화 전쟁으로 어지럽게 만들었다. 이 사건은 맞춤형 설득에 대한 알트만의 경고를 말하는 것으로 보이는 사건이다. 사람들은 자신이 이미 믿고 있는 것을 확인시켜 주는 정보를 찾는 경향이 있다. 올바른 프롬프트와 올바른 플랫폼을 사용하면 특정 이데올로기 그룹을 합성된 잘못된 정보 함정에 빠뜨리는 것이 상대적으로 쉬울 수 있다.

물론 알트만이 정기적으로 위험하다고 경고하는 도구에서 이익을 얻고 있다는 점을 고려할 때 그가 AI 위험에 대해 이야기할 때 그가 객관적으로 걱정하는 것이 옳을 때에도 때때로 그를 진지하게 받아들이기 어렵다. 하지만 과거에 그가 말했듯이, 위험을 완전히 무시하기보다는 자신의 창조물에 대해 약간의 두려움을 품고 있는 것이 더 나을 것이다.

"완전한 해결책은 아니지만 이에 대한 인식을 높이는 것이 없는 것보다 낫다."라고 그는 X의 목요일 스레드에서 썻다.