새로운 도구는 모기지를 신청하거나 보험료를 낮추려는 등 인간이 거짓말을 할 경제적 동기가 있는 상황에서 사용하기 위해 개발되었다.

노스캐롤라이나 주립대학교 경제학 교수인 메메트 카네르(Mehmet Caner)는 "AI 프로그램은 개인이 감당할 수 있는 모기지 금액이나 개인의 보험료가 얼마인지 결정하는 데 도움이 되는 등 다양한 비즈니스 맥락에서 사용된다."라고 풀 경영대학(Poole College of Management)이자 경영경제통계학회지 (Journal of Business & Economic Statistics) 연구의 공동저자는 말한다.

“이러한 AI 프로그램은 일반적으로 통계에 의해서만 구동되는 수학적 알고리즘을 사용하여 예측을 수행한다. 그러나 문제는 이러한 접근 방식이 사람들이 거짓말을 할 유인을 만들어서 주택담보대출을 받고 보험료를 낮추는 등의 작업을 할 수 있다는 것이다.”

카네르는 "우리는 거짓말에 대한 경제적 인센티브를 설명하기 위해 AI 알고리즘을 조정할 수 있는 방법이 있는지 확인하고 싶었다."라고 말했다.

이러한 문제를 해결하기 위해 연구원들은 AI가 예측을 위해 스스로 학습하는 방법을 알려주는 데 사용할 수 있는 새로운 훈련 매개변수 세트를 개발했다. 특히, 새로운 훈련 매개변수는 인간 사용자의 경제적 인센티브를 인식하고 설명하는 데 중점을 둔다. 즉, AI는 인간 사용자가 결과를 개선하기 위해 거짓말을 할 수 있는 상황을 인식하도록 스스로 훈련한다.

개념 증명 시뮬레이션에서 수정된 AI는 사용자의 부정확한 정보를 더 잘 감지할 수 있었다.

카네르는 “이는 정보를 제출할 때 사용자가 거짓말을 하려는 동기를 효과적으로 감소시킨다.”라고 말한다. “그러나 작은 거짓말은 여전히 감지되지 않을 수 있다. '작은 거짓말'과 '큰 거짓말' 사이의 기준점을 더 잘 이해하려면 추가 작업을 수행해야 한다.”

연구원들은 AI 개발자들이 이를 실험할 수 있도록 새로운 AI 훈련 매개변수를 공개적으로 제공하고 있다.

“이 연구는 인간이 거짓말을 하는 경제적 인센티브를 줄이기 위해 AI 프로그램을 개선할 수 있다는 것을 보여준다.”라고 카네르는 말한다. “언젠가 AI를 충분히 영리하게 만들면 이러한 인센티브를 완전히 제거할 수 있을 것이다.”

텔아비브 대학교와 유타 대학의 크피르 엘리아즈(fir Eliaz) 이번 연구의 공동 저자이다.

출처: NC State