김동연 새로운물결 대선 후보가 7일 오전 서울 여의도 국회 소통관에서 기자회견을 열고 자신의 AI아바타 윈디(winDY)를 소개하고 있다. 공동취재사진

ㅊ내년 3월 대통령 선거를 앞두고 정치권에 대선후보와 똑같은 모습의 AI(인공지능)가 등장하면서 논란이 일고 있다.

AI가 정치영역으로 파고들어 디지털 선거운동의 혁신을 일으켰다는 목소리가 있는 반면, 후보 이미지 조작으로 유권자의 선택과 판단을 흐리게 하는 일종의 '사기(fake)'라는 주장이 충돌하고 있다.

김동연 새로운물결 창당준비위원장은 7일 국회에서 기자회견을 열고 AI 대변인 '에이디(aidy)'와 자신의 AI 아바타인 '윈디(windy)'를 인재 1, 2호로 소개했다. 김동연 위원장의 모습을 딴 윈디는 "김 위원장의 철학과 비전을 공유할 것"이라고 말했다.

앞서 국민의힘도 전날 중앙선대위 출범식에서 'AI 윤석열'을 선보였다. AI 윤석열은 "정치권 최초로 만들어진 AI 윤석열은 윤 후보가 열어갈 대한민국의 새로운 미래와 도전을 상징한다"며 "선거혁신의 시작으로, 동에 번쩍, 서에 번쩍 방방곡곡 국민 여러분을 찾아갈 것"이라고 말했다. AI윤석열은 윤 후보와 똑같은 목소리와 얼굴 표정을 지녔다. 기계학습을 통해 윤 후보의 말투, 음성 등을 그대로 배웠다.

국민의힘은 앞으로 윤 후보가 직접 방문하기 어려운 지역의 선거 유세에 AI윤석열을 활용할 계획이다.

하지만 AI가 선거운동에 쓰이는 데 대해 우려의 목소리도 나온다. AI기술로 대선후보 이미지가 조작된 선거운동이 인정된다면, 유권자들은 실제 후보가 아닌 후보 아바타를 보고 대통령을 선택하게 될 것이라며 정치윤리, AI윤리라는 문제 의식에서 접근해야 한다는 것이다.

고삼석 전 방송통신위원회 상임위원은 이날 페이스북에 올린 글에서 "후보 대신 '딥페이크(Deepfake)' 기술을 적용한 아바타를 활용해 일상적 선거운동을 하겠다는 발상 자체가 문제"라고 지적했다. 정보통신기술 딥러닝(Deep learning)과 '가짜' 등을 의미하는 페이크(Fake)의 합성어인 딥페이크는 특정 인물의 얼굴 등을 AI 기술을 이용해 영상에 합성한 편집물을 의미한다.

고 전 위원은 "대통령이 되겠다는 사람이 시간상 제약을 이유로, 잘 만들어진 아바타를 보고 자신을 선택해 달라고 유권자에게 호소하는 것은 일종의 '사기(fake)'로 느껴진다"며 "유권자를 대상으로 '후보 이미지 조작'을 하겠다는 선언 아니냐. 생각이 정직하지 못하다"고 주장했다.

그는 그러면서 "가상 인물이 아닌 실제 인물에 딥페이크 기술을 사용하는 것은 매우 신중해야 한다"면서, "미국과 유럽 국가에서 정치적 목적의 AI 혹은 딥페이크 사용을 엄격하게 제한한다. 아무런 비판 없이 바라볼 게 아니라 선관위 등이 나서서 딥페이크 기술의 정치적 이용에 대한 가이드 라인을 만들어야 한다"고 촉구했다. 이와 관련, 더불어민주당은 AI를 활용한 선거운동이 현행 선거법에 저촉되지 여부 등 법적인 문제에 대해 검토해보겠다는 입장이다.