김필곤 중앙선거관리위원회 상임위원이 지난 17일 오후 경기도 과천시 중앙선거관리위원회에서 열린 ‘2024 주요업무계획 회의’에서 인사말을 하고 있다. 뉴시스

오는 29일부터 딥페이크 영상을 활용한 선거운동이 금지된다. 가상영상이라고 표시해도 ‘위법’이다.

중앙선거관리위원회는 18일 공직선거법 개정으로 딥페이크 영상 등을 이용한 선거운동이 금지됐다며 선거운동 위법행위 예방·단속 종합대책을 발표했다.

개정안에는 선거일 90일 전부터는 선거 운동을 위해 딥페이크 영상을 제작하거나, 편집하거나, 유포하거나 상영 또는 게시할 수 없도록 하는 조항이 담겼다.

이를 어기면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다.

선거운동을 위해 인공지능(AI) 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등이 제한 대상이다. 가상임을 표시해서 활용하더라도 법 위반이 된다.

다만 포토샵·그림판과 같이 인공지능 기술 등을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용하는 것은 허용된다.

또 의정활동 보고나 통상적인 정당활동, 당내 경선운동, 투표 참여 권유활동에 딥페이크 영상 등을 이용하는 것은 제한되지 않는다.

당내 경선운동은 공직선거법 제57조에 규정된 경선사무소 설치, 경선선거운동용 명함교부, 경선홍보물 발송, 정당의 합동연설회 등 개최에 한정된다.

선관위는 지난 11일부터 AI 모니터링 전담요원과 전문가로 구성된 감별반 등을 확대 편성해 운영 중이다.

포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI 콘텐츠가 선거운동에 활용되는지 여부를 집중 감시하고 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 통해 신뢰도를 높였다.