제21대 대통령 선거 관련 딥페이크 콘텐츠가 온라인에서 빠르게 퍼지고 있습니다.

중앙선거관리위원회(선관위)는 지난달 4일부터 전날까지 한 달여간 대선 관련 딥페이크 영상물 1171건을 한국인터넷자율정책기구(KISO) 등에 삭제 요청했다고 14일 밝혔는데요.

현재 선관위와 경찰이 집중 단속에 나섰지만, 일부 사이트는 삭제조차 어려운 실정입니다.

전문가들은 무분별하게 확산하는 딥페이크 콘텐츠가 유권자들의 혼란을 가져올 수 있다고 경고했습니다. 특히 선거 관련 딥페이크 게시물이 제22대 국회의원 선거 때보다 빠른 속도로 확산하는 모양새이며, 총선 기간 약 3개월 동안 391건이 단속된 점을 고려하면 급증세가 확연합니다.

법무법인 일로 정구승 대표변호사는 "선거 유권자에 영향을 끼칠 수 있는 부분이기 때문에 선을 넘었다고 판단되면 적극적인 처벌이 있어야 한다"고 말했습니다.

제21대 대통령선거를 41일 앞둔 지난달 23일 경기 수원시 영통구 경기도선거관리위원회에서 사이버공정선거지원단 관계자들이 허위사실 공표·비방, 딥페이크 선거운동 등 사이버 선거 범죄 행위를 모니터링 하고 있다. /사진=뉴시스.

제21대 대통령 선거 관련 딥페이크 콘텐츠가 온라인에서 빠르게 퍼지고 있다. 중앙선거관리위원회(선관위)와 경찰이 집중 단속에 나섰지만, 일부 사이트는 삭제조차 어려운 실정이다. 전문가들은 무분별하게 확산하는 딥페이크 콘텐츠가 유권자들의 혼란을 가져올 수 있다고 경고했다.

선관위는 지난달 4일부터 전날까지 한 달여간 대선 관련 딥페이크 영상물 1171건을 한국인터넷자율정책기구(KISO) 등에 삭제 요청했다고 14일 밝혔다. 특히 전날에만 274건을 삭제 요청했다.

선거 관련 딥페이크 게시물은 제22대 국회의원 선거 때보다 빠른 속도로 확산하는 모양새다. 지난 총선 기간 약 3개월 동안 391건이 단속된 점을 고려하면 급증세가 확연하다.

단속 사례를 보면 후보자 유튜브 채널에 게시된 영상에 딥보이스(음성 합성 기술)를 사용했거나 게시자가 지지하지 않는 후보를 낙선시킬 목적으로 딥페이크 콘텐츠를 올렸다. 인스타그램에는 한 후보자가 죄수복을 입고 교도소에 수감된 모습이나 국내외 주요 정치인들의 목소리와 표정을 똑같이 따라 하면서 거짓 정보를 퍼뜨리는 콘텐츠를 쉽게 발견할 수 있다.

선거 90일 전부턴 딥페이크 콘텐츠 금지… 무거운 처벌 조항

현행 공직선거법 개정 내용. /시각물=윤선정 디자인기자.

공직선거법상 선거일 90일 전부터는 선거 운동을 위해 딥페이크 영상 등을 만들거나 유포하면 안 된다. 후보자 비방 목적이든 응원 목적이든 선거 운동과 관련된 딥페이크는 모두 금지된다. 위반 시 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다. 3년 이하 징역형 또는 3000만원 이하 벌금형이 내려지는 정보통신망법상 명예훼손과 비교했을 때도 형량이 무겁다.

선관위는 사안이 중대하다고 판단되는 경우 삭제 요청에 그치지 않고 수사기관에 고발 및 수사를 의뢰할 수 있다. 다만 삭제 요청은 법적 강제성이 없기 때문에 실제 조처까지 오래 걸리거나 삭제가 이뤄지지 않는 경우가 많다. 한병도 더불어민주당 의원실이 선관위에서 제출받은 자료에 따르면 22대 총선 이후 5개월이 흐른 지난해 9월에도 적발된 딥페이크 불법 선거운동 게시물 중 25%(97건)가 남아 있었다.

해외 사이트나 플랫폼에 딥페이크가 게재된 경우도 문제다. 기관에서 삭제 요청을 해도 실제 삭제로 이어지는 데까지 상당한 시간이 소요된다. 선관위 관계자는 "해외(플랫폼)의 경우 본사에서 직접 삭제 처리를 하는 시스템"이라며 "우리나라에 회사를 둔 기업보다는 즉각적인 피드백이 느리다"고 설명했다.

딥페이크 수사 속도 내는 경찰… 해외 플랫폼 수사 난항

최근 경찰은 선거 관련 범죄에 수사 속도를 내고 있다. 대선 딥페이크 영상물과 관련해 8건, 관계자 18명에 대한 수사를 진행 중이다. 경찰청은 해당 사건들의 고발인 조사와 딥페이크 기술 여부 확인을 위해 국립수사연구원 감정 절차를 펼치고 있다.

딥페이크 콘텐츠가 해외 사이트나 플랫폼에 게재됐을 때에는 복잡한 수사 과정을 거쳐야 한다. 경찰 관계자는 해외에 본사를 둔 플랫폼의 경우 자국 법률에 위반되지 않는 사항의 경우 경찰의 협조 요청을 받아들이지 않는다고 설명했다.

전문가들은 개정된 공직선거법에 대한 홍보가 지속해서 필요하며 법적 처벌 수위가 강화될 필요성도 있다고 시사했다. 김명주 AI 안전연구소 소장은 "선거법이 바뀐 지 얼마 되지 않았고 대통령 선거도 탄핵 정국을 거치며 급하게 치르면서 일반인들이 법적으로 어떤 처벌이 있는지, 뭘 하면 안 되는지 잘 모르는 상황"이라며 "선거 과정에서 딥페이크가 나오게 되면 민주주의 근간을 흔들게 되는 셈"이라고 말했다.

정구승 법무법인 일로 변호사는 "선거 유권자에 영향을 끼칠 수 있는 부분이기 때문에 선을 넘었다고 판단되면 적극적인 처벌이 있어야 한다"고 했다.

출처: 하루 만에 270건 늘었다… '불법 딥페이크'에 선관위·경찰 비상 - 머니투데이