6·3 대선이 10여일 앞으로 다가오면서 후보들을 비방하는 딥페이크 영상이나 사진 등의 게시물이 사회관계망서비스(SNS)를 통해 쏟아지고 있다. 이같은 딥페이크 게시물은 후보들의 명예 훼손뿐만 아니라 유권자의 혼란까지 부추길 수 있다는 우려가 제기된다.

23일 중앙선거관리위원회에 따르면 전날 오후 6시 기준 선관위가 한국인터넷자율정책기구(KISO) 등에 삭제를 요청한 대선 관련 딥페이크 영상과 사진 등 게시물은 총 5459건에 달한다.

이는 지난해 제22대 총선 기간 선관위가 삭제를 요청한 딥페이크 게시물(391건)과 비교해 14배 가까이 증가한 수치다. 더욱이 선관위의 삭제 요청 건수는 아직까지 늘고 있어 실제 온라인에서 확산되고 있는 딥페이크 게시물은 이보다 더 많을 것으로 보인다.

선관위가 현재까지 확인한 대선 관련 딥페이크 게시물은 이재명 더불어민주당 대선 후보와 김문수 국민의힘 대선 후보, 이준석 개혁신당 대선 후보를 희화화하거나 이들이 욕설과 폭행을 하는 것처럼 조작된 영상 등이다.

박찬대 민주당 상임총괄선거대책위원장에게 코를 꼬집히는 이재명 후보 영상, 단일화를 두고 진통을 겪었던 김문수 후보가 한덕수 전 국무총리와 맞붙는 영상, 이준석 후보가 정치 브로커 명태균씨에게 ‘황금폰’ 비밀번호를 알려 달라고 우는 영상 등이 대표적이다.

이에 정치권에서도 강력 대응하겠다고 엄포를 놓고 있다. 더불어민주당 선대위는 “딥페이크를 포함한 각종 악의적 허위조작정보에 대해 신속하고 엄정한 대응을 하겠다”며 “법적 책임을 묻겠다”고 경고했다.

전문가들은 이같은 딥페이크 게시물들이 유권자의 선택권을 해칠 수 있다고 우려하고 있다.

박창호 숭실대 정보사회학과 교수는 “챗GPT 등 인공지능의 발달로 일반인도 20~30초면 (딥페이크) 영상을 만들 수 있을 정도로 쉬워졌다”며 “이전 선거보다 딥페이크 관련 영상물이 급증한 이유”라고 설명했다.

그러면서 “지지하는 후보와 관련된 긍정적인 딥페이크 게시물이나 반대하는 후보의 부정적인 딥페이크 게시물은 설령 그게 가짜여도 믿게 되는 등 유권자의 선택에 영향을 미칠 수밖에 없다”고 진단했다.

이에 선관위 관계자는 “특별대응팀을 꾸려 위법 게시물을 상시 모니터링해 확산을 방지하고 있다”며 “허위사실공표나 비방행위가 후보자에게 피해를 입힐 수 있고 유권자의 올바른 선택을 방해할 수 있기 때문에 딥페이크로 인한 피해 예방과 확산 방지에 최선을 다 하겠다”고 말했다.

한편 선거일 90일 전부터 선거일까지 선거운동을 위한 딥페이크 영상이나 이미지는 게시해선 안 되며, 이를 어길 시 최대 7년 이하 징역 또는 1000만원 이상 5000만원 이하의 벌금 처할 수 있다.

[ⓒ 매일경제 & mk.co.kr, 무단 전재, 재배포 및 AI학습 이용 금지]