딥페이크 아닌 과거 연설 짜깁기
총선 앞두고 우려, 비판 막는 과잉 규제 지적도
최근 ‘윤석열 대통령 양심고백’이라는 제목의 영상이 논란이 됐습니다. 대통령실이 ‘허위 조작 영상’으로 규정하고 강력 대응하겠다는 방침을 밝히자 경찰은 방송통신심의위원회(방심위)에 삭제 및 차단을 요청하고 수사에 나섰습니다. 관련 내용을 확인해봤습니다.
46초 길이의 해당 영상에서 ‘영상 속 윤 대통령’은 “존경하는 국민 여러분. 저 윤석열, 국민을 괴롭히는 법을 집행해 온 사람이다. 무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다.”며, “저 윤석열 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말합니다. 이어 “윤석열 정부는 말로는 서민을 위한다고 하지만 무능과 부패로 자영업자와 소상공인, 그리고 집 없는 서민들을 절망에 몰아넣었다”며 “저 윤석열의 사전에 정치보복은 있어도 민생은 없다”고도 했습니다.
딥페이크 아닌 기존 영상 짜깁기
해당 영상이 알려지자 다수의 언론이 ‘딥페이크’ 영상이라고 보도했습니다.
딥페이크(deepfake: 딥 러닝(deep learning)과 가짜(fake)의 합성어)는 인공 지능을 기반으로 한 인간 이미지 합성 기술입니다. 특정인의 사진이나 영상 정보를 학습해 해당 인물과 유사하게 구현할 수 있습니다. 영화나 방송 등에서 이미 사망하거나 나이가 든 배우를 스크린에 되살리는 것이 대표적인 사례입니다. 최근 유명인의 가짜 동영상이나 가짜 뉴스, 사기범죄에 사용되는 사례가 늘고 있어 전 세계적으로 문제가 되고 있습니다.
제목에 ‘딥페이크 영상’이라고 단정지은 기사는 물론, 기사 본문에 “연설하는 모습은 물론 입 모양, 목소리까지 실제 윤 대통령인 것처럼 조작됐다.”고 언급한 보도도 있었지만, 해당 영상은 인공지능 프로그램을 이용한 딥페이크 영상은 아닌 것으로 확인됐습니다.
윤 대통령의 대선 후보 시절 연설 영상을 부분별로 짜깁기해 다른 의미처럼 보이게 만든 영상이었습니다. TV조선이 해당 영상의 짜깁기 내용을 분석해 보도하기도 했습니다.
중앙선거관리위원회(선관위)가 지난 1월 18일 공개한 <‘딥페이크 영상 등’ 이용 선거운동 관련 법규운용기준>에도, “법 제82조의8 제1항에 따라 제한되는 ‘딥페이크영상등’은 ‘인공지능 기술 등을 이용하여’ 만든 것으로서, 인공지능과 같은 기술을 사용하지 아니하고 보정하는 것은 포함되지 아니한다"고 되어 있습니다.
또한, “법 제82조의8의 입법 취지, 인공지능 기술의 의미 등을 종합적으로 고려하면, 통상 포토샵·그림판과 같이 사용자의 직접적인 조작을 요하는 프로그램의 경우 법 제82조의8에서 제한하는 인공지능 기술에 포함된다고 볼 수 없을 것”이라고도 언급되어 있습니다.
총선 앞두고 우려 vs 비판 막는 과잉 규제
올해는 한국을 비롯해 전 세계 76개국에서 주요 선거가 치러질 예정입니다. 최근 세계 각국이 선거기간 가장 우려하는 것은 ‘허위조작정보(가짜뉴스)’입니다. 특히 딥페이크를 활용한 조작동영상에 대한 우려가 높은 상황입니다.
국제인권단체인 프리덤하우스가 지난해 10월 발표한 <FREEDOM ON THE NET 2023> 보고서에 따르면, 이미 인공지능이 만든 수많은 가짜 영상이 여론 형성에 큰 영향을 끼치는 것으로 나타났습니다.
영국의 파이낸셜 타임즈는 지난 1월 총선을 치른 방글라데시에서 한 달에 24달러(약 3만원)만 내면 쓸 수 있는 저렴한 딥페이크 영상이 난립했다고 보도하기도 했습니다.
국내에서도 지난해 12월 국회에서 선거 90일 전부터 ‘딥페이크’를 이용한 선거 운동을 전면 금지하는 공직선거법 개정안을 의결했습니다. 위반 시 7년 이하 징역이나 1000만~5000만 벌금에 처하게 됩니다.
이에 따라 선관위는 AI 전담팀을 꾸려 딥페이크 선거 게시물을 적발해 삭제 조치하고 있습니다. 선관위에 따르면 1월29일부터 2월16일까지 19일간 딥페이크를 이용한 선거 운동 행위로 공직선거법을 위반한 게시물은 129건에 달했습니다.
하지만 일부에서는 다른 우려도 나오고 있습니다. 방심위나 경찰이 딥페이크 규정을 지나치게 광범위하고 자의적으로 해석해 표현의 자유를 제한할 수 있다는 것입니다.
방심위는 지난 23일 통신심의소위원회를 열고 논란이 된 ‘윤석열 대통령 양심고백’ 영상에 대해 사회혼란 야기 조항을 적용해 접속차단을 결정했습니다. 이 조항은 잘못된 정보로 실제 사회에 큰 혼란을 끼칠 경우 적용할 수 있는데, 처음 올라온 원본영상에는 ‘가상으로 꾸며본 윤 대통령 양심고백 연설’이라는 자막이 제목처럼 나타나 있습니다. 허위라는 사실을 명시해 풍자라는 점을 드러낸 셈입니다. 이후 해당 자막이 빠지고 ‘양심고백 연설’ 등의 다른 표현이 붙은 잘못된 영상이 확산되기는 했지만 방심위는 원본영상까지 접속차단을 결정했습니다.
