‘가짜뉴스’(fake news) 보다 더욱 강력한 놈이 나타났다. ‘딥페이크’(deep fake)로 불리는 가짜동영상이다. 가짜뉴스가 글이나 사진을 조작하여 작성된다면 딥페이크는 실제와 다름없는 동영상으로 사실처럼 보이게 만든다. 주로 정치인이나 연예인 등 유명인의 얼굴을 합성한다. 이미 외국의 유명배우와 한국 여성 아이돌 얼굴을 합성한 포르노 영상이 나왔다. 엠마 왓슨의 얼굴을 합성한 포르노는 분간이 안 될 정도로 사실적이었다. 국내 아이돌 가수도 마찬가지 피해를 입었다.
딥페이크는 딥러닝(deep learning)과 가짜(fake)의 합성어로 인공지능(AI)을 이용해 영상 속 인물을 다른 사람으로 감쪽같이 합성하는 기술이다. 원본처럼 보이지만 조작된 영상이다. ‘진짜보다 더 진짜같은 영상’을 만들어낸다. 지난해 7월 유튜브에 버락 오바마 전 미국대통령이 도널드 트럼프 미국대통령을 “쓸모없는 인간”이라고 비난한 영상이 올라와 이슈로 떠올랐다. 이 영상을 제작한 영화감독 조든 필은 오바마 전대통령이 비난발언을 한 적이 없다고 밝혔다. 그는 가짜동영상 폐해의 심각성을 알리기 위한 것이라고 해명했다.
내년 대선을 앞둔 미국에서는 딥페이크 비상이 걸렸다. 지난 2016년 대선에서 가장 커다란 이슈는 가짜뉴스였다. 이제 4년만에 열리는 선거에서는 가짜뉴스보다 엄청난 딥페이크가 기다리고 있는 것이다. 박빙의 접전이 벌어지는 선거전에서 교묘하게 조작된 영상은 선거결과를 뒤바꿀 가능성마저 있다. 조작된 영상으로 밝혀지더라도 모든 선거이슈를 삼키는 블랙홀이 될 것이다. 지난 대선때 ‘힐러리가 테러단체 이슬람국가(IS)에 무기를 팔았다’는 가짜뉴스가 맹위를 떨쳤다면, 내년 대선에는 어떤 가짜 동영상이 나타날지 가늠하기조차 어렵다.
미국 하원 정보위는 최근 딥페이크가 몰고올 가짜 동영상에 대한 청문회를 열고 대책을 논의했다. 민주당의 애덤 시프 정보위원장은 딥페이크는 “악의적 인물이 혼란과 분열, 위기를 조장할 수 있고, 대선을 포함한 선거운동 전체를 방해할 수 있다”고 지적했다. 청문회에는 인공지능, 허위정보 전문가들이 증인으로 출석해 딥페이크가 불러올 위협을 경고했다. 청문회에서는 정부가 동영상이나 음성 녹취물의 진위를 검증할 기술 개발을 지원해야 한다는 의견이 나왔다. 그러나 가짜 동영상을 완벽하게 차단하기는 어렵다.
내년 총선을 앞두고 있는 국내에서는 아직 딥페이크가 논란의 중심에 오르지는 않았다. 가짜뉴스가 기승을 부릴 것이라는 점은 예상되지만, 아직 딥페이크 기술이 초보단계이기 때문이다. 그러나 언제 갑자기 딥페이크가 국내에서도 활성화할지는 아무도 모른다. 더구나 외국인들이 가짜 동영상을 만들어 유튜브에 올리는 행위를 막기도 어렵다. 국내 아이돌 가수의 포르노영상은 국내에서 제작된 것이 아니라 외국에서 만들어 올린 것이다. 국내정치에 개입하려는 세력의 농간이 개입될 여지가 있는 것이다.
더 나아가 적국이 악용할 가능성도 있다. 실제로 미국은 적국이 딥페이크를 악용할 가능성을 우려한다. 댄 코츠 국가정보국(DNI) 국장은 이 기술이 “장차 미국의 적들에 의해 허위정보 유포에 사용될 수 있다”고 경고했다. 시프위원장은 2020년 대선에 러시아가 또다시 개입할 수 있다면서 가장 심각한 경우는 “후보가 절대 한 적이 없는 발언을 하는 딥페이크 동영상”이 될 것으로 우려했다.
딥페이크는 범죄에도 악용될 수 있다. 트위터 등 SNS에는 돈을 내면 지인의 얼굴을 합성해주겠다는 거래도 진행되고 있다. 이런 가짜 동영상은 리벤지 포르노나 협박용으로 사용될 수 있다. 가짜 포르노영상으로 피해를 본 국내 아이돌 가수는 지난 3월 고발했으나 아직 범인을 잡지 못했다. 동영상이 유포된 사이트 대부분이 해외서버를 사용하기 때문이다.
딥페이크 포르노는 유명인이 아닌 일반인도 피해대상이 된다. 조작한 영상을 배포한다고 위협하며 돈을 요구하는 새로운 형태의 스미싱 범죄도 발생한다. 광고로 수익을 얻는 영상 스트리밍채널에도 가짜 동영상이 유통된다. 제작자들이 조회수를 늘리기 위해 자극적 영상을 업로드하기 때문이다.
딥페이크를 근절하기 위해 국내외에서 다양한 노력이 진행되고 있다. 과학기술정보통신부는 최근 가짜뉴스를 판별하기 위해 ‘인공지능 R&D 챌린지 대회’를 개최했다. 대회 참여자들은 인공지능 기술을 이용해 합성사진 여부를 판별하고 문자사이의 유사도를 분석해 가짜뉴스를 구분해냈다. 미국 방위고등연구계획국(DARPA)은 인공지능 전문가들을 대상으로 가짜동영상 제작과 감식경진대회를 개최해 인재발굴에 힘을 기울이고 있다.
팩트체크 기술도 진화하고 있다. 아르헨티나 팩트체크단체가 내놓은 체케아봇(Chequeabot)은 30개 뉴스를 스캔해 유명인이 한 발언을 추출하고, 데이터베이스와 대조해 진위를 가려낸다. 영국의 팩트체크 기관 풀 팩트(Full Fact)는 정치적 주장들을 모아 놓은 데이터베이스를 기반으로 정치인들의 거짓주장을 검증할 수 있는 프로그램을 시연했다. 하지만 백신이 바이러스를 쫓아가는 것처럼 가짜 동영상을 근원부터 밝혀내 추방하기는 어렵다.
딥페이크 유포를 처벌하기 위한 법과 제도도 아직 마련되지 않았다. 현행 몰카범죄는 타인의 신체를 촬영할 경우에만 적용된다. 따라서 얼굴만 도용해 음란물을 만들 경우 성폭력 특별법이 적용되지 않아 징역 1년 또는 500만원의 벌금에 처해질 뿐이다. 정치인이 등장하는 동영상 패러디물은 표현의 자유가 폭넓게 인정돼 처벌 범위와 수위가 명확하지 않다. 더구나 외국에 서버를 둔 페이스북이나 크위터 등을 국내에서 규제하기도 어렵다.
미국에서는 플랫폼 사업자의 책임문제가 도마 위에 올랐다. 그러나 ‘가짜동영상 차단’과 ‘표현의 자유’ 사이에서 논란만 되풀이될 뿐이다. 최근 낸시 펠로시 하원의장이 술에 취해 횡설수설하는 딥페이크가 유포되자 민주당이 페이스북에 차단을 요청했다. 하지만 페이스북측은 “페이스북에 올라온 정보가 반드시 진실이어야 한다는 규정은 없다”며 묵살했다. 플랫폼 사업자는 중립적이어야 한다는 기본원칙을 견지하고 있기 때문이다. 창업자인 마크 저커버그를 소재로 한 딥페이크에 대해서도 ‘차단불가’ 원칙을 적용했다.
미국 통신품위법 230조는 인터넷 기업들은 제3자가 올리는 유해물에 대해 법적 책임을 지지않는다고 규정돼 있다. 그러나 딥페이크에 적극 대응하려면 플랫폼 사업자에 강한 책임을 물어야 한다는 개정여론도 일고 있다. 하원 청문회에서 다니엘 시트론 메릴랜드대 법학과 교수는 “통신품위법 230조 때문에 플랫폼 사업자들이 파괴적인 딥페이크에 적극 대응할 유인을 느끼지 못한다”고 강조했다. 그러나 자칫 과도한 규제로 이어질 수 있다는 반대의견도 만만치 않다.
CNN은 “딥페이크 기술이 너무 빨리 발전해 동영상이 가짜라는 걸 구분하는 게 거의 불가능해질 것”이라고 지적했다. 워싱턴포스트도 “최근 동영상 편집기술의 발전은 사람들이 온라인에서 사실과 거짓을 구분하는 것을 어느때보다 더 어렵게 할 것”이라고 밝혔다. 사람들의 정신을 흐리는 가짜뉴스에 이은 딥페이크 폭탄이 민주주의를 위협하지 않을까 우려된다. 국내에서도 내년 총선을 앞두고 대비책을 서둘러 마련해야 할 때이다. 무엇보다도 허위정보에 대처하기 위해서는 비판적 식견을 키워야 한다.
김주언(논설주간ㆍ전 한국기자협회장)