“민주주의는 생각보다 유약합니다. 금방 붕괴될 수 있습니다” 미국의 비영리 단체 ‘리프리젠트 어스(Represent Us)’가 제작한 광고(독재자 시리즈 중 김정은 편(2020))에서 나온 멘트다. 북한의 독재자는 이어서 “사분오열된 국론, 투표 조작과 수많은 사람들이 투표권이 박탈되어 선거에 실패한다면” 하고 단서를 단다. 분명 조선노동당 총비서 김정은이고 또 그의 목소리다. 그의 입에서 흘러나온 마지막 결론은 이렇다. “민주주의가 무너지는 상황에서 당신들이 할 수 있는 일은 아무것도 없습니다!” 그의 묘하고 섬뜩한 웃음기가 사라질 때 즈음 이런 캡션이 달린다. ‘이 영상은 가짜이지만 위협은 진짜다’ 민주주의를 유지하기 위해서는 투표 행사는 절대적이라는 메시지를 그것도 독재자의 입을 빌린다는 포맷이 기발하지만 가공할 만하다. 미국 반부패법을 옹호하는 이 조직은 미국의 대선을 앞두고 민주주의 가치와 투표의 중요성을 강조하기 위해 독재자들을 카메라 앞에 세운다. 딥페이크(deepfake)라는 기술을 통해서 말이다. 악센트가 강한 영어로 “미국은 잘 들으시오. 내가 당신들의 민주주의를 간섭한다고 불평들이 많은데, 난 그런 적 없소. 당신들 스스로 그러고 있으니까”하는 블라디미르 푸틴 러시아 대통령도 정말 진짜 같다. 적은 예산으로 최대한의 효과를 노린 이 페이크 광고는, 그러나 광고 중지 처분을 받아서 방송되지는 못했다. 상영이 엄격히 금지되었기 때문이다. 페이스북도 페이크 광고나 영상에는 단호하다. 구글 사(社)도 정치 광고나 그 어떤 가짜 영상도 상영을 금지하고 있다. 우리 같은 일반인들은 진짜 같은 가짜를 분별할 능력이나 기술이 없다. 1~2분의 영상 하나로 가짜가 진짜가 되는 세상이다. 점잖고 달변가로 알려진 오바마 전 대통령이 심각한 얼굴로 “트럼프는 완전히 쓸모없는 사람”이라고 한다면 누가 안 믿을 수 있겠는가? 미국의 한 영화감독 겸 코미디언이 올린 이 영상으로 페이크 영상이 얼마나 위험한지 세계적인 경각심을 고취시킨 계기가 되었다. 인공지능(AI)이 다량의 데이터에 대한 반복 학습을 통해 처리 능력을 향상시키는 딥 러닝(deep learning) 기술에 가짜를 의미하는 ‘페이크(fake)’를 합쳐 만든 조어가 딥페이크다. 쉽게 말해 영상 속 인물의 얼굴이나 특정 부위를 다른 인물의 것으로 바꿔치기하는 기술을 말한다. 일반인들도 재미 삼아해 볼 수 있을 정도로 그 기술은 보편화되어 있다. 특히 유명인들의 가짜 영상이 많이 돌아다닌다. 방송에 출연한 영국 엘리자베스 여왕(96세)이 깜짝 춤을 선보이고, 우리나라에도 인기가 많은 배우 톰 크루즈가 동전이 사라지는 마술을 선보이며 “이 모든 게 진실입니다”하고 사람들을 반복 학습(!)시킨다. 고인이 된 레이건이나 처칠이 연설을 하거나 노래를 부르는 영상도 쉽게 볼 수 있다. 유명인들로부터 나온 메시지는 신뢰도가 높기 때문에 그만큼 많은 사람들이 잘못된 정보에 오염될 가능성도 커진다. 사실과 구별할 수 없을 정도로 정교한 가짜는 그럼 어떻게 피할 수 있을까? 분야는 다르지만 짝퉁이 많기로 악명 높은 명품 가방의 경우 ‘소각(燒却)’이 최선의 방어책이라고 한다. 팔지 못하고 남은 제품을 아예 태워 없애버린다. 소위 재고 파괴는 업계에서는 공공연한 비밀이라고 한다. 그리고는 가격을 올려버린다. 지금 안사면 손해라는 인식을 소비자에게 학습(!)시킨다. 딥페이크 광고나 영상은 그럴 수 없다. 무한대로 복제가 가능하고, 태워서 없애야 할 재고 개념도 없다. 방송의 악용 가능성은 언제든지 열려 있다. 이 양날의 검을 오히려 공격적으로 활용하는 기업도 있다. 최근 화제가 된 신*라이프 광고에는 국내 MZ세대가 좋아하는 얼굴을 조합해 만든 가상의 인플루언서(influencer)가 춤을 춘다. 로지라는 이름의 그녀는 양 갈래로 땋은 머리에 쌍꺼풀이 없고 끝이 살짝 올라간 눈이 매력적이다. 아들 녀석이 말해주지 않았다면 춤 잘 추는 신인 가수인 줄 알았을 것이다. 영원히 22살인 가수로 말이다. 이번에 아깝게 세상을 떠난 가수의 데뷔 30주년 기념 앨범이 나왔다. 그 특유의 억양과 음색 같은 음성 데이터를 분석하고 목소리를 합성해서 가수 신해철을 되살려낸 것이다. 가짜와 진짜, 진짜 같은 가짜의 구별이 점점 모호해져 가는 세상이다.