여러 해 동안 사람들은 가짜가 사람을 속일 만큼 정교해지는 것을 두려워했다. 그런데 가장 음험한 위험은 다른 데 있다 : 이제는 가짜가 존재한다는 사실만으로 진짜가 의심의 대상이 되어 버린다는 것이다. 어떤 이미지, 목소리, 영상도 만들어 낼 수 있음을 누구나 알게 되면, 거짓말쟁이는 더 이상 그럴듯한 가짜를 만들어 낼 필요가 없다 : 불리하지만 진짜인 증거 앞에서 «그건 가짜다»라고 말하기만 하면 된다. 법학자들은 이 이득에 이름을 붙였다 : «거짓말쟁이의 배당»(liar's dividend)이다.
1 «그건 가짜다»라고 말하기만 하면 된다
그 개념, 그리고 그것을 떠받치는 역설.
거짓말쟁이의 배당
가짜는 무엇보다 거짓말하는 자에게 이롭다
이 표현은 법학자 로버트 체스니(Robert Chesney)와 대니엘 시트론(Danielle Citron)이 California Law Review(2019)에 실은 논문에서 나왔다. 그들의 생각은 이렇다 : 무엇이든 조작될 수 있음을 대중이 알아 갈수록, 잘못을 들킨 사람은 진짜 증거를 조작된 것이라 우기며 떨쳐 낼 수 있게 된다. 그 역설은 잔혹하다 : 딥페이크에 대해 사람들을 더 많이 교육할수록, 거짓말쟁이의 논리는 더 단단해진다. 그들이 쓴 대로, 거짓말쟁이의 배당은 가짜에 대한 대중의 경각심을 높이는 데 성공할수록 «역설적으로» 커진다. 위협을 알리는 일이 도리어 그 위협을 키우는 셈이다.
2 노력의 비대칭
제목의 핵심 : 비난하기와 증명하기는 무게가 같지 않다.
불균형
비난은 세 마디로 끝나고, 증명은 세 주가 걸린다
이 배당을 떠받치는 동력은 비용의 비대칭이다. 비난하기는 공짜이고, 순식간이며, 누구나 알아듣는다 : «그건 가짜다»는 1초면 말할 수 있고 클릭 한 번이면 퍼진다. 반대로 진위를 증명하기는 느리고, 비싸며, 알아보기도 어렵다 : 포렌식 전문 지식과 특수한 도구, 전문 용어가 필요하고, 그 결과는 의심이 이미 퍼진 뒤에야 늘 도착한다. 연구자 르네 디레스타(Renée DiResta)는 일찍이 2018년에 이를 지적했다 : 진짜의 무결성을 더럽히는 데는 «그 기술이 존재한다고 짚어 주기»만 하면 된다는 것이다. 그리고 이미지 전문가 하니 패리드(Hany Farid)가 일깨우듯, 포렌식은 가짜를 뒤쫓는다 : 늘 한 발짝 뒤처져 있다.
의심하는 비용
≈ 0
문장 하나, 아무 능력도 필요 없고, 즉시 퍼진다.
증명하는 비용
높음
전문 지식, 시간, 도구, 그리고 너무 늦게 도착하는 판정.
더 오래된 비대칭
거짓말쟁이의 배당은 훨씬 더 일반적인 법칙의 한 특수한 경우일 뿐이다. 개발자 알베르토 브랜돌리니(Alberto Brandolini)는 2013년에 이를 «헛소리 비대칭의 원리»라는 이름으로 정식화했다 : «헛소리를 반박하는 데 드는 에너지는 그것을 만드는 데 드는 것보다 한 자릿수 더 크다». 그보다 훨씬 앞서 조너선 스위프트(Jonathan Swift)도 이미 같은 것을 관찰했다 : «거짓은 날아가고, 진실은 절뚝이며 그 뒤를 따른다». 그 까닭은 기술적인 만큼이나 인지적이다 : 거짓이지만 단순하고 매끄러우며 곧바로 솔깃한 주장은 힘들이지 않고 받아들여지는 반면, 정확하지만 흔히 복잡하고 품이 드는 진실은 멈춰 서서 곱씹기를 요구한다. 반박은 언제나 주장보다 값이 더 들고 ; 가짜는 진짜에 대해 손쉬움이라는 이점을 늘 쥐고 있다.
3 측정된 배당
이는 이론적 두려움이 아니다 : 연구가 이를 계량했다.
데이터의 시험대
가짜라고 외치는 일은 실제로 이득이 된다
American Political Science Review(시프와 동료들, Cambridge 경유)에 실린 한 연구는 15,000명이 넘는 참가자를 대상으로 그 메커니즘을 시험했다 : 불리한 정보 앞에서 어느 책임자가 허위정보라고 외치면, 그를 지지하던 사람들의 지지가 더 두터워지고 언론에 대한 신뢰는 깎인다. 그 효과는 비난이 글이나 주장을 겨냥할 때 견고하고, 영상을 겨냥할 때는 더 제한적이다. 브레넌 센터(Brennan Center)를 비롯한 다른 연구들도 같은 결론으로 모인다 : 현실을 부정하는 것은 평균적으로 이득이 되는 전략이라는 것이다. 거짓말쟁이의 배당은 비유가 아니다 ; 그것은 관측 가능하고 측정 가능한 행태다.
4 진짜 증거가 부정당할 때
진짜가 «가짜»로 낙인찍힌 구체적 사례들.
개념에서 사실로
«딥페이크» 방어가 법정에 들어오다
이 수법은 더 이상 가설이 아니다. «오토파일럿» 모드 테슬라(Tesla) 사고를 둘러싼 소송에서, 2023년 회사 측 변호인단은 일론 머스크(Elon Musk)의 진짜 영상 발언이 딥페이크일 수 있다고 주장했다 : 판사는 이 주장을 물리치며, 가짜의 가능성을 빌미로 한 경영자가 자기 말에서 빠져나갈 수 있다는 것은 우려스러운 일이라고 판단했다. 정치에서도 진짜 이미지나 녹음이 책임을 떠넘기려는 의도로 «조작된 것»이라 반박된 일이 있었다. 미국(집회나 의회 폭동과 얽힌 사건들)에서, 인도(타밀나두)에서, 그리고 대통령 영상에 대한 의심이 정치적 위기를 키운 가봉에서까지. 어디서나 같은 도구다 : 가짜의 망령을 흔들며 진짜를 부정하는 것이다.
뒤집힘
아이러니는 완전하다 : 속이는 데 쓰여야 할 가짜의 기술이, 무엇보다 부정하는 데 쓰인다. 가장 효과적인 딥페이크는 늘 만들어 낸 것이 아니다 ; 때로는 거슬리는 증거를 물리치려고 들먹이는 것이다. 위협은 떠도는 가짜에만 있는 것이 아니라, 그것들이 정당화해 주는 전반적인 의심에 있다.
5 현실에 대한 무관심
진짜와 가짜를 가려내기를 포기할 때.
인식론적 피로
진짜 위험 : 진실 찾기를 그만두는 것
가장 무거운 비용은 가짜를 믿게 되는 것이 아니라, 끝내 아무것도 믿지 않게 되는 것이다. 기술 사상가 아비브 오바디야(Aviv Ovadya)는 이 임계점을 «현실에 대한 무관심»(reality apathy)이라 불렀다 : 진위를 검증할 수 없는 정보에 파묻힌 대중은 가려내기를 포기하고 자기 입맛 쪽으로 물러선다. «무엇이든 가짜일 수 있다»가 되면, 증명의 부담은 거짓말하는 자에게서 진실을 말하는 자에게로 옮겨 간다 : 이제 진짜를 증명해야 하는 것은 피해자, 기자, 판사다. 그리고 공유된 사실을 더는 세울 수 없게 된 민주주의는 정의와 정보와 투표가 딛고 선 바닥을 잃는다.
6 진짜에 서명하다
기술적 대응책 : 가짜를 쫓기보다 출처를 증명한다.
디지털 출처
근원에 서명을 새기다
가짜를 하나하나 잡아내는 것이 진 게임인 이상, 또 다른 길은 진짜를 근원에서 인증하는 것이다. 이것이 «디지털 출처»(provenance)다 : 어떤 미디어에 만들어지는 순간부터, 그것이 어디에서 왔고 어떻게 수정되었는지를 입증하는 암호 인증서를 붙여 두는 것이다. 개방형 표준 C2PA와 그 «콘텐츠 자격증명»(Content Credentials) 부문은 2025년 기준으로 기기 제조사부터 소프트웨어 업체까지 5,000개 이상의 회원사를 모았다. 구글(Google)은 자사 도구 SynthID로 100억 개 이상의 콘텐츠에 워터마크를 새겼다. 그리고 이제 카메라들은 촬영하는 순간 이미지에 서명한다(라이카, 소니, 삼성). 핵심은 어떤 파일이 가짜임을 증명하는 것이 아니라, 어떤 파일이 그것이 주장하는 바로 그것임을 증명하는 데 있다.
C2PA 연합(2025)
5,000개 이상
«콘텐츠 자격증명» 표준을 채택한 회원사.
SynthID 워터마크
100억 개 이상
구글의 도구로 표시된 콘텐츠.
7 증명의 한계
출처는 부담을 옮길 뿐, 없애지는 못한다.
서명이 말하지 않는 것
신호를 증명하는 것은 진실을 증명하는 것이 아니다
출처는 만능 해법이 아니다. 워터마크는 제거되거나 변조될 수 있다 : 메릴랜드대학교의 소헤일 페이지(Soheil Feizi) 연구진 같은 학자들은 이 표시를 지우거나 흉내 낼 수 있음을 보였다. 무엇보다 서명은 출처를 입증할 뿐 진실을 입증하지는 않는다 : 진짜로 촬영된 이미지가 오해를 부르는 장면을 담고 있을 수도 있다. WITNESS의 샘 그레고리(Sam Gregory)는 이를 분명히 짚는다 : 출처는 «신호를 제공할 뿐, 진실을 증명하지는 않는다». 그리고 한 가지 함정이 도사린다 : 인증서를 요구하는 데 익숙해지면, 인증서의 부재가 결국 가짜의 증거처럼 통하게 될 것이다. 진짜 콘텐츠의 절대다수는 인증서를 전혀 지니고 있지 않은데도 말이다.
8 과장의 몫
솔직해지자 : 효과는 실재하지만, 거기에는 한계가 있다.
단서
위협을 부풀리지 않기
거짓말쟁이의 배당은 입증된 사실이지만, 과도한 경보에도 위험이 있다. Harvard Kennedy School Misinformation Review의 연구자들(펠릭스 시몬, 사샤 알타이, 위고 메르시에, 2023)은 그 효과가 기술보다는 당파성에서 비롯한다고 짚는다 : 사람들은 무엇보다 자기 진영에 따라 믿거나 부정한다. 팩트체크가 개입할 때, 그것은 가짜라고 외친 자의 이득을 상당 부분 상쇄한다. 그리고 딥페이크 하나만으로 선거가 뒤집힌 사례는 거의 알려진 바 없다 ; 흔히 인용되는, 2023년 슬로바키아 선거 직전에 퍼진 의심스러운 녹음의 사례조차 여전히 논란이 있다. 위협을 부풀리는 것은 그 자체로 하나의 위험이다 : «무엇도 믿을 수 없다»라고 거듭 되뇌다 보면, 맞서 싸우겠다던 바로 그 무관심을 도리어 키우게 된다.
중용
그러므로 올바른 자세는 공황도 부정도 아니다. 거짓말쟁이의 배당은 실재하고 측정되었지만 한계가 있으며, 기존의 신념에 매개되고 검증에 의해 누그러진다. 그것을 정확하게 묘사하는 것 — 극화하지도 축소하지도 않으면서 — 이 이미 그 대응의 일부다.
9 진짜를 증명하기
비대칭은 남는다 ; 남은 일은 그것과 더불어 사는 법을 배우는 것이다.
남는 것
의심은 공짜로 남고, 진짜를 증명하는 데는 값비싼 대가가 남을 것이다
어떤 기술도 그 격차를 완전히 메우지는 못할 것이다 : 증거를 세우는 일보다 의심을 던지는 일이 늘 더 쉬울 것이다. 우리가 할 수 있는 일은 더 소박하지만 더 지속적이다 : 출처의 표준을 세우고, 서명을 근원으로 넓히며, 분별력을 갖추도록 대중을 길러 내고, 사실을 세울 수 있는 저널리즘과 사법을 받치는 것이다. 전문가 하니 패리드는 이 쟁점을 한마디로 요약한다 : «모든 것이 가짜일 수 있다면, 더는 무엇도 진짜일 필요가 없다». 진짜 도전은 기술적인 것만이 아니다 ; 그것은 인식론적이다. 가짜를 탐지하는 일이라기보다, 진짜를 믿을 수 있는 길을 되찾는 일인 것이다.
나침반
①
거짓말쟁이의 배당. 무엇이든 조작될 수 있을 때, «그건 가짜다»라고 말하는 것만으로 진짜 증거를 물리칠 수 있다 : 가짜는 무엇보다 거짓말하는 자에게 이롭다.
②
비용의 비대칭. 의심은 공짜이고 순식간이며 ; 진위를 증명하기는 느리고 비싸며 늘 뒤처진다. 디지털 출처(C2PA, SynthID)는 부담을 옮길 뿐 없애지는 못한다.
③
실재하지만 한계가 있는 효과. 당파성에 매개되고 검증에 의해 누그러진다. 이 자료는 하나의 인식론적 논쟁을 밝힐 뿐 ; 법률 자문도 투자 자문도 하지 않는다.
신뢰의 실타래
이 주제는 데이터 측면에서 이미 살펴본 한 불안의 연장선에 있다 :
«오늘 거두고, 내일 해독한다»가 그것으로, 거기서도 암호와 디지털 진위에 대한 신뢰가 장기적으로 판가름 난다. 한쪽에서는 진짜를 의심하고, 다른 쪽에서는 비밀을 걱정한다 : 같은 화폐인 신뢰, 그리고 같은 침식이다.
함께 읽기 : 오늘 거두고, 내일 해독한다, 디지털 신뢰의 또 다른 장기적 측면. 참고 : 약어 및 두문자어 (AI, C2PA).