2024년 2월, 홍콩의 한 기업 직원이 화상회의를 마치고 약 340억 원을 송금했어요.
회의에는 CFO를 포함한 임원 여러 명이 참석해 있었고, 모두 익숙한 얼굴이었거든요. 그런데 그 얼굴들이 전부 딥페이크였습니다. 실제 임원은 아무도 그 자리에 없었어요.
딥페이크 기술은 이제 스크린 속 연예인 합성물 수준을 한참 넘어섰습니다. 납치 협박, 선거 조작, 성범죄. 2024년 한 해 동안 딥페이크 합성 피해 건수는 전년 대비 227% 급증했어요. (출처: 전매뉴스, 2025) 기술이 나쁜 게 아니라, 기술이 어떻게 쓰이는가가 문제인 거죠.
그렇다면 방어하는 쪽은 지금 어디까지 왔을까요.
딥페이크가 실제로 저지르는 것들
성범죄 피해가 가장 많이 보고됩니다. 2024년 학교에서만 신고된 딥페이크 성범죄 피해자가 948명이에요. 10대 여학생의 SNS 사진을 캡처해 음란물과 합성한 뒤 텔레그램으로 유포하거나 협박 도구로 씁니다. 전체 피해자의 90%가 10~20대 여성이라는 통계가 나온 게 2025년이에요. (출처: MBC 이엠뉴스, 2025)
딥페이크 관련 커뮤니티나 온라인 포럼에서 가장 자주 올라오는 이야기 중 하나가 "SNS를 비공개로 돌렸는데도 이미 늦었다"는 토로입니다. 공개된 사진 몇 장이면 충분하거든요.
금융 쪽도 심각하다는 게 드러났어요. 앞서 말한 홍콩 사례처럼, 딥페이크 영상 통화로 임원진을 통째로 구현해 직원에게 거액 송금을 지시하는 수법입니다. 이런 기업 대상 딥페이크 사기의 41%는 유명인이나 정치인을 사칭하고, 나머지 34%는 평범한 일반인을 표적으로 삼습니다.
정치 선거에서도 2024년 38개국에서 82건의 딥페이크가 발견됐어요. 바이든 대통령 목소리를 합성해 투표 불참을 유도하는 자동전화가 미국 뉴햄프셔 예비경선 직전에 유권자들에게 걸렸고, 인도에서는 특정 배우가 정당을 지지하는 것처럼 꾸민 영상이 퍼졌습니다. (출처: Recorded Future, 2024)
탐지 AI는 어떻게 딥페이크를 잡아내나
탐지 기술은 크게 두 가지 방향으로 나뉩니다. 영상 안에 남은 위변조 흔적(artifact)을 사후에 잡아내는 수동 탐지와, 콘텐츠 생성 단계에서 미리 표식을 심어두는 능동적 워터마킹이에요.
수동 탐지 쪽에서 가장 주목받는 단서가 눈 깜빡임 패턴입니다. 딥페이크 영상은 자연스러운 눈 깜빡임 시퀀스를 재현하기 어려워서 타이밍, 빈도, 좌우 동기화에서 미세한 이상이 생깁니다. 연구자들은 이 지표가 모든 시간적 특성 중 판별력이 가장 높다고 분석했어요. (출처: ScienceDirect, 2025) TimeSformer, Transformer-CNN 같은 모델이 이 패턴을 실시간으로 분석해 탐지합니다.
얼굴 경계에서 발생하는 블렌딩 아티팩트도 단서예요. 합성 얼굴과 원본 배경이 만나는 경계선에서 조명 불일치, 색상 번짐, 흐릿한 가장자리가 나타납니다. 사람 눈에는 잘 안 보이지만 AI 모델은 주파수 도메인 분석으로 이걸 잡아냅니다.
단, 이 방식에는 근본적인 한계가 있어요. 탐지 모델이 학습한 적 없는 새로운 생성 방식의 딥페이크에는 성능이 뚝 떨어집니다. 공격과 방어가 서로 진화하는 군비경쟁 구조인 거죠. 수동 탐지만으로는 버티기 어렵다는 얘기예요.
워터마크 기술의 원리, SynthID와 C2PA
그래서 나온 게 워터마킹과 출처 인증 표준입니다.
SynthID는 구글 딥마인드가 개발한 비가시적 디지털 워터마크예요. 이미지가 만들어지는 순간 픽셀 값을 사람이 알아채지 못할 수준으로 미세하게 변형해 워터마크를 심습니다. 주파수 도메인에서 인간 시각이 덜 민감한 성분을 건드리는 방식이라, 압축하거나 잘라내거나 스크린샷을 찍어도 워터마크가 살아남아요. 지금까지 1,000억 개 이상의 이미지·영상에 적용됐고, 오디오는 6만 년 분량이라고 합니다. (출처: Google DeepMind, 2026)
OpenAI, NVIDIA, ElevenLabs, 카카오 등도 SynthID 기술을 도입했어요.
C2PA는 어도비, 마이크로소프트, BBC, 뉴욕타임스가 2021년 공동 설립한 컨소시엄의 암호학적 출처 인증 표준입니다. 콘텐츠가 생성되거나 편집될 때마다 디지털 서명이 메타데이터에 추가돼요. 여기에 생성 도구, 생성 시각, 편집 이력이 기록됩니다. 누구든 온라인 도구로 이 콘텐츠의 출처와 수정 이력을 검증할 수 있어요.
2026년 구글은 SynthID와 C2PA를 결합해 모든 AI 생성 이미지에 적용한다고 발표했습니다. 메타데이터는 지워질 수 있지만, 픽셀에 박힌 SynthID 워터마크는 그것도 버텨냅니다.
연구 진영에서는 한 가지 역설이 발견됐어요. 워터마크가 탐지 AI의 성능을 오히려 저하시킬 수 있다는 겁니다. 워터마크 신호가 딥페이크 감지 신호를 교란한다는 거예요. (출처: PLOS One, 2025) 기술은 완벽하지 않고 아직도 경쟁 중입니다.
딥페이크를 막는 법이 만들어지고 있다
기술만으로는 안 되니까 제도도 움직이고 있어요.
한국은 인공지능기본법 시행령이 2026년 1월 22일부터 시행됩니다. 딥페이크 등 고위험 콘텐츠는 명확한 표시 의무가 생겼어요.
EU는 한발 더 앞서 있습니다. 2025년 12월에 'AI 생성 콘텐츠 투명성 실천 강령 초안'이 공개됐고, 2026년 8월부터 투명성 의무가 본격 적용됩니다. AI법 Article 3(60)은 딥페이크를 "실존 인물·장소·사물을 AI로 생성·변형해 진짜라고 오인하게 만드는 콘텐츠"로 명시적으로 정의해뒀어요. (출처: EU AI Act, 2026)
미국은 연방 차원의 첫 딥페이크 민사 구제법이 2024년 8월에 통과됐고, 각 주에서는 선거 관련 딥페이크 금지법이 속속 생기고 있습니다.
결국 기술과 제도가 함께 달려야 한다
솔직히 말하면, 현재 방어 기술은 공격보다 한 발 늦습니다.
SynthID와 C2PA의 조합이 점점 강력해지고 있지만, 불법 합성물을 만드는 쪽은 굳이 이 표준을 따를 이유가 없어요. 탐지 AI는 학습 데이터 밖의 신종 딥페이크에 여전히 취약합니다.
그나마 희망적인 방향은 이겁니다. 표준이 플랫폼에 깊게 박힐수록, 워터마크가 없는 콘텐츠 자체가 의심 신호가 되는 세상이 올 수도 있어요. 진짜를 증명해야 하는 게 아니라, 가짜를 숨기기가 점점 어려워지는 구조로 바뀌는 거죠.
문제가 기술적으로 해결되는 게 아닐 수도 있어요. 기술의 정의를 어디까지 허용하고 어디서 선을 그을 것인지, 결국 그 논의가 핵심인 거 아닐까요.