선거를 겨냥한 딥페이크
2024년은 전 세계 40개 이상 국가에서 선거가 치러진 **"슈퍼 선거의 해"**였습니다. 동시에 AI 딥페이크가 선거에 본격적으로 활용된 첫 해이기도 합니다.
2024년 1월, 미국 뉴햄프셔 예비선거 직전에 바이든 대통령의 목소리를 복제한 AI 로보콜이 유권자들에게 전화를 걸어 "투표하지 말라"고 독려했습니다. 이 사건으로 정치 컨설턴트 Steve Kramer가 기소되었습니다.
전 세계 사례
슬로바키아 (2023.09)
선거 48시간 전, 진보당 대표가 선거 조작을 논의하는 것처럼 보이는 AI 음성 딥페이크가 소셜 미디어에 확산되었습니다. 미디어 침묵 기간이라 반론이 불가능했고, 진보당은 근소한 차이로 패배했습니다.
인도네시아 (2024.02)
사망한 전 대통령 수하르토가 특정 정당을 지지하는 AI 딥페이크 영상이 제작되어 바이럴 되었습니다.
한국 (2024)
총선 기간 중 후보자의 AI 합성 음성과 허위 영상이 메신저를 통해 유포되었습니다.
탐지 기술
- 디지털 워터마크 — C2PA 표준으로 AI 생성 콘텐츠 출처 표시
- AI 탐지 모델 — Intel FakeCatcher (96% 정확도)
- 음성 분석 — 스펙트럼 분석으로 AI 생성 음성 식별
- 블록체인 인증 — 원본 영상의 무결성 검증
규제 동향
- EU AI Act — 딥페이크 콘텐츠 라벨링 의무화 (2026.08 시행)
- 미국 — 여러 주에서 선거 딥페이크 금지법 제정
- 한국 — 선거법 개정으로 AI 생성물 표시 의무화
유권자로서 할 수 있는 것
- 영상·음성의 출처를 반드시 확인
- 선거 직전 급속히 퍼지는 콘텐츠 의심
- 공식 선관위·언론사 팩트체크 활용
- AI 탐지 도구(Deepware Scanner 등) 사용