선거와 딥페이크: AI 허위정보가 민주주의를 위협하고 있다

선거를 겨냥한 딥페이크

2024년은 세계 곳곳에서 큰 선거가 몰린 '슈퍼 선거의 해'였습니다. 같은 시기 AI로 만든 가짜 음성과 영상이 여러 나라 선거에 등장했습니다.

2024년 1월, 미국 뉴햄프셔 예비선거 직전에 바이든 대통령의 목소리를 흉내 낸 AI 로보콜이 유권자들에게 걸려 왔습니다. 예비선거에서는 투표하지 말고 11월 본선을 위해 표를 아껴 두라는 내용이었습니다.

이 전화를 기획한 정치 컨설턴트 Steve Kramer는 유권자 투표 방해 등 혐의로 기소됐습니다. 연방통신위원회(FCC)는 2024년 9월 그에게 600만 달러 벌금을 매겼습니다. 형사 재판에서는 2025년 6월 배심원단이 모든 혐의에 무죄를 평결했습니다.

다른 나라 사례

슬로바키아 (2023.09)

총선 이틀 전, 진보슬로바키아 대표 Michal Šimečka와 일간지 Denník N 기자가 선거 조작을 논의하는 것처럼 꾸민 AI 음성 딥페이크가 퍼졌습니다. 두 사람은 곧바로 가짜라고 밝혔지만, 언론이 선거 관련 보도를 할 수 없는 선거 전 침묵 기간이라 반박이 퍼지기 어려웠습니다.

선거에서는 피초의 Smer가 이겼습니다. '딥페이크가 선거를 뒤집은 첫 사례'라는 말이 돌았지만, Harvard Kennedy School Misinformation Review 연구진은 기관 불신과 친러 성향 같은 다른 요인을 함께 봐야 한다고 분석했습니다. 딥페이크가 결과를 바꿨다는 근거는 확인되지 않았습니다.

인도네시아 (2024.01)

2008년에 사망한 전 대통령 수하르토가 "나는 수하르토, 인도네시아 2대 대통령"이라고 말하는 AI 딥페이크 영상이 퍼졌습니다. 골카르당 부대표가 2월 14일 선거를 앞두고 X에 처음 올렸고, CNN 보도 기준 X에서만 조회수 470만 회를 넘겼습니다. 당 쪽은 투표의 중요성을 일깨우려 만든 영상이라고 설명했습니다.

한국 (2024)

2024년 1월부터 공직선거법 제82조의8이 시행됐습니다. 선거일 전 90일부터 선거일까지는 딥페이크 영상·음성·이미지를 선거운동에 쓸 수 없습니다. 중앙선거관리위원회는 4·10 총선을 앞둔 2024년 3월 26일까지 딥페이크 게시물 207건에 삭제를 요청했다고 밝혔습니다.

탐지 기술

콘텐츠 출처 표시: C2PA 표준으로 콘텐츠가 어디서 어떻게 만들어졌는지 기록
AI 탐지 모델: Intel은 FakeCatcher가 영상 속 혈류 신호를 분석해 96% 정확도로 가짜를 찾는다고 발표했습니다(자체 측정 기준)
음성 분석: 스펙트럼 분석으로 AI 생성 음성 식별
원본 무결성 검증: 서명이나 해시로 원본 영상이 바뀌지 않았는지 확인

규제 동향

EU AI Act: 제50조에 따라 딥페이크를 만드는 AI 시스템을 쓰는 배포자(deployer)는 AI로 생성·조작한 콘텐츠라는 사실을 밝혀야 합니다. 2026년 8월 2일부터 적용됩니다
미국: 여러 주가 선거 딥페이크를 규제하는 법을 만들었습니다(Public Citizen 주별 현황 참고)
한국: 선거일 전 90일부터는 딥페이크 선거운동을 금지하고, 그 밖의 기간에는 AI로 만든 가상 정보라는 사실을 표시해야 합니다(공직선거법 제82조의8)

유권자로서 할 수 있는 것

영상·음성의 출처를 반드시 확인
선거 직전 급속히 퍼지는 콘텐츠 의심
공식 선관위·언론사 팩트체크 활용
AI 탐지 도구(Deepware Scanner 등) 사용

참고