본문으로 건너뛰기
AI 뉴스연구

AlphaProof Code: Google DeepMind 에이전트가 Signal 기계어를 4주 만에 증명했다

10분 읽기AI 작성 · 운영 JJY
#Google DeepMind#AlphaProof Code#Signal#형식 검증#Lean#Gemini 4 Carbon#AI 보안#암호 프로토콜

이 글은 AI가 쓰고 자동 발행 파이프라인이 올렸습니다. 운영은 JJY가 합니다. 작동 방식 보기

Interactive Infographic

AlphaProof Code × Signal

2026년 11월 10일 Google DeepMind 발표. 설계가 아니라 컴파일된 libsignal 기계어를 증명했다. DeepMind 블로그·논문 기준

약 650만 줄

기계가 검사한 Lean 증명

5명 · 4주

증명 작업에 든 인원과 기간

약 14만 개

검증한 AArch64 명령어

AlphaProof Code의 검증 흐름

테라코타는 사람이 승인하는 단계, 먹색은 기계가 하는 단계. DeepMind 논문 기준

  1. 01 명세 작성사람 승인

    사람 + 검토 에이전트

    에이전트가 Lean 명세 초안, 사람이 하나하나 승인

  2. 02 기계어 의미론자동

    AArch64 Linux 모델

    명령어 467개 · 시스템 콜 31개 · Lean 7,578줄

  3. 03 증명 생성자동

    Gemini 4 Carbon 에이전트 팀

    팀당 에이전트 40~80개, 24~72시간

  4. 04 관문 통과자동

    Lean 커널 + comparator

    증명 검사 + 보관한 명세와 정확히 일치하는지 확인

Scale

증명 약 650만 줄, 믿어야 할 부분 약 2만 6천 줄

Lean 코드 분량. 먹색은 Lean 커널이 검사하는 증명, 테라코타는 사람이 읽어야 하는 신뢰 정의·진술과 AArch64 의미론

블로그와 The Decoder는 증명 분량을 "600만 줄 이상"으로 표기. 신뢰 기반은 논문 초록 기준(1만 8천 줄 + AArch64 의미론 약 8천 줄)

Scope

증명한 것과 증명하지 않은 것

대상: libsignal v0.105.4 + SPQR v1.6.0, AArch64 실행 파일. PQXDH 핸드셰이크와 Triple Ratchet

기호 모델 정리 10개 중 일부

  • ✓순방향 비밀성
  • ✓침해 후 보안
  • ✓인증
  • ✓핸드셰이크 순방향 비밀성
  • ✓지금 수집, 나중 해독 공격 저항

범위 밖 (논문이 직접 적음)

  • ✗양자 공격자 (계산 모델)
  • ✗양자 내성 회복
  • ✗그룹 메시징 · 다중 기기
  • ✗스레드 · 시그널 · 동적 링크
  • ✗키 생성
  • ✗Signal 앱 자체

다시 심은 버그 2개: 둘 다 보안 정리 위반이 증명됨

약한 상태 ✗ 탐지

복호화 실패한 prekey 메시지를 예전 세션으로 재시도해 미확인 상태 저장

작은 부분군 ✗ 탐지

PQXDH 응답자가 X25519 기본 키 검사를 빠뜨려 같은 비밀의 두 번째 세션 생성

핵심 요약

Google DeepMind가 2026년 11월 10일 AlphaProof Code를 공개했습니다. AI 에이전트 팀이 Lean 증명기로 소프트웨어의 보안 성질을 수학적으로 증명하는 프레임워크입니다. 첫 대상은 Signal 프로토콜의 실제 구현인 libsignal이었고, 설계 문서가 아니라 컴파일된 AArch64 기계어를 기준으로 증명했습니다. DeepMind 블로그(Pushmeet Kohli, Swarat Chaudhuri)와 기술 논문이 같은 날 나왔습니다.

  • 규모: 기계가 검사한 Lean 증명 코드 약 650만 줄 (논문)
  • 기간: 5명이 4주 (논문). 블로그는 이전에는 전문가 팀이 수년 걸리던 일이라고 설명했습니다
  • 사람 몫: 블로그는 사람이 다시 볼 부분이 코드베이스의 약 1%였다고 밝혔고, 논문은 "저자 누구도 증명 코드를 쓰지 않았다"고 적었습니다
  • 검증 확인: 예전에 고친 버그 2개를 다시 넣자, 그 바이너리가 보안 정리를 어긴다는 증명이 나왔습니다
  • 공개: Lean 명세와 증명 전부를 오픈소스로 공개했습니다

관련 글: Gemini 4 Carbon: 지능 지수 1위 모델을 Google은 사이버 디펜더에게 먼저 줬다

무엇을 증명했나

Signal 프로토콜은 Signal과 Google Messages 같은 앱에서 대화를 보호하는 기술입니다. DeepMind 블로그는 이를 "수십억 건의 사적인 대화"를 지키는 기술이라고 소개했습니다. 프로토콜 하나의 결함이 수백만 명을 한꺼번에 노출시킬 수 있다는 점도 짚었습니다.

이번 작업의 차이는 깊이입니다. 논문은 기호 보안 검증 연구 대부분이 추상적인 설계를 검증할 뿐 실제 구현에 대해서는 보증하지 못한다고 지적합니다. AlphaProof Code는 실제로 배포되는 코드를 컴파일한 결과물이 보안 성질을 지킨다는 것을 증명했습니다.

항목내용
검증 대상libsignal v0.105.4 + SPQR v1.6.0을 감싼 명령행 하네스 libsignal-cli
빌드일반 rustc 1.98.1, musl 정적 링크, AArch64 Linux 실행 파일 1개
코드 크기약 560KB, AArch64 명령어 약 14만 개
다룬 동작init, send, recv (키 생성은 검증 범위 밖)
프로토콜 범위PQXDH 핸드셰이크, Triple Ratchet
신뢰 계약으로 대체37개 루틴 (저수준 암호 루틴과 일부 라이브러리 루틴)

출처: DeepMind 논문 및 프로젝트 페이지

증명된 성질은 두 모델로 나뉩니다. 기호 모델(DyLean 프레임워크)에서는 정리 10개를 세웠습니다. 순방향 비밀성(forward secrecy), 침해 후 보안(post-compromise security), 인증, 핸드셰이크 순방향 비밀성, 그리고 지금 수집해 두었다가 나중에 해독하는 공격(harvest-now-decrypt-later)에 대한 저항 등이 포함됩니다. 계산 모델에서는 기밀성과 인증성(authenticity)에 대해 공격자 이득의 구체적 상한을 제시했습니다. 대상은 고전적이고 질의 횟수가 제한된 공격자입니다.

블로그는 이를 쉬운 말로 풀었습니다. 기기가 잠깐 탈취되기 전과 후 모두 메시지가 보호된다는 것입니다.

어떻게 했나: 사람은 명세, 에이전트는 증명

작업은 세 단계로 나뉩니다.

  1. 명세 작성: 명세 작성 에이전트가 사람의 긴밀한 지도 아래 Lean 명세 초안을 쓰고, 검토 에이전트가 원문과 구현에 충실한지 확인합니다. 증명에 들어가기 전에 사람이 명세 하나하나를 승인합니다. 논문에 따르면 명세는 사람과 Gemini 4 Carbon·Claude Opus 5.5 기반 에이전트가 주고받으며 다듬었고, 초안 검토는 다른 모델 계열의 에이전트가 맡았습니다
  2. 기계어 의미론: 사용자 모드 AArch64 Linux를 Lean으로 모델링했습니다. 명령어 467개, 시스템 콜 31개를 다루며 Lean 7,578줄입니다. 이 모델은 Unicorn, Sail 모델, qemu-aarch64와 대조해 검증했습니다
  3. 증명 생성: Gemini 4 Carbon 기반 에이전트들이 오케스트레이터, 팀 리드, 설계자와 통합 담당 아래 조직돼 증명을 씁니다. 한 팀은 보통 에이전트 4080개가 한 대의 머신에서 2472시간 돌았습니다

증명이 받아들여지려면 두 관문을 통과해야 합니다. Lean 커널이 증명을 검사해야 하고, comparator 도구가 그 증명이 따로 보관한 명세를 정확히 증명했는지 확인해야 합니다. 에이전트가 명세를 슬쩍 바꿔 쉬운 문제를 증명하는 길을 막는 장치입니다.

증명 코드 구성분량
바이너리(기계어) 증명약 530만 줄
계산 모델 증명약 86만 줄
기호 모델 증명약 35만 줄
증명 합계약 650만 줄
Lean 전체700만 줄 가까이

출처: DeepMind 논문. 블로그와 The Decoder는 "600만 줄 이상"으로 표기했습니다.

사람이 읽어야 할 부분은 훨씬 작습니다. 핵심 정리를 감사하려면 약 1만 8천 줄의 신뢰 정의와 진술, 그리고 약 8천 줄의 AArch64 의미론을 보면 됩니다. 논문 초록은 신뢰 기반을 합쳐 약 2만 6천 줄로 적었습니다.

버그를 다시 심어 시험했다

증명이 실제로 의미 있는지 확인하려고 팀은 예전에 고쳐진 버그 2개를 다시 넣었습니다. 둘 다 Cheval 등의 선행 분석에서 나온 것입니다.

버그내용
약한 상태(weak state)새 세션에서 복호화에 실패한 prekey 메시지를 예전 세션으로 다시 시도하고, 성공하면 서명된 prekey 비밀 사본을 담은 새 세션의 미확인 상태를 저장
작은 부분군(small subgroup)PQXDH 응답자가 개시자의 X25519 기본 키가 torsion-free이고 범위 안인지 확인하지 않음. 변형한 기본 키로 핸드셰이크를 재전송하면 같은 공유 비밀을 가진 두 번째 세션이 생김

두 경우 모두 팀은 버그를 넣은 바이너리에서 기호 보안 정리가 성립하지 않는다는 완전한 Lean 증명을 얻었습니다. 계산 모델 정리를 반박하는 것은 훨씬 어렵다고 논문은 덧붙였습니다. 그러려면 기반 가정을 깨야 하기 때문입니다.

부수 효과도 있었습니다. 논문은 기존에 발표된 계산적 Double Ratchet 분석에서 빈틈이나 오류 15개를 찾았다고 적었습니다.

반응과 "최초" 주장

Signal CTO Ehren Kret은 DeepMind 블로그에서 "AI 에이전트로 실제 운영 중인 코드를 유효한 Lean 정리로 옮기는 것은 큰 돌파구"라고 말했습니다. 프로토콜 구현을 엄밀하게 검증한 덕분에 코드의 프라이버시 보장을 더 확신하게 됐다고도 했습니다.

"최초"라는 표현은 출처마다 범위가 조금 다릅니다.

출처주장
DeepMind 블로그널리 배포된 암호 프로토콜을 이 깊이로 형식 검증하는 데 AI를 쓴 첫 사례이자, 이런 프로토콜의 구현을 어떤 방법으로든 형식 검증한 첫 사례
DeepMind 논문널리 배포된 암호 프로토콜 구현의 수정하지 않은 프로덕션 코드에 대한 첫 프로토콜 수준 보안 증명

논문은 선행 연구와 선을 긋습니다. miTLS, Noise⋆, LibSignal⋆은 검증을 염두에 두고 새로 만든 구현이고(LibSignal⋆은 프로덕션 libsignal과 별개), s2n(SAW 사용)이나 SPQR의 패닉 없음 증명(hax 사용)은 더 좁은 성질을 다뤘다는 설명입니다. HACL⋆ 같은 검증된 암호 기본 연산 라이브러리는 경쟁이 아니라 보완 관계로 봤습니다.

The Decoder는 11월 11일 기사에서 이번 작업이 이전 시도와 달리 이론 설계 단계에서 멈추지 않고 사용자 기기에서 도는 암호 핵심 코드를 검증했다고 정리했습니다.

한계: 논문이 직접 적은 것

논문은 증명이 보장하지 않는 범위도 꽤 길게 적었습니다.

  • 계산 모델의 상한은 양자 공격자에 대해 아무것도 보장하지 않습니다
  • Ratchet 정리는 공격자가 SPQR 키를 고르도록 두기 때문에, 양자 내성 회복(post-quantum healing)은 증명하지 않습니다
  • 스레드, 시그널, 동적 링크, 그룹 메시징, 다중 기기 상태는 모델링하지 않았습니다
  • 기호 모델의 보장은 이상적인 암호와 새 난수를 가정합니다
  • 단일 세션에서 메시지가 약 2만 5천 개에 이르면 통계 항 때문에 상한이 의미를 잃습니다
  • 결과는 새 프로세스로 실행한 이 빌드에 대한 것이지, Signal 앱 자체에 대한 것이 아닙니다

신뢰해야 하는 구성 요소도 분명합니다. Lean 커널, AArch64 의미론, 암호 가정, 그리고 37개 루틴을 대신한 계약입니다.

다음 단계

DeepMind 블로그는 이 기법을 키우려면 연구가 더 필요하다고 했습니다. 의료기기 펌웨어나 전력망 소프트웨어 같은 분야를 후보로 들었고, 자동 방어 에이전트 CodeMender와 짝을 이룰 수 있다고 설명했습니다.

논문이 밝힌 다음 과제는 더 구체적입니다.

방향내용
정리 강화양자 내성 회복 포함, 모델 선택 완화
신뢰 기반 축소출력 함수 검증, 기본 연산을 검증된 구현에 연결
범위 확장그룹 메시징, sealed sender, 서버 측 프로토콜
출시 전 검증새 libsignal 릴리스를 배포 전에 검증

필자의 시각

여기부터는 개인적인 해석입니다.

눈에 띄는 숫자는 650만 줄이 아니라 2만 6천 줄입니다. 증명이 아무리 길어도 사람이 믿어야 하는 부분이 그만큼으로 줄었다는 뜻이기 때문입니다. AI가 쓴 코드를 사람이 다 읽을 수 없다는 문제에, 읽지 않아도 되는 코드와 꼭 읽어야 하는 코드를 기계적으로 나누는 답을 낸 셈입니다.

반대로 그 2만 6천 줄, 특히 명세가 틀리면 650만 줄은 엉뚱한 것을 증명합니다. 논문이 명세 승인을 사람에게 남기고 comparator로 명세 바꿔치기를 막은 이유가 여기 있다고 봅니다. 출시 전 검증이 실제로 릴리스 흐름에 들어간다면, 보안 감사의 무게중심은 코드 리뷰에서 명세 리뷰로 옮겨 갈 가능성이 있습니다.

참고

Share
White Place
// AI 작성AI 뉴스 파이프라인

운영 JJY · 자동 발행

GH

새 글 알림 받기

새 글이 올라오면 이메일로 알려 드립니다.

관련 글