Claude가 Anthropic 병합 코드 80% 이상 작성: 재귀적 자기개선 경고와 브레이크 페달 요구

핵심 요약

Anthropic이 6월 4일 Anthropic Institute 사이트에 "When AI builds itself(AI가 자신을 만들 때)"라는 글을 공개했습니다. Marina Favaro와 Anthropic 공동 창업자 Jack Clark이 함께 쓴 이 보고서의 핵심 주장은 단순하지만 묵직합니다. 2026년 5월 기준 Anthropic 코드베이스에 병합되는 코드의 80% 이상을 Claude가 작성했고, 2025년 2월 Claude Code가 리서치 프리뷰로 나오기 전에는 이 수치가 낮은 한 자릿수 퍼센트였다는 것입니다. Clark은 같은 날 CNN 인터뷰에서 지금 타고 있는 차에는 가속 페달만 있고 브레이크 페달이 없다고 말했고, 보고서는 재귀적 자기개선(RSI)에 대비해 프런티어 AI 개발을 늦추거나 일시 중단할 수 있는 선택지와 이를 검증할 국제 조율 장치가 필요하다고 주장합니다.

관련 글: Anthropic 비공개 S-1 제출: $965B에서 시작된 IPO 카운트다운

재귀적 자기개선이란 무엇인가

재귀적 자기개선(Recursive Self-Improvement, RSI)은 AI 시스템이 자신의 후속 모델을 완전히 자율적으로 설계하고 개발할 수 있게 되는 상태를 말합니다. 개념 자체는 수십 년 전부터 AI 이론서에 등장했지만 Anthropic은 이 단계를 더 이상 먼 미래의 가설로만 보지 않습니다.

보고서에 따르면 Anthropic은 이미 AI 개발 작업의 점점 더 큰 몫을 AI 시스템 자신에게 맡기고 있고, 그만큼 작업 속도가 빨라지고 있습니다. Claude가 작성한 코드가 다음 Claude를 만드는 Anthropic 코드베이스에 병합되는 구조입니다. 보고서는 에이전트가 스스로 모델을 만들고 훈련할 수 있게 되는 미래 단계를 "루프를 닫는 것(Closing the loop)"이라고 부릅니다. 완전한 RSI는 이 루프에서 인간의 역할이 크게 줄어든 상태를 의미합니다.

보고서는 "우리는 아직 거기에 도달하지 않았다"고 명시합니다. 하지만 바로 이어서 "대부분의 기관이 대비하고 있는 것보다 더 빨리 올 수 있다"고 덧붙입니다.

숫자로 보는 현재

Anthropic이 공개한 수치는 추상적 경고가 아닙니다. 회사 내부에서 집계한 데이터입니다.

코드 비율 80% 돌파: 2025년 2월 Claude Code가 리서치 프리뷰로 출시되기 전, Claude가 작성한 코드 비율은 낮은 한 자릿수 퍼센트였습니다. 2026년 5월 기준으로는 Anthropic 코드베이스에 병합되는 코드의 80% 이상을 Claude가 작성했습니다.

엔지니어 1인당 코드량 8배: Anthropic 엔지니어는 평균적으로 2021~2025년보다 분기당 8배 많은 코드를 배포하고 있습니다. 다만 보고서 스스로 코드 줄 수는 질보다 양을 재는 불완전한 지표이며, 8배라는 수치는 실제 생산성 향상을 거의 확실히 과대평가한다고 단서를 달았습니다. 그래도 가속이 일어나고 있다는 신호라는 것이 Anthropic의 해석입니다.

4월, 사람이면 4년 걸릴 작업: 2026년 4월 Claude는 특정 유형의 API 오류를 1,000분의 1 수준으로 줄이는 800개 이상의 수정 패치를 배포했습니다. 이 작업을 감독한 엔지니어는 사람이 했다면 4년이 걸렸을 것이라고 추산했습니다.

이 수치들은 벤치마크가 아니라 Anthropic 내부 데이터입니다. 다만 Tom's Hardware가 지적했듯 모두 회사가 자체 보고한 것으로, 외부 감사를 거치지 않았습니다.

브레이크 없는 차

Jack Clark의 비유는 직설적입니다. 보고서가 나온 6월 4일 밤 CNN 앵커 Anderson Cooper와의 인터뷰에서 그는 이렇게 말했습니다.

"우리가 몰고 있는 차를 내려다보면 가속 페달밖에 없습니다. 브레이크 페달이 없어요. 분명 미래의 어느 시점에는 그 선택지가 필요해질 수 있습니다."

Anthropic은 RSI가 불가피하다고 주장하지 않습니다. 보고서는 재귀적 자기개선이 불가피하지 않다고 명시하고, 앞으로 벌어질 일은 이 추세가 이어지는지, 그리고 이어진다면 우리가 무엇을 선택하는지에 달려 있다고 말합니다. 제동 장치 없이 계속 달릴지, 그 전에 멈출 수 있는 구조를 먼저 만들지의 선택이라는 문제 제기로 읽힙니다.

문제는 현재의 경쟁 구도입니다. 보고서는 감속이 가장 덜 신중한 행위자들이 기술적으로 따라잡게 만드는 결과로 끝나면 모두를 덜 안전하게 만들 수 있고, 한 연구소의 일방적 중단은 선두 주자만 바꿀 뿐이라고 봅니다. 개별 기업 차원의 자정이 구조적으로 어려운 이유입니다. Anthropic은 이 점을 인정하면서, 해결책으로 국제 조율을 제시합니다.

Anthropic의 제안: 국제 조율 메커니즘

Anthropic이 요구하는 것은 개발 중단 자체가 아닙니다. 필요할 때 늦추거나 멈출 수 있는 선택지를 확보하자는 것입니다.

보고서의 제안을 정리하면 크게 세 갈래입니다.

첫째, 검증 가능한 감속·일시정지 체계. Anthropic Institute는 다른 이들과 협력해 신뢰할 수 있는 감속이나 일시정지에 필요한 시스템을 만드는 연구와 활동을 하겠다고 밝혔습니다. 프런티어 개발사들이 전 세계 다른 개발사가 실제로 멈추거나 속도를 늦췄는지 검증하고, 악의적 행위자가 조율된 감속을 틈타 몰래 앞서 나가지 못하게 하는 시스템입니다. 보고서는 신뢰할 수 있는 일시정지라면 무엇이 이를 촉발하고 해제하는지, 누가 판정하는지도 정해야 한다고 지적합니다.

둘째, 정렬 연구와 사회가 따라잡을 시간. 보고서에는 "사회 구조와 정렬 연구가 기술 발전을 따라잡을 수 있도록 프런티어 AI 개발을 늦추거나 일시 중단할 수 있는 선택지를 갖는 것이 세계에 좋을 것"이라고 적혀 있습니다.

셋째, 여러 나라 프런티어 연구소의 동시 참여. 의미 있는 감속이나 일시정지를 위해서는 여러 나라의 프런티어급 연구소들이 같은 조건에서 멈추기로 합의하고, 서로 실제로 멈췄는지 검증할 수 있어야 합니다. Anthropic은 그런 시스템이 존재하고 다른 프런티어 개발사들도 검증 가능한 방식으로 동참한다면 자신들도 속도를 늦추거나 일시 중단할 것으로 예상한다고 밝혔습니다. Clark은 CNN 인터뷰에서 냉전 시기 경쟁국들이 핵 군비 경쟁의 일부를 안정시킨 전례를 들어 이런 협력이 가능하다고 말했습니다.

타이밍도 주목할 만합니다. 보고서가 나온 6월 4일, 미국 하원의원 Jay Obernolte와 Lori Trahan은 연방 AI 규제 틀을 담은 Great American AI Act 논의 초안을 공개했습니다(정식 발의 전). 이틀 전인 6월 2일에는 트럼프 대통령이 프런티어 모델 출시 전 최대 30일간 정부에 자발적으로 조기 접근을 제공하는 틀을 담은 행정명령에 서명했습니다. 앞서 검토된 초안에 있던 90일 사전 테스트 요구는 최종본에서 빠졌습니다. Anthropic의 제안은 이런 규제 논의의 흐름 속에서 나왔지만, 감속과 일시정지 선택지까지 거론했다는 점에서 한 걸음 더 나간 것입니다.

업계 반응

발표 이후 주목과 회의론이 모두 나왔습니다.

Tom's Hardware는 Anthropic이 그동안 공개되지 않았던 내부 수치를 근거로 내놓았다고 평가했습니다. 동시에 이 수치가 모두 자체 보고된 것이며 외부 감사를 거치지 않았고, 회사가 상장을 신청한 지 며칠 만에 나왔다는 점도 짚었습니다. 재귀적 자기개선을 다룬 곳이 Anthropic만은 아닙니다. Axios에 따르면 OpenAI도 2025년 12월 블로그에서 이를 잠재적으로 위험한 현상으로 다뤘습니다.

비판적 시각도 분명합니다. Scientific American에 따르면 Bentley University의 수학자 Noah Giansiracusa는 이것이 진짜 감속 요구라고 보지 않으며 감속 가능성은 전혀 없다고 말했습니다. 회의론자들에게 이런 발표는 Anthropic이 선두 경쟁을 계속하면서 규제의 시선을 프런티어로 끌어들이는 사업 전략으로 읽힐 수 있다는 것입니다. Georgia Tech의 Mark Riedl 교수는 Bluesky에 대형 AI 기업들이 모두 재귀적 자기개선 과대광고 열차에 올라타고 있다고 썼습니다.

Anthropic의 입장은 명확합니다. RSI가 가져올 이점(과학, 의료 등)은 실재하고, 위험도 실재한다는 것. 그리고 업계 전체가 그 선택 앞에 있다는 것.

전망

이 보고서가 나온 시점의 맥락을 보면 타이밍이 절묘합니다. Microsoft가 양자컴퓨팅 칩 Majorana 2를 선보이고 NVIDIA가 AI PC 칩을 공개한 같은 주에, 그리고 Apple이 Gemini 기반 Siri를 공개하기 나흘 전에 Anthropic은 가속이 아닌 제동 장치를 이야기했습니다.

RSI가 언제 어떤 형태로 현실화될지는 단언하기 어렵습니다. 다만 Anthropic 집계로 병합 코드의 80% 이상을 Claude가 이미 작성하고 있다는 점은 이 논의가 먼 미래의 이야기만은 아님을 보여 줍니다.

Anthropic은 앞으로 몇 달간 정책 입안자, 연구자, 시민사회, 다른 AI 기업과 이 문제를 논의하는 자리를 마련하고 그 결과를 공개하겠다고 밝혔습니다. 브레이크 페달을 만들자는 이 제안이 국제 사회에서 어떻게 수용될지는 2026년 하반기 AI 거버넌스 논의의 주요 의제 중 하나가 될 것으로 보입니다. 특히 Anthropic 자체가 IPO를 준비하고 있는 상황에서 이 발표가 어떤 파장을 가져올지도 지켜볼 부분입니다.

참고

• Anthropic Institute: When AI builds itself
• Tom's Hardware: Anthropic warns Claude AI is building itself faster than expected, calls for option to halt frontier development
• Axios: Anthropic warns AI could soon help build its own successors
• CNN Business: Anthropic warns that AI will soon be able to improve itself without human intervention
• Scientific American: Anthropic warns AI could soon start improving itself. Critics aren't convinced
• Tech Policy Press: Unpacking the Great American Artificial Intelligence Act of 2026
• UPI: Trump signs AI order
• Yahoo Finance(Reuters): Microsoft reveals new quantum chip made with AI