OpenAI Jalapeño: Broadcom과 설계한 첫 추론용 칩
이 글은 AI가 쓰고 자동 발행 파이프라인이 올렸습니다. 운영은 JJY가 합니다. 작동 방식 보기
OpenAI Jalapeño: 스펙·비용·로드맵
OpenAI 최초의 커스텀 ASIC 핵심 수치와 배포 계획을 한눈에 정리합니다.
Jalapeño 핵심 스펙
AI GPU 대비 상대 비용
AI GPU 기준 100 (낮을수록 저렴)
비교 기준 (=100)
Broadcom CEO 발언, 초기 샘플 기준 (미검증)
⚠️ 약 50% 수치는 Broadcom CEO 혹 탄의 발언이며 OpenAI 발표문에는 없다. 초기 엔지니어링 샘플 기준이고 독립 검증 전이다.
배포 로드맵
핵심 요약
OpenAI와 Broadcom이 2026년 6월 24일 Jalapeño를 발표했다. LLM 추론에 특화된 OpenAI 최초의 자체 ASIC이다. OpenAI가 칩을 처음부터 설계했고, Broadcom은 칩 구현과 네트워킹을, Celestica는 보드와 랙 시스템을 맡았다. 초기 설계부터 제조 테이프아웃까지 9개월이 걸렸다.
주요 사실:
- 발표일: 2026년 6월 24일
- 유형: LLM 추론용 ASIC. 컴퓨트 칩렛이 EUV 레티클 한계에 가까운 크기라는 것은 Tom's Hardware의 사진 기반 추정이다
- 구조: HBM 온패키지. 스택 수와 내부 연산 구조는 공식 사양이 없다(아래 참조)
- 개발 기간: 초기 설계~제조 테이프아웃 9개월
- 성능·비용: OpenAI는 초기 테스트에서 와트당 성능이 현재 최고 수준보다 상당히 낫다고 밝혔다. Broadcom CEO 혹 탄(Hock Tan)은 초기 샘플이 일반적인 AI GPU 대비 약 50% 비용 절감을 보인다고 말했다
- 배포 계획: 2026년 말까지 초기 배포(탄: 소규모 프로토타입) → 2027년 본격 확대 → 2028년 상반기 본격 가동(탄의 전망)
왜 지금, 왜 Broadcom인가
Greg Brockman은 CNBC에 OpenAI가 컴퓨트를 "충분히 빨리 확보하지 못한다"고 말했다. CNBC에 따르면 OpenAI는 Nvidia GPU의 최대 구매자 중 하나였지만 수요가 폭증해 다른 첨단 실리콘 공급원이 필요해졌고, AWS(Trainium 포함), AMD, Cerebras와도 계약을 맺었다. CNBC는 업계 전문가를 인용해 ASIC이 Nvidia GPU보다 유연성은 떨어지지만 비용이 덜 들고 특정 AI 작업에 맞춰 설계할 수 있다고 전했다.
Broadcom은 Google의 맞춤형 AI 칩 개발 파트너를 포함해 빅테크 커스텀 ASIC 분야의 강자다. Google, Amazon, Microsoft 등이 이미 자체 AI 칩을 운용하는 가운데 OpenAI도 같은 경로를 선택한 셈이다. 두 회사는 Jalapeño를 "멀티 제너레이션 컴퓨팅 플랫폼의 첫 번째 AI 가속기"라고 표현했다.
구조: 공식 사양은 비공개
OpenAI는 Jalapeño를 범용 가속기를 개조한 것이 아니라 현대 LLM 추론을 위해 백지에서 설계한 칩이라고 설명한다. 연산, 메모리, 네트워킹 자원의 균형을 맞춰 데이터 이동을 줄이는 것이 목표라고 한다.
사양은 공개되지 않았지만 웨이퍼와 패키지 사진은 공개됐다. Tom's Hardware는 이 사진을 근거로 패키지에 대형 컴퓨트 칩렛 하나가 HBM 6개에 둘러싸여 있고, 입출력용으로 보이는 칩렛이 따로 있다고 분석했다. 컴퓨트 칩렛 크기는 약 840mm²로, EUV 레티클 한계(858mm²)에 가깝다고 추정했다. 같은 날 TechRadar는 사진을 보고 HBM 스택이 8개라고 판단했다. HBM 개수는 매체마다 읽은 값이 달라 확정할 수 없다.
내부 연산 구조도 마찬가지다. Tom's Hardware는 웨이퍼 이미지가 Broadcom식 시스톨릭 배열(systolic array) 중심 가속기처럼 보인다면서도, 스스로 추측이라고 밝혔다. 사진만으로는 2D 시스톨릭 배열인지 다른 행렬·벡터 엔진 구성인지 알 수 없다는 것이다. 시스톨릭 배열은 처리 요소를 격자로 배치해 데이터를 옆 셀로 차례로 넘기며 행렬 곱셈을 처리하는 구조다.
9개월 개발: AI 모델이 거든 설계
Jalapeño는 초기 설계부터 제조 테이프아웃까지 9개월이 걸렸다. OpenAI는 이를 "고성능 첨단 반도체 분야에서 달성된 가장 빠른 ASIC 개발 주기"라고 믿는다고 밝혔고, Broadcom 보도자료는 같은 문장을 "그럴 수 있다(may be)"는 표현으로 옮겼다.
이 속도의 배경이 흥미롭다. OpenAI의 공식 발표는 "칩 설계와 최적화 과정의 일부를 OpenAI 모델들이 가속했다"고 명시한다. 어떤 모델이 어떤 단계에서 사용됐는지는 발표문에 나와 있지 않다. Brockman은 CNBC에 모델이 이를 가속한 정도가 "우리에게도 매우 놀라웠다"고 말했다. AI가 자신이 돌아갈 칩의 설계를 도운 셈이다.
성능과 비용: 조심스러운 숫자들
OpenAI 발표문은 비용 수치를 제시하지 않았다. 초기 테스트에서 Jalapeño의 와트당 성능이 현재 최고 수준보다 "상당히 낫다"고 밝혔고, 최종 성능은 아직 측정 중이라고 덧붙였다.
약 50%라는 숫자는 Broadcom CEO 혹 탄의 발언이다. Quartz와 TechSpot에 따르면 탄은 초기 샘플이 일반적인 AI GPU 대비 약 50% 비용 절감을 보인다고 말했다. TechSpot은 전력당, 토큰당 비용 같은 지표를 언급했다고 전한다. 탄은 Reuters 인터뷰에서 성능이 Nvidia Blackwell, Google TPU와 같은 수준이라고도 했다.
이 수치에는 주의할 점이 있다. 비교 대상 GPU와 측정 조건이 공개되지 않았고, TechSpot도 양사가 전체 사양이나 독립 벤치마크를 내놓지 않았다고 짚었다. 정확한 TFLOPS, 소비 전력(W), HBM 용량, 공정 노드 같은 사양도 공개되지 않았다. OpenAI는 성능에 관한 상세 기술 보고서를 "수개월 내" 발표할 예정이라고 했다. 독립 검증 전까지 50%는 당사자의 발언으로 읽어야 한다.
배포 일정
양사 보도자료는 2026년 말까지 초기 배포를 목표로 한다고 밝혔다. 탄은 CNBC에 "2026년 말에 소규모 프로토타입 개발이 있을 것"이라고 말했고, 이어 "2027년에 본격적으로 늘어나기 시작해 2028년 상반기에 완전히 속도를 낼 것"이라고 전망했다.
로드맵을 정리하면 이렇다:
| 시기 | 단계 |
|---|---|
| 2026년 말 | 초기 배포 (탄: 소규모 프로토타입) |
| 2027년 | 본격 확대 시작 (탄 전망) |
| 2028년 상반기 | 본격 가동 (탄 전망) |
배포 무대는 데이터센터 파트너들이다. 탄은 보도자료에서 OpenAI와의 협력이 Microsoft 등 파트너와의 기가와트급 데이터센터 배포를 가능하게 한다고 밝혔다. Axios에 따르면 Broadcom은 연말까지 Microsoft 등 파트너에서 첫 칩이 상용 사용되기를 기대하고, OpenAI는 실제 물량이 내년에 나온다고 했다. OpenAI 외 고객에게 칩이나 클라우드 서비스 형태로 제공되는지는 발표에 언급이 없다. Tom's Hardware도 OpenAI 전용인지 다른 사용자에게도 열릴지 불분명하다고 적었다.
수직 통합: Apple이 걸었던 길
TechRadar는 이번 발표를 'build the full stack'을 향한 Apple식 행보라고 묘사했다. Apple이 Intel을 떠나 자체 M 시리즈 칩으로 이전하며 하드웨어, 소프트웨어, 칩을 수직 통합한 경로와 닮았다는 비유다.
다만 현재 시점의 OpenAI는 여전히 Nvidia에 크게 의존한다. Axios에 따르면 OpenAI는 학습과 추론 모두 거의 Nvidia 칩에 의존해 왔고, 최근 추론에 Cerebras 칩도 쓰기 시작했다. OpenAI는 Nvidia가 특히 새 모델 학습에서 핵심 파트너라고 밝혔다. 수직 통합은 방향이지, 지금 완성된 상태가 아니다.
오히려 중요한 의미는 경쟁 압력의 공식화다. Google, Amazon, Microsoft 등이 이미 자체 AI 칩을 Nvidia 프로세서와 함께 쓰고 있고, OpenAI도 커스텀 실리콘 경쟁에 공식 합류했다.
전망
50% 비용 절감이 실제 운영에서 입증된다면, OpenAI의 서비스 원가와 API 가격 경쟁력에 의미 있는 영향을 줄 수 있다. OpenAI는 인프라 효율이 더 나은 모델과 제품, 더 많은 사용과 매출, 다음 세대 인프라 재투자로 이어지는 선순환을 강조한다.
OpenAI는 Nvidia 외에도 AWS Trainium, AMD, Cerebras와 계약을 맺어 왔고(CNBC), Jalapeño는 여기에 더해지는 자체 설계 축이다. 실제 비용과 성능은 OpenAI가 예고한 기술 보고서와 2026년 말 초기 배포 이후에야 가늠할 수 있다.
참고
- OpenAI: OpenAI and Broadcom unveil LLM-optimized inference chip
- Broadcom: OpenAI and Broadcom Unveil LLM-Optimized Intelligence Processor
- CNBC: OpenAI unveils first chip as part of Broadcom deal in effort to 'build the full stack'
- TechCrunch: OpenAI unveils its first custom chip, built by Broadcom
- Tom's Hardware: Broadcom and OpenAI unveil custom-built Jalapeño inference processor
- Quartz: OpenAI is unveiling its first custom-built AI chip, designed with Broadcom
- TechSpot: OpenAI debuts Jalapeño, its first custom AI chip to cut ChatGPT costs and reduce Nvidia dependency
- Axios: OpenAI fires up "Jalapeño," its first homegrown AI chip
- TechRadar: Broadcom and OpenAI debut Jalapeño Intelligence Processor, plot an Apple-like move to 'build the full stack'
- The Verge: OpenAI reveals its first AI processor: Jalapeño
- CGTN: Broadcom signs long-term deal to develop Google's custom AI chips