OpenAI, 첫 자체 추론 칩 'Jalapeño'를 브로드컴과 공개했어

무슨 일이 일어났나

OpenAI가 브로드컴과 같이 만든 첫 자체 칩 Jalapeño(할라피뇨)를 6월 24일 공식 발표했어. 모델을 새로 학습시키는 칩이 아니라, 이미 만든 모델이 사용자 질문에 답하는 과정, 그러니까 추론에 맞춘 가속기야. 설계부터 양산 직전 단계인 tape-out까지 9개월 걸렸고, 두 회사는 이걸 “역대 가장 빠른 ASIC 개발”이라고 불러.

왜 추론 전용으로 갔나

LLM을 돌리는 일은 크게 둘로 나뉘어. 모델을 만드는 학습, 그리고 만든 모델이 답을 내놓는 추론이야. Jalapeño는 뒤쪽만 맡아. OpenAI 입장에선 매일 들어오는 질문량이 워낙 많으니까, 답하는 비용을 깎는 게 직접적인 돈 문제거든. 그래서 메모리 이동, 네트워킹, 서빙 패턴처럼 추론에서 실제로 발목 잡는 부분에 맞춰 설계했어. 초기 테스트에선 전력당 성능이 지금 최고 수준 칩보다 꽤 낫다고 했는데, 이건 두 회사가 직접 잰 값이야.

어떤 의미인가

이건 OpenAI가 칩까지 직접 내려간다는 신호야. 지금까지 모델 회사들은 엔비디아 GPU를 사다 썼는데, OpenAI는 제품·모델에 이어 칩까지 자기 스택에 넣겠다는 거지. 2026년 말부터 마이크로소프트를 비롯한 파트너와 기가와트 규모 데이터센터에 깔고, 여러 세대에 걸쳐 늘려간다고 했어. 추론 단가가 내려가면 API 가격이나 서비스 운영 비용에도 영향이 갈 수 있는 부분이라 지켜볼 만해.

주의할 점

소비자가 살 수 있는 칩은 아니야. OpenAI가 자기 데이터센터에서 돌리려고 만든 거야. 그리고 전력당 성능이 낫다는 것도, 개발이 역대 가장 빨랐다는 것도 전부 OpenAI·브로드컴 본인들 발표라 아직 독립 검증은 없어. 진짜 성능은 2026년 말 실제로 깔려서 돌아가기 시작해야 밖에서 확인할 수 있어. 급하게 결론 낼 일은 아니야.