OpenAI도 직접 칩을 만든다 — 브로드컴과 손잡은 자체 AI 칩의 진짜 의미

무슨 일이냐면요

OpenAI가 드디어 자체 AI 칩을 공개했어요. 반도체 회사 브로드컴(Broadcom)과 함께 설계한 칩인데요. 지금까지 ChatGPT를 비롯한 OpenAI의 모든 AI는 엔비디아(NVIDIA) GPU 위에서 돌아갔거든요. 그런데 이제 자기들만의 맞춤형 칩을 만들기 시작한 거예요. 이건 단순한 신제품 발표가 아니라 AI 산업의 힘의 균형이 흔들리는 신호라서 주목할 만해요.

배경을 짚어볼게요. 지난 몇 년간 AI 붐의 진짜 승자는 모델 회사가 아니라 엔비디아였어요. 모두가 엔비디아 GPU를 사려고 줄을 섰고, 물량이 부족해 값은 천정부지로 뛰었죠. OpenAI 같은 회사는 매출의 어마어마한 몫을 '계산할 칩값'으로 쓰고 있어요. 이 상황에서 '남의 칩에만 의존하는 구조'를 깨고 싶은 건 너무 당연한 욕구예요.

맞춤형 칩이 뭐가 다른가요

GPU는 원래 게임 그래픽 처리용으로 나온 '범용' 칩이에요. 그래픽이든 AI든 두루 잘하도록 설계됐죠. 그런데 OpenAI처럼 AI라는 한 가지 작업만 어마어마하게 많이 돌리는 회사 입장에선, '딱 그 작업만 잘하는' 전용 칩을 만드는 게 더 효율적이에요. 이런 맞춤형 칩을 ASIC(Application-Specific Integrated Circuit, 특정 용도 전용 반도체)이라고 불러요. 전자레인지에 비유하면, 만능 오븐 대신 '데우기 버튼' 하나만 있는 기계가 그 작업엔 더 빠르고 전기도 덜 먹는 거랑 비슷해요.

특히 이번 칩은 학습(training)보다 추론(inference)에 초점이 맞춰진 걸로 알려졌어요. 추론이 뭐냐면, 다 만들어진 모델을 실제로 사용자 질문에 답하게 돌리는 단계예요. 모델 하나 학습은 어쩌다 한 번이지만, 추론은 사용자가 ChatGPT를 쓸 때마다 수십억 번씩 일어나거든요. 그러니 추론 비용을 조금만 낮춰도 전체 비용이 확 줄어요. 여기서 브로드컴의 역할이 중요해요. 브로드컴은 칩을 직접 파는 회사라기보다, 고객의 요구에 맞춰 ASIC을 함께 설계하고 칩끼리 빠르게 연결하는 네트워킹 기술에 강한 회사예요. 칩 하나의 성능만큼이나 '수만 개 칩을 얼마나 잘 묶느냐'가 AI 데이터센터의 승부처라서요. 실제 생산은 대만 TSMC가 맡는 구조고요.

업계 맥락

사실 OpenAI가 처음은 아니에요. 구글은 일찌감치 TPU라는 자체 칩을 만들어 써왔고, 아마존은 Trainium·Inferentia, 마이크로소프트는 Maia, 메타는 MTIA를 내놨어요. 큰 AI 회사들이 하나같이 '엔비디아 의존 탈출'을 위해 자체 실리콘으로 향하는 흐름인데, 이제 모델 1등 주자인 OpenAI까지 합류한 거예요. 그렇다고 엔비디아가 곧 무너진다는 얘긴 아니에요. 소프트웨어 생태계(CUDA)의 벽이 워낙 높거든요. 다만 '엔비디아 독점'에는 분명히 균열이 가고 있고, 그 틈에서 조용히 돈을 버는 곳이 브로드컴 같은 설계·생산 파트너들이에요.

한국 개발자·산업에게

한국 입장에선 메모리가 핵심 포인트예요. 이런 AI 칩은 HBM(고대역폭 메모리)을 잔뜩 붙여야 제 성능이 나오는데, HBM의 양대 강자가 바로 삼성전자와 SK하이닉스거든요. 누가 어떤 칩을 만들든, 그 위에 올라가는 고성능 메모리 수요는 계속 늘어요. 개발자 입장에서 당장 하드웨어를 만질 일은 없겠지만, '칩 공급처가 다양해지면 결국 계산 비용이 내려가고, AI API 가격과 가용성에 영향을 준다'는 점은 알아둘 가치가 있어요. 우리가 쓰는 AI 서비스의 원가 구조가 바뀌는 거니까요.

정리하면

한 줄로 정리하면 "모델 1등 주자도 결국 칩을 직접 만들기 시작했다 — AI 경쟁의 무대가 소프트웨어에서 실리콘으로 내려갔다"예요. 여러분은 이 자체 칩 흐름이 엔비디아 시대를 끝낼 거라고 보세요, 아니면 그래도 한동안은 엔비디아 천하가 이어질 거라고 보세요?