고성능 AI 칩 시대의 떠오르는 별, CPO: 개념부터 시장 전망까지

 

CPO(Co-Packaged Optics)란 무엇인가?

CPO는 Co-Packaged Optics의 약자로, 광학 기술과 반도체 칩을 하나의 패키지에 통합하는 기술이에요. 기존에는 칩과 광학 모듈(데이터를 빛으로 변환해 전송하는 장치)이 따로 설계되고 연결되었지만, CPO는 이 둘을 한데 묶어 더 빠르고 효율적인 데이터 전송을 가능하게 합니다.

여기서 중요한 점은 구리선에서 광학 방식으로의 전환이에요. 예전에는 데이터 전송에 주로 구리선을 사용했어요. 구리선은 전기 신호를 통해 데이터를 주고받는데, 이 방식은 속도가 느리고 전력 소모가 크며, 거리가 길어질수록 신호 손실도 심해지죠. 반면 광학 방식은 빛(광섬유)을 이용해 데이터를 전송하는데, 훨씬 빠르고 손실도 적어요. CPO는 이런 광학 기술을 칩에 바로 통합해서 더 효율적으로 만든 거예요. 쉽게 말해, AI 칩이 엄청난 양의 데이터를 처리하려면 그 데이터를 빠르게 주고받아야 하는데, CPO는 구리선의 한계를 넘어 빛의 속도로 이를 해결하는 기술이에요.

예시:
NVIDIA의 Blackwell GPU와 함께 사용하는 CPO 기반 네트워킹 솔루션을 생각해보세요. 이 기술은 GPU와 광학 모듈을 통합해 데이터센터에서 수백만 개의 GPU가 서로 초고속으로 통신할 수 있게 해줍니다. 예를 들어, 대규모 언어 모델(LLM)을 훈련시키는 데 필요한 방대한 데이터를 실시간으로 처리하려면 이런 기술이 필수적이죠.

---

CPO가 왜 필요한가?

고성능 AI 칩의 등장으로 데이터 처리량과 속도에 대한 요구가 폭발적으로 늘어났어요. 특히 생성형 AI, 자율주행, 로보틱스 같은 분야에서는 초당 수십 테라바이트의 데이터를 처리해야 하죠. 여기서 구리선 기반의 전통적인 전기 신호 방식은 한계에 부딪혔어요. CPO가 필요한 이유를 정리하면:

1. 속도 향상: 구리선은 전기 신호로 데이터를 보내지만, 광학 기술은 빛으로 전송해 훨씬 빠릅니다. AI 작업에서 지연 시간(latency)을 줄이는 데 결정적이죠.
2. 전력 효율성: 구리선은 전력 소모가 크고 열도 많이 나는데, 광학 방식은 더 적은 전력으로 더 많은 데이터를 처리해요. 데이터센터 전력 비용이 갈수록 커지는 상황에서 큰 장점이에요.
3. 공간 절약: 칩과 광학 모듈을 통합하면 하드웨어 설계가 간소화되고 공간 활용도가 높아져요.

예를 들어, 클라우드 서비스 제공업체가 AI 모델을 실시간으로 실행하려면 수십만 개의 GPU가 연결되어야 하는데, 구리선으로는 속도와 효율성에서 한계가 뚜렷해요. CPO는 이 병목현상을 해결해줍니다.

---

젠슨 황이 CPO에 대해 뭐라고 했나?

NVIDIA의 CEO 젠슨 황은 CPO를 AI 인프라의 미래로 보고 있어요. 2025년 3월 GTC 키노트에서 그는 "우리는 더 이상 칩만 만드는 회사가 아니다. 이제는 수백억 달러 규모의 AI 인프라를 구축하는 회사"라며, CPO를 포함한 네트워킹 기술의 중요성을 강조했어요. 특히 그는 Blackwell Ultra와 Rubin 같은 차세대 칩 로드맵을 소개하면서, CPO 기반 네트워킹이 "AI 팩토리"라는 개념을 실현하는 데 핵심이라고 언급했죠.

황은 "최대 성능 대비 와트당 효율이 AI 팩토리의 수익을 결정한다"고 말했는데, 이는 구리선의 전력 낭비를 줄이고 광학 방식으로 효율을 극대화하는 CPO가 필수라는 뜻이에요. 그는 또 "수백만 개의 GPU를 연결하는 광학 네트워킹이 올해 말부터 출시될 것"이라며 구체적인 계획도 밝혔어요. 이건 NVIDIA가 단순히 칩 제조를 넘어 데이터센터 전체를 혁신하려는 야심을 보여줍니다.

---

현재와 앞으로의 시장 크기

AI 칩 시장은 CPO 같은 기술의 도입으로 급성장 중이에요. 2024년 기준, AI 칩 시장 규모는 약 316억 달러(USD)로 추정되며, 2035년까지 8468억 달러에 이를 것으로 전망돼요(연평균 성장률 CAGR 34.84%, Roots Analysis 보고서). 여기서 CPO는 네트워킹과 데이터 전송의 핵심으로, 전체 시장의 약 20~30%를 차지할 가능성이 높아요.

• 현재: NVIDIA, Intel, Broadcom 같은 기업들이 CPO 기술 개발에 앞장서고 있어요. 특히 NVIDIA는 Blackwell GPU와 함께 CPO를 상용화하며 시장을 선도 중이죠.
• 미래: 2026년 Rubin 칩 출시와 함께 CPO 기반 네트워킹이 본격화되면, 데이터센터와 클라우드 컴퓨팅 시장에서 CPO의 비중이 더 커질 거예요. 시장조사기관은 2030년까지 CPO 관련 시장이 500억 달러를 넘을 것으로 예측하고 있어요.

---

기업 현황과 트렌드

1. NVIDIA: CPO를 Blackwell과 Rubin 플랫폼에 통합하며 AI 인프라 시장을 장악하려는 중. 2025년 1월 CES에서 발표한 RTX 50 시리즈와 함께 CPO 기술도 주목받았어요.
2. Intel: 광학 통신 기술인 Silicon Photonics를 활용해 CPO 시장에 진입 중이에요.
3. Broadcom: 고속 네트워킹 솔루션으로 CPO 개발에 투자하며 경쟁 구도를 형성하고 있죠.
4. 스타트업: AI 칩과 네트워킹을 동시에 노리는 신생 기업들도 늘어나고 있어요. 예를 들어, Gretel 같은 합성 데이터 스타트업을 NVIDIA가 인수하며 생태계를 확장 중이에요.

현재 기업들은 CPO를 통해 AI 팩토리라는 새로운 개념을 현실화하려 하고 있어요. 이는 단순한 데이터센터가 아니라, AI 모델을 대규모로 훈련시키고 추론(inference)을 실행하는 특화된 환경을 뜻하죠.

---

마무리

CPO는 구리선의 한계를 넘어 광학 방식으로 데이터 전송을 혁신하며, 고성능 AI 칩 시대에 필연적으로 떠오르는 기술이에요. 젠슨 황의 비전처럼, 앞으로 AI가 산업 전반을 바꾸려면 이런 기술이 필수고, CPO가 그 중심에 설 거예요. 시장은 이미 뜨겁게 달아오르고 있고, NVIDIA 같은 리더 기업부터 신생 스타트업까지 모두 이 흐름에 뛰어들고 있죠.