IBM, 차세대 CPO 기술로 데이터센터 혁신 이끈다

IBM의 차세대 광통신 기술, 데이터센터의 미래를 바꾸다

   IBM은 생성형 인공지능(AI)과 데이터센터의 미래를 새롭게 정의할 수 있는 혁신적인 기술, 공동 패키지형 광학(CPO) 기술을 발표했습니다. 이번 기술은 데이터센터 내 통신 속도를 획기적으로 향상시키고, 에너지 효율을 극대화할 것으로 기대됩니다. IBM이 발표한 차세대 CPO 기술과 그 잠재력을 자세히 살펴보겠습니다.

728x90

728x90

---

   CPO 기술의 핵심: 빛의 속도로 데이터를 연결하다

   IBM은 기존의 전선 기반 단거리 통신을 보완하는 새로운 CPO 기술을 통해 데이터센터 내부 통신의 속도를 빛의 속도로 끌어올릴 수 있는 기술을 선보였습니다.

 

   핵심 기술 중 하나는 폴리머 광학 도파관(PWG)으로, 이 기술을 활용해 칩, 회로 기판, 서버 간의 데이터를 고속으로 전송할 수 있는 방식을 공개했습니다.

 

   이 새로운 기술은 대규모 AI 학습 과정에서 데이터를 기다리는 GPU 가속기의 유휴 시간을 줄여주며, 더 나아가 에너지 소모와 비용을 절감할 수 있습니다.

 

---

   데이터센터의 현재와 CPO 기술의 필요성

• 현재 데이터센터는 외부 통신에는 광섬유를 사용하지만
• 내부 통신에는 여전히 구리선 기반 전선이 주로 사용되고 있습니다.
• 구리선은 대규모 데이터 처리에 있어 속도와 에너지 효율성에서 한계를 드러내고 있습니다.
• 특히, 대규모 생성형 AI 모델 학습 과정에서 GPU 가속기들은 다른 장치의 데이터를 기다리느라
• 상당한 시간을 유휴 상태로 보내며, 이는 전체적인 성능 저하로 이어집니다.
• IBM의 CPO 기술은 이러한 한계를 극복하고 더 효율적이고 빠른 내부 통신을 가능하게 합니다.

---

 

CPO 기술의 혁신적인 성능: 5배 향상된 속도와 에너지 효율

• CPO 기술의 도입으로 데이터센터 통신의 대역폭은 크게 확장되며,
• GPU의 유휴 시간은 대폭 줄어들 것으로 보입니다.
• IBM에 따르면, 중급 전기 배선 대비 전력 소비를 5배 이상 줄이고
• 데이터센터 간의 케이블 연결 길이를 기존 1미터에서 수백 미터로 확장할 수 있습니다.
• 이를 통해 대형 언어 모델(LLM)의 학습 속도가 최대 5배 빨라지며,
• 일반적인 LLM 학습 시간을 3개월에서 3주로 단축할 수 있습니다.

---

   지속 가능성과 에너지 효율성의 향상

• CPO 기술은 데이터센터의 에너지 효율성을 크게 개선할 것으로 보입니다.
• IBM은 이 기술을 통해 LLM 학습 시 모델당 미국 가정 약 5,000가구의 연간 전력 소비량에 해당하는 에너지를 절감할 수 있다고 발표했습니다.
• 이는 데이터센터가 더 큰 모델을 더 빠르게 학습시키면서도 에너지 소비를 줄이고,
• 지속 가능한 컴퓨팅 환경을 제공할 수 있다는 점에서 매우 중요한 전환점이 될 것입니다.

---

   미래 데이터센터와 AI의 새로운 시대

   IBM 리서치 연구개발 책임자 다리오 길은 CPO 기술이 데이터센터를 미래에 대비하도록 만들 것이라고 강조했습니다.

"미래의 칩은 광섬유를 통해 데이터를 전달하며, 새로운 AI 워크로드를 처리할 수 있는 더 빠르고 지속 가능한 통신 시대를 열 것이다."

 

   이 기술은 데이터센터의 한계를 뛰어넘고, 생성형 AI가 요구하는 막대한 에너지와 처리 능력을 충족시킬 혁신적인 해결책이 될 것입니다.