IBM은 10일 데이터센터에서 생성형 AI 모델의 학습과 추론 연산 속도를 획기적으로 향상시킬 수 있는 차세대 광학 기술을 발표했습니다.

이 기술은 기존의 전선 기반 단거리 통신을 보완하는 새로운 공동 패키지형 광학(Co-Packaged Optics, CPO) 기술로, 데이터센터 내부 연결 속도를 빛의 속도로 대폭 향상시킬 수 있는 새로운 공정입니다.

현재 전 세계 통신 트래픽의 대부분은 광섬유 기술을 사용합니다. 광섬유 기술은 전기 대신 빛을 사용해 장거리 데이터 전송을 빠르게 처리할 수 있습니다. 데이터센터의 경우 외부 통신 네트워크에는 광섬유를 사용하지만, 내부 통신 네트워크는 여전히 구리선을 사용하는 경우가 많습니다.

데이터센터 내부 통신은 짧은 거리(보통 1미터 이내)에서 이루어지기 때문에 구리선의 속도와 전력 손실 문제가 상대적으로 덜 중요하게 여겨졌고, 비용 측면에서 구리선이 선호됐습니다. 그러나 구리 전기선을 사용하는 GPU 가속기는 학습 과정에서 다른 장치의 데이터를 기다리느라 절반 이상의 시간을 유휴 상태로 보내게 되며, 이로 인해 상당한 비용과 에너지가 소모된다는 문제점이 있었습니다.

CPO는 모듈 외 통신을 전기에서 광학으로 대체할 수 있는 가능성을 제공함으로써 AI의 증가하는 성능 요구 사항을 충족합니다. IBM은 CPO를 구동할 수 있는 폴리머 광학 도파관(Polymer Optical Waveguide, PWG)을 최초로 설계해 공개했습니다.

CPO를 통해 전기 배선 대비 전력 소비를 5배 이상 축소하고, 전기 배선 대비 거대언어모델 학습 속도를 최대 5배 향상시킬 수 있을 것으로 기대됩니다. 또, 데이터센터 간 케이블 연결 길이를 기존 1미터에서 수백 미터로 확장하고, 거대언어모델 학습 시 미국 가정 약 5000가구에 해당하는 전력 소모량을 절감할 수 있을 것으로 예상됩니다.