개인용 'AI 슈퍼컴' 특수 메모리 소캠 개발

CES서 공개한 AI PC '디지츠' 후속에 탑재용

젠슨 황 "모두가 개인용 AI 슈퍼컴 필요해질 것"

서버용은 HBM·엣지용은 SOCAMM '투트랙'

새 표준으로 반도체 메모리 업계 지각변동 예상

엔비디아가 '제2의 고대역폭메모리(HBM)'을 상용화하기 위해 삼성전자·SK하이닉스 등 메모리 반도체 회사들과 극비리에 접촉하며 협의하고 있는 것으로 확인됐다. 엔비디아가 '개인용 인공지능(AI) 슈퍼컴퓨터' 대중화에 필요한 특수 D램 모듈을 만드는 것인데 젠슨 황 엔비디아 최고경영자(CEO)가 이에 성공할 경우 메모리 반도체 업계에 또 한 번 지각변동을 일으킬 것으로 전망된다.

16일 반도체 업계에 따르면 엔비디아는 자체 메모리 표준인 'SOCAMM(Small Outline Compression Attached Memory Module)'을 만들고 삼성전자·SK하이닉스·마이크론 등과 상용화 가능성을 협의하고 있다. 이 사안에 정통한 업계 관계자는 "현재 엔비디아와 메모리 회사들이 SOCAMM 시제품을 교환하면서 성능 테스트를 하고 있다"면서 "이르면 올해 말쯤 양산까지 가능할 것으로 예상된다"고 말했다.

SOCAMM은 기존 소형 PC 및 노트북에 쓰이는 D램 모듈보다 '가성비'가 좋다. 기존 PC에는 SODIMM이라는 D램 모듈이 장착돼 범용 DDR4나 DDR5 D램을 쓰지만 SOCAMM은 기판 위에 저전력이 장점인 'LPDDR5X' D램을 얹기 때문에 전력 효율성이 뛰어나다.

차세대 노트북 PC용 D램 모듈로 각광받는 저전력 모듈 LPCAMM보다 큰 장점도 있다. D램과 전자기기 사이에서 신호를 전달하는 통로인 '출입구(I/O)'의 수가 훨씬 많기 때문이다. 일반 PC용 D램 모듈의 정보 출입구 수가 260개였다면 LPCAMM은 644개, SOCAMM은 이보다 많은 694개다. AI 컴퓨팅의 최대 난제였던 데이터 병목 현상을 다른 모듈보다 훨씬 수월하게 해결할 수 있는 셈이다.

SOCAMM이 '탈부착' 모듈이라는 점도 중요 포인트다. 업그레이드되는 메모리 모듈을 쉽게 갈아 끼워 PC 자체의 성능을 계속 개선할 수 있기 때문이다. 게다가 크기도 작다. 성인 중지 손가락 만한 크기로 다른 D램 모듈보다 압도적으로 작아 동일 면적에 더 많은 D램 모듈을 장착해 전자기기의 D램 용량을 극대화할 수 있다.

SOCAMM에는 누구나 쉽게 AI를 활용하기를 바라는 황 CEO의 꿈이 담겨 있다. 그는 지난 달 'CES 2025'에서 AI PC인 '디지츠(Digits)'를 처음 공개했다. 손바닥 만한 PC로 개인화된 AI 모델을 만들 수 있는 세상을 구현한다는 목표다.

AI 엔지니어들은 지금까지 아마존(AWS) 등 대형 AI 인프라를 갖춘 회사들이 주도하는 질서를 따라왔다. 빅테크들이 갖고 있는 AI 서버를 빌리거나 이들이 보유한 AI 클라우드를 이용해 AI 모델을 개발하다 보니 대형 데이터센터를 갖고 있는 기업에 대한 의존도가 높고 비용 문제도 만만치 않았다.

황 CEO는 "미래에는 엔지니어, 예술가, 컴퓨터를 도구로 사용하는 모두가 개인용 AI 슈퍼 컴퓨터가 필요해질 것"이라고 단언했다. 이를 위해 엔비디아는 디지츠 첫 제품에는 개별 LPDDR을 활용하고 차기 제품에 4개의 SOCAMM 모듈을 적용하는 전략을 세운 것으로 알려졌다.

엔비디아의 계획이 실현될 경우 SOCAMM은 제2의 HBM이 될 것으로 기대된다. 엔비디아는 AI용 GPU 사업에서 구글·메타 등 빅테크를 상대로 한 서버용 GPU에 주력해왔다. 여기에 쓰이는 고성능 메모리가 HBM이다. 황 CEO가 기업간거래(B2B) 영역인 서버 시장은 물론 일반 소비자를 겨냥한 온디바이스 AI 영역까지 공략하면서 SOCAMM은 HBM만큼 강력한 파급력을 갖게 되는 것이다.

엔비디아가 SOCAMM 표준을 독자 추진하는 것도 주목할 만하다. 한 업계 관계자는 "메모리 표준은 다수의 PC·메모리·서버 업체가 국제반도체표준협의기구(JEDEC)에서 머리를 맞대고 정해왔는데 엔비디아는 독자 메모리 표준을 추진하고 있다"며 "혁신과 영향력에 대한 자신감이 묻어난다"고 설명했다.

SOCAMM의 출현으로 삼성전자·SK하이닉스뿐만 아니라 국내 기판 업체들도 영향권에 들 것으로 보인다. 심텍·티엘비 등이 SOCAMM용 기판 공급을 위해 긴밀히 협력하는 것으로 알려졌다.