이러한 맞춤형 그래픽 카드의 주요 용도는 크립토마이닝이 아니라 상당한 연산 능력과 메모리 용량을 필요로 하는 대규모 언어 모델 및 기타 생성 AI 모델을 훈련하는 것입니다.

트윗 원본에는 사진이나 실물 증거가 포함되어 있지 않지만, RTX 4090D의 메모리 대역폭이 GDDR6X 메모리 속도와 일치하는 937GB/s임을 확인할 수 있습니다. 48GB 메모리 용량은 일반적으로 RTX ADA 워크스테이션 시리즈에서 볼 수 있는 AD102 GPU와 함께 사용할 수 있지만, GDDR6 표준을 사용합니다. 이는 48GB RTX 4090D의 메모리가 더 빠르다는 것을 의미합니다.

 

또한 소프트웨어 출력에는 일반적으로 16GB의 GDDR6X 메모리를 갖춘 GeForce RTX 4080 SUPER가 나열되어 있습니다. 하지만 클라우드 컴퓨팅 서비스에서는 32GB 메모리가 설치된 맞춤형 4080 카드를 제공하는 것으로 보입니다.

 

이와 같은 메모리 개조는 특히 메모리 교체가 일상적인 작업인 모딩 커뮤니티와 GPU 서비스 센터에서 드물지 않습니다. 하지만 클라우드 컴퓨팅 플랫폼에서 이러한 개조된 그래픽 카드의 인스턴스를 제공한다는 사실은 대규모 공급과 맞춤형 보드 설계의 사용을 시사합니다.

 

RTX 4090D는 일반적으로 12개의 메모리 모듈만 지원하지만, 24개의 모듈을 지원하는 RTX 3090 Ti의 PCB를 RTX 4090D의 AD102 GPU와 함께 사용할 수 있습니다. 이 솔루션을 사용하면 메모리 용량을 두 배로 늘릴 수 있습니다. 즉, 한 회사에서 이 업그레이드를 위해 AD102 GPU가 장착된 커스텀 RTX 3090 Ti PCB를 사용하고 있는 것으로 보입니다.