Barron의 선임 작가인 김태(Tae Kim)의 최근 소셜 미디어 게시물에 따르면, 엔비디아가 판매하는 H100 GPU 가속기 한 대당 최대 1,000%의 수익을 올리고 있다고 추정합니다.

달러로 환산하면 각각에 대해 약 25,000달러에서 30,000달러에 이르는 엔비디아의 고성능 컴퓨팅(HPC) 가속기(가장 저렴한 PCIe 버전의 경우) 시중 가격이 칩 및 주변(인보드) 구성 요소당 약 3,320달러의 비용을 충당하고도 남는다는 뜻입니다.

김은 금융 컨설팅 회사인 레이몬드 제임스의 H100 칩당 예상 비용 3,320달러를 인용했습니다. 그러나 이 원가 분석이 얼마나 심층적인지는 불분명합니다. 순수한 제조 원가(수율을 고려하면서 웨이퍼 및 기타 구성 요소당 가격의 평균)의 문제라면, 엔비디아가 각 판매로 충당할 수 있는 비용 마진이 여전히 상당합니다.

제품 개발에는 시간과 리소스가 필요하며, H100과 같은 제품의 제품 개발 라이프사이클에 참여하는 엔지니어 및 기타 참여자를 고려하면 최종 평균 제품 개발 비용에 도달하기 전에 Nvidia의 R&D 비용도 고려해야 합니다. Glassdoor에 따르면 전자 하드웨어 엔지니어의 평균 연봉은 약 20만 2,000달러입니다. 이는 엔지니어 한 명의 연봉이며, H100과 같은 칩을 개발하려면 여러 명의 전문 인력이 수천 시간을 투입해야 할 가능성이 높습니다. 이 모든 것을 고려해야 합니다.

그럼에도 불구하고 AI 가속 워크로드의 포스터 회사로서 이점이 있다는 것은 부인할 수 없습니다. 모든 설명에 따르면, 엔비디아 GPU는 선반에 쌓여 있는 랙을 직접 만져보지도 못한 채 선반에서 날아가고 있습니다. 특히 이 글은 AI HPC 붐의 이면에 있는 물류가 정확히 무엇을 의미하는지 이해하려는 모든 분들에게 최고의 놀이터가 될 것으로 보입니다. 하지만 실제로는 2024년까지 엔비디아의 AI 가속 제품 주문이 이미 완료된 것으로 보입니다. 그리고 2027년까지 AI 가속기 시장이 약 1,500억 달러에 달할 것으로 예상되는 만큼, 앞으로의 미래는 녹색으로만 가득 차 있는 것 같습니다.

물론 이러한 호황은 일부 업체에게만 해당되는 것이 아니라 다른 업체에게도 해당됩니다. 전통적인 HPC 설치에 비해 AI 서버에 대한 관심이 폭발적으로 증가함에 따라 DDR5 제조업체들은 새로운 메모리 제품이 시장에 얼마나 침투할지에 대한 기대치를 수정해야 했습니다. 이제 DDR5 채택률은 2024년 3분기가 되어서야 DDR4와 패리티를 이룰 것으로 예상됩니다.