소식 인텔 가우디2 가속기, MLPerf 4.0 GenAI 벤치서 NVIDIA H100 대비 성능 우위
- BarryWhite
- 조회 수 315
- 2024.03.28. 16:00
- 인텔의 최신 MLPerf v4.0 성능 수치는 가우디 2 가속기 및 5세대 제온 "에메랄드 래피즈" CPU의 성능을 보여줍니다. 가우디 2 가속기는 라마-70B 및 스테이블 디퓨전 XL과 같은 GenAI 워크로드에서 엔비디아의 H100 GPU에 비해 강력한 달러당 성능을 보여줍니다.
- 인텔은 OneAPI 프레임워크를 사용한 지속적인 소프트웨어 최적화 노력을 통해 인상적인 성능 향상을 이뤄냈습니다. NVIDIA H100 GPU와 비교했을 때, 가우디 2 가속기는 서버 및 오프라인 생성 작업에서 경쟁력 있는 성능을 제공합니다.
- 인텔이 진정으로 뛰어난 부분은 달러당 성능입니다. 가우디 2 가속기는 엔비디아 H100 솔루션에 비해 33% 더 나은 가치를 제공하므로 GenAI 워크로드를 위한 강력한 대안이 될 수 있습니다.
- 인텔은 퀄컴 및 구글과의 파트너십을 통해 AI 분야에서 엔비디아의 CUDA 지배력에 도전하는 것을 목표로 하고 있으며, 향후 더 많은 개선을 약속하고 있습니다.
- 곧 출시될 가우디 3 및 팔콘 쇼어 AI 가속기는 출시 시 견고한 소프트웨어 기반을 활용할 수 있습니다.
- 인텔의 5세대 제온 스케일러블 제품군(에메랄드 래피즈)은 다양한 워크로드에서 이전 세대 대비 최대 1.9배, 평균 42% 향상된 성능으로 상당한 성능 향상을 입증했습니다.
🥇소식게 수호자🥇미게 지박령🥉큰게 좋아🥇미코의 잡담왕🥈유게 공무원🥉할인 경보📝게시판 소유자✨️🥉에로게 심심이
댓글
0