미니 인텔 제온 6, 4년간의 MLPerf 결과에서 최대 17배의 AI 성능 향상 제공
- PatGelsinger
- 조회 수 139
- 2024.08.30. 12:25
오늘, ML커먼스는 업계 표준 AI 성능 벤치마크 제품군인 MLPerf Inference v4.1의 결과를 발표했습니다. 인텔은 5세대 인텔 제온 스케일러블 프로세서와 처음으로 성능 코어(P코어)가 탑재된 인텔 제온 6 프로세서에 대한 6개의 MLPerf 벤치마크 결과를 제출했습니다. P-코어가 탑재된 인텔 제온 6 프로세서는 5세대 제온 프로세서와 비교해 AI 성능에서 약 1.9배의 지오메인 성능 향상을 달성했습니다.
“최신 MLPerf 결과는 AI 성능 향상을 위해 지속적인 투자와 리소스가 얼마나 중요한지 보여줍니다. 지난 4년간 인텔은 MLPerf를 기반으로 인텔 제온 프로세서의 AI 성능 기준을 최대 17배까지 끌어올렸습니다. 올해 말 일반 출시를 앞두고 있는 제온 6는 고객 및 파트너와 함께 더욱 발전할 것으로 기대한다"고 인텔 부사장 겸 데이터센터 및 AI 소프트웨어 총괄 매니저인 팔라비 마하잔은 말했습니다.
AI 시스템은 다양한 시나리오에서 솔루션을 성공적으로 배포하기 위한 핵심 구성 요소로서 CPU를 필요로 합니다. 인텔 제온은 고전적인 머신 러닝 및 벡터 검색 임베딩을 포함한 AI 추론을 위한 훌륭한 솔루션을 제공합니다.
인텔은 MLPerf 추론 v4.1을 통해 5세대 인텔 제온 프로세서와 ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 및 GPT-J의 P-Core를 탑재한 제온 6 프로세서를 제출했습니다. 5세대 인텔 제온에 비해 제온 6은 이 6가지 벤치마크에서 평균 약 1.9배 더 나은 AI 추론 성능을 제공합니다. 인텔은 계속해서 MLPerf에 CPU 결과를 제출하는 유일한 서버 프로세서 벤더입니다.
지난 4년 동안 인텔은 MLPerf 결과를 처음 제출한 이후 CPU를 통해 AI 성능에서 상당한 성과를 거두었습니다. 2021년 3세대 인텔 제온 스케일러블 프로세서와 비교했을 때, 제온 6는 자연어 처리(BERT)에서 최대 17배, 컴퓨터 비전(ResNet50) 워크로드에서 최대 15배 더 나은 성능을 발휘합니다. 인텔은 CPU 로드맵을 위해 AI에 지속적으로 투자하고 있습니다. 예를 들어, 인텔은 새로운 데이터 유형과 효율성 향상을 통해 인텔 고급 매트릭스 확장(AMX)으로 혁신을 계속하고 있습니다.
최신 MLCommons 벤치마크는 제온 프로세서가 주문자 상표 부착 생산업체(OEM)에 강력한 CPU AI 서버 솔루션을 제공하는 방법을 강조합니다. AI 컴퓨팅의 필요성이 커지고 많은 고객이 엔터프라이즈 워크로드와 함께 AI 워크로드를 실행함에 따라, OEM은 고객에게 AI 워크로드에 최적화된 고성능 제온 시스템을 제공하기 위해 MLPerf 제출의 우선순위를 정하고 있습니다.
인텔은 이번 라운드에서 Cisco, Dell Technologies, HPE, Quanta, Supermicro 등 5개의 OEM 파트너가 MLPerf를 제출할 수 있도록 지원했습니다. 각 고객은 5세대 제온 스케일러블 프로세서를 통해 다양한 AI 워크로드 및 배포에 대한 시스템의 지원을 보여주는 MLPerf 결과를 제출했습니다.
인텔은 9월에 있을 출시 행사에서 P코어가 탑재된 제온 6 프로세서에 대한 자세한 정보를 제공할 예정입니다.
🥇미게 지박령
댓글
0