소식 AMD, 클라우드 및 엔터프라이즈용 새로운 AI 가속기 및 APU 공개
- BarryWhite
- 조회 수 97
- 2023.12.07. 17:00
AMD는 화요일 자사의 어드밴싱 AI 행사에서 인공지능(AI)과 고성능 컴퓨팅(HPC)을 위한 최신 제품과 기술을 발표하고 빠르게 성장하는 시장에서 엔비디아와 인텔 같은 경쟁사의 우위에 도전하는 것을 목표로 하고 있습니다.
이 칩 제조업체는 생성 AI를 위해 업계 최고의 메모리 대역폭을 제공하고 LLM(Large Language Model) 훈련 및 회의를 위해 최상위 성능을 제공하는 AMD 인스팅트 MI300 시리즈 가속기를 공개했습니다. 이 회사는 또한 최신 AMD CDNA 3 아키텍처와 "Zen 4" CPU를 결합한 AMD Instonct MI300A 가속 처리 장치(APU)를 도입하여 HPC 및 AI 워크로드에 획기적인 성능을 제공하도록 설계되었습니다.
고객 및 파트너 채택
AMD의 최신 인스팅트 가속기 포트폴리오를 활용하는 고객 중에는 최근 새로운 애저 ND MI300x v5 가상 머신(VM) 시리즈를 발표한 마이크로소프트(Microsoft Corp.)가 있으며, 이 시리즈는 AI 워크로드에 최적화되어 AMD 인스팅트 MI300X 가속기에 의해 구동됩니다. 게다가, AMD Instinct MI300A APUs에 의해 구동되고 로렌스 리버모어 국립 연구소에 위치한 엘 캐피탄은 AMD에 의해 구동되는 두 번째 엑사스케일급 슈퍼컴퓨터가 될 것으로 예상되며, 완전히 전개될 때 2배 이상의 정밀도 성능을 제공합니다. 오라클은 또한 회사의 AI용 고성능 가속 컴퓨팅 인스턴스에 AMD Instinct MI300X 기반 베어 메탈 인스턴스를 추가할 계획이며, MI300X 기반 인스턴스는 초고속 RDMA 네트워킹이 포함된 OCI Supercluster를 지원할 계획입니다.
몇몇 주요 OEM 업체들도 AMD 어드밴싱 AI 행사와 함께 가속 컴퓨팅 시스템을 선보였습니다. Dell Technologies Inc.는 AMD Instinct MI300 Series 액셀러레이터 8대를 갖춘 Dell PowerEdge XE9680 서버와 AMD ROCm 기반 AI 프레임워크를 갖춘 새로운 Dell Validated Design을 전시했습니다.
Hewlett Packard Enterprise Co.는 AMD Instinct MI300A APUs로 구동되는 최초의 슈퍼컴퓨팅 가속기 블레이드인 HPE Cray Supercomputing EX255a를 2024년 초에 출시할 예정이라고 발표했습니다. Lenovo Group Ltd는 2024년 상반기에 계획된 가용성을 갖춘 새로운 AMD Instinct MI300 Series 액셀러레이터에 대한 설계 지원을 발표했습니다. Super Micro Computer Inc.는 4세대 AMD EPYC CPU와 AMD Instinct MI300 시리즈 가속기로 구동되는 H13 세대의 가속 서버에 새로운 추가 사항을 발표했습니다.
제품 특징 및 사양
AMD Instinct MI300X 가속기는 새로운 AMD CDNA 3 아키텍처를 통해 구동되며, 거의 40% 더 많은 컴퓨팅 유닛, 1.5배 더 많은 메모리 용량, 1.7배 더 높은 최대 이론 메모리 대역폭뿐만 아니라 FP8 및 희소성과 같은 새로운 수학 형식을 지원하며, 모두 AI 및 HPC 워크로드에 적합합니다. 세계 최초의 HPC 및 AI용 데이터 센터 APU인 AMD Instinct MI300A APUs는 3D 패키징과 4세대 AMD Infinity Architecture를 활용하여 HPC와 AI가 융합된 중요 워크로드에서 선도적인 성능을 제공합니다.
AMD 인스팅트™ | 건축 | GPU CU | CPU 코어 | 기억 | 메모리 대역폭 (피크 이론) |
프로세스 노드 | 3D 포장(4개 포함)그 Gen AMD Infinity Architecture |
MI300A | AMD CDNA™ 3 | 228 | 24 "젠 4" | 128GB HBM3 | 5.3 TB/s | 5nm/6nm | 네. |
MI300X | AMD CDNA™ 3 | 304 | 해당 없음 | 192GB HBM3 | 5.3 TB/s | 5nm/6nm | 네. |
플랫폼 | AMD CDNA™ 3 | 2,432 | 해당 없음 | 1.5 TB HMB3 | 5.3 TB/s per OAM | 5nm/6nm | 네. |
소프트웨어 및 에코시스템 업데이트
AMD는 또한 최신 AMD ROCm 6 오픈 소프트웨어 플랫폼과 오픈 소스 커뮤니티에 최첨단 라이브러리를 기여하겠다는 회사의 약속을 발표하여 오픈 소스 AI 소프트웨어 개발에 대한 회사의 비전을 더욱 높였습니다. AMD는 노드 인수를 통해 소프트웨어 역량에 대한 투자를 지속하고 있습니다.AI와 Mipsology는 물론 Lamini, MosaicML과 같은 전략적 생태계 파트너십을 통해서도 가능합니다.