소식 엔비디아, 블랙웰 GPU 공개...AI 성능 5배
- BarryWhite
- 조회 수 317
- 2024.03.19. 08:18
• 엔비디아(NVIDIA)가 차세대 블랙웰 GPU 아키텍처를 공개하며 AI 성능과 기능의 획기적인 도약을 약속했습니다. 블랙웰 GPU는 MCM(Multi Chip Module) 설계를 특징으로 하나의 다이에 두 개의 GPU를 결합하고 맞춤형 4NP TSMC 프로세스를 사용하여 제조됩니다.
• 블랙웰 GPU는 각 컴퓨팅 다이에 1,040억 개의 트랜지스터가 있고 두 다이에 걸쳐 총 2,80억 개의 트랜지스터가 있어 이전 호퍼 H100 GPU에 비해 5배 빠른 AI 성능을 제공합니다. 이는 칩당 20페타플롭의 AI 성능으로 변환되므로 자연어 처리, 이미지 인식 및 음성 인식과 같은 대규모 AI 워크로드에 이상적입니다.
• 또한 블랙웰 GPU는 마이크로 텐서 스케일링 지원과 고급 다이내믹 레인지 관리 알고리즘을 갖춘 2세대 트랜스포머 엔진을 탑재하여 새로운 4비트 부동 소수점 AI 추론 기능으로 컴퓨팅 및 모델 크기를 두 배로 확장할 수 있습니다.
• 수십억 개의 파라미터와 전문가가 혼합된 AI 모델의 성능을 가속화하기 위해 NVIDIA NVLink의 최신 버전은 GPU당 1.8TB/s의 양방향 처리량을 제공하여 여러 GPU 간의 원활한 고속 통신을 보장합니다.
• 블랙웰 GPU에는 신뢰성, 가용성 및 서비스 가능성을 위한 전용 엔진과 AI 기반 예방 유지보수 기능이 포함되어 있어 시스템 가동 시간을 극대화하고 대규모 AI 배포를 위한 운영 비용을 절감할 수 있습니다.
• 또한 블랙웰 아키텍처는 고급 기밀 컴퓨팅 기능을 도입하여 성능 저하 없이 AI 모델과 고객 데이터를 보호하므로 의료 및 금융 서비스와 같은 개인 정보 보호 산업에 적합합니다.