[디지털투데이 석대건 기자] AMD가 인스팅트 GPU 기반 AI 및 HPC 환경 성능과 확장성 지원하는 ROCm 6.4를 15일 공개했다.이번 ROCm 6.4는 AI 개발자와 연구자들을 위한 플러그 앤 플레이 방식애 최적화된 사전 구성된 컨테이너를 제공한다.vLLM 추론 컨테이너는 젬마 3(Gemma 3), 라마(Llama), 미스트랄(Mistral), 코히어(Cohere) 등 오픈 모델을 위한 저지연 LLM 추론을 지원하며, SGLang 추론 컨테이너는 딥시크 R1(DeepSeek R1)과 에이전트 워크플로우에 최적화돼 DeepG


기사 더 읽기