소식 MS, ONNX Runtime Web의 WebGPU 통합...웹 브라우저서 머신 러닝 성능 향상
- BarryWhite
- 조회 수 252
- 2024.03.05. 10:54
- 웹 브라우저에서 머신 러닝 모델을 배포하기 위한 JavaScript 라이브러리인 ONNX Runtime Web은 이제 머신 러닝 모델을 위한 하드웨어 가속을 가능하게 하는 웹 API인 WebGPU를 지원합니다. 마이크로소프트(MS)는 이를 자사 블로그를 통해 공개했습니다. 이 통합을 통해 기기의 GPU 성능을 활용하여 이전에는 제한된 연산 능력으로 인해 웹 브라우저에서 효율적으로 실행할 수 없었던 대규모 생성 모델과 같은 복잡한 머신 러닝 모델을 더 빠르게 실행할 수 있습니다.
- WebGPU는 연산 셰이더 및 반정밀도(FP16) 지원과 같은 고급 기능을 제공하여 GPU 메모리 사용량과 대역폭 요구 사항을 줄이면서 연산 연산을 가속화합니다. 이를 통해 웹 브라우저 내에서 직접 보다 효율적이고 확장 가능한 머신러닝 애플리케이션을 구현할 수 있어 처리를 위해 데이터를 서버로 전송할 필요 없이 이미지 생성과 같은 실시간 AI 애플리케이션을 사용할 수 있습니다.
- WebGPU는 현재 Mac용 Chrome 113 및 Edge 113, Windows, ChromeOS, Android용 Chrome 121에서 지원되며, ONNX 런타임 웹에 통합되어 웹 브라우저 내에서 강력한 AI 기능을 쉽게 이용하고 액세스할 수 있는 미래를 위한 기반을 마련합니다.
🥇소식게 수호자🥇미게 지박령🥉큰게 좋아🥇미코의 잡담왕🥈유게 공무원🥉할인 경보📝게시판 소유자(1)✨️🥉에로게 심심이
댓글
0