- 웹 브라우저에서 머신 러닝 모델을 배포하기 위한 JavaScript 라이브러리인 ONNX Runtime Web은 이제 머신 러닝 모델을 위한 하드웨어 가속을 가능하게 하는 웹 API인 WebGPU를 지원합니다. 마이크로소프트(MS)는 이를 자사 블로그를 통해 공개했습니다. 이 통합을 통해 기기의 GPU 성능을 활용하여 이전에는 제한된 연산 능력으로 인해 웹 브라우저에서 효율적으로 실행할 수 없었던 대규모 생성 모델과 같은 복잡한 머신 러닝 모델을 더 빠르게 실행할 수 있습니다.

- WebGPU는 연산 셰이더 및 반정밀도(FP16) 지원과 같은 고급 기능을 제공하여 GPU 메모리 사용량과 대역폭 요구 사항을 줄이면서 연산 연산을 가속화합니다. 이를 통해 웹 브라우저 내에서 직접 보다 효율적이고 확장 가능한 머신러닝 애플리케이션을 구현할 수 있어 처리를 위해 데이터를 서버로 전송할 필요 없이 이미지 생성과 같은 실시간 AI 애플리케이션을 사용할 수 있습니다.

- WebGPU는 현재 Mac용 Chrome 113 및 Edge 113, Windows, ChromeOS, Android용 Chrome 121에서 지원되며, ONNX 런타임 웹에 통합되어 웹 브라우저 내에서 강력한 AI 기능을 쉽게 이용하고 액세스할 수 있는 미래를 위한 기반을 마련합니다.