하정우 네이버클라우드 AI 이노베이션 센터장은 '인텔 AI 서밋 서울 2024'에서 "(인텔과의 협업 이후) 두 달 동안 실제 서비스 환경에서 실험을 진행해 성과를 냈다"며 "연말까지 vLLM 버전1에 대한 오픈소스를 공개하려고 한다"고 말했다.

지난 4월 네이버와 인텔은 자체 거대언어모델(LLM) 모델 개발을 위해 협력한다고 발표했다. 인텔은 네이버에 AI 가속기인 가우디2를 제공하고, 네이버를 이를 활용해 자사 서비스인 하이버클로바 X 등 소프트웨어에 적용해 오픈소스로 제작하는 방식이다.

.

.

.

vLLM은 AI 모델 추론 속도를 높여주는 모델 서빙 프레임워크를 말한다.