
소식 엣지 브라우저에서 작동하는 AI, MS 경량 추론 모델의 미래
- 뉴스봇
- 조회 수 533
- 2025.06.20. 22:02
대규모 언어모델(LLM)은 강력하지만, 일상적인 AI 활용에는 연산 자원과 에너지를 지나치게 소모한다. 텍스트 요약, 문장 재작성, 간단한 프롬프트 응답처럼 비교적 단순한 작업은 굳이 데이터센터에서 처리할 필요가 없다.
이러한 과제를 해결할 대안으로 소형 언어모델(SLM)이 주목받고 있다. 마이크로소프트는 파이(Phi) 계열 모델을 중심으로 PC 기반 추론 아키텍처를 개발하고 있으며, 최근에는 파이 4 미니 인스트럭트(Phi-4-mini-instruct) 모델을 선보였다. 이 모델은 3억 5,000만 개의 파라터를 기반으로 5조 개의 토큰을 학습했으며, 엣지 디바이스에서 실행 가능하도록 설계됐다.
기존에는 이러한 모델을 활용하려면 사용자가 직접 다운로드 및 설치를 해야 했다. 윈도우 코파일럿 플러스 PC에 탑재된 파이 실리카(Phi Silica) 같은 모델도 있지만, 특정 모델이 로컬에 없으면 실행이 불가능하다는 단점이 있었다.
이러한 제약을 해소하기 위해 엣 마이크로소프트는 지 브라우저에 직접 언어모델을 내장하는 기능을 실험적으로 도입했다. 브라우저는 사용자의 추가 설정 없이 자동으로 모델을 다운로드하고 업데이트하며, 자바스크립트 API를 통해 바로 호출할 수 있다.

·🏆정보의 신⚡
댓글
기대되네요.
이게 제대로 된다면 스마트폰 온 디바이스 AI도 확실하겠죠.