아닙니다. 의외로 엣지 AI 는 필요합니다.

실시간 처리가 필요하고, 과거에 CPU랑 GPU가 버겁게 처리했던 그런 영역을 NPU가 도입되면서 이관시켰고, 그덕분에 쾌적해진게 몇개 있는데, 대표적으로 화상회의 내 영상처리나, STT 처리가 있고요. 

초저지연을 실현하기 위한 전파 처리 같은 것 보다 차라리 엣지 AI를 활성화 하는게 사실 더 간편하기도 하구요. (5G 초저지연도 이미 글러먹었고, 6G는 애초에 컨셉이 다르구요)

어떤 예시를 더 들어야 할까 당장은 생각이 나지 않는데, 단순 LLM 처리 뿐만 아니라 다양한 용도로 NPU를 쓸 수 있기 때문에 들어가는건 중요합니다.  

온디바이스는 성능 때문에 하는건 아니니까요...

그리고 윗분 말대로 LLM 때문에 대형 NPU가 필요해진거지 그 외에는 온디바이스 수준으로도 충분히 가능합니다.

한영 자동 전환이라던가 카메라 보정이라던가 번역, STT 같은거 NPU 쓰면 좋죠

애플이 LLM이 늦어서 그렇지 수년 전부터 NPU 덕분에 뭐가 가능해졌다 뭘 만들었다 이런게 엄청 많았습니다

잘 활용하면 쓸모는 있을것 같긴한데요. 온디바이스 ai 모델 성능이야 주기적으로 보안업데이트 이뤄질때 같이 ai 모델도 주기적으로 업데이트 시켜주면 우려할만한 문제가 있는가 싶긴하네요. 오히려 인터넷없이 같는 성능을 누릴 수 있는건데요. 물론 애초에 모델 성능도 개똥같은 존재면 이야기도 달라지겠지만요

개인적으로도 같게 생각합니다.

온디바이스 ai의 존재가치를 소비자에게 설득시키지를 못하고 있어서, 이게 왜 필요한가 싶은거죠.

서버기반 ai들이 매우 성숙해지고 가벼워졌을때 그때나 온디바이스로 구동 가능한지를 보는게 맞는 방향 아닌가 싶어요.

갤럭시 s10부터 npu가 탑재되서 알게 모르게 엄청 쓰고 있습니다

카메라에 찍힌 글자 인식, 숫자 인식 이런것도 npu가 처리 하구요.

사진 동물 종류인식, 텍스트 하나 따자고

100MB짜리 2억화소 사진까지 클라우드로 업로드 하는 걸 바라시나요?

진짜요?

모래와 전기를 효과적으로 쓰기 위해 나온 게 NPU입니다