미니 잡담: 오늘 발표된 스냅드래곤 7 Gen 3 리플릿에서... (NPU)
- Section31
- 조회 수 786
- 2023.11.17. 22:51
이번엔 NPU 연산에서 정수 연산은 모두 지원하지만(INT4, INT8, INT16) 부동소수점 연산(FP16) 지원은 없습니다(...).
ㅡㅡa
[Mobile]
Galaxy Note9 512GB
- 이후 플랜: UNKNOWN
[Tablet]
Galaxy Tab S6 Lite
- 이후 플랜: iPad Air 6? 또는 mini 7?
[Laptop]
Dell XPS 13 9370 (이전) → (Galaxy Book3 (with ARC))
→ MacBook Air 15 M2 (2023년식)
Galaxy Note9 512GB
- 이후 플랜: UNKNOWN
[Tablet]
Galaxy Tab S6 Lite
- 이후 플랜: iPad Air 6? 또는 mini 7?
[Laptop]
Dell XPS 13 9370 (이전) → (Galaxy Book3 (with ARC))
→ MacBook Air 15 M2 (2023년식)
댓글
4
1등 엔당이희망입니다
2등 RuBisCO
3등 LaPL
LaPL
LaPL 님께
2023.11.17. 23:00
2023.11.17. 23:21
2023.11.17. 23:53
저게....사실상 잉여 기능이었습니다.
퀄컴이 NPU라고 말 하는건 실제로는 Hexagon DSP내에 SD888부터 추가된 HMX matrix 연산유닛을 이야기 하는 것 입니다. B2B로만 공개되는 Hexagon DSP의 스펙을 보면 Gen3의 Hexagon V75까지 HMX유닛의 FP16연산 기능이 정확히 명시되어 있습니다.
그런데 Hexagon DSP SDK의 Native C/C++ 인터페이스 상에서는 서드파티 개발자는 HMX유닛을 사용할 수 있는 API를 열어주지 않았습니다.
그렇다면 HMX를 유일하게 사용 가능한 솔루션이 자사의 SNPE (Snapdragon Neural Processing Engine)인데, SNPE에서는 처음부터 DSP(NPU)에서는 INT연산만 지원하고 FP16은 불가 한 것 처럼 소개하더군요.
그러니 Hexagon SDK 쪽에서도, SNPE 쪽에서도 HMX의 FP16연산기능에 접근할 수 있는 방법이 없어서....장식인 기능입니다.
2023.11.17. 23:59
구글: 왜 우리 AI 모델 이름이 제미니인가?
애네들 중급형 프로세서들 보면 일부러 하나씩 나사 빠지게 만드는게 좀...