미니 잡담: 오늘 발표된 스냅드래곤 7 Gen 3 리플릿에서... (NPU)

Section31
조회 수 813
2023.11.17. 22:51

이번엔 NPU 연산에서 정수 연산은 모두 지원하지만(INT4, INT8, INT16) 부동소수점 연산(FP16) 지원은 없습니다(...).

ㅡㅡa

[Mobile]
Galaxy Note9 512GB
- 이후 플랜: UNKNOWN

[Tablet]
Galaxy Tab S6 Lite
- 이후 플랜: iPad Air 6? 또는 mini 7?

[Laptop]
Dell XPS 13 9370 (이전) → (Galaxy Book3 (with ARC))
→ MacBook Air 15 M2 (2023년식)

1등 엔당이희망입니다

2023.11.17. 23:00

애네들 중급형 프로세서들 보면 일부러 하나씩 나사 빠지게 만드는게 좀...

[엔당이희망입니다]님의 댓글을 신고합니다. 취소 신고

2등 RuBisCO

2023.11.17. 23:21

에이 설마 했는데 진짜로 7G1 사양에서 INT4만 추가되었군요 ㄷㄷㄷ

진짜 지독하네요.

[RuBisCO]님의 댓글을 신고합니다. 취소 신고

3등 LaPL

2023.11.17. 23:53

저게....사실상 잉여 기능이었습니다.

퀄컴이 NPU라고 말 하는건 실제로는 Hexagon DSP내에 SD888부터 추가된 HMX matrix 연산유닛을 이야기 하는 것 입니다. B2B로만 공개되는 Hexagon DSP의 스펙을 보면 Gen3의 Hexagon V75까지 HMX유닛의 FP16연산 기능이 정확히 명시되어 있습니다.

그런데 Hexagon DSP SDK의 Native C/C++ 인터페이스 상에서는 서드파티 개발자는 HMX유닛을 사용할 수 있는 API를 열어주지 않았습니다.

그렇다면 HMX를 유일하게 사용 가능한 솔루션이 자사의 SNPE (Snapdragon Neural Processing Engine)인데, SNPE에서는 처음부터 DSP(NPU)에서는 INT연산만 지원하고 FP16은 불가 한 것 처럼 소개하더군요.

그러니 Hexagon SDK 쪽에서도, SNPE 쪽에서도 HMX의 FP16연산기능에 접근할 수 있는 방법이 없어서....장식인 기능입니다.

[LaPL]님의 댓글을 신고합니다. 취소 신고

LaPL LaPL 님께

2023.11.17. 23:59

아...물론 퍼스트나 세컨드파티 정도라면 가능한 듯 싶더군요.

아직 SNPE상에서도 그렇고 외부 개발자는 INT4 연산에 접근할 수 있는 방법도 없는데, 갤럭시에서는 INT4로 후처리 모델을 돌리고 있다고 들었습니다.

[LaPL]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 240809 수정	admin	18.08.04	119885	13
핫글	미니	애플스토어 사과서리해왔습니다 [25]	슈피리어	24.09.27	1296	31
핫글	미니	iPhone16 Pro Max와 함께한 대만 여행 [8]	rollin	24.09.27	651	26
핫글	미니	밖에서의 평가와 내부에서의 평가는 다른 경우가 많아요 [10]	바보중	24.09.27	784	16
220787	미니	:: TEST ::	JordanKwon	18.06.27	864	1
220786	미니	TEST2	흡혈귀왕	18.06.27	657	1
220785	미니	TESTING	키타카미	18.06.27	385	1
220784	미니	미게 잘 되네요	놋철씁니다	18.06.27	547	0
220783	미니	츄라이츄라이 [1]	Elsanna	18.06.27	575	0
220782	미니	와! 미게!	Stellist	18.06.27	473	0
220781	미니	크흐 소통갓 베리힌님	놋철씁니다	18.06.27	533	0
220780	미니	여기 특별히 죽지 않으면 전 그냥 여기서 놀래요 [2]	놋철씁니다	18.06.27	974	0
220779	미니	근데 트래픽 늘어나면 어떻게 되나여 [1]	JordanKwon	18.06.27	636	0
220778	미니	안녕하세요	몽구스	18.06.27	262	0
220777	미니	모바일 ㅅㅅ	놋철씁니다	18.06.27	782	0
220776	미니	청와통닭보다는 [2]	노랑통닭	18.06.27	645	0
220775	미니	근데 이거 XE예요? [1]	놋철씁니다	18.06.27	890	0
220774	미니	도매인 이름 제가 한거임 생색 [1]	놋철씁니다	18.06.27	611	0
220773	미니	안녕하세요~~ [2]	프로겐	18.06.27	451	0
220772	미니	닉넴 변경 놋철씁니다 -> Minny	Minny	18.06.27	283	0
220771	미니	안녕하세요. 기립갤식입니다. [3]	기립갤식	18.06.27	564	0
220770	미니	KT LTE측정 [1]	Minny	18.06.27	394	0
220769	미니	구 미게 복구되었습니다. [1]	Minny	18.06.27	410	0
220768	미니	소식 듣고 와봤는데... 상당히 좋네요 [1]	기븐	18.06.28	577	0
220767	미니	피난소 와봤습니다 [1]	늙은이	18.06.28	358	0
220766	미니	도메인이 신기하네요 [2]	Minny	18.06.28	397	1
220765	미니	기어S4, 갤럭시노트9과 함께 공개예정	BarryWhite	18.06.28	336	0
220764	미니	픽셀3 & 픽셀3XL 디자인 [2]	BarryWhite	18.06.28	382	0
220763	미니	놋9 루머	BarryWhite	18.06.28	245	0

👨‍👩‍👧‍👦미코🌕

미니 잡담: 오늘 발표된 스냅드래곤 7 Gen 3 리플릿에서... (NPU)

추천 IT 소식 [1/]

스킨 기본정보

확장 변수

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정