미니 잡담: 오늘 발표된 스냅드래곤 7 Gen 3 리플릿에서... (NPU)

Section31
조회 수 811
2023.11.17. 22:51

이번엔 NPU 연산에서 정수 연산은 모두 지원하지만(INT4, INT8, INT16) 부동소수점 연산(FP16) 지원은 없습니다(...).

ㅡㅡa

[Mobile]
Galaxy Note9 512GB
- 이후 플랜: UNKNOWN

[Tablet]
Galaxy Tab S6 Lite
- 이후 플랜: iPad Air 6? 또는 mini 7?

[Laptop]
Dell XPS 13 9370 (이전) → (Galaxy Book3 (with ARC))
→ MacBook Air 15 M2 (2023년식)

1등 엔당이희망입니다

2023.11.17. 23:00

애네들 중급형 프로세서들 보면 일부러 하나씩 나사 빠지게 만드는게 좀...

[엔당이희망입니다]님의 댓글을 신고합니다. 취소 신고

2등 RuBisCO

2023.11.17. 23:21

에이 설마 했는데 진짜로 7G1 사양에서 INT4만 추가되었군요 ㄷㄷㄷ

진짜 지독하네요.

[RuBisCO]님의 댓글을 신고합니다. 취소 신고

3등 LaPL

2023.11.17. 23:53

저게....사실상 잉여 기능이었습니다.

퀄컴이 NPU라고 말 하는건 실제로는 Hexagon DSP내에 SD888부터 추가된 HMX matrix 연산유닛을 이야기 하는 것 입니다. B2B로만 공개되는 Hexagon DSP의 스펙을 보면 Gen3의 Hexagon V75까지 HMX유닛의 FP16연산 기능이 정확히 명시되어 있습니다.

그런데 Hexagon DSP SDK의 Native C/C++ 인터페이스 상에서는 서드파티 개발자는 HMX유닛을 사용할 수 있는 API를 열어주지 않았습니다.

그렇다면 HMX를 유일하게 사용 가능한 솔루션이 자사의 SNPE (Snapdragon Neural Processing Engine)인데, SNPE에서는 처음부터 DSP(NPU)에서는 INT연산만 지원하고 FP16은 불가 한 것 처럼 소개하더군요.

그러니 Hexagon SDK 쪽에서도, SNPE 쪽에서도 HMX의 FP16연산기능에 접근할 수 있는 방법이 없어서....장식인 기능입니다.

[LaPL]님의 댓글을 신고합니다. 취소 신고

LaPL LaPL 님께

2023.11.17. 23:59

아...물론 퍼스트나 세컨드파티 정도라면 가능한 듯 싶더군요.

아직 SNPE상에서도 그렇고 외부 개발자는 INT4 연산에 접근할 수 있는 방법도 없는데, 갤럭시에서는 INT4로 후처리 모델을 돌리고 있다고 들었습니다.

[LaPL]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 240809 수정	admin	18.08.04	119695	13
핫글	미니	"아이폰 노멀에 90Hz, 120Hz 들어가면 프로가 안 팔린다" [24]	Niflheimr	24.09.25	1451	14
핫글	미니	소프트웨어 지원은 오히려 애플이 별로인 느낌이에요 [25]	스이공	24.09.25	1383	11
핫글	미니	iOS 18 스크롤시에 주사율 80Hz로 제한한다는 썰이 있군요 [8]	Stellist	24.09.25	1215	10
219272	미니	:: TEST ::	JordanKwon	18.06.27	864	1
219271	미니	TEST2	흡혈귀왕	18.06.27	657	1
219270	미니	TESTING	키타카미	18.06.27	384	1
219269	미니	미게 잘 되네요	놋철씁니다	18.06.27	547	0
219268	미니	츄라이츄라이 [1]	Elsanna	18.06.27	574	0
219267	미니	와! 미게!	Stellist	18.06.27	470	0
219266	미니	크흐 소통갓 베리힌님	놋철씁니다	18.06.27	532	0
219265	미니	여기 특별히 죽지 않으면 전 그냥 여기서 놀래요 [2]	놋철씁니다	18.06.27	974	0
219264	미니	근데 트래픽 늘어나면 어떻게 되나여 [1]	JordanKwon	18.06.27	636	0
219263	미니	안녕하세요	몽구스	18.06.27	262	0
219262	미니	모바일 ㅅㅅ	놋철씁니다	18.06.27	782	0
219261	미니	청와통닭보다는 [2]	노랑통닭	18.06.27	645	0
219260	미니	근데 이거 XE예요? [1]	놋철씁니다	18.06.27	890	0
219259	미니	도매인 이름 제가 한거임 생색 [1]	놋철씁니다	18.06.27	611	0
219258	미니	안녕하세요~~ [2]	프로겐	18.06.27	451	0
219257	미니	닉넴 변경 놋철씁니다 -> Minny	Minny	18.06.27	283	0
219256	미니	안녕하세요. 기립갤식입니다. [3]	기립갤식	18.06.27	564	0
219255	미니	KT LTE측정 [1]	Minny	18.06.27	394	0
219254	미니	구 미게 복구되었습니다. [1]	Minny	18.06.27	410	0
219253	미니	소식 듣고 와봤는데... 상당히 좋네요 [1]	기븐	18.06.28	577	0
219252	미니	피난소 와봤습니다 [1]	늙은이	18.06.28	358	0
219251	미니	도메인이 신기하네요 [2]	Minny	18.06.28	397	1
219250	미니	기어S4, 갤럭시노트9과 함께 공개예정	BarryWhite	18.06.28	335	0
219249	미니	픽셀3 & 픽셀3XL 디자인 [2]	BarryWhite	18.06.28	381	0
219248	미니	놋9 루머	BarryWhite	18.06.28	245	0

👨‍👩‍👧‍👦미코🌕

미니 잡담: 오늘 발표된 스냅드래곤 7 Gen 3 리플릿에서... (NPU)

추천 IT 소식 [1/]

스킨 기본정보

확장 변수

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정