미니 삼성 npu TOPs는 뻥튀기 된 경향이 크죠

아누라
조회 수 1436
2021.07.23. 11:42

TOPs를 표기하는 기준이 몇개 있는데요 대표적으로 INT8 기준과 INT4기준입니다

INT유닛수 x 클럭하면 나오는게 연산수치인데 공개된 정보로 따지자면 엑시는 INT4기준으로 해야 들어맞거든요.

실제로 npu 성능 테스트 해봐도 10TOPs인 엑시990이 7TOPs인 855에도 INT8기준 테스트 결과치가 더블스코어로 밀리는 모습이 보입니다.

888이랑 2100도 비슷한 모양새로 AI benchmark 사이트에사 공개된 수치도 INT8 테스트에서 2100이 확 밀리는 모습을 보여주죠

https://ai-benchmark.com/ranking.html

퀄콤은 INT8기준으로, 삼성은 INT4기준으로 발표하는거 같습니다.

추론연산 성능은 퀄콤도 그렇지만 인텔 엔비디아 암드 빅3는 전부 INT8로 TOPs 수치를 발표하기 때문에 삼성의 수치는 상당히 부풀려져 있다고 봐야겠죠.

긱벤치의 ML벤치마크에서도 2100이 888에는 안되고 865수준에서 점수가 나오는것도 비슷한 이유입니다. INT8 스코어가 박살이 나있어요.

a14

https://browser.geekbench.com/ml/v0/inference/45104

ex2100

https://browser.geekbench.com/ml/v0/inference/40289

sd888

https://browser.geekbench.com/ml/v0/inference/41458

1등 polorbear

2021.07.23. 13:11

능력이 안되니.. 이렇게라도 속임수를 써야..

[polorbear]님의 댓글을 신고합니다. 취소 신고

2등 Aimyon

2021.07.23. 13:31

ISSCC에서 NPU관련 논문을 따로 내고있어서 그거 찾아봐야 됩니다

A 6K-MAC Feature-Map-Sparsity-Aware Neural Processing Unit in 5nm Flagship Mobile SoC

[Aimyon]님의 댓글을 신고합니다. 취소 신고

글쓴이

아누라 Aimyon 님께

2021.07.23. 13:58

논문도 논문이지만 보시면 data type을 전혀 공개하고 있지 않죠. 결과적으로는 삼성이 발표하는 TOPs랑 실제 성능과의 괴리가 굉장히 큰데(거의 두배정도) 측정값들만 볼때 어지간이 칩을 잘못만들러 효율이 안나오는게 아닌이상 INT4 기준으로 TOPs 수치를 발표하고 있다고 봐야겠죠.

[아누라]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	113665	13
핫글	미니	애플 비전 프로 1TB, 이베이에서 3200달러에 거래돼 [2]	AquStar	15:59	634	8
핫글	미니	루머: (디씨펌) DCS, X5 IPC 누비아보다 훨씬 높아 [9]	Section31	16:32	718	6
핫글	미니	핏3 이거 데이터 동기화에 문제가 많네요 [4]	긴닉네임24643649	10:23	594	5
124692	미니	아이튠즈가 말썽이네요,	룬룬	21.07.23	295	0
124691	미니	아이폰 갤탭 조합 어떤가요 ㅋㅋ [8]	SAMDDD	21.07.23	528	2
124690	미니	탭s7fe 왔습니다 + 에어4세대 크기비교 [17]	폴드엣지	21.07.23	1477	11
	미니	삼성 npu TOPs는 뻥튀기 된 경향이 크죠 [3]	아누라	21.07.23	1436	4
124688	미니	V50S부터 UX10 (벨벳2) 기본앱 호환 가능하네요	LG산흑우	21.07.23	226	0
124687	미니	XPS 15 9510 UHD+ 디스플레이(LCD) 옵션도 풀렸습니다. [3]	Havokrush	21.07.23	267	0
124686	미니	노트북 고민입니다.. [16]	찬바람불때핫도쿄	21.07.23	299	0
124685	미니	폴드3 실기유출사진 [15]	rockoon	21.07.23	1334	0
124684	미니	윈도우 11은 진짜 다른가보군요 [8]	시엠	21.07.23	933	11
124683	미니	강화유리필름을 사려고 하는데 추천 부탁드립니다. [6]	[커플]GeeKs	21.07.23	177	0
124682	미니	WearOS 3은 단순 개선버전이 아니라 정말 새로 만들었나보네요. [9]	Stellist	21.07.23	718	3
124681	미니	왔슈 [11]	제로비	21.07.23	557	16
124680	미니	르누아르 4800U 노트북에 WDDM3.0 설치 분투기...ㅠ [7]	흡혈귀왕	21.07.23	451	1
124679	미니	마소 일한드아 [6]	Alternative	21.07.23	603	3
124678	미니	전기충격 스마트워치를 원하신다구요? [10]	Lithiumion	21.07.23	703	3
124677	미니	윈도우11 WSLg HW 가속 성공.jpg [2]	스퀴니	21.07.23	697	4
124676	미니	고성능 게이밍, 그래픽 노트북을 사려고보니 [13]	달무리	21.07.23	510	2
124675	미니	윈11 뉴-업뎃 [16]	Alternative	21.07.23	769	1
124674	미니	신규 Life's Good 다 구했네요 [2]	LG산흑우	21.07.23	727	3
124673	미니	몬테레이 Airplay to Mac 생각보다 좋네요 ㅋㅋ	1N9	21.07.23	290	0
124672	미니	해외 음원 서비스 성인인증 문제 [2]	룬룬	21.07.23	308	0
124671	미니	애플 이중인증이 이젠 기본인가요? [4]	룬룬	21.07.23	450	0
124670	미니	안드로이드12 게임모드 api 공식 영상입니다. [10]	나랏미	21.07.23	1001	1
124669	미니	Wifi 공유기 재재질문 [2]	Dydx	21.07.23	237	0
124668	미니	미국과 기술 상담하지 마세요 [11]	선라이즈	21.07.23	1273	7

👩🏼‍💻미코🌿

미니 삼성 npu TOPs는 뻥튀기 된 경향이 크죠

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정