미니 삼성 npu TOPs는 뻥튀기 된 경향이 크죠

아누라
조회 수 1597
2021.07.23. 11:42

TOPs를 표기하는 기준이 몇개 있는데요 대표적으로 INT8 기준과 INT4기준입니다

INT유닛수 x 클럭하면 나오는게 연산수치인데 공개된 정보로 따지자면 엑시는 INT4기준으로 해야 들어맞거든요.

실제로 npu 성능 테스트 해봐도 10TOPs인 엑시990이 7TOPs인 855에도 INT8기준 테스트 결과치가 더블스코어로 밀리는 모습이 보입니다.

888이랑 2100도 비슷한 모양새로 AI benchmark 사이트에사 공개된 수치도 INT8 테스트에서 2100이 확 밀리는 모습을 보여주죠

https://ai-benchmark.com/ranking.html

퀄콤은 INT8기준으로, 삼성은 INT4기준으로 발표하는거 같습니다.

추론연산 성능은 퀄콤도 그렇지만 인텔 엔비디아 암드 빅3는 전부 INT8로 TOPs 수치를 발표하기 때문에 삼성의 수치는 상당히 부풀려져 있다고 봐야겠죠.

긱벤치의 ML벤치마크에서도 2100이 888에는 안되고 865수준에서 점수가 나오는것도 비슷한 이유입니다. INT8 스코어가 박살이 나있어요.

a14

https://browser.geekbench.com/ml/v0/inference/45104

ex2100

https://browser.geekbench.com/ml/v0/inference/40289

sd888

https://browser.geekbench.com/ml/v0/inference/41458

1등 polorbear

2021.07.23. 13:11

능력이 안되니.. 이렇게라도 속임수를 써야..

[polorbear]님의 댓글을 신고합니다. 취소 신고

2등 Aimyon

2021.07.23. 13:31

ISSCC에서 NPU관련 논문을 따로 내고있어서 그거 찾아봐야 됩니다

A 6K-MAC Feature-Map-Sparsity-Aware Neural Processing Unit in 5nm Flagship Mobile SoC

[Aimyon]님의 댓글을 신고합니다. 취소 신고

글쓴이

아누라 Aimyon 님께

2021.07.23. 13:58

논문도 논문이지만 보시면 data type을 전혀 공개하고 있지 않죠. 결과적으로는 삼성이 발표하는 TOPs랑 실제 성능과의 괴리가 굉장히 큰데(거의 두배정도) 측정값들만 볼때 어지간이 칩을 잘못만들러 효율이 안나오는게 아닌이상 INT4 기준으로 TOPs 수치를 발표하고 있다고 봐야겠죠.

[아누라]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 240809 수정	admin	18.08.04	119147	13
핫글	미니	A18 gpu 벤치 관련해서 반응이 재밌네요. [7]	gamma	02:20	699	25
핫글	미니	16프로맥스 배터리 진짜 버그 수준입니다 [7]	크나앙	24.09.21	1309	23
핫글	미니	갤럭시가 나아가야 할 카메라 방향타 5 (15PM, 16PM, P9P, P70U) [18]	S.R	00:50	526	19
220405	미니	버즈3 프로 불량기준이 어케되려나요?	Dydx	24.07.19	37	0
220404	미니	아이폰 스샷을 했는데 사진파일이 어디로 가나요. [1]	심플리	09:46	53	2
220403	미니	10+ 프리즘블랙 오늘 택배로 받을것 같아요~~~	MrHS	19.03.02	59	0
220402	미니	MS. 코로나 바이러스로 인해 GDC2020 참가 취소	스퀴니	20.02.28	59	0
220401	미니	짐벌 추천 부탁드립니다.	라시드	20.05.19	59	0
220400	미니	미니다ㅏㅏㅏ	Terrapin	21.09.15	59	0
220399	미니	갤투고 예약 궁금한게 있어요	TOAA	22.03.03	59	0
220398	미니	갤놋10시리즈에서 에메랄드그린이나 화이트나오겟죠?	우주정력황제갤럭시엠	19.04.04	60	0
220397	미니	딴거 필요없고 사양, 판매날짜만 빨리..	Futuristics	19.10.03	60	0
220396	미니	노트북 가방 추천좀요	서녘마리	19.10.10	60	0
220395	미니	모빌리티니까... 암 써피스 차례군요	Score_고동빈	19.10.02	61	0
220394	미니	프로x 가격 말 안해주네여	팝카드있으세요	19.10.03	61	0
220393	미니	2019년 5G스마트폰 평균판매 단가 80만원 전망?	BarryWhite	18.10.30	62	0
220392	미니	3분기 스마트워치 출하, 애플-핏빗 주도 67%성장	BarryWhite	18.11.03	62	0
220391	미니	헬쥐는 그냥 모니터 하고 티비 만드는게 좋을듯	AriMoon	19.02.24	62	0
220390	미니	굳록만 빨리 나오면 좋겠는데 말이죠	난민	19.02.25	62	0
220389	미니	역시 인덕션은 그대로군요..	라시드	19.09.11	62	0
220388	미니	끝물에 시켰는데 몽블랑케이스 출발했네요	Futuristics	19.10.10	62	0
220387	미니	4K 영상도 발전 좀 있나요?	쿠모하	20.02.12	62	0
220386	미니	AP 좀 빨리 내놔라 ㅡㅡ	보거	20.12.02	62	0
220385	미니	삼멤 오류보내기 같은것도 우선순위가 있나봐요	Chrop	19.03.29	63	0
220384	미니	유튜브 너무 끊기네요 [2]	qazsdf	19.09.11	63	0
220383	미니	이제 뭔가 발표하려는 모양입니다	오리제	19.10.02	63	0
220382	미니	서피스 뽀올드 나오나봅니다.	Score_고동빈	19.10.03	63	0
220381	미니	이거 끝나고 원모띵 하나 더 있을까요?	범죄자호날두	19.10.03	63	0

👨‍👩‍👧‍👦미코🌕

미니 삼성 npu TOPs는 뻥튀기 된 경향이 크죠

추천 IT 소식 [1/]

스킨 기본정보

확장 변수

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정