미니 삼성 npu TOPs는 뻥튀기 된 경향이 크죠

아누라
조회 수 1578
2021.07.23. 11:42

TOPs를 표기하는 기준이 몇개 있는데요 대표적으로 INT8 기준과 INT4기준입니다

INT유닛수 x 클럭하면 나오는게 연산수치인데 공개된 정보로 따지자면 엑시는 INT4기준으로 해야 들어맞거든요.

실제로 npu 성능 테스트 해봐도 10TOPs인 엑시990이 7TOPs인 855에도 INT8기준 테스트 결과치가 더블스코어로 밀리는 모습이 보입니다.

888이랑 2100도 비슷한 모양새로 AI benchmark 사이트에사 공개된 수치도 INT8 테스트에서 2100이 확 밀리는 모습을 보여주죠

https://ai-benchmark.com/ranking.html

퀄콤은 INT8기준으로, 삼성은 INT4기준으로 발표하는거 같습니다.

추론연산 성능은 퀄콤도 그렇지만 인텔 엔비디아 암드 빅3는 전부 INT8로 TOPs 수치를 발표하기 때문에 삼성의 수치는 상당히 부풀려져 있다고 봐야겠죠.

긱벤치의 ML벤치마크에서도 2100이 888에는 안되고 865수준에서 점수가 나오는것도 비슷한 이유입니다. INT8 스코어가 박살이 나있어요.

a14

https://browser.geekbench.com/ml/v0/inference/45104

ex2100

https://browser.geekbench.com/ml/v0/inference/40289

sd888

https://browser.geekbench.com/ml/v0/inference/41458

1등 polorbear

2021.07.23. 13:11

능력이 안되니.. 이렇게라도 속임수를 써야..

[polorbear]님의 댓글을 신고합니다. 취소 신고

2등 Aimyon

2021.07.23. 13:31

ISSCC에서 NPU관련 논문을 따로 내고있어서 그거 찾아봐야 됩니다

A 6K-MAC Feature-Map-Sparsity-Aware Neural Processing Unit in 5nm Flagship Mobile SoC

[Aimyon]님의 댓글을 신고합니다. 취소 신고

글쓴이

아누라 Aimyon 님께

2021.07.23. 13:58

논문도 논문이지만 보시면 data type을 전혀 공개하고 있지 않죠. 결과적으로는 삼성이 발표하는 TOPs랑 실제 성능과의 괴리가 굉장히 큰데(거의 두배정도) 측정값들만 볼때 어지간이 칩을 잘못만들러 효율이 안나오는게 아닌이상 INT4 기준으로 TOPs 수치를 발표하고 있다고 봐야겠죠.

[아누라]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 240809 수정	admin	18.08.04	117887	13
핫글	미니	삼성의 배째라 모드를 억제할 무언가가 있었으면 좋겠어요 [14]	Niflheimr	00:15	1223	13
핫글	미니	외산폰이 어려워보이는게 글에서도 보이기는해요 [14]	베이어	10:09	759	13
핫글	미니	s25 울트라 이 루머 렌더링 완전 맘에 드네요 [8]	maMeong	15:58	389	11
179310	미니	똥손은 애플의 감성을 사진에 담질 못하는군요 [4]	rollin	21.10.17	686	4
179309	미니	13 프로 맥스 반나절 후기 [11]	크나앙	21.10.17	731	4
179308	미니	갤21울트라 유저가 아이폰 13 프로맥스 사용한 이야기 [18]	1200DMIPS	21.10.17	1271	4
179307	미니	13 프맥 여전히 고스트현상은 심하네요 [16]	sourire	21.10.16	702	4
179306	미니	워치7 좋네요 [5]	닮은살걀	21.10.16	488	4
179305	미니	쿠팡 로켓배송 될 때 샀어야했는데 [7]	요크	21.10.16	664	4
179304	미니	픽셀 6 홍보 영상 추가 [2]	Androboy	21.10.16	427	4
179303	미니	이번 ios랑 ipados 15는 끔찍하네요 [4]	고기마스터	21.10.16	1228	4
179302	미니	이집 사과 맛집이네 🍏 [2]	rollin	21.10.15	852	4
179301	미니	어떤 사진이 더 이쁜가요? [21]	rollin	21.10.15	687	4
179300	미니	아이폰 13프로 카메라가 영.. [25]	선라이즈	21.10.15	1690	4
179299	미니	소니, 메이주와 전략적 파트너십. 차기 엑스페리아에 Flyme 탑재 [17]	마키세크리스	21.10.15	513	4
179298	미니	갤북프로 제발 rtx 외장gpu 넣어줘 [19]	j8j8	21.10.15	564	4
179297	미니	갤럭시 워치 페이스 뭐 쓰시나요? [17]	′Ultra′	21.10.15	889	4
179296	미니	받았슈 [5]	idsr	21.10.15	270	4
179295	미니	노트20U 자급제 업데이트 있습니다 [1]	후루꾸루	21.10.15	528	4
179294	미니	아이폰13 미니 왜이리 뜨거울까요 [7]	Closers	21.10.14	1109	4
179293	미니	일렉트로 갤럭시폴드 Z3 512GB 캐시백 가능한상태입니다. [3]	Futuristics	21.10.14	554	4
179292	미니	삼성 홈 iot 매각 [23]	닉포토	21.10.14	1310	4
179291	미니	갓게임이 테스트 버전 나왔네요 언디셈버 [4]	AriMoon	21.10.14	898	4
179290	미니	애플워치7 리뷰보는데 베젤 ㄷ ㄷ ㄷ 하네요 [7]	1N9	21.10.14	1041	4
179289	미니	픽셀6 색상 [7]	애쁠마시따	21.10.14	890	4
179288	미니	[루머] 갤럭시S21 FE 10월20일 예약 판매 개시 [1]	후루꾸루	21.10.13	501	4
179287	미니	샤오미 홍미노트5 프로에 포팅된 안드로이드 12 (PE)	AlieNaTiZ	21.10.13	506	4
179286	미니	ios14 부터 앱숨기기 있어서 좋네요 [1]	sourire	21.10.13	567	4

👩🏼‍💻미코☀️

미니 삼성 npu TOPs는 뻥튀기 된 경향이 크죠

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정