로그인 해주세요.

미니기기 / 음향 게시판 *스마트폰과 PC, 카메라, 스피커 등 IT 미니기기와 음향기기에 관해 교류하는 게시판입니다.

LaPL

미니 퀄컴이 발표하는 AI성능이 어떻게 계산되는걸까요?!?

  • LaPL
  • 조회 수 1238
  • 2023.08.17. 11:49

1.png

 

대표적으로 8(+) Gen 1 시리즈는 퀄컴이 AI engine에서 27 TOPS성능을 낸다고 광고중인 AP입니다. 아마 Gen1 까지는 가장 low bit의 datatype이 int8이니 int8기준 성능으로 추정됩니다. 

 

저 AI Engine은 CPU + GPU + Hexagon DSP를 모두 사용하는 퀄컴의 DNN 런타임 S/W로 다음과 같이 동작합니다. 

 

2.png

스냅드래곤 SoC내의 연산자원은 그림과 같이 CPU, GPU Hexagon DSP로 이루어져 있고. DPS중 연산을 담당하는 cDSP (Compute DSP)는 

 

3.png

64bit SIMD를 지원하는 Hexagon H/W thread와 128-byte SIMD를 지원하는 HVX유닛, 그리고 서드파티 개발자에게는 거의 공개되지 않은 HMX (Hexagon Matrix eXtension unit)으로 구성되어 있습니다. 8(+) gen1 시리즈의 v69 cDSP는 4개 H/W thread, 4개 HVX유닛이 탑재되어 있습니다. (boost clock 1.4Ghz, HMX는 정확한 제원 없음)

 

그래서.... 8 Gen1 기준 알려진 H/W의 이론상 최대 성능(Rpeak)은 다음과 같습니다. 

  1. CPU : 16 x 2 x 17.66Ghz [128b NEON SIMD * FMA * (3.0 MP1 + 2.5MP3 + 1.79MP4)] = 565 GIOPS
  2. GPU : 1024 ALU x 2 x 818Mhz = 1.675 TOPS(FP32, INT8), 3.35 TFLOPS (FP16)
  3. Hexagon DSP
    1. Hexagon H/W Thread : 8 x 2 x 1.4Ghz x 4 [64b SIMD * FMA * 1.4Ghz * MP4] = 89.6 GIOPS
    2. HVX : 128 x 2 x 1.4Ghz x 4 [128-byte SIMD * FMA * 1.4Ghz(추정) * MP4] = 1.433 TIOPS
    3. HMX : 알려진 H/W 제원 없음, 다만 cDSP SDK에서 제공하는 BLAS GEMM (행렬곱) 벤치마크 성능은 최대 1 TIOPS 내외 

 

다 더해도... 27 TOPS에 발끝에도 못 미치는 수치입니다 (...)

 

심지어 CPU에서 A510 리틀코어는 연산에 별 이득이 없으니 2배 정도 뻥튀기 된 값이고 (ARM의 자체 BLAS로 코드를 짜 봐도 리틀코어 들어가는 순간 성능이 하락, 멀티코어 동기화 문제로 성능 낮은 코어가 병목 발생)

 

Adreno 730 GPU의 경우에도 실수 ALU : 정수 ALU가 4 : 1구성으로 들어있어서 INT8보다 FP16이 더 빠릅니다. 

 

믿었던 Hexagon 마저 공개된 H/W제원으로든 퀄컴이 직접 공개하는 퍼스트파티 BLAS코드로든 성능이 수 TIOPS를 못 벗어나는 결과를 보니.... 대체가 저 27 TOPS는 어디서 나온 값 인지 모르겠습니다. 과장까지는 아니더라도 좀 수치를 올려치는 풍토가 SoC쪽에 만연되어 있는데 그래도 저정도 까지 차이나지는 않을텐데말이죠. 

 

아직 퀄컴이 NVIDIA다음으로 비메모리 펩리스 2위 업체일텐데.... 뭔가 하는 것은 있는데 외부로 공개되는건 별로 없고(...) 써 주겠다고 해도 이모양이니 힘드네요. 엔비디아 개발자 포럼에는 직원이 답해주고, AMD포럼에서는 개발자들끼리 소통은 되는 수준인데.... 퀄컴 개발자 포럼은 질문만 있고 답을 찾지 못하는 유령도시가 된 지 오래더군요. 

댓글
0
취소
번호 분류 제목 글쓴이 날짜 조회 수
공지 공지 사이트 이용 수칙 230228 수정 file admin 18.08.04 116602 13
핫글 미니 25울트라가 S펜 빠진다는 소리는 처음 듣네요 [12] 엔당이희망입니다 24.06.27 914 17
핫글 미니 현장나왔다가 봤는데, 갤워치 신형 테스트하나보데요? [12] elcid 24.06.27 1319 15
핫글 미니 갤북 4 프로 산거 매우 후회되네요 [39] Pepsi베어 24.06.27 1349 15
192700 미니 갤럭시 S21 한국 광고 전체 유출 [11] file Eako 21.01.13 1151 0
192699 미니 측정치 보고 판단들 하세영 [15] 기름 21.01.09 1151 16
192698 미니 유투브가 다운 되었다길래 구경하러 갔죠 [14] file 길갈 20.11.12 1151 52
192697 미니 아이패드 120Hz 역체감은 좀 이상한 것 같습니다 [7] AVCD 20.09.17 1151 1
192696 미니 얼음냥 " 갤럭시 s21 시리즈가 생각보다 좋지 않아도 놀라지 마라" [32] file 감마등 20.09.12 1151 1
192695 미니 이런루머가 있나보군요 [17] file Qkooqq 20.06.28 1151 0
192694 미니 에어팟 프로용 데x니 폼팁 엄청 잘나왔네요. [9] file 서린 20.04.29 1151 0
192693 미니 짭맥프로 케이스 질렀네유. [7] file 한우갈비 20.04.01 1151 0
192692 미니 갤럭시 S10 Lite 슈퍼 스테디 OIS 동작 신기하네요 [5] file 포테갈리니언 20.01.22 1151 0
192691 미니 인덕션이 그래도 삼성인덕션이 낫네요 [36] 루딱이 19.12.18 1151 0
192690 미니 근데 미국에서 직구하면 갤럭시 보상판매 받을 수 있으려나요? [19] Eidio 19.03.30 1151 0
192689 미니 'Galaxy Tap' [4] file RacingMiku 24.06.16 1150 3
192688 미니 일본 반도체의 목표는 전 분야 석권인가유? [9] 익명 24.05.05 1150 1
192687 미니 삼성 갤럭시핏3 국내 공홈 등판 !!!!!! [4] file 아이폰Xs골드 24.03.27 1150 7
192686 미니 구글퀵쉐어와 삼성퀵쉐어가 통합되었다고는 하나 윈도우상에서는 꽤 다르네요 [6] file 힐롱이 24.03.03 1150 6
192685 미니 "10분 안에 자녀에게 백만원을 보내시오"…유튜브 보고 '울컥' [9] MrGom™ 24.02.18 1150 4
192684 미니 Big trouble with S24 Ultra telephoto! [12] iceuniverse 23.11.24 1150 7
192683 미니 오포 폴더블 멀티태스킹 이거 독특하네요 [15] file 클라비스 23.10.19 1150 12
192682 미니 (gif)One UI 6 Beta6 has poor response, compared to One UI 5.1 [39] file iceuniverse 23.10.10 1150 5
192681 미니 다음 폰 혁명은 뭘까요 [8] 엣지 23.10.03 1150 1
192680 미니 플립5 게임보이 케이스 만들어봤습니다 ㅋㅋ [5] file soboru 23.07.25 1150 16
192679 미니 삼성이 그나마 폴더블이 경쟁력이 있긴 한데.. [11] 올라온다진짜 23.07.19 1150 3
192678 미니 폰 바꾸고나서 자연스럽게 바뀐게 하나 있습니다 [7] [성공]함께크는성장 23.05.21 1150 7
192677 미니 캐시 차이 쉽게 보면 안됩니다... [13] 흡혈귀왕 23.05.16 1150 4
192676 미니 S24가 스냅 & 12GB램이면 꿈의 조합일텐데 말이죠. [9] 요트맨 23.04.13 1150 10

추천 IT 소식 [1/]

스킨 기본정보

colorize02 board
2017-03-02
colorize02 게시판

사용자 정의

1. 게시판 기본 설정

게시판 타이틀 하단에 출력 됩니다.

일반 게시판, 리스트 게시판, 갤러리 게시판에만 해당

2. 글 목록

기본 게시판, 일반 게시판, 썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

3. 갤러리 설정

4. 글 읽기 화면

기본 10명 (11명 일 경우, XXXXX 외 1명으로 표시)

5. 댓글 설정

일정 수 이상의 추천을 받은 댓글에 표시를 합니다.

6. 글 쓰기 화면 설정

글 쓰기 폼에 미리 입력해 놓을 문구를 설정합니다.

서버에 요청 중입니다. 잠시만 기다려 주십시오...