미니 잡담: AI 연산성능 수치에 대하여 주의할 점이 있다면...
- Section31
- 조회 수 471
- 2023.06.08. 21:14
1) 무슨 연산 기준으로 TOPs가 측정되었는가?
연산 종류는 매우 다양합니다. 예를 들어,
- 정수연산 : INT4, INT8, INT16 등
- 부동소수점 연산 : FP8, FP16, FP32 등
각 연산마다 TOPs는 다 다를 수 있기 때문에, 어느 연산 기준인지가 중요합니다. 예를 들어 카메라 후처리의 경우에는 INT8 연산이 중요하다고 알려져 있습니다.
2) NPU(또는 DSP)만 단독으로 측정되었는가, 아니면 다른 것들과 결합하여 측정되었는가?
- 예를 들어 퀄컴은 스냅드래곤 865의 AI 연산성능이 15 TOPs라고 말했지만 그것은 CPU, GPU, DSP 셋 다 결합하여 측정된 값입니다.
- 따라서 TOPs값이 NPU(또는 DSP)만 단독으로 하여 측정했는지, CPU, GPU 등 NPU계열이 아닌 다른 것들과 결합하여 측정했는지가 중요합니다. 결합하여 측정되었다면 순수한 NPU의 연산성능은 거기서 일부 차감해야 합니다.
- DSP(디지털 신호 처리장치)는 NPU와 비슷한 역할을 하므로 NPU+DSP 조합은 NPU계열끼리의 조합이니 관계없습니다.
예: 이곳에서 본 엑시노스 2400의 연산성능 루머 = INT8 기준 44 TOPs (NPU+DSP 연계?)
댓글
일단 제가 체크한 스펙 정보에선
AI 44TOPs가 아닌
NPU 44TOPs 였습니다.