TOPs를 표기하는 기준이 몇개 있는데요 대표적으로 INT8 기준과 INT4기준입니다

INT유닛수 x 클럭하면 나오는게 연산수치인데 공개된 정보로 따지자면 엑시는 INT4기준으로 해야 들어맞거든요.

실제로 npu 성능 테스트 해봐도 10TOPs인 엑시990이 7TOPs인 855에도 INT8기준 테스트 결과치가 더블스코어로 밀리는 모습이 보입니다.

888이랑 2100도 비슷한 모양새로 AI benchmark 사이트에사 공개된 수치도 INT8 테스트에서 2100이 확 밀리는 모습을 보여주죠

https://ai-benchmark.com/ranking.html

퀄콤은 INT8기준으로, 삼성은 INT4기준으로 발표하는거 같습니다. 

추론연산 성능은 퀄콤도 그렇지만 인텔 엔비디아 암드 빅3는 전부 INT8로 TOPs 수치를 발표하기 때문에 삼성의 수치는 상당히 부풀려져 있다고 봐야겠죠.

긱벤치의 ML벤치마크에서도 2100이 888에는 안되고 865수준에서 점수가 나오는것도 비슷한 이유입니다. INT8 스코어가 박살이 나있어요.

a14

https://browser.geekbench.com/ml/v0/inference/45104

ex2100

https://browser.geekbench.com/ml/v0/inference/40289

sd888

https://browser.geekbench.com/ml/v0/inference/41458