구글의 Tenserflow Lite를 이용해 만든 Geekbench ML이 있어서 한번 돌려봤습니다. 냉장고 쿨링 + 드라이기를 통해 기기 온도를 37도에 맞춘 후 CPU, GPU, nnAPI(CPU + GPU + DSP 등 사용 가능한 건 전부 끌어씀, 이하 NPU) 세 가지를 모두 돌렸습니다. (S22+이라 SD8G1입니다)

자연스럽게 NPU > GPU > CPU의 결과가 나왔습니다.

1. 8G1의 NPU는 A15를 가볍게 제압하는 성능을 보여주었습니다. (A15는 TensorFlow Lite Core ML모드 기준)

2. CPU에서 NPU로 갈수록 32비트 정수/실수 연산 성능은 크게 오르지 않는 반면 16비트, 8비트 정수 성능은 엄청난 폭으로 올랐습니다. 8비트 정수에서 NPU가 CPU보다 356배 빠른 항목도 있네요. 32비트 연산은 CPU가 맨날 하는 일인만큼 당연히 빠릅니다.

3. nnAPI의 버그인지 32비트 실수에서 CPU의 6% 성능밖에 안 나오는 항목이 있었습니다...???

4. ARM 주거랏

CPU, GPU 벤치만 보다가 ML 벤치는 처음 봐서 신기했습니다.