cpu의 ml 성능도 중요하다고 생각합니다
- 익명의 미붕이06577957
- 조회 수 636
- 2023.03.31. 18:17
아직 핸드폰에서는 아무리 npu가 있다고 해도 npu가 처리 불가능한 경우도 있고, 서드 파티 앱들은 npu를 제대로 활용을 못해서 cpu만 갈구는 경우가 많은 걸로 알고 있어요
그리고 저가형에도 npu랑 gpu 빵빵하게 넣어줄 건 아니니까 이러나 저러나 cpu ml 성능은 높을수록 좋고, 벤치에서 cpu의 ml 성능을 측정하는 것도 필요하다고 생각합니다
근데도 ml이 필요 없다 같은 이야기가 나오는 건 arm이 원인 같아요
아무리 요즘 ai 관련 기술이 늘어났다지만 실사용시에 가장 중요한 게 뭐냐고 하면 그게 ml 성능은 아니잖아요?
정작 중요한 기본 성능은 쥐꼬리만큼 올랐으면서 ml 성능은 2배 올랐습니다! 이러니까 어이가 없는 거죠
ml 성능 올릴 시간에 정수연산 성능이나 올리지 도대체 뭐하냐는 생각이 들 수밖에 없고
이게 더 나아가서 ml 그거 쓸모도 없는데 arm 뭐함? 이 되고 이게 더 나가서 cpu의 ml은 쓸모가 없다는 말이 된 것 같습니다
다시 말하자면
cpu에서 ml은 덜 중요한데 arm 왜저러냐 -> cpu에서 ml은 안 중요한데 arm 왜저러냐 -> cpu에서 ml은 안 중요하다
대충 이런 식으로 의식이 흐른 것 같습니다
타 사이트에서 cpu ml 성능 중요한데 미코는 왜 cpu엔 ml 필요없다는 여론이 주류냐 역시 미코 ㅈ문가 집단이네 이런 얘기가 나와서 한 번 적어봤습니다
서드파티 NPU 활용 문제는...지금 서드파티 중에 적극적으로 AI 연산을 이용하는 어플 자체가 거의 없을텐데요? 지금 AI 성능은 결국 제조사 시스템 어플의 활용성에 거의 국한되는 중이죠. 그리고 NPU 성능이 빵빵하지 않은 중급기는 어차피 CPU 성능도 빵빵하지 않아서 CPU ML 효율도 그저그럽니다.
그리고 NPU랑 GPU가 해결 못하는 AI 연산이란게 어느 부분인지 모르겠네요. 그런 부분은 극히 일부일텐데요. 만약 그런 부분이 많있다면 엔비디아가 저 정도로 성장하지더 못 했을 겁니다.
중급기에도 슬슬 a710 정도는 들어가는 거 같길래 앞으론 cpu ml 성능도 더 좋아질 거 같아서요
그리고 npu로 불가능한 연산이란 건.. 딴 데서 그렇게 주장하시길래 일단 넣어놨습니다
저도 솔직히 npu로 처리 안되는 게 만약 있다면 gpu로 넘기면 되니까 cpu까지 굳이 갈 필요가 있나 싶긴 한데요
말씀하신대로 쿠다로 안 되는 게 없는 걸 보면 gpu로 불가능한 연산은 극소수라고 봐도 될 텐데도 아무튼 npu를 못쓰는 경우가 있고 아무튼 그래서 cpu ml이 중요하다길래 이 글을 쓴 겁니다
아이폰16 프로 맥스 배터리 밀도 증가?
문제는 지금 데스크탑쪽 시장도
AI 개별 유닛 탑재로 가고 있다는 부분입니다.
오히려 CPU ML이 더 성능 검증이 떨어져요
AMD 조차 이번 Zen4 APU에서 AI유닛을
따로 넣을 정도니깐요