맥북 프로 14가 드디어 와서 한번 돌려 봤습니다.

사실 gpu 32 애플스토어 픽업으로 시켰는데 6월로 미뤄졌길래 지마켓에서 사버렸네요 (여긴 이틀만에옴)

m1 맥스, 24코어 지피유, 32램 옵션이고 받은 물량도 1월거인걸 보니 확실히 생산 차질이 있는거 같긴합니다

GPU 돌려보려고 BERT 언어 모델 학습으로 대충 벤치마킹 해봤습니다.

(bert-base 모델 3에폭, 배치사이즈 8 파인튜닝, 1000개 학습 샘플)

학습 패키지는 애플제공 tensorflow-macos, tensorflow-metal 을 사용했고 V100, A5000은 cudnn 세팅 귀찮아서 파이토치로 돌렸습니다.

V100, A5000 CPU는 제온 실버 4114이고 A5000이 느리게 나오긴 했는데 다른 프로세스랑 같이 돌려서 그러니 정확하지는 않습니다.

32기가 메모리 중 최대 캐시사이즈가 10.67기가 밖에 안잡혀 보이기는 합니다 (16기가 기준으로는 6기가).

프로세스들 죽이고 메모리 최대한 확보하고 돌려도 같은걸 보니 현재로써는 고정값인듯 한데

이게 시스템상으로 지피유 허가 최대치인지 그냥 패키지에서 세팅해둔 값이어서 추후에 변경 가능한지는 모르겠네요

속도도 코랩보다는 살짝 빠른 정도고 현역들이랑은 3~4배 정도 속도차이가 나네요

그나마 장점이라면 코랩에 비하면 로컬이면서 이정도면 쓸만한 성능 수준이기는 하고

아직 패키지 자체가 초창기다보니 메모리 제한이 어떻게 바뀔지 여부가 있다는점 정도같네요

그리고 발열도 풀 학습 중에도 거의 없긴합니다 i7 8세대는 사파리 조금만 켜도 불타던거 비하면 쾌적합니다.

그외 전반적인 평은 메뉴바에 아이콘 많이 놓는데 노치가 좀 거슬리기는 하고

13에 비해서는 확실히 넓직, 120 달리니 확실히 빠릿해보이고 이제 충전기는 놓고다녀도 될듯

ios 앱은 다행히 막히기 전에 ipa 다 뽑아두긴 해서 노트북으로 폰안꺼내고 커피 시킬수 있는건 편하네요

딱 돈낸만큼 가치는 하는거 같습니다 가성비 까지는 모르겠네요

+ nod.ai 라는 곳에서 커스텀 런타임이 있긴한데 이건 시간 날때 해봐야겠습니다

토치 지원에 제공 텐플 보다는 좀더 빠르다 하네요

https://nod.ai/pytorch-m1-max-gpu/