범용 성의문제 아 닐까요?

일단 구글이 자체 제작해서 쓰고있는 tpu v4를 보면 자세한 성능을 발표한적이 없어서 직접 비교는 힘들지만 제품 발표때는 엔비디아 a100칩 대비 1.2~1.8배정도 빠르다고 했었는데 그정도까지는 아니라는 카더라도 외국포럼에서 조금 찾아볼수있구요. 발표때 비교대상이 엔비디아의 a100이였고 지금엔비디아는 h100이 나왔는데 h100 성능향상폭이 a100보다 엄청났던걸보면 아직 엔비디아 gpu가 앞서가는거 같습니다. 구글도 아직까지는 자체 tpu칩과 엔비디아 gpu같이 쓰고있구요

그래도 구글이 단시간에 저 만큼이라도 따라간거보면 엔비디아가 10년정도 독주가 가능할지는 잘 모르겠습니다. 그래도 일단 주식 최대한 챙겨놀라구요ㅋㅋㅋ 오늘 무슨 잡주나 작전주도 아닌게 27%상승은 진짜ㅋㅋㅋㅋ

NPU는 결국 정수와 부동소수좀 연산밖에 못하지 않나요? 구글이 자랑하는 텐서도 8 비트 연산 원툴이라 테스트 환경을 조절해서 특정 상황에서 엔비디아보다 최다 10배까지 빠르다는거지 모든 경우에 NPU가 GPU를 능가할 순 없죠. 범용성문제가 크고 아마 NPU와 GPU는 같이 갈 것 같습니다. 범용성이 크지만 그랴픽에서 느린 CPU를 보조하기 위해 GPU가 나온 것처럼 특정 연산에 보다 더 특화된 NPU가 GPU를 보조하는거죠.

그리고 쿠다와 오픈CL이 개사깁니다. 대부분의 AI가 빅데이터 기반 귀납적 사고로 학습하는 모델이기 때문에 엔비디아는 자신들이 가장 자신있는 GPU가 병렬처리로 AI 시장에 어떤 영향력을 가질 수 있는지 누구보다 먼저 캐치하고 시장에서 발 빠르게 AI 관련 소프트웨어, 하드웨어 지원으로 입지를 굳혀나간 케이습니다.

하드웨어보단 쿠다가속 이게 문제일텐데요 같은조건에서도 다이렉트 ml이랑은 꽤 차이난다고 들었거든요

엔비디아도 생각보다 오래가지 않을거같아요

테슬라 꼴 날듯.

기업들도 자기들이 운영하는 서비스에

어떻게든 기를 쓰고 자체 가속기 개발해서 쓰거나

다른 ai 개발업체와 협력해서 비용 절감하려고 할겁니다

그냥 편하게 엔당 제품을 가져다 쓰면 ok인데

문제는 제품 구매 비용과 그에 따른 유지보수비용이 계속 늘어가니

각 기업마다 자체 ai 가속기 계속 말나오는거죠..

하지만 지금 엔비디아가 판을 진짜 너무 잘 깔아놔서 잘 될지는...

기술 수준이 동일하다면 절대로 범용연산기가 전용연산기를 능가할 수 없습니다. 다만 흔히 NPU라고 하는 칩들은 nVidia보다 SW지원역량이 많이 부족해서 빅테크 빼고는 NPU로 웍스테이션 만들기가 어려운 상황인거죠.

저번학기에 쿠다를 배웠는데 확실히 쓰기 편하고 유용하게 잘 만들어 놨드라구여. 학부생 레벨에서도 배우기 좋았던 경험이 있습니다. 

테슬라 꼴 난다는게 뭔 말인지 모르겠지만 ㅋㅋ 여전히 테슬라도 압도적이죠 그시장 원톱

구글이 엔비디이 대체재라 이건 전혀 공감이 안되네요

범용성 문제일겁니다.

자체칩이 좋은건 거기에 맞는 SW기반까지 갖춰졌을 때 얘기니까요.

엔비디아가 십수년동안 쿠다에 공들인게 이제 터진거지요.