지난 2016년 실리콘밸리 마운틴뷰에서 열린 구글의 개발자 컨퍼런스 ‘I/O 2016’ 현장.  기조연설 무대에 오른 순다 피차이 구글 CEO는 한 반도체 칩에 대해 설명을 했다. ‘텐서 프로세싱 유닛(Tensor Processing Unit, 이하 TPU)’라 이름 붙여진 이 칩은 구글이 3년 동안 비밀스럽게 개발한 인공지능(AI) 전용 칩이었다. 그때까지 순수한 소프트웨어 및 서비스 기업이었던 구글은 갑자기 반도체 신제품을 들고 나왔고, 사람들은 놀랐다.

당시는 구글 딥마인드와 이세돌 9단의 역사적인 대국이 끝난 지 얼마 지나지 않은 시점이었다. 구글은 회사의 미래를 AI에 걸고 있었다. 이세돌과 대국을 펼친 알파고 학습을 위해  GPU가 대거 활용됐다. 머신러닝의 성능을 높이기 위해서는 GPU와 같이 병렬처리하는 칩셋이 필요했기 때문이다.

그러나 구글은 100% GPU에만 의존한 것은 아니었다. 외부에는 알려지지 않은 TPU가 알파고의 추론을 지원하고 있었다.