Google 2018 개막식에서 Sundar Pichai는 Google이 인공지능을 사용하여 진단 및 치료에 참여하고 오디오와 비디오를 처리할 수 있는 역량을 간략하게 소개했습니다. 예상대로 그는 TPU에 전체 컨퍼런스의 C 자리를 주었습니다. 구글이 딥 러닝을 위해 만든 이 텐서 프로세서는 인공지능 분야에서 구글의 가장 강력한 무기가 되었습니다.
TPUv3는 작년에 출시되었지만 아직 대중에 공개되지 않은 TPUv2에 비해 성능이 크게 향상되었습니다. 최대 컴퓨팅 성능은 버전 2.0의 8배입니다. 성능 향상에는 상당한 대가가 따릅니다. 발열량이 엄청나게 증가하자 엔지니어들은 라디에이터를 황동 튜브로 교체해야 했습니다. 예상하셨겠지만, Sundar Pichai는 이 세대의 TPU에 대한 냉각 솔루션이 액체 냉각이라고 인정했습니다.
TPUv2의 최대 컴퓨팅 성능은 180Tflops이며, 64GB HBM 캐시를 갖추고 있어 1세대 TPU보다 학습 능력이 향상되었습니다. 이번 행사에서 TPU 주제로 발표를 맡은 Zak Stone은 Tensor2Tensor를 사용하여 여러 모델의 학습 과정을 시연했는데, 그 성능이 정말 인상적이었습니다. 회의 후 Zak Stone의 질문에 대한 답변으로 Super Neuro는 TPU가 다른 개발 프레임워크에 적응할 수 있는지에 대해 질문했습니다. 안타깝게도 예상대로 TPU는 TensorFlow 관련 툴 체인만 지원하고 Pytorch를 비롯한 다른 개발 프레임워크는 지원하지 않습니다. Zak은 또한 오픈소스 프로젝트인 Tensor2Tensor가 매우 빠르게 진행되고 있다고 언급했습니다.
같은 장소에 있는 구글 엔지니어인 프랭크 첸은 Super Neuro에 TPU 3.0 버전의 전력 소비가 "약간 증가"했다고 말했습니다. 동시에, 컴퓨터실의 TPU Pod는 Infinity Band와 같은 광섬유 솔루션이 아닌 고도로 맞춤화된 케이블을 사용하여 서로 통신합니다. 충분한 대역폭과 캐시는 클러스터 전체의 성능을 향상시키지만, 당연히 에너지 소비에 어느 정도 부담을 줍니다. 올해 개발자들에게 버전 3.0에 대한 접근 권한을 제공할 수 있느냐는 질문에 그는 부자연스럽게 미소 지으며 "그럴 수 있기를 바랍니다."라고 답했다.
안녕하세요, 아직 지연이 없는 서비스는 어디인가요? 하지만 3.0을 바로 사용할 수 없다면 할당량 신청 없이도 TPUv2를 언제 사용할 수 있을까요? 잭 스톤은 사무실로 복귀하자마자, 검토를 기다리고 있는 모든 개발자에게 즉시 이메일을 보내고 서비스 사용 허가를 내릴 것이라고 말했습니다.
그럼, 잭이 빨리 일을 시작하고 책상으로 돌아가기를 바랍니다.
역사기사 (이미지를 클릭하시면 읽으실 수 있습니다)
프로그래머를 위한 '춘절 갈라'로 불리는 구글 I/O
어떤 대형 살인범들이 풀려났나요? 》
"일본 사람들은 이상한 생각을 가지고 있고, AI 연구도 진지하지 않다"
"Google I/O에서 출시된 실패 제품들의 상세 목록"》
