구글 6세대 텐서 프로세싱 TPU '트릴리움' 공개

구글 클라우드의 6세대 텐서 프로세싱 유닛(TPU)인 '트릴리움(Trillium)'은 인공지능(AI) 모델의 학습과 추론을 가속화하기 위해 설계된 최첨단 AI 가속기입니다. 이전 세대인 TPU v5e와 비교하여 트릴리움은 칩당 최대 4.7배의 컴퓨팅 성능 향상을 이루었으며, 에너지 효율성도 67% 이상 개선되었습니다.

구글 클라우드 트릴리움(사진출처:구글 클라우드)

트릴리움 TPU의 주요 장점:

1. 향상된 성능: 트릴리움은 행렬 곱셈 장치(MXU)의 크기 확장과 클럭 속도 증가를 통해 연산 성능을 극대화하였습니다. 이를 통해 대규모 언어 모델(LLM)과 같은 복잡한 AI 모델의 학습 및 추론 시간이 크게 단축되었습니다.
2. 고급 메모리 아키텍처: 고대역폭 메모리(HBM)의 용량과 대역폭을 두 배로 늘려 데이터 접근 속도를 향상했습니다. 또한, 칩 간 인터커넥트(ICI) 대역폭도 두 배로 증가시켜 칩 간 통신 효율을 높였습니다.
3. 3세대 스파스코어(SparseCore): 임베딩 집약적인 워크로드를 가속화하기 위해 3세대 스파스코어를 탑재하여 추천 시스템 및 순위 지정과 같은 작업에서 뛰어난 성능을 발휘합니다.

트릴리움 TPU의 기술적 세부 사항:

트릴리움은 단일 고대역폭, 저지연 포드에서 최대 256개의 TPU로 확장할 수 있습니다. 멀티 슬라이스 기술과 티타늄 IPU(Intelligence Processing Units)를 통해 수백 개의 포드로 확장하여 페타비트/초 데이터 센터 네트워크로 연결된 건물 규모의 슈퍼컴퓨터에서 수만 개의 칩을 연결할 수 있습니다.

트릴리움 TPU의 개선점:

트릴리움은 이전 세대 대비 학습 성능이 4배 이상, 추론 처리량이 최대 3배 증가하였으며, 전력 효율은 67% 향상되었습니다. 이는 고밀도의 대형 언어 모델을 이용한 학습 및 추론에서 강점을 발휘하며, 생성형 AI의 다단계 추론 프로세스에 적합합니다.

다른 빅테크 TPU와의 비교 우위점:

엔비디아의 GPU가 AI 프로세서 시장의 약 80%를 차지하며 지배적인 위치를 유지하고 있지만, 구글은 TPU를 통해 자체적인 AI 칩 개발을 선도하고 있습니다. 특히 트릴리움은 AI 연산에 최적화된 아키텍처로, GPU 대비 효율성과 성능 면에서 우위를 점하고 있습니다.

트릴리움 TPU의 응용 분야:

트릴리움 TPU는 대규모 AI 모델의 학습과 추론에 최적화되어 있으며, 챗봇, 코드 생성, 미디어 콘텐츠 생성, 합성 음성, 비전 서비스, 추천 엔진 등 다양한 분야에서 활용될 수 있습니다.

트릴리움 TPU의 시장 전망과 시장 규모:

AI 기술의 발전과 함께 고성능 AI 가속기에 대한 수요가 증가하고 있습니다. 구글 클라우드는 트릴리움을 통해 이러한 수요를 충족시키고 있으며, 대기업부터 생성형 AI 기반 유니콘 스타트업까지 다양한 기업들이 구글 클라우드를 통해 TPU를 이용하고 있습니다.

전반적으로 트릴리움 TPU는 성능, 효율성, 확장성 측면에서 AI 연구와 산업 응용에 혁신적인 도구로 자리매김하고 있습니다.