인공지능(AI) 기술이 발전함에 따라, 이를 효과적으로 지원하는 하드웨어의 중요성이 더욱 부각되고 있습니다. 특히 구글 클라우드는 AI 연산을 가속화하기 위해 자체 개발한 텐서처리장치(TPU)를 지속적으로 발전시키고 있습니다. 이번 포스팅에서는 구글 클라우드의 최신 AI 연산 가속 하드웨어인 6세대 TPU ‘트릴리움’의 특징과 실제 적용 사례를 살펴보겠습니다.
구글 클라우드의 6세대 TPU ‘트릴리움’의 주요 특징
구글 클라우드는 AI 연산을 가속화하기 위해 자체 개발한 텐서처리장치(TPU)를 지속적으로 발전시키고 있습니다. 최근 발표된 6세대 TPU인 ‘트릴리움’은 이전 세대에 비해 성능과 효율성이 크게 향상되었습니다. 트릴리움은 AI 학습 성능이 4배, 추론 처리량이 최대 3배 증가하였으며, 칩당 최대 컴퓨팅 성능이 4.7배 향상되었습니다. 또한, 에너지 효율성은 67% 개선되었고, 고대역폭 메모리(HBM) 용량과 인터칩 인터커넥트(ICI) 대역폭도 2배 증가하였습니다. 이러한 개선을 통해 트릴리움은 대규모 언어 모델(LLM) 학습과 이미지·비디오 처리 등 다양한 AI 작업에 최적화된 성능을 제공합니다.
트릴리움 TPU의 실제 적용 사례
트릴리움 TPU는 다양한 기업과 연구 기관에서 AI 모델의 학습과 추론에 활용되고 있습니다. 예를 들어, 카카오는 새로운 AI 어시스턴트 ‘카나나(Kanana)’의 컴퓨팅 자원으로 트릴리움을 이용하여 70억 개의 파라미터를 지닌 대형 한국어·영어 모델을 빠르게 학습시킬 수 있었습니다. 또한, 글로벌 제약회사인 바이엘은 신약 개발에, 딥 지노믹스는 RNA 치료제 연구에 트릴리움을 적용하여 대규모 AI 모델을 효율적으로 구동하고 있습니다. 이러한 사례들은 트릴리움 TPU의 우수한 성능과 효율성을 보여줍니다.
트릴리움 TPU의 기술적 우수성과 향후 전망
트릴리움 TPU는 저전력 액체 냉각 기술, 3세대 스파스코어(SparseCore), 확장된 고대역폭 메모리(HBM) 등 다양한 기술을 결합하여 전력 효율과 확장성을 함께 끌어올렸습니다. 이를 통해 칩 수천 개를 유기적으로 연결하여 병목 현상을 최소화하고, 대규모 언어 모델 시대에 필요한 핵심 인프라를 제공합니다. 앞으로도 구글 클라우드는 TPU를 지속적으로 발전시켜 AI 연산 가속 하드웨어 분야에서 선도적인 역할을 할 것으로 기대됩니다.
구글 클라우드의 6세대 TPU ‘트릴리움’은 AI 연산 가속 하드웨어의 최신 기술을 적용하여 성능과 효율성을 크게 향상시켰습니다. 이를 통해 다양한 기업과 연구 기관에서 AI 모델의 학습과 추론에 효과적으로 활용되고 있으며, 앞으로도 AI 기술 발전에 중요한 역할을 할 것으로 예상됩니다.