[태그:] 버고 네트워크

서론

2026년 4월, 구글은 인공지능(AI) 인프라의 혁신을 이끌 새로운 칩 라인업을 공개했습니다. 바로 ‘TPU 8t’와 ‘TPU 8i’로, 이 두 칩은 각각 AI 모델의 학습과 추론에 특화된 설계를 갖추고 있습니다 . 이는 기존의 다용도 칩에서 벗어나, AI의 두 가지 핵심 과정에 맞춰 전용 하드웨어를 제공함으로써 성능과 효율성을 극대화하려는 구글의 전략적 결정입니다. 본 글에서는 TPU 8t와 TPU 8i의 주요 특징, 기술적 혁신, 그리고 시장에 미칠 영향에 대해 상세히 살펴보겠습니다.

---

1. TPU 8t: 초고성능 학습용 칩

1.1. 개요 및 설계 철학

TPU 8t는 AI 모델을 학습시키는 데 특화된 칩으로, 구글이 자체적으로 설계한 텐서 처리 장치(Tensor Processing Unit)의 8세대 제품입니다 . 이 칩은 거대 언어 모델(LLM)과 같은 최첨단 AI 모델을 개발하는 데 필요한 막대한 연산 능력을 제공합니다. 구글은 AI 인프라의 미래를 공개하며, TPU 8t가 기존 칩 대비 학습 속도를 크게 향상시켰다고 밝혔습니다.

1.2. 기술적 특징

1.2.1. 연산 성능

TPU 8t는 이전 세대인 아이언우드(iroewood) 대비 연산 성능이 3배 향상되었습니다 . 단일 슈퍼포드(superpod)에서 최대 9600개의 칩을 연결할 수 있으며, 이를 통해 초당 100경 번 연산이 가능한 121 엑사플롭스(ExaFLOPS)의 성능을 발휘합니다. 또한, 구글은 단일 클러스터 내에서 100만 개 이상의 TPU 칩을 연결할 수 있는 인프라를 구축하여 대규모 모델 학습이 가능하도록 했습니다.

1.2.2. 메모리 구조

공유 고대역폭 메모리(HBM)를 최대 2페타바이트(PB)까지 확장할 수 있는 것이 TPU 8t의 또 다른 강점입니다 . 이러한 방대한 메모리 용량은 거대한 데이터셋을 동시에 처리할 수 있게 하여, 모델 학습 시간을 획기적으로 단축합니다. 이는 기존 GPU 기반 시스템에서 발생하곤 했던 메모리 병목 현상을 해결하는 데 중요한 역할을 합니다.

1.2.3. 에너지 효율성

에너지 효율성 측면에서도 TPU 8t는 뛰어납니다. 전력 대비 성능이 이전 세대 대비 최대 124% 향상되었으며, 이는 데이터센터 운영 비용 절감에 크게 기여합니다 . 구글은 같은 전기로 더 많은 작업을 처리할 수 있도록 하드웨어를 설계함으로써, AI 개발 비용을 더욱 낮추고자 했습니다.

1.3. 인프라 혁신

구글은 TPU 8t와 함께 ‘버고 네트워크(Virgo Network)’라는 대규모 데이터센터 패브릭을 공개하였습니다. 버고 네트워크는 최대 13만 개의 TPU를 초저지연으로 연결할 수 있는 시스템으로, 데이터 이동 속도를 극대화하여 모델 학습 과정에서 발생하는 병목 현상을 해소합니다. 또한, ‘패스웨이(Pathways)’라는 인프라 관리 플랫폼을 통해 수백만 개의 칩을 하나처럼 연결하여, 거대한 AI 모델 개발 주기를 수개월에서 수주로 단축할 수 있습니다.

---

2. TPU 8i: 초저지연 추론용 칩

2.1. 개요 및 설계 철학

TPU 8i는 이미 학습된 AI 모델이 실제 서비스에서 빠르게 응답할 수 있도록 설계된 추론(inference) 전용 칩입니다 . 구글은 TPU 8i를 통해 사용자가 AI 에이전트에 질문했을 때 기다림 없이 즉각적인 결과를 얻을 수 있도록 하였습니다 .

2.2. 기술적 특징

2.2.1. 메모리 혁신

TPU 8i의 가장 큰 특징은 대용량 온칩(on-chip) 메모리입니다. HBM 용량은 288GB로 이전 세대 대비 약 1.5배 증가하였고, SRAM 용량은 무려 384MB로 기존보다 3배 이상 확장되었습니다 . 이러한 메모리 구조는 데이터를 외부에서 불러오는 데 드는 시간을 크게 줄여주어, AI가 입력받은 순간 즉시 결과를 도출할 수 있도록 합니다.

2.2.2. 데이터 이동 경로 최적화

칩 간 데이터 이동 경로를 절반 이상 단축함으로써, TPU 8i는 추론 과정에서 발생하는 병목 현상을 해결하였습니다. 이는 단일 포드(pod)에서 최대 1152개의 TPU를 연결하여 지연 시간을 획기적으로 줄이는 데 기여합니다.

2.2.3. 에너지 효율성 및 비용 절감

TPU 8i 역시 에너지 효율성이 크게 개선되었습니다. 전력 대비 성능이 이전 세대 대비 최대 117% 향상되었으며, 달러당 성능도 최대 80%까지 증가하였습니다 . 이는 AI 서비스 운영 비용을 절반 이하로 낮출 수 있음을 의미하며, 엔비디아 GPU에 비해 비용 효율성이 뛰어나다는 평가를 받았습니다.

2.3. 실제 응용 사례

구글은 TPU 8i를 통해 사용자가 AI 에이전트에 질문했을 때 더 이상 “5초씩 기다릴 필요가 없다”고 강조하였습니다 . 실제로 구글 클라우드는 기업이 AI 에이전트를 쉽게 구축하고 확장·관리할 수 있는 ‘제미나이 엔터프라이즈 에이전트 플랫폼’을 함께 공개하였습니다 .

---

3. TPU 8t와 TPU 8i의 시장 영향

3.1. 엔비디아 중심 시장에 대한 도전

구글의 TPU 시리즈는 항상 엔비디아 GPU에 대한 대안으로 주목받아왔습니다 . 이번에 공개된 TPU 8t와 TPU 8i는 각각 학습과 추론에 특화된 설계로, 엔비디아가 장악한 AI 인프라 시장에 심각한 도전이 될 것으로 예상됩니다.

3.2. 클라우드 서비스 경쟁 심화

구글은 자체적으로 개발한 TPU를 클라우드 고객사에 본격적으로 판매하기 시작했습니다. 특히, 앤스로픽과 같은 외부 고객사와 대규모 공급 계약을 체결하며, 클라우드 서비스 시장 내에서 구글의 입지를 강화하고 있습니다.

3.3. AI 생태계 다양성 확보

구글의 이번 전략은 AI 모델이 거대해짐에 따라 학습과 추론 각각에 필요한 인프라가 달라지고 있음을 반영합니다 . 특히, 추론 단계에서의 전력 소모가 문제가 되고 있는 현재 상황에서, 구글은 자신들의 특화된 칩으로 시장 내 새로운 승부처를 만들어냈습니다.

---

결론

구글의 새로운 AI 칩인 TPU 8t와 TPU 8i는 각각 학습과 추론이라는 서로 다른 과정에 맞춰 설계된 혁신적인 제품입니다. TPU 8t는 방대한 데이터를 신속하게 처리할 수 있는 초고성능 학습용 칩으로, 거대한 AI 모델 개발 주기를 획기적으로 단축합니다. 반면 TPU 8i는 대용량 메모리와 최적화된 데이터 이동 경로로 초저지연 추론 성능을 제공하여, 실제 서비스 환경에서 즉각적인 응답이 가능하도록 합니다.

이러한 특화된 설계는 기존 범용 GPU 중심 시장에 새로운 패러다임을 제시하며, 클라우드 서비스 경쟁 심화와 AI 생태계 다양성 확보라는 긍정적인 효과를 가져올 것으로 기대됩니다.

---

관련 링크