Bolt는 Google이 개발한 7세대 텐서 처리 장치(TPU)로 제안되었으며, TPU v5 제품군의 후속 모델로 자리매김하고 있다. 2025년 현재, Google은 Bolt를 공식적으로 발표하지 않았으며, 여기에 제시된 정보는 추측에 기반한 것으로 업계 동향에 따른 것이다. TPU는 머신 러닝 작업을 가속화하도록 설계된 맞춤형 주문형 집적 회로(ASIC)로, 특히 딥러닝 모델과 같은 대규모 언어 모델 및 신경망과 같은 작업을 중점적으로 처리한다. Google은 2015년부터 Google Cloud 데이터 센터에 TPU를 배포해 왔으며, 각 세대마다 성능과 에너지 효율성에서 상당한 개선을 제공했다.
아키텍처 및 설계
Bolt는 TensorFlow 및 JAX와 같은 소프트웨어 프레임워크와 하드웨어를 공동 설계하는 Google의 전통을 이어갈 것으로 예상된다. 구체적인 세부 사항은 알려지지 않았지만, 고급 메모리 하위 시스템, 더 높은 대역폭의 상호 연결, 그리고 희소 계산을 최적화하기 위한 향상된 프루닝 지원을 통합할 가능성이 높다. 2023년에 출시된 TPU v5 시리즈는 3D 적층 고대역폭 메모리(HBM)와 2D 메시 상호 연결을 특징으로 하여, 수조 개의 매개변수를 가진 모델의 확장 가능한 학습을 가능하게 했다. Bolt는 이 기반 위에 구축되어, 더 많은 온칩 메모리와 더 빠른 멀티 헤드 어텐션 유닛을 통합하여 트랜스포머 기반 아키텍처를 가속화할 가능성이 있다.
성능 기대치
업계 분석가들은 Bolt가 칩당 최대 459테라플롭스의 bfloat16 성능을 제공하는 TPU v5e 대비 학습 처리량에서 2-3배 개선을 제공할 수 있을 것으로 추측한다. 추론의 경우, Bolt는 대화형 AI와 같은 실시간 애플리케이션에 중요한 낮은 지연 시간과 더 높은 토큰 생성 속도를 달성할 수 있다. 2021년에 출시된 Google의 TPU v4는 이전 세대 대비 성능 대비 전력 효율에서 2.7배 개선을 달성했으며, Bolt도 유사한 궤적을 따르며 에너지 효율성을 핵심 지표로 삼을 수 있다. 그러나 공식적인 벤치마크가 없으면 이러한 수치는 추측에 불과하다.
소프트웨어 생태계
Bolt는 TensorFlow, JAX 및 Google Cloud의 Vertex AI 플랫폼을 포함한 Google의 AI 소프트웨어 스택에 통합될 것이다. 또한 Gemini와 같은 트랜스포머 기반 모델의 학습 및 서빙과 같은 생성형 AI 워크로드를 지원할 가능성이 높다. Google은 역사적으로 클라우드 서비스를 통해 TPU 접근을 제공해 왔으며, Bolt도 이 모델을 이어받아 연구 및 기업용으로 TPU 슬라이스가 장착된 가상 머신을 제공할 것이다. 대규모 컴퓨팅에 의존하는 OpenAI 및 Anthropic 모델은 Bolt의 잠재적인 성능 향상으로 이점을 얻을 수 있지만, 주로 NVIDIA GPU를 사용한다.
경쟁 구도
Bolt는 Amazon Web Services의 AWS Trainium, Microsoft Azure의 Intel 기반 제품, AMD의 Instinct GPU와 같은 다른 AI 가속기와 경쟁할 것이다. Groq 및 SambaNova는 특수 추론 칩을 제공하며, Graphcore는 Nokia Bell Labs가 인수한 후 그래프 기반 처리에 집중하고 있다. Google의 강점은 칩 설계에서 클라우드 배포까지의 수직 통합에 있어, 빠른 반복과 최적화를 가능하게 한다. 그러나 TSMC의 제조 제약과 전 세계적인 칩 부족은 Bolt의 가용성과 가격에 영향을 미칠 수 있다.
결론
2025년 현재, Bolt는 Google의 공식 확인이 없는 추측성 제품으로 남아 있다. 그러나 회사의 TPU 로드맵은 머신 러닝 및 대규모 언어 모델의 증가하는 수요를 지원하기 위해 더 강력하고 효율적인 가속기로의 지속적인 추진을 시사한다. Bolt가 출시된다면 AI 하드웨어 시장에서 Google의 입지를 강화할 수 있지만, 그 성공은 실행력, 생태계 지원 및 NVIDIA와 다른 칩 제조업체의 경쟁 대응에 달려 있다.