Google Cloudは、AIファーストの未来に向けた強力なインフラストラクチャの革新を発表しました。第6世代TPU「Trillium」、NVIDIA H200 Tensor Core GPUを搭載したA3 Ultra VM、Hypercompute Cluster、カスタムAxionプロセッサベースのC4A VM、データセンターネットワーク「Jupiter」とホストオフロード機能「Titanium」の強化、AI/ML向けブロックストレージサービスの「Hyperdisk ML」などが含まれます。これらの強化は、AIインフラストラクチャのパフォーマンス、使いやすさ、費用対効果を向上させることを目的としています。Trilliumは、TPU v5eと比較して大幅なパフォーマンス向上を実現しています。トレーニングパフォーマンスは4倍以上、推論スループットは最大3倍、エネルギー効率は67%向上しています。A3 Ultra VMは、前世代と比較して飛躍的にパフォーマンスが向上するように設計されており、GPU間のネットワーク帯域幅は2倍、LLM推論パフォーマンスは最大2倍向上しています。Hypercompute Clusterは、AIアクセラレータクラスタの管理を簡素化し、単一のAPI呼び出しで信頼性の高い反復可能なデプロイを可能にします。C4A VMは一般提供が開始されており、幅広い汎用ワークロード向けにパフォーマンスと効率が向上しています。TitaniumとJupiterネットワークは、AIワークロードをサポートするように強化されており、新しいTitanium MLネットワークアダプタは、RoCEを介した3.2 TbpsのGPU間トラフィックを実現します。Hyperdisk MLは一般提供が開始されており、AIおよびHPCワークロード向けの高性能ストレージを提供し、データのロード時間を短縮し、費用対効果を高めます。