Googleは、大規模生成AIモデルのトレーニング用に設計された第6世代Tensor Processing Unit(TPU)、Trilliumを発表しました。前世代のCloud TPU v5pと比較して、Trilliumは最大1.8倍のパフォーマンス向上と99%のスケーリング効率を実現します。Googleは、追加の計算リソースがトレーニングプロセスを完了までどれだけ効果的に加速するかを測定する、収束スケーリング効率の向上に焦点を当てました。ベンチマーク結果は、TrilliumがCloud TPU v5pに匹敵する収束スケーリング効率を低コストで達成することを示しています。Trilliumは、生成AIモデルのトレーニングに費用対効果の高いソリューションを提供し、組織がより強力で効率的なモデルを開発できるようにします。
TrilliumによるLLMトレーニング効率の向上 - パフォーマンス分析
Google Cloud