生成AIスタートアップのFireworks.aiは、これまでで最も高速かつ効率的な推論エンジンを発表しました。同社は、従来の単一AIモデルを複数の相互作用モデルに置き換える複合AIシステムに依存しています。Fireworks.aiは、費用対効果が高くスケーラブルなソリューションを提供するために、Google CloudやNVIDIAなどのパートナーと提携しています。Google Cloudは、Fireworks.aiが99.99%のAPIアップタイムで毎日1,400億を超えるトークンを処理するのを支援しています。Fireworks.aiは、パフォーマンスを最適化しコストを削減するために、Cloud Pub/Sub、Cloud Functions、Cloud Monitoring、BigQueryなどのGoogle Cloudサービスも使用しています。このパートナーシップのおかげで、Fireworks.aiは、競合するホスト型サービスと比較して4倍低いレイテンシと4倍高いスループットを提供できています。Fireworks.aiは、AIへのオープンソースアクセスを重視し、より多くの企業が生成AIの革新的な使用から価値を生み出すことができるようにGoogle Cloudと協力しています。