マイクロソフトは、AIスーパーコンピューティング向けに最適化された最新のAzure仮想マシン、ND H200 v5シリーズを発表しました。
AI分野が急速に進化するにつれて、スケーラブルで高性能なインフラストラクチャの必要性は、指数関数的に増加し続けています。マイクロソフトの顧客は、革新的なAI駆動型ソリューションを開発するためにAzure AIインフラストラクチャに依存しています。だからこそ、マイクロソフトは、Azure ND H200 v5シリーズ仮想マシン（VM）を搭載した、新しいクラウドベースのAIスーパーコンピューティングクラスターを提供しています。これらのVMは現在、一般提供が開始されており、基礎モデルのトレーニングから生成的な推論まで、高度なAIワークロードの増大する複雑さを処理するように調整されています。
ND H200 v5の最も興味深い点の1つは、接続されたメモリやメモリ帯域幅よりもはるかに速い速度で、GPUの処理能力が向上していることによって引き起こされるボトルネックに対処できることです。ND H200 v5シリーズVMは、高帯域幅メモリ（HBM）の容量と帯域幅を大幅に向上させており、GPUはモデルパラメータに高速にアクセスできます。その結果、アプリケーション全体のレイテンシが短縮されます。これは、インタラクティブエージェントなどのリアルタイムアプリケーションにとって重要です。
さらに、ND H200 v5 VMは、単一のVMのメモリ内に、より複雑な大規模言語モデル（LLM）を格納できます。これにより、複数のVMで分散ジョブを実行する必要がなくなり、パフォーマンスが向上し、複雑さが軽減されます。
最後に、ND H200 v5は、Azure Batch、Azure Kubernetes Service、Azure OpenAI Service、Azure Machine LearningなどのAzureサービスと事前に統合されています。これらの統合により、企業は新しいVMを簡単に使い始めることができ、AIスーパーコンピューティングの力を活用したいと考えている組織にとって魅力的な選択肢となっています。
