Amazon Web Services (AWS)は、生成AIアプリケーションの安全性と信頼性を高めるように設計された、Guardrails for Amazon Bedrockの新しいアップデートを発表しました。これらのアップデートには、幻覚検出と、あらゆるモデルでカスタマイズされたガードレールを使用してアプリケーションを強化するための独立したAPIが含まれており、責任ある信頼できる出力を保証します。

幻覚検出機能は貴重な追加機能であり、顧客は参照元とユーザーのクエリに基づいてモデルの応答の精度を検証できます。これにより、モデルが、事実に基づいていない、不正確または新規な情報を生成していないことを保証するのに役立ちます。

ApplyGuardrail APIを使用すると、顧客は構成済みの安全対策に対してユーザー入力とモデル応答を評価できます。この機能は、自己管理型またはサードパーティのLLMを使用する組織にとって特に役立ちます。これにより、すべてのアプリケーションに標準化された安全対策を適用できるためです。

これらのアップデートにより、AWSは、安全で信頼性の高い生成AIアプリケーションを構築する顧客に力を与えるツールとソリューションを提供するというコミットメントを再確認します。 Guardrails for Amazon Bedrockは、この方向への重要なステップであり、顧客が使用するLLMの動作をより適切に制御できるようにします。

これらの新機能の詳細に関心のあるお客様は、AWS WebサイトのGuardrails for Amazon Bedrock製品ページをご覧ください。