Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始

今回は「Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始」についてご紹介します。

関連ワード （データマネジメント等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　Dataiku Japanは10月23日、企業が生成AIを活用する際のコスト管理や品質保証、安全確保を支援するソリューション「Dataiku LLMガード」の提供を発表した。

　LLMガードは、「コストガード」「安全性ガード」「クオリティーガード」で構成されるソリューションスイートになる。LLMゲートウェイ「Dataiku LLMメッシュ」に統合されており、エンタープライズグレードの生成AIアプリケーションを構築・管理するのに役立てられる。

　Dataikuの調査によると、回答者の88％は大規模言語モデル（LLM）を管理するための特定のアプリケーションやプロセスを持っていないという。その上で、LLMガードは企業が生成AIを構築、導入、管理する際のリスクを軽減するように設計されている。

　「コストガード」は、企業がLLMの使用状況を効率的に追跡・監視するためのコスト管理機能であり、生成AIの予算に対する支出を予測・管理する。

　「安全性ガード」は、リクエストとレスポンスの機密情報を評価し、カスタマイズ可能なツールを用いてLLMの利用を保護する機能。これにより、データの不正使用や漏えいを防ぐ。

　「クオリティーガード」は、各ユースケースにおけるLLMの品質を、自動化された標準化評価で保証する機能である。レスポンスの質を最大化し、評価プロセスの客観性と拡張性を確保する。例えば、企業は生成AIの回答の関連性や正確性を自動で評価でき、最適なLLMとアプローチを選べるようになる。また、生成AIの信頼性を長く保つのにも役立てられる。さらに、品質評価が簡単になることで、概念実証（PoC）から本格導入までスムーズに移行できる。

　これまで、企業が生成AIを導入する際には、LLMを評価するために独自にコードを作成するか、専用ツールを使う必要があった。今回、新たにDataikuの「ユニバーサルAIプラットフォーム」を使うことで、生成AIの品質を迅速かつ容易に評価し、生成AIのユースケース構築のプロセスに組み込めるようになった。

　Dataikuの共同創業者で最高経営責任者（CEO）のFlorian Douetteau氏は、「生成AIアプリケーションが、コスト、品質、安全性の面で一貫したパフォーマンスを提供することを確実にすることは、生成AIのテクノロジーが企業でその潜在能力を最大限に発揮するために不可欠である」とコメントした。