Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始

今回は「Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始」についてご紹介します。

関連ワード (データマネジメント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Dataiku Japanは10月23日、企業が生成AIを活用する際のコスト管理や品質保証、安全確保を支援するソリューション「Dataiku LLMガード」の提供を発表した。

 LLMガードは、「コストガード」「安全性ガード」「クオリティーガード」で構成されるソリューションスイートになる。LLMゲートウェイ「Dataiku LLMメッシュ」に統合されており、エンタープライズグレードの生成AIアプリケーションを構築・管理するのに役立てられる。

 Dataikuの調査によると、回答者の88%は大規模言語モデル(LLM)を管理するための特定のアプリケーションやプロセスを持っていないという。その上で、LLMガードは企業が生成AIを構築、導入、管理する際のリスクを軽減するように設計されている。

 「コストガード」は、企業がLLMの使用状況を効率的に追跡・監視するためのコスト管理機能であり、生成AIの予算に対する支出を予測・管理する。

 「安全性ガード」は、リクエストとレスポンスの機密情報を評価し、カスタマイズ可能なツールを用いてLLMの利用を保護する機能。これにより、データの不正使用や漏えいを防ぐ。

 「クオリティーガード」は、各ユースケースにおけるLLMの品質を、自動化された標準化評価で保証する機能である。レスポンスの質を最大化し、評価プロセスの客観性と拡張性を確保する。例えば、企業は生成AIの回答の関連性や正確性を自動で評価でき、最適なLLMとアプローチを選べるようになる。また、生成AIの信頼性を長く保つのにも役立てられる。さらに、品質評価が簡単になることで、概念実証(PoC)から本格導入までスムーズに移行できる。

 これまで、企業が生成AIを導入する際には、LLMを評価するために独自にコードを作成するか、専用ツールを使う必要があった。今回、新たにDataikuの「ユニバーサルAIプラットフォーム」を使うことで、生成AIの品質を迅速かつ容易に評価し、生成AIのユースケース構築のプロセスに組み込めるようになった。

 Dataikuの共同創業者で最高経営責任者(CEO)のFlorian Douetteau氏は、「生成AIアプリケーションが、コスト、品質、安全性の面で一貫したパフォーマンスを提供することを確実にすることは、生成AIのテクノロジーが企業でその潜在能力を最大限に発揮するために不可欠である」とコメントした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「中核ビジネスと新規領域の両輪でV字成長を達成したい」–F5大野社長
IT関連
2024-02-03 04:40
グーグル、米国とブラジル、アルゼンチンなど結ぶ海底ケーブル「Firmina」の計画示す
IT関連
2021-06-10 14:31
飲食店のレシピを再現して仕込み料理などの外注ができる「ロカルメオーダー」運営が2億円調達
IT関連
2021-02-09 17:35
日立と山形県東根市、洪水の事前予測で避難・緊急活動への効果を実証
IT関連
2022-12-21 17:46
日本のサイバー攻撃被害額は平均1.25億円、ランサムウェアでは1.77億円に
IT関連
2023-11-08 12:48
横浜市立市民病院、脳ドック用AIプログラム導入–認知機能低下の予防に向け
IT関連
2022-04-13 10:08
ダイキンとNEC、メタバースでの空調機点検トレーニングを開始
IT関連
2024-11-27 19:53
オープンソースソフトウェアのセキュリティ強化へ、米政府機関や企業のリーダーが会合
IT関連
2022-05-17 02:22
ドコモの「ahamo」、有料で店頭サポートを開始 1回3300円
企業・業界動向
2021-04-23 06:31
マイクロソフトとSAPの提携強化がもたらす新たな市場競争とは
IT関連
2021-01-28 03:06
プログラミング教育のライフイズテックと大阪府が高校向け大阪版情報教育モデルの構築に向け連携協定を締結
IT関連
2022-01-21 00:33
高知県宿毛市ら、マイナンバーカード活用でためたポイントを市民立案の政策につなげる
IT関連
2024-07-30 03:01
Sansan、「Bill One」の請求書発行機能を単体で提供–インボイス制度対応に向け
IT関連
2022-07-12 12:27
大手CDNプロバイダーFastlyで“世界的な障害” メルカリ、note、TVerなど複数サービスに影響か
クラウドユーザー
2021-06-09 19:12