Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始

今回は「Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始」についてご紹介します。

関連ワード (データマネジメント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Dataiku Japanは10月23日、企業が生成AIを活用する際のコスト管理や品質保証、安全確保を支援するソリューション「Dataiku LLMガード」の提供を発表した。

 LLMガードは、「コストガード」「安全性ガード」「クオリティーガード」で構成されるソリューションスイートになる。LLMゲートウェイ「Dataiku LLMメッシュ」に統合されており、エンタープライズグレードの生成AIアプリケーションを構築・管理するのに役立てられる。

 Dataikuの調査によると、回答者の88%は大規模言語モデル(LLM)を管理するための特定のアプリケーションやプロセスを持っていないという。その上で、LLMガードは企業が生成AIを構築、導入、管理する際のリスクを軽減するように設計されている。

 「コストガード」は、企業がLLMの使用状況を効率的に追跡・監視するためのコスト管理機能であり、生成AIの予算に対する支出を予測・管理する。

 「安全性ガード」は、リクエストとレスポンスの機密情報を評価し、カスタマイズ可能なツールを用いてLLMの利用を保護する機能。これにより、データの不正使用や漏えいを防ぐ。

 「クオリティーガード」は、各ユースケースにおけるLLMの品質を、自動化された標準化評価で保証する機能である。レスポンスの質を最大化し、評価プロセスの客観性と拡張性を確保する。例えば、企業は生成AIの回答の関連性や正確性を自動で評価でき、最適なLLMとアプローチを選べるようになる。また、生成AIの信頼性を長く保つのにも役立てられる。さらに、品質評価が簡単になることで、概念実証(PoC)から本格導入までスムーズに移行できる。

 これまで、企業が生成AIを導入する際には、LLMを評価するために独自にコードを作成するか、専用ツールを使う必要があった。今回、新たにDataikuの「ユニバーサルAIプラットフォーム」を使うことで、生成AIの品質を迅速かつ容易に評価し、生成AIのユースケース構築のプロセスに組み込めるようになった。

 Dataikuの共同創業者で最高経営責任者(CEO)のFlorian Douetteau氏は、「生成AIアプリケーションが、コスト、品質、安全性の面で一貫したパフォーマンスを提供することを確実にすることは、生成AIのテクノロジーが企業でその潜在能力を最大限に発揮するために不可欠である」とコメントした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
YouTuber人気に陰り 逮捕者続出……「憧れの職業」からも順位下げ
IT関連
2021-03-25 13:58
SUBARU、コンセプトカーの部品製造に3Dプリンティング技術を活用
IT関連
2024-10-25 15:19
富士通、「モダナイゼーションナレッジセンター」を新設–DX基盤整備を支援
IT関連
2022-09-06 20:23
ワークデイに聞く、「デジタルアジリティー」のある組織とは
IT関連
2021-01-21 01:35
サイバー脅威の進化と増大–防衛の要はリスクの把握と基本対策の徹底
IT関連
2022-07-22 12:41
MongoDB 6.0がリリース。時系列データ対応、ポーリング不要でデータ変更によるトリガー処理、スケーラビリティ、暗号化など強化
MongoDB
2022-07-25 23:26
マッチングアプリのプロフ写真は本物? AIで照合 「Tinder」新機能
ロボット・AI
2021-04-22 15:20
クラウドインフラ市場、AWSのシェアトップは変わらず。アリババ、Tencent、Baiduら中国勢が高い成長を見せる。2021年第1四半期、Synergy Research Group
AWS
2021-05-10 14:30
山形東高校とNTT Com、メタバース上で模擬国連を開催–密度の高い議論を促進
IT関連
2022-12-17 06:11
日本中央競馬会、公共性の高い競馬事業を支えるデータ保護基盤を統一
IT関連
2021-02-17 01:36
マイクロソフト、生成AIについて無料で学べる認定コースを公開
IT関連
2023-07-01 08:03
グーグルがインドのハイパーローカル配達サービスDunzoを41億円の資金調達ラウンドで支援
ネットサービス
2021-01-22 04:28
広島市、庁内業務の効率化に「Claris FileMaker」を導入
IT関連
2024-05-29 07:12
逆のアプローチ、スプレッドシートにアプリを組み込もうとしている「Spreadsheet.com」
ソフトウェア
2021-07-25 06:11