Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始

今回は「Dataiku、生成AIの運用管理サービス「LLMガード」を提供開始」についてご紹介します。

関連ワード (データマネジメント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Dataiku Japanは10月23日、企業が生成AIを活用する際のコスト管理や品質保証、安全確保を支援するソリューション「Dataiku LLMガード」の提供を発表した。

 LLMガードは、「コストガード」「安全性ガード」「クオリティーガード」で構成されるソリューションスイートになる。LLMゲートウェイ「Dataiku LLMメッシュ」に統合されており、エンタープライズグレードの生成AIアプリケーションを構築・管理するのに役立てられる。

 Dataikuの調査によると、回答者の88%は大規模言語モデル(LLM)を管理するための特定のアプリケーションやプロセスを持っていないという。その上で、LLMガードは企業が生成AIを構築、導入、管理する際のリスクを軽減するように設計されている。

 「コストガード」は、企業がLLMの使用状況を効率的に追跡・監視するためのコスト管理機能であり、生成AIの予算に対する支出を予測・管理する。

 「安全性ガード」は、リクエストとレスポンスの機密情報を評価し、カスタマイズ可能なツールを用いてLLMの利用を保護する機能。これにより、データの不正使用や漏えいを防ぐ。

 「クオリティーガード」は、各ユースケースにおけるLLMの品質を、自動化された標準化評価で保証する機能である。レスポンスの質を最大化し、評価プロセスの客観性と拡張性を確保する。例えば、企業は生成AIの回答の関連性や正確性を自動で評価でき、最適なLLMとアプローチを選べるようになる。また、生成AIの信頼性を長く保つのにも役立てられる。さらに、品質評価が簡単になることで、概念実証(PoC)から本格導入までスムーズに移行できる。

 これまで、企業が生成AIを導入する際には、LLMを評価するために独自にコードを作成するか、専用ツールを使う必要があった。今回、新たにDataikuの「ユニバーサルAIプラットフォーム」を使うことで、生成AIの品質を迅速かつ容易に評価し、生成AIのユースケース構築のプロセスに組み込めるようになった。

 Dataikuの共同創業者で最高経営責任者(CEO)のFlorian Douetteau氏は、「生成AIアプリケーションが、コスト、品質、安全性の面で一貫したパフォーマンスを提供することを確実にすることは、生成AIのテクノロジーが企業でその潜在能力を最大限に発揮するために不可欠である」とコメントした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
富士通ら、HPCとAIを活用した量子化学シミュレーション高速化技術を開発
IT関連
2023-02-23 12:11
ウフルと相鉄グループら、廃棄スマホを用いた「電力可視化」の実証事業
IT関連
2022-12-29 04:21
変化はチャンス–開発者がAIを恐れるべきではない理由
IT関連
2023-05-20 11:09
有料版Slackに外部ユーザーとDMでやり取りし、チャンネルにも追加できる「Slackコネクト」
アプリ・Web
2021-03-26 22:14
音声コミュニケーションと生成AIの多様な活用を展開–レブコムが新戦略
IT関連
2023-07-11 14:14
サイバーセキュリティの展望–2023年に警戒すべき新たな脅威
IT関連
2022-11-25 10:52
SpaceXの大型ロケット「Super Heavy」と宇宙船「Starship」が初めて合体、全高120mは史上最大
宇宙
2021-08-10 22:46
Netflixはさらに進化したインタラクティブ・クイズ番組「トリビア・クエスト」でトップ死守を目指す
IT関連
2022-03-05 19:52
「ChatGPT」のプログラミング能力–「Fortran」「COBOL」などのマイナー言語で試す
IT関連
2023-05-12 08:18
デジタル庁から推奨APIゲートウェイとされた「Kong Gateway」。その背景と機能、最新情報、クラウドネイティブ対応など関係者に聞く[PR]
API
2022-11-14 05:04
Amazonプライムデー、日本で最も売れたのは?
企業・業界動向
2021-06-25 01:37
「何が分からないか分からない」 オンラインでの新入社員育成に課題
IT関連
2021-08-13 19:29
「BASIC」誕生60周年–コンピューター利用を容易にしたシンプルな言語の歴史
IT関連
2024-05-16 23:40
富士通ゼネラル、基幹システムをSAPに刷新–IT負債解消と予測型事業運営へ
IT関連
2024-08-31 10:37