エクサウィザーズ、生成AIのRAG継続改善機能をリリース
今回は「エクサウィザーズ、生成AIのRAG継続改善機能をリリース」についてご紹介します。
関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。
本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。
エクサウィザーズは5月13日、企業が生成AIの検索拡張生成(RAG:Retrieval Augmented Generation)を継続的に改善していくための「RAGOps」をリリースした。同社のAIソフトウェア開発環境「exaBase Studio」のアプリケーションとして利用できる。
RAGは、生成AIの大規模言語モデル(LLM)とインターネットなどの外部データを組み合わせて、ユーザーの要求に近しい回答を生成する方法になる。ただ、企業などでは「期待通りの結果を得られない」「閲覧権限のないデータにアクセスさせたくない」「ハルシネーション(もっともらしい誤回答が心配」といった課題があり、RAGの本格的な利用が難しいという。
このためエクサウィザーズは、exaBase Studio環境にRAGを継続的に改善する仕組みとしてRAGOpsを用意することにより、企業ユーザーなどが利用能なAIモデル、社内の多種多様なデータに合わせた処理を自社の要求に合せて短期間で最適化できるようにしたとする。RAGOpsはテンプレートになり、今後はテンプレートに追加されていく部品を組み合わせて、継続的な拡張も図れるという。
具体的にRAGOpsでは、回答品質に満足しない場合に人が介入して改善する「Human-in-the-Loop」を採用している。生成AIの回答にユーザーが満足したかどうかのフィードバックを「キャッシュDB」に蓄積して、評価の高い回答の質問と類似の問い合わせにはLLMを使わずキャッシュDBで応答する。評価が低い場合に、オペレーターが介在して回答データの入力を促す。ユーザーニーズを基に不足する情報を拡充しながら運用を改善できるとする。
また、ユーザー権限に応じてユーザーの質問時にRAGが参照する関連データを管理する機能や、業務やデータの変化に合せてRAGOpsのパーツを自由に追加、入れ替えができる。例えば、採用するモデルやデータ構造に合わせたデータの前処理、後処理、ユーザーインターフェースなどを簡単に変更できるという。
RAGOpsは、exaBase Studioのライセンスを持つ顧客とエクサウィザーズのプロフェッショナルサービス経由で提供される。