NEC、生成AIのハルシネーション対策機能を発表

今回は「NEC、生成AIのハルシネーション対策機能を発表」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 NECは9月18日、生成AIが作成した回答内容に誤った情報(ハルシネーション)が含まれているかどうかを確認できる機能を10月末から提供すると発表した。

 この機能は、同社のテキスト分析技術と大規模言語モデル(LLM)に関するノウハウを元に開発したという。LLMが文章を生成する際に元となった文章と生成した文章を比較して、食い違いがあった場合に、情報の抜け漏れや重複、元の文章と意味が変わった部分をユーザーに示し、ユーザーは単語だけでなく文章の意味を比較して判断できるという。

 また、LLMによる文章の要約にも用いることで、要約前後の文章を比較してハルシネーション有無の判定が容易になり、人的な確認作業の負担軽減、要約精度のさらなる向上も期待できるとしている。検索拡張生成(RAG)などの用途でも、LLMに質問して得られた文章に対し、同機能でその根拠となる元の文章を提示することも可能で、LLMが生成した文章の正確性を効率的に確認できる。

 対応するLLMは、同社開発の「cotomi」と「Microsoft Azure OpenAI Service」となっている。今後は、人物名や地名などの固有表現の一致度合いをスコア化する機能や文章に含まれる一貫性を検証する機能なども追加する予定だという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
優秀なテック人材を採用、維持するために–今何を見直すべきか
IT関連
2022-05-12 06:11
AMD、ゲーミングノート向けGPU「Radeon RX 6000M」シリーズ発表 :COMPUTEX TAIPEI 2021
製品動向
2021-06-02 19:57
NRIがAWSジャパン協力のもと、アナリティクスプロジェクト向けキットを開発
IT関連
2021-04-22 12:27
データ基盤でDXの本丸へ–テプコシステムズのアジャイル変革体験記(後編)
IT関連
2024-06-21 09:31
「日本からChatGPT対抗サービスを出してはどうか」とNECに提案してみた
IT関連
2023-09-08 21:06
「Chromebook」のセキュリティを強化–変更すべき「ChromeOS」の5設定
IT関連
2024-07-28 13:37
今こそ考えるべき開発者体験–パフォーマンス向上とチャレンジする環境づくり
IT関連
2024-08-21 11:33
米国の重要インフラを狙う中国の集団「Volt Typhoon」、マイクロソフトが警告
IT関連
2023-05-26 19:13
「Zoom」に映り込む請求書や電話番号から情報漏洩–在宅勤務のリスクを考える
IT関連
2021-04-17 11:32
jQuery 3.7.0リリース。チェーン可能な新メソッドuniqueSort、単位なしのCSSプロパティなど追加
JavaScript
2023-05-18 14:06
エンド・ツー・エンド暗号化対応Googleドキュメント対抗テキストエディター「Skiff」が4.2億円調達
ソフトウェア
2021-05-28 07:21
Clubhouseがユーザー同士が深くつながれるDMテキストチャット機能を構築中
ネットサービス
2021-06-23 09:41
質と量で世界初、工学院大学が約6360手話単語と10テーマ10件の対話を収録した高精度3D日本手話データベースを提供開始
パブリック / ダイバーシティ
2021-06-29 09:58
ローソンの低糖質パン人気 購買層は「40〜50代の男女」
くらテク
2021-05-12 14:49