NEC、生成AIのハルシネーション対策機能を発表

今回は「NEC、生成AIのハルシネーション対策機能を発表」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 NECは9月18日、生成AIが作成した回答内容に誤った情報(ハルシネーション)が含まれているかどうかを確認できる機能を10月末から提供すると発表した。

 この機能は、同社のテキスト分析技術と大規模言語モデル(LLM)に関するノウハウを元に開発したという。LLMが文章を生成する際に元となった文章と生成した文章を比較して、食い違いがあった場合に、情報の抜け漏れや重複、元の文章と意味が変わった部分をユーザーに示し、ユーザーは単語だけでなく文章の意味を比較して判断できるという。

 また、LLMによる文章の要約にも用いることで、要約前後の文章を比較してハルシネーション有無の判定が容易になり、人的な確認作業の負担軽減、要約精度のさらなる向上も期待できるとしている。検索拡張生成(RAG)などの用途でも、LLMに質問して得られた文章に対し、同機能でその根拠となる元の文章を提示することも可能で、LLMが生成した文章の正確性を効率的に確認できる。

 対応するLLMは、同社開発の「cotomi」と「Microsoft Azure OpenAI Service」となっている。今後は、人物名や地名などの固有表現の一致度合いをスコア化する機能や文章に含まれる一貫性を検証する機能なども追加する予定だという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
韓国LG Energyが約1700億円を投資し米国でのバッテリー生産を拡大
IT関連
2022-03-25 11:42
NTTソルマーレ、電子書籍配信サービスのDWHに「MySQL HeatWave」を導入
IT関連
2023-11-02 18:13
スマートカレンダーツールのClockwiseはAIを活用してリモートワークでの「燃え尽き」をなくす
IT関連
2022-01-20 07:21
在宅勤務で人気のドキュメントスキャナーScanSnapに新モデルiX1600登場、有線接続で安価なiX1400もラインアップ
ハードウェア
2021-01-20 08:56
LINE、PCゲームの配信プラットフォームを日本でも展開 MMORPGなどを提供
企業・業界動向
2021-05-15 09:47
セキュリティで生成AIを活用するには環境整備から–ラックが検証
IT関連
2024-03-13 01:04
アップル「M1」搭載Macで動く「Asahi Linux」のアルファ版リリース
IT関連
2022-03-23 00:00
インテル、元幹部S・シェノイ氏を再登用–Design Engineering Group責任者に
IT関連
2021-01-28 08:25
ラッシュジャパン、検索型FAQ「Helpfeel」を導入–ラッピング売り上げが前年比1.2倍に
IT関連
2023-11-18 13:40
「HashiConf Global 2022」–写真で見るHashiCorpコミュニティーカンファレンス
IT関連
2022-10-15 23:53
Uber、2021年の売上高を力強く伸ばし調整後の収益性も改善
IT関連
2022-02-11 02:12
「メーカーの都合に振り回されたくない」–新日本製薬が“第三者保守”を選択した理由
IT関連
2022-11-18 17:11
ServiceNow Japan、「Now Platform Utah」をリリース–従業員の安全を支援する新機能も
IT関連
2023-04-13 16:52
「SBOM」の認知率は41.3%、導入率は33.1%–ビジョナル調査
IT関連
2023-12-16 05:01