生成AI活用の課題は「ハルシネーション」と「セキュリティ」–AI inside調査

今回は「生成AI活用の課題は「ハルシネーション」と「セキュリティ」–AI inside調査」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 AI insideは、生成AIの業務適応と課題に関する実態調査を実施し、結果を発表した。

 それによると多くの大手企業が生成AIの活用に前向きである一方で、ハルシネーション(誤情報の生成)やセキュリティリスクといった課題を抱えていることが明らかになった。

 回答者の84.4%が生成AIの活用に不安を感じており、その理由として「ハルシネーション(59.2%)」、「セキュリティリスク(54.9%)」、「回答品質の一貫性欠如(54.3%)」などが挙げられている。

 また実際に生成AIを活用している企業が感じている課題としては、「ハルシネーションの検出と対策」と「セキュリティとプライバシー保護の徹底」が56.8%で同率1位となっている。

 この調査は10月1~2日の期間に実施された。対象は、年商500億円以上の大企業に勤務する218人で、業務における生成AIの導入に携わっている。

 その他の結果としては、生成AIの活用状況について8割以上の企業が、全社または一部門で生成AIを既に活用しており、14.7%が試験的に活用またはPoC(概念実証)を実施しているという。

 また具体的な不安要素について自由回答で尋ねたところ、「著作権対応」「参考元の情報の精査」「情報の信憑性」「人権侵害の恐れ」「正確性への疑問」といったものが寄せられた。

 このほか特定企業データを活用したカスタマイズSLM(特化型小規模言語モデル)の利用については、約8割が検討しており、特定業務や企業に特化した生成AI活用ニーズの高さがうかがえる。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ミャンマーのインターネット、一時ほぼ遮断状態に(SNSはまだ接続困難)
社会とIT
2021-02-09 09:45
Kaseya、「REvil」への身代金支払いを否定
IT関連
2021-07-28 00:24
マスターカードとマイクロソフト、次世代アイデンティティ技術で連携–詐欺検出など向上へ
IT関連
2022-04-27 13:08
富士通の新職種「ビジネスプロデューサー」は売り上げを拡大できるか
IT関連
2021-03-04 06:45
日立製作所、ニューノーマル時代の働き方の実験場に–日立ビルシステムの本社オフィスを刷新
IT関連
2021-07-31 04:59
ランサムウェアのビジネスモデルが多様化–トレンドマイクロの2023年セキュリティ脅威予測
IT関連
2022-12-29 14:26
三井住友カード、Sansanで顧客データ基盤を構築
IT関連
2024-08-21 12:28
富士通とケーネス、ドローンとAIで鉄塔の劣化度評価を実証
IT関連
2024-06-29 15:34
少人数で多拠点の遠隔接客を実現する「RURA」運営のタイムリープが1.8億円調達
ネットサービス
2021-03-02 19:50
商業施設デザインの船場、基幹システムと「Salesforce」連携で年間3473時間の作業時間削減へ
IT関連
2024-11-27 18:45
Stack Overflowが投資会社に買収された理由は、グローバル展開を加速し、さらに成長するため
StackOverflow
2021-06-07 00:19
国内CX関連ソフト市場、2022年は14.4%増で好調に推移–IDC Japan調査
IT関連
2023-06-22 05:30
OpenSSFによるコンテナなどへの電子署名サービス「Sigstore」が正式版に。オープンソースのサプライチェーンをさらに安全に
セキュリティ
2022-10-31 11:28
SpaceXの「Starlink」、噴火で被害のトンガでネットアクセス提供に向け対応との報道
IT関連
2022-02-11 05:24