OpenAIの「o1」に欺瞞の傾向–うそをつきにくいAIモデルは?

今回は「OpenAIの「o1」に欺瞞の傾向–うそをつきにくいAIモデルは?」についてご紹介します。

関連ワード (データマネジメント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 OpenAIは「o1」モデルの正式版をリリースしたばかりだが、そのモデルは危険なほどうそをつくという研究結果が発表された。

 研究機関のApollo Researchは、「コンテキスト内でのたくらみ」について、6つの最先端モデルをテストした。モデルが直接指示されていない行動を取り、それについてうそをつく能力である。「どんなことをしても」特定の目標を達成するように指示された後、評価者は矛盾する情報を提示し、モデルがその過程で制限を取り払って開発者を欺くかどうかを調べた。

 対象となったモデルのうち、「Claude 3.5 Sonnet」、Claude 3 Opus、o1、Googleの「Gemini 1.5 Pro」、Metaの「Llama 3.1 405B」は、策略を練る能力を示した。OpenAIの「GPT-4o」はそのミニバージョンが「ChatGPT」の無料版で使用されているが、そうした能力は示さなかった。

 これらのモデルは偶然や無意識のうちに欺瞞(ぎまん)的だったわけではなく、「策略を実行可能な戦略として認識し、そうした行動を容易に取る」と論文では説明する。

 「驚くべきことに、目標だけが与えられ、それを追求するように強く促されていない時であっても、モデルが策略を練るケースもまれにあった」と論文の執筆者は付け加えている。

 評価者がモデルに何が起きたのかを説明するように求めたところ、一部のモデルはほかのものよりも早く自白した。

 「Llama 3.1 405BとClaude 3 Opusは、約80%の確率で自白するのに対し、o1は驚くほどしぶとく、自白するのは20%未満である」と研究者は説明する。「非常に敵対的で複数ターンにわたる尋問でも、o1は7ターン後にようやく80%の割合で自白する」

 この調査結果は、ウェブサイトの発行者に不利益をもたらすとされる「ChatGPT Search」が頻繁に不正確であることを示す研究結果の直後に発表された。12日間にわたるリリースキャンペーンを開催中のOpenAIは、書き起こしツール「Whisper」を提供しているが、このツールも過剰にハルシネーション(幻覚)を起こすと判明している。

 この研究結果は、企業がいかにAIを急速かつ大規模に導入しているかという背景において、憂慮すべきものである。Anthropicは11月、自社のモデルが兵器やサイバー攻撃の脅威をもたらすほど発展していることを発見し、緊急でAIの規制を呼びかけた。

 AIモデルは、多角的なタスクを自律的に実行するエージェントシステムでますます使用されている。研究者は懸念を示しており、システムが「ひそかに不適切な目標を追求」しかねないと案じている。

 「われわれの調査結果では、最先端のモデルが文脈に応じた基礎的な策略を立てる能力を有していると示しており、AIエージェントが不正な行動を取ることは、理論上ではなく現実的な懸念である」と結論づけている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
NTTテクノクロス、コールセンターAIの音声認識精度を向上–次世代メディア処理AIと連携
IT関連
2024-09-04 20:31
霧島酒造が顧客体験向上でDX推進、電通デジタルと電通九州が支援
IT関連
2022-09-01 07:01
LayerX、Android版「バクラク申請・経費精算」を提供開始
IT関連
2022-09-08 19:19
マルコメ、経費精算SaaSで申請者の作業時間を月100時間削減
IT関連
2023-09-08 19:15
「Windows」の更新管理を自動化、「Windows Autopatch」とは–今知っておきたいこと
IT関連
2022-04-13 00:14
ベリサーブ、SBOM構築・運用サービス「SBOM.JP」を発表–製造業向けに
IT関連
2024-09-07 16:44
フェイスブックのAR作成ソフト「Spark AR」がビデオ通話対応に
VR / AR / MR
2021-06-04 15:18
メルセデス・ベンツが2030年までにEV専門メーカーに、8つのバッテリー工場を建設
モビリティ
2021-07-24 19:06
グーグル、今はなき「G Suite」のユーザーに無料のGoogleアカウントに移行してもらう予定と発表
IT関連
2022-01-30 05:17
身体の一部しか見えていなくても、全身を3Dモデル化 機械学習で :Innovative Tech
イラスト・デザイン
2021-03-29 00:16
宮崎日本大学学園、快適に学習できる無線LAN環境を構築–バッファローが支援
IT関連
2024-06-22 17:37
サイバーセキュリティ事業のFlatt Securityがセキュアコーディング向けeラーニング「KENRO」正式公開
セキュリティ
2021-04-14 22:11
組込系OS最新世代「Windows 10 IoT Enterprise」はどう使うべきか
IT関連
2021-06-26 17:58
約6割の民間企業が自治体との帳票類を「全て紙」で授受–インフォマート調査
IT関連
2024-03-09 22:52