OpenAIの「o1」に欺瞞の傾向–うそをつきにくいAIモデルは?

今回は「OpenAIの「o1」に欺瞞の傾向–うそをつきにくいAIモデルは?」についてご紹介します。

関連ワード (データマネジメント等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 OpenAIは「o1」モデルの正式版をリリースしたばかりだが、そのモデルは危険なほどうそをつくという研究結果が発表された。

 研究機関のApollo Researchは、「コンテキスト内でのたくらみ」について、6つの最先端モデルをテストした。モデルが直接指示されていない行動を取り、それについてうそをつく能力である。「どんなことをしても」特定の目標を達成するように指示された後、評価者は矛盾する情報を提示し、モデルがその過程で制限を取り払って開発者を欺くかどうかを調べた。

 対象となったモデルのうち、「Claude 3.5 Sonnet」、Claude 3 Opus、o1、Googleの「Gemini 1.5 Pro」、Metaの「Llama 3.1 405B」は、策略を練る能力を示した。OpenAIの「GPT-4o」はそのミニバージョンが「ChatGPT」の無料版で使用されているが、そうした能力は示さなかった。

 これらのモデルは偶然や無意識のうちに欺瞞(ぎまん)的だったわけではなく、「策略を実行可能な戦略として認識し、そうした行動を容易に取る」と論文では説明する。

 「驚くべきことに、目標だけが与えられ、それを追求するように強く促されていない時であっても、モデルが策略を練るケースもまれにあった」と論文の執筆者は付け加えている。

 評価者がモデルに何が起きたのかを説明するように求めたところ、一部のモデルはほかのものよりも早く自白した。

 「Llama 3.1 405BとClaude 3 Opusは、約80%の確率で自白するのに対し、o1は驚くほどしぶとく、自白するのは20%未満である」と研究者は説明する。「非常に敵対的で複数ターンにわたる尋問でも、o1は7ターン後にようやく80%の割合で自白する」

 この調査結果は、ウェブサイトの発行者に不利益をもたらすとされる「ChatGPT Search」が頻繁に不正確であることを示す研究結果の直後に発表された。12日間にわたるリリースキャンペーンを開催中のOpenAIは、書き起こしツール「Whisper」を提供しているが、このツールも過剰にハルシネーション(幻覚)を起こすと判明している。

 この研究結果は、企業がいかにAIを急速かつ大規模に導入しているかという背景において、憂慮すべきものである。Anthropicは11月、自社のモデルが兵器やサイバー攻撃の脅威をもたらすほど発展していることを発見し、緊急でAIの規制を呼びかけた。

 AIモデルは、多角的なタスクを自律的に実行するエージェントシステムでますます使用されている。研究者は懸念を示しており、システムが「ひそかに不適切な目標を追求」しかねないと案じている。

 「われわれの調査結果では、最先端のモデルが文脈に応じた基礎的な策略を立てる能力を有していると示しており、AIエージェントが不正な行動を取ることは、理論上ではなく現実的な懸念である」と結論づけている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
IHIと日本IBM、GX推進に向けて北九州市と連携協定–熱利用の最適化モデルを構築
IT関連
2024-01-23 10:04
ダークウェブとは–クリアウェブとの違い、アクセス方法、利用上の注意点
IT関連
2024-02-27 10:13
Docker Desktop 4.35正式版登場。Appleシリコン専用のハイパーバイザ採用でmacOSでの性能向上。ターミナル機能やボリュームのクラウドバックアップも正式版に
Apple
2024-11-14 22:57
5万800円の2 in 1タイプChromebook「ASUS Detachable CM3」発売、ペンも収納可能
ハードウェア
2021-03-18 09:47
驚くほどカスタマイズ性が高く、高速な「Ultramarine Linux」Flagshipエディション
IT関連
2023-12-06 23:02
農林水産省、ガバメントクラウドの先行事例を発表–府省におけるクラウドCoEの役務とは
IT関連
2023-05-16 02:33
米会計検査院が月着陸船開発契約をめぐるBlue Originの抗議を却下
宇宙
2021-08-01 19:03
サイバーエージェント、和製生成AI開発や広告のAI活用基盤にデル製サーバーを採用
IT関連
2023-08-02 01:17
エンジニア採用育成支援サービス「TechTrain」を提供するTechBowlが1.3億円のプレシリーズA調達
IT関連
2022-01-28 16:41
中国政府、ディープフェイク悪用防止の基本規則を発行
IT関連
2022-12-17 09:59
オンライン学習大手Byju’sがインドで最高評価額のスタートアップに、UBSなどから資金調達
EdTech
2021-06-14 22:46
再生資源の需給をつなぐプラットフォームを実証–双日らがタッグ
IT関連
2021-04-01 17:23
光電製作所、次期ERPシステムにSAPのクラウドオファリングを採用
IT関連
2023-11-16 01:05
さくらインターネット、生成AI向けクラウドサービス「高火力 PHY(ファイ)」提供開始。NVIDIA H100を8基搭載、200GbE×4本接続可能なベアメタルサーバ
GPU
2024-01-25 10:39