OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定

今回は「OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)は、人と技術との関わり方を革新し続けているため、人の未来に信じられないほどの影響を及ぼすことは否定できない。野放しのままであれば、AIにはかなり深刻なリスクがあることも否定できない。

 ここで登場するのが、OpenAIが立ち上げた新しい専門家チームだ。

 「壊滅的な」リスクに対応する目的で結成されたOpenAIの専門家チーム「Preparedness」は、現在および将来のAIモデルが抱えるリスク要因を検証する。そうしたリスクはさまざまなカテゴリーに及び、それには聞き手に合わせた説得、全体的なサイバーセキュリティ、自律的な複製や適応、さらには化学攻撃や生物攻撃、放射性物質による攻撃、核攻撃のような絶滅レベルの脅威が含まれる。

 AIが核戦争を始めるというのはいささか起こりそうにない出来事に思えるが、トップクラスのAI研究者やエンジニア、Google DeepMindの最高経営責任者(CEO)であるDemis Hassabis氏をはじめとするCEOらのグループが、「AIによる絶滅のリスクを緩和することは、パンデミックや核戦争といった他の社会規模のリスクと並んで、世界的な優先事項であるべきだ」と不気味な警告を発したのが、5月の話だということを思い出してほしい。

 AIがどのように核戦争を引き起こせると言うのだろうか。最近は、軍事攻撃を行う時期や場所、方法の決定に必ずコンピューターが使われており、将来的にはAIが関わることになるのは間違いない。しかし、AIは「ハルシネーション」(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を起こしやすく、人と同じ世界観を持っているとは限らない。要するに、AIは間違ったタイミングで核攻撃すべきだと判断する可能性があるということだ。

 OpenAIの声明には、次のように書かれている。「フロンティアAIモデルは、最先端の既存モデルが現時点で持っている機能を凌駕し、人類全体の利益に寄与する潜在的な力を持つようになると考えている。しかし、もたらすリスクもますます深刻化している」

 OpenAIによると、AIを抑制するため、専門家チームは以下の3つの主要な疑問に焦点を当てるという。

 専門家チームを率いるのは、マサチューセッツ工科大学(MIT)のCenter for Deployable Machine Learning(CDML)の所長で、MITのAIポリシーフォーラム(AI Policy Forum)の教授団共同代表を務めるAleksander Madry氏だ。

 研究を拡大するため、OpenAIは、壊滅的な悪用を防止するためのコンテスト「AI Preparedness Challenge」も開始した。上位の提案最大10件に最高2万5000ドル(約370万円)相当のAPIクレジットを提供する。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
自動運転技術のティアフォーと自動車学校運営のミナミHDがAI教習システムを手がける「AI教習所」設立
オープンソース / Open Source(用語)
2021-05-18 12:54
日本ではKubernetesやCI/CDなどが幻滅期に、インダストリクラウドやインフラ自動化は過度な期待。「日本におけるクラウド・プラットフォームのハイプ・サイクル」2024年版発表
CI/CD
2024-09-27 00:06
Dropbox、エンドツーエンド暗号化機能の追加や「Microsoft 365」との連携強化を発表
IT関連
2024-04-28 04:57
業種特化型「Salesforce Industry Cloud」の特徴と機能–迅速な「Time to Value」を実現
IT関連
2022-09-15 02:20
日本HP、新年度事業戦略を発表–Windows 11で「買い換えサイクル短縮を期待」
IT関連
2022-01-22 04:36
変化が激しい時代こそ技術の本質がより重要に–LPI-Japanの鈴木理事長
IT関連
2023-10-25 19:16
「Linux」をPDFファイルの中で動かすプロジェクトが登場
IT関連
2025-02-13 16:57
Yahoo! JAPANが副業マッチングサービス「Yahoo!副業(ベータ版)」の先行登録受付を開始、5月に本格稼働へ
ネットサービス
2021-03-04 12:12
マイクロソフト、ハイブリッドワークの未来に向けた「Windows」関連イベントを4月に
IT関連
2022-03-17 04:52
NTTデータの2022年度業績は増収増益–世界市場を狙う一端が鮮明に
IT関連
2023-05-13 10:20
エクサウィザーズと日本製鉄、ロボットAIソリューションで熟練作業の効率的な技能伝承を目指すデータ解析基盤を検証
IT関連
2022-03-11 11:57
AI導入の障壁は既存インフラ–ITモダナイゼーションとクラウド移行の需要が拡大
IT関連
2024-04-06 01:39
「Raspberry Pi 5」2GB RAM版が登場–「BCM2712」D0ステッピング搭載で50ドル
IT関連
2024-08-21 14:16
東大と日立、ビッグデータ活用した価値協創で連携強化–社会課題の解決を推進
IT関連
2022-04-06 12:50