OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定

今回は「OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)は、人と技術との関わり方を革新し続けているため、人の未来に信じられないほどの影響を及ぼすことは否定できない。野放しのままであれば、AIにはかなり深刻なリスクがあることも否定できない。

 ここで登場するのが、OpenAIが立ち上げた新しい専門家チームだ。

 「壊滅的な」リスクに対応する目的で結成されたOpenAIの専門家チーム「Preparedness」は、現在および将来のAIモデルが抱えるリスク要因を検証する。そうしたリスクはさまざまなカテゴリーに及び、それには聞き手に合わせた説得、全体的なサイバーセキュリティ、自律的な複製や適応、さらには化学攻撃や生物攻撃、放射性物質による攻撃、核攻撃のような絶滅レベルの脅威が含まれる。

 AIが核戦争を始めるというのはいささか起こりそうにない出来事に思えるが、トップクラスのAI研究者やエンジニア、Google DeepMindの最高経営責任者(CEO)であるDemis Hassabis氏をはじめとするCEOらのグループが、「AIによる絶滅のリスクを緩和することは、パンデミックや核戦争といった他の社会規模のリスクと並んで、世界的な優先事項であるべきだ」と不気味な警告を発したのが、5月の話だということを思い出してほしい。

 AIがどのように核戦争を引き起こせると言うのだろうか。最近は、軍事攻撃を行う時期や場所、方法の決定に必ずコンピューターが使われており、将来的にはAIが関わることになるのは間違いない。しかし、AIは「ハルシネーション」(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を起こしやすく、人と同じ世界観を持っているとは限らない。要するに、AIは間違ったタイミングで核攻撃すべきだと判断する可能性があるということだ。

 OpenAIの声明には、次のように書かれている。「フロンティアAIモデルは、最先端の既存モデルが現時点で持っている機能を凌駕し、人類全体の利益に寄与する潜在的な力を持つようになると考えている。しかし、もたらすリスクもますます深刻化している」

 OpenAIによると、AIを抑制するため、専門家チームは以下の3つの主要な疑問に焦点を当てるという。

 専門家チームを率いるのは、マサチューセッツ工科大学(MIT)のCenter for Deployable Machine Learning(CDML)の所長で、MITのAIポリシーフォーラム(AI Policy Forum)の教授団共同代表を務めるAleksander Madry氏だ。

 研究を拡大するため、OpenAIは、壊滅的な悪用を防止するためのコンテスト「AI Preparedness Challenge」も開始した。上位の提案最大10件に最高2万5000ドル(約370万円)相当のAPIクレジットを提供する。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
企業内で増大し複雑化するSaaSの管理を簡単にしてくれるTorii
IT関連
2022-02-04 01:26
OpenAIとMSは両社の成功に向け最善を尽くす関係–アルトマンCEO
IT関連
2023-11-08 01:24
アンドパッド、「数年先の設計・施工DX」に先行し取り組む住宅実験プロジェクトANDPAD HOUSE検証発表
IT関連
2022-02-26 11:37
西松建設、シスコの次世代ネットワーク基盤を月額定額サービスで導入
IT関連
2021-03-10 05:01
Google Playがサードパーティによる課金オプションを試験的に導入、まずはSpotifyから
IT関連
2022-03-25 16:52
Sailfish OSを開発するフィンランドのJollaはロシアとの関係を断ち切ろうとしている
IT関連
2022-03-03 01:19
マイクロソフトのコーポレートVP、ベルフィオーレ氏が32年を経て退職へ
IT関連
2022-10-29 21:10
クラフトビール醸造所向けITサービスのBest Beer Japanが7000万円のシード調達、業務店向けクラフトビールEC事業開始
IT関連
2022-02-04 22:31
サムスン、12層DRAM「HBM3E 12H」を開発–AI分野の需要を見込み
IT関連
2024-03-01 20:17
日ハム新球場、総合演出システムにパナソニックの映像製品を採用
IT関連
2022-10-09 08:33
ダークウェブでだまし合うサイバー犯罪者–被害額は1年で3億4000万円超
IT関連
2022-12-14 14:15
「Slack」、業務を効率化する新たなAI機能を発表
IT関連
2024-09-18 03:15
それでも寿司を回したい–くら寿司、迷惑行為を防止するAIカメラシステム導入
IT関連
2023-03-04 09:35
NEC、ネットワークインフラ建設業務のモダナイゼーションする新ソリューション
IT関連
2025-02-11 17:16