OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定

今回は「OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)は、人と技術との関わり方を革新し続けているため、人の未来に信じられないほどの影響を及ぼすことは否定できない。野放しのままであれば、AIにはかなり深刻なリスクがあることも否定できない。

 ここで登場するのが、OpenAIが立ち上げた新しい専門家チームだ。

 「壊滅的な」リスクに対応する目的で結成されたOpenAIの専門家チーム「Preparedness」は、現在および将来のAIモデルが抱えるリスク要因を検証する。そうしたリスクはさまざまなカテゴリーに及び、それには聞き手に合わせた説得、全体的なサイバーセキュリティ、自律的な複製や適応、さらには化学攻撃や生物攻撃、放射性物質による攻撃、核攻撃のような絶滅レベルの脅威が含まれる。

 AIが核戦争を始めるというのはいささか起こりそうにない出来事に思えるが、トップクラスのAI研究者やエンジニア、Google DeepMindの最高経営責任者(CEO)であるDemis Hassabis氏をはじめとするCEOらのグループが、「AIによる絶滅のリスクを緩和することは、パンデミックや核戦争といった他の社会規模のリスクと並んで、世界的な優先事項であるべきだ」と不気味な警告を発したのが、5月の話だということを思い出してほしい。

 AIがどのように核戦争を引き起こせると言うのだろうか。最近は、軍事攻撃を行う時期や場所、方法の決定に必ずコンピューターが使われており、将来的にはAIが関わることになるのは間違いない。しかし、AIは「ハルシネーション」(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を起こしやすく、人と同じ世界観を持っているとは限らない。要するに、AIは間違ったタイミングで核攻撃すべきだと判断する可能性があるということだ。

 OpenAIの声明には、次のように書かれている。「フロンティアAIモデルは、最先端の既存モデルが現時点で持っている機能を凌駕し、人類全体の利益に寄与する潜在的な力を持つようになると考えている。しかし、もたらすリスクもますます深刻化している」

 OpenAIによると、AIを抑制するため、専門家チームは以下の3つの主要な疑問に焦点を当てるという。

 専門家チームを率いるのは、マサチューセッツ工科大学(MIT)のCenter for Deployable Machine Learning(CDML)の所長で、MITのAIポリシーフォーラム(AI Policy Forum)の教授団共同代表を務めるAleksander Madry氏だ。

 研究を拡大するため、OpenAIは、壊滅的な悪用を防止するためのコンテスト「AI Preparedness Challenge」も開始した。上位の提案最大10件に最高2万5000ドル(約370万円)相当のAPIクレジットを提供する。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
[速報]マイクロソフト、Webブラウザの複数タブをまとめてリアルタイムにチームで共有できる「Microsoft Edge Workspaces」発表。Ignite 2022
Microsoft
2022-10-13 22:11
米国株は調整モードを抜け出るか?–マクロ金利見通しで占う投資戦略
IT関連
2021-06-26 17:28
【番外編】今すぐ備える防災アイテム いざというときのために、これだけは用意しておこう :デジタル防災を始めよう
くらテク
2021-02-25 01:57
ヤマダHD、全社で業務のデジタル化を推進–年300時間程度の作業時間を削減
IT関連
2022-06-11 13:33
テスラがカナダ企業の特許を使い安価で環境に優しい新バッテリーを開発中
モビリティ
2021-05-06 02:41
米石油パイプラインColonialが支払ったランサムウェア身代金、米司法省が約2.5億円相当を回収
IT関連
2021-06-08 16:33
TwoFive、フィッシングサイト検出サービスを開始
IT関連
2023-06-29 03:07
SAP共同創業者が語った、新たなビジネスプロセスとクラウド
IT関連
2021-06-10 23:27
AI契約審査プラットフォーム「LegalForce」が知産関連契約書のレビュー対応類型を拡充、累計10類型に
リーガルテック
2021-06-18 19:59
5Gがもたらす可能性–大きな変化が予想される4分野
IT関連
2022-03-10 00:49
Gunosy、脆弱性管理ツール「Snyk」を導入–セキュリティ対策を網羅的に実施
IT関連
2023-04-13 17:42
Twitterがきっかけで発見された新種のダニ、学名に「twitter」
科学・テクノロジー
2021-03-25 02:27
「GPT-4」とは–能力が向上したOpenAIの言語モデルシステム最新版
IT関連
2023-03-21 20:55
新型コロナ後遺症の検出にFitbitデバイスやApple Watchなどウェアラブル機器が役立つとの研究結果が公表
ヘルステック
2021-07-10 01:20