OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定

今回は「OpenAI、AIの「壊滅的」リスクに備え専門家チームを創設–核攻撃などを想定」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)は、人と技術との関わり方を革新し続けているため、人の未来に信じられないほどの影響を及ぼすことは否定できない。野放しのままであれば、AIにはかなり深刻なリスクがあることも否定できない。

 ここで登場するのが、OpenAIが立ち上げた新しい専門家チームだ。

 「壊滅的な」リスクに対応する目的で結成されたOpenAIの専門家チーム「Preparedness」は、現在および将来のAIモデルが抱えるリスク要因を検証する。そうしたリスクはさまざまなカテゴリーに及び、それには聞き手に合わせた説得、全体的なサイバーセキュリティ、自律的な複製や適応、さらには化学攻撃や生物攻撃、放射性物質による攻撃、核攻撃のような絶滅レベルの脅威が含まれる。

 AIが核戦争を始めるというのはいささか起こりそうにない出来事に思えるが、トップクラスのAI研究者やエンジニア、Google DeepMindの最高経営責任者(CEO)であるDemis Hassabis氏をはじめとするCEOらのグループが、「AIによる絶滅のリスクを緩和することは、パンデミックや核戦争といった他の社会規模のリスクと並んで、世界的な優先事項であるべきだ」と不気味な警告を発したのが、5月の話だということを思い出してほしい。

 AIがどのように核戦争を引き起こせると言うのだろうか。最近は、軍事攻撃を行う時期や場所、方法の決定に必ずコンピューターが使われており、将来的にはAIが関わることになるのは間違いない。しかし、AIは「ハルシネーション」(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を起こしやすく、人と同じ世界観を持っているとは限らない。要するに、AIは間違ったタイミングで核攻撃すべきだと判断する可能性があるということだ。

 OpenAIの声明には、次のように書かれている。「フロンティアAIモデルは、最先端の既存モデルが現時点で持っている機能を凌駕し、人類全体の利益に寄与する潜在的な力を持つようになると考えている。しかし、もたらすリスクもますます深刻化している」

 OpenAIによると、AIを抑制するため、専門家チームは以下の3つの主要な疑問に焦点を当てるという。

 専門家チームを率いるのは、マサチューセッツ工科大学(MIT)のCenter for Deployable Machine Learning(CDML)の所長で、MITのAIポリシーフォーラム(AI Policy Forum)の教授団共同代表を務めるAleksander Madry氏だ。

 研究を拡大するため、OpenAIは、壊滅的な悪用を防止するためのコンテスト「AI Preparedness Challenge」も開始した。上位の提案最大10件に最高2万5000ドル(約370万円)相当のAPIクレジットを提供する。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「Grok」のチャットボットと画像生成機能、Xの全ユーザーが利用可能に
IT関連
2024-12-13 00:07
東芝、少量の画像で産業用画像領域でのAIを実現する新技術を開発
IT関連
2024-12-18 04:07
Celonis、BMWグループとの戦略的パートナーシップを強化–プロセスマイニング技術を活用
IT関連
2024-05-19 15:46
ベルファストの現状と展望について8人の投資家、創業者、経営者に聞く、サイバーセキュリティとフィンテックが旋風を巻き起こす
VC / エンジェル
2021-06-15 18:01
ドローンが空中で故障しても墜落を防ぐ技術 ローターの代わりに機体を高速回転 :Innovative Tech
トップニュース
2021-02-05 18:34
高配当の金融株5選–ディープバリュー株に注目する理由
IT関連
2021-08-04 01:34
深層学習、コロナ変異株の中和抗体開発に活用
IT関連
2022-03-23 23:35
不正取引が「これまでになく」増加する中、Outseerは決済セキュリティツールに注力
セキュリティ
2021-06-13 00:15
IBM、分社化するマネージドインフラ企業の幹部2人を新たに発表
IT関連
2021-03-05 06:00
すかいらーくグループ、品質管理部門の検査業務プロセスをデジタル化
IT関連
2024-03-15 00:35
「Windows 11」のスマートフォン連携が「iPhone」に対応
IT関連
2023-04-28 12:04
米上院、半導体の国内生産促進に約5.7兆円を投じる法案を可決
IT関連
2021-06-10 21:16
⾃⾛型ロープウェイ「Zippar」設計・開発のZip Infrastructureが3000万円を調達
モビリティ
2021-03-18 12:13
マイクロソフト、コンプライアンスとデータガバナンス製品を新「Microsoft Purview」に
IT関連
2022-04-21 21:41