グーグル、責任あるAI報告書で消費者重視を強調–兵器利用禁止の誓約は撤回

今回は「グーグル、責任あるAI報告書で消費者重視を強調–兵器利用禁止の誓約は撤回」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Googleは米国時間2月4日、6回目となる「Responsible AI Progress Report」(責任あるAIの進歩に関する報告書)を発表した。報告書では、「AIのリスクを管理、対応、測定、管理するための手法」に加え、「Google全体で責任あるAIイノベーションを運用化するための最新情報」が詳細に説明されている。

 報告書の中で、Googleは2024年に発表した多数の安全研究論文(300以上)、AI教育およびトレーニングへの投資(1億2000万ドル)、同社のCloud AIが米国立標準技術研究所(NIST)のリスク管理フレームワークで「成熟」の評価を受けたことなど、さまざまなガバナンス基準を挙げている。

 また、セキュリティとコンテンツに焦点を当てたレッドチーム演習に重点的に取り組み、「Gemini」「AlphaFold」「Gemma」などのプロジェクトについて深く掘り下げ、有害なコンテンツの生成や表面化を防ぐために同社がモデルを保護する方法について詳しく説明している。AI生成の誤情報を追跡るために設計された、オープンソースのコンテンツ透かしツール「SynthID」などの関連ツールも説明の一部として紹介されている。

 Googleは「Frontier Safety Framework」を更新し、新たなセキュリティ勧告、誤用緩和手順、「欺瞞的アラインメントリスク」を追加した。これは、「自律システムが意図的に人間の制御を弱めるリスク」に対処するものである。アラインメント(調整)の偽装、つまりAIシステムが自律性を維持するためにその作成者を欺くプロセスは、最近では「OpenAI o1」や「Claude 3 Opus」などのAIモデルで指摘されている。

 全体として報告書は、消費者向けAIにおけるエンドユーザーの安全性、データプライバシー、セキュリティに重点を置いている。誤用やサイバー攻撃からの保護、人工汎用知能(AGI)構築の重要性についても散発的に言及されている。

 注目すべきは、Bloombergが報じたように、同社がウェブサイトから、AIを武器開発や市民監視に利用しないという誓約を削除したことである。Bloombergが先週時点では確認できたとする「われわれが追求しない用途」というセクションは削除されたようだ。

 報告書が消費者を重視する姿勢を示す一方で、兵器や監視に関する誓約を削除するという行動のずれは、「責任あるAIとは何か」という長年の疑問を浮き彫りにしている。

 Googleは報告書の発表に際して、AI原則を「大胆なイノベーション」「協調的な進歩」「責任ある開発と展開」――の“3つの基本原則”に基づいて更新したと述べた。更新されたAIの原則では、責任ある展開について「ユーザーの目標、社会的責任、広く受け入れられている国際法と人権の原則」に従うとしている。これは、指針に矛盾しないように見えつつも、兵器の使用事例を再評価する余地を残しているに思える。

 「われわれは、当社の使命や科学的重点分野、専門分野に沿ったAIの研究と応用に引き続き注力していく」とブログには記されている。「常に、特定の作業について、潜在的なリスクを大幅に上回る利益があるかどうかを慎重に評価し、その作業を進めていく」

 この方針転換により、テクノロジー大手がAIの軍事利用に対する姿勢を徐々に変えていることがさらに明確になった。先週、OpenAIは2024年末に防衛請負業者のAndurilと提携した後、米国立研究所との提携を発表し、国家安全保障インフラへの関与を深めた。2024年4月には、Microsoftが「DALL-E」を米国防総省に売り込んだが、当時OpenAIは兵器開発を行わないという立場を維持していた。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
米中対立はバイデン政権でも激化必至、世界経済へのダメージはコロナより深刻?
IT関連
2021-03-24 05:14
「Windows 11」、ウィジェットからの通知をタスクバーに表示開始
IT関連
2022-08-19 06:59
中東・アフリカ地域のアラビア語話者向け動画学習プラットフォーム「Almentor」が7.1億円調達
EdTech
2021-06-02 08:51
ポケモンGO、6日に「ヤヤコマ」大量発生 捕獲時の経験値3倍に
くらテク
2021-03-06 08:49
ソフトバンクGの職域接種、ホークスファン向けにもスタート 有料ファンクラブ会員2万人に
企業・業界動向
2021-08-18 20:58
AI音声認識の「おもしろ誤認識」を募集、大賞は5万円 過去作は「OK google 赤ちゃんの名前は何がいい?」「あなたにはまだ早いです」など
ネットトピック
2021-07-31 19:48
Google、AI倫理チームの共同リーダーを解雇 行動規範違反を理由に
企業・業界動向
2021-02-23 13:15
キヤノンMJ、イーセットと共同でマネージド型脅威対応サービスを拡大
IT関連
2024-02-16 06:20
技術シーズ向けアクセラレータープログラム「BRAVE2021 Autumn」が参加スタートアップ募集開始
VC / エンジェル
2021-06-11 15:40
ソニー銀行、住宅ローン審査の書類管理にクラウド活用
IT関連
2022-02-09 22:48
イオン、パナソニックのAI業務アプリでバックオフィスを改革
IT関連
2022-03-01 10:54
AWSが運営するQ&Aサイト「AWS re:Post」で、ユーザー自身による記事の投稿が可能に
AWS
2022-07-27 07:06
【コラム】テックコミュニティにおけるメンタルヘルスの偏見をなくすために
その他
2021-07-12 11:48
NTTデータ、特定の業務領域に対応するBERTフレームワークを開発
IT関連
2021-03-17 14:12