AIによる不正な画像改変を抑止する技術「PhotoGuard」、MITが考案

今回は「AIによる不正な画像改変を抑止する技術「PhotoGuard」、MITが考案」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)による画像の生成や編集が普及するにつれ、デジタルプライバシーに関する新たな懸念が生じている。それは、誰かの芸術作品や画像を許可なくAIによって編集するというものだ。現時点では、オンライン上の画像をAIプログラムに与えて編集し、ありとあらゆる目的で使用するという行為を止める手だては存在しない。

 しかし、マサチューセッツ工科大学(MIT)のあるチームが編み出した手法によってそうした状況が変わる可能性もある。

 「PhotoGuard」と名付けられたこの手法は、AIが画像を処理する際のアルゴリズムに関する深い理解に根ざしている。同チームはそうした知識を武器に、画像にわずかに手を加え、AIによる画像理解に混乱をもたらす手法を開発した。そして、AIが画像を理解できなければ、その画像を編集することもできなくなる。

 同チームはこのプロジェクトの論文に「われわれのアプローチの中心には、画像に免疫を与えるという考え方がある。つまり、綿密に細工された(認識できないような)ゆらぎを画像に付加することで、AIを用いた画像操作に対する特殊な抵抗力を与えるというものだ」と記している。

 PhotoGuardは、画像のごく一部のピクセルに手を加え、そこに存在しないものをAIが認識してしまうように仕向けることで機能する。こういった変更は人間の目では認識できないが、AIにとっては間違いようのないほど際立って見える。AIの目がこの変更されたピクセルを見た場合、該当ピクセルの重要性を過大評価し、画像の他の部分ではなく、そのピクセル部分に合わせて画像編集を実行するようになる。

 MITのチームは、PhotoGuardの効果を検証するために60枚の画像を用意し、それら画像の免疫を与えたバージョンと与えていないバージョンの双方に対して、さまざまなプロンプトを用いてAIにその編集を指示した。そして新たな画像を生成させた後、チームは複数の指標を用いて編集の類似度を評価した。その結果、60枚のテスト画像では、免疫を与えた画像に対する編集が「免疫を与えていない画像に対するそれとは著しく異なっている」という結果になった。

 もちろん、この手法は確実なものではない。悪意と熱意を有した人物であれば、満足のいく結果が得られるまで、免疫を与えていそうなピクセルを除去する作業を繰り返したり、単に画像にフィルターを適用するなどして画像を編集できるはずだ。それでも、今回提示された手法は多くの人を思いとどまらせる障壁となるだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ハイブリッド型授業はこれからの教育を変える–オックスフォード大学の取り組み
IT関連
2022-07-09 15:56
顕微鏡開発の歴史を塗り替える成果、原子分解能磁場フリー電子顕微鏡を利用し磁力の起源となる原子磁場の直接観察に成功
IT関連
2022-02-15 22:32
GitLab、2023年度第1四半期にリリースされた新機能を発表
IT関連
2023-06-20 13:03
科学者が分子構造をVRで共有し研究におけるコラボを促進させるNanomeが3.1億円調達
VR / AR / MR
2021-02-11 20:01
「Windows 11」のセキュリティ新機能–ゼロトラスト、ハイブリッドワークなど想定
IT関連
2022-04-09 18:59
富士通、機密データも安全に活用できる生成AIプラットフォーム
IT関連
2025-02-15 05:40
「シドニアの騎士」「賭ケグルイ」「100日間生きたワニ」も 緊急事態宣言延長で映画の公開延期相次ぐ
くらテク
2021-05-11 08:10
「ポストSIビジネス」でIT部門の自立化を支援するPwCコンサルティングの取り組み
IT関連
2023-07-05 05:49
次なる成長の弾は何か?–デルの幹部は何と答えたか
IT関連
2023-03-18 21:31
DX支援ベンダーは人材マネジメントの課題をデジタルで解消せよ
IT関連
2022-11-25 09:48
Uberの無謀な勃興を描くドラマ「Super Pumped」予告編第1弾、ユマ・サーマンもハフポスト創設者役で出演
IT関連
2022-01-31 21:15
【コラム】ドイツのベンチャーキャピタルが離陸するには政府がブレーキを解除する必要がある
VC / エンジェル
2021-08-03 05:58
PS5専用PS VR、2022年以降に発売
アプリ・Web
2021-02-25 22:00
「セキュリティはAWSの最優先事項」–ゼロトラストなどの新施策
IT関連
2023-10-24 04:57