AIが狙われている–インターネットに潜む次なる脅威

今回は「AIが狙われている–インターネットに潜む次なる脅威」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)や機械学習(ML)の専門家らは、大規模データセットに対するデータポイズニング攻撃のリスクについて警告している。こういったデータセットは、ディープラーニング(DL)モデルを訓練するために多くのAIサービスで一般的に用いられているためだ。

 データポイズニング攻撃とは、DLモデルの生成に用いられる訓練データを攻撃者が改ざんすることによって発生する。これはつまり、追跡しにくい手段でAIの意思決定に影響を与えられるということを意味している。

 この攻撃は、MLのアルゴリズムを訓練するために用いられる一次情報にひそかに手を加えることで、極めて強力なものになる可能性がある。というのも、不正確なデータを用いてAIが学習する結果、「誤った」意思決定を下し、重大な結果を引き起こしかねないためだ。

 今のところ、現実の世界でウェブスケールのデータセットに対するポイズニング攻撃が発生したという形跡はない。しかし、Googleやスイス連邦工科大学チューリッヒ校(ETH Zurich)、NVIDIA、Robust IntelligenceのAI/ML研究者らは、大規模MLモデルの訓練に用いられるウェブスケールのデータセットに悪意ある情報を「確実に」送り込むというデータポイズニング攻撃の可能性を実証したと論文に記している。

 研究者らは、「大規模DLモデルはランダムなノイズに耐性がある一方、訓練セットに悪意あるノイズがほんの少しある(すなわちポイズニング攻撃)だけで、モデルの振る舞いは意図した通り、過ちに基づいたものになる」と警告している。

 研究者らは、このテクニックを用いることで、データセットの使用目的を損なうエクスプロイトを考え出し、わずかな労力とコストで、著名なDLデータセットの0.01%を汚染できたと記している。0.01%という値は、データセットのほんの一部にしか見えないが、研究者らは「モデルを汚染するには十分」だと警告している。

 この攻撃は「スプリットビューポイズニング」と呼ばれている。攻撃者が特定のデータセットでインデックス付けされているウェブ上のリソースに対する統制権を手中に収められる場合、その集積データを汚染して不正確なものにして、アルゴリズム全体に負の影響を与えることが可能になる。

 この目標を達成するための方法の1つに、期限切れになったドメイン名を購入するというものがある。ドメイン名は毎日、どこかのものが期限切れになっているため、まったく関係のない他人が購入することもできる。データの汚染を考えている攻撃者にとってはまたとない機会と言えるだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
NTT、クアルトリクスのEX管理ツールを従業員に展開–従業員体験を向上
IT関連
2022-11-12 19:44
ZOZO、本社移転は2月15日に 幕張から西千葉へ コロナ禍で執務スペースを縮小
企業・業界動向
2021-01-26 13:17
インフルエンサーマーケティングのBitStarとフィナンシェがNFT事業で協業開始
ブロックチェーン
2021-03-23 09:14
データ分析に取り組む経理・財務部門は5割超–アルテリックスと日本CFO協会が共同調査
IT関連
2022-06-17 08:59
カプコン情報流出、いまだ被害確定できず 20年4〜12月期決算は最高益
IT関連
2021-02-02 01:46
Nixieのドローンを使った水質検査は都市行政の時間と費用を節約する
ドローン
2021-06-26 07:33
イギリス人を“English”と呼んではいけない、その理由 :IT基礎英語(1/2 ページ)
トップニュース
2021-08-03 00:54
RubyのWebAssembly/WASIへの移植が実現、プレリリース版のバイナリ公開。RubyGemsにも対応
Ruby
2022-04-04 20:03
ヴァージン・ギャラクティック初の旅客機が宇宙へ離陸する様子をライブで観よう!グループ創設者ブランソン氏搭乗
宇宙
2021-07-12 00:01
「Zoom疲れ」、男性より女性の方が顕著との研究結果
IT関連
2021-04-15 12:45
オラクル、予想を上回る四半期決算–「クラウドERP市場でリード広げた」とCEO
IT関連
2021-03-12 08:05
熱海市の土石流災害から見えた、テクノロジーと災害対策 VR空間で視察して分かったこと (1/3 ページ)
くわしく
2021-07-31 11:42
メールニュースレターのShopifyを目指すLetterhead
IT関連
2021-02-02 15:13
Docker Desktop 4.16登場。AWSをローカルエミュレーションするLocalStackなど拡張機能が正式版。AppleシリコンMacでx86/amd64版Linuxバイナリの実行がβ版に
Apple
2023-01-16 09:56