AIが狙われている–インターネットに潜む次なる脅威

今回は「AIが狙われている–インターネットに潜む次なる脅威」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)や機械学習(ML)の専門家らは、大規模データセットに対するデータポイズニング攻撃のリスクについて警告している。こういったデータセットは、ディープラーニング(DL)モデルを訓練するために多くのAIサービスで一般的に用いられているためだ。

 データポイズニング攻撃とは、DLモデルの生成に用いられる訓練データを攻撃者が改ざんすることによって発生する。これはつまり、追跡しにくい手段でAIの意思決定に影響を与えられるということを意味している。

 この攻撃は、MLのアルゴリズムを訓練するために用いられる一次情報にひそかに手を加えることで、極めて強力なものになる可能性がある。というのも、不正確なデータを用いてAIが学習する結果、「誤った」意思決定を下し、重大な結果を引き起こしかねないためだ。

 今のところ、現実の世界でウェブスケールのデータセットに対するポイズニング攻撃が発生したという形跡はない。しかし、Googleやスイス連邦工科大学チューリッヒ校(ETH Zurich)、NVIDIA、Robust IntelligenceのAI/ML研究者らは、大規模MLモデルの訓練に用いられるウェブスケールのデータセットに悪意ある情報を「確実に」送り込むというデータポイズニング攻撃の可能性を実証したと論文に記している。

 研究者らは、「大規模DLモデルはランダムなノイズに耐性がある一方、訓練セットに悪意あるノイズがほんの少しある(すなわちポイズニング攻撃)だけで、モデルの振る舞いは意図した通り、過ちに基づいたものになる」と警告している。

 研究者らは、このテクニックを用いることで、データセットの使用目的を損なうエクスプロイトを考え出し、わずかな労力とコストで、著名なDLデータセットの0.01%を汚染できたと記している。0.01%という値は、データセットのほんの一部にしか見えないが、研究者らは「モデルを汚染するには十分」だと警告している。

 この攻撃は「スプリットビューポイズニング」と呼ばれている。攻撃者が特定のデータセットでインデックス付けされているウェブ上のリソースに対する統制権を手中に収められる場合、その集積データを汚染して不正確なものにして、アルゴリズム全体に負の影響を与えることが可能になる。

 この目標を達成するための方法の1つに、期限切れになったドメイン名を購入するというものがある。ドメイン名は毎日、どこかのものが期限切れになっているため、まったく関係のない他人が購入することもできる。データの汚染を考えている攻撃者にとってはまたとない機会と言えるだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
GitHubドムケCEOが考えるAI活用:「オープンソースの変遷同様に課題は解決できる」
IT関連
2022-12-13 00:12
米議会の新しいプライバシー法は警察がブローカーからデータを買う慣行に終止符
パブリック / ダイバーシティ
2021-04-23 02:44
練馬区の大規模停電、復旧から1日経過も原因分からず 東電「明らかな機器の故障はない」
ネットトピック
2021-08-08 00:24
「いらすとや」10年目 毎日更新、忙しすぎて終了へ 「心配かけると悪い」と事前に報告
IT関連
2021-01-26 19:37
デル幹部が語った「アズ・ア・サービス」とマルチクラウドの戦略
IT関連
2022-07-26 23:55
Google CloudとWorkdayが結んだ戦略的パートナーシップの背景とは
IT関連
2021-08-19 10:46
コマンドラインでもCopilotが使える「GitHub Copilot in the CLI」が正式版に
GitHub
2024-03-25 09:59
TwitterのDM検索機能、ようやくAndroidアプリでも
アプリ・Web
2021-05-15 06:20
最良のネットワークで顧客のビジネスを支援–Coltテクノロジーサービス・星野社長
IT関連
2023-01-13 11:27
代替肉に本物の風味を、動物なしで動物性脂肪を作るHoxton Farmsがシード資金3.9億円を調達
フードテック
2021-02-11 11:44
犬種・性格・悩みに合わせたオーダーメイドのカリキュラムを受講可能なオンラインドッグスクールwandemyが開校
IT関連
2022-01-28 04:08
ノジマ、日立グループGlobalLogicのデジタルエンジニアリングを活用–DXを加速
IT関連
2022-06-14 03:16
Uber、2021年の売上高を力強く伸ばし調整後の収益性も改善
IT関連
2022-02-11 02:12
グローバル学生特化型プラットフォーム「JPort」のSPeakが8000万円調達、就活のボーダーレス化目指す
HRテック
2021-05-21 20:37