AIが狙われている–インターネットに潜む次なる脅威

今回は「AIが狙われている–インターネットに潜む次なる脅威」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)や機械学習(ML)の専門家らは、大規模データセットに対するデータポイズニング攻撃のリスクについて警告している。こういったデータセットは、ディープラーニング(DL)モデルを訓練するために多くのAIサービスで一般的に用いられているためだ。

 データポイズニング攻撃とは、DLモデルの生成に用いられる訓練データを攻撃者が改ざんすることによって発生する。これはつまり、追跡しにくい手段でAIの意思決定に影響を与えられるということを意味している。

 この攻撃は、MLのアルゴリズムを訓練するために用いられる一次情報にひそかに手を加えることで、極めて強力なものになる可能性がある。というのも、不正確なデータを用いてAIが学習する結果、「誤った」意思決定を下し、重大な結果を引き起こしかねないためだ。

 今のところ、現実の世界でウェブスケールのデータセットに対するポイズニング攻撃が発生したという形跡はない。しかし、Googleやスイス連邦工科大学チューリッヒ校(ETH Zurich)、NVIDIA、Robust IntelligenceのAI/ML研究者らは、大規模MLモデルの訓練に用いられるウェブスケールのデータセットに悪意ある情報を「確実に」送り込むというデータポイズニング攻撃の可能性を実証したと論文に記している。

 研究者らは、「大規模DLモデルはランダムなノイズに耐性がある一方、訓練セットに悪意あるノイズがほんの少しある(すなわちポイズニング攻撃)だけで、モデルの振る舞いは意図した通り、過ちに基づいたものになる」と警告している。

 研究者らは、このテクニックを用いることで、データセットの使用目的を損なうエクスプロイトを考え出し、わずかな労力とコストで、著名なDLデータセットの0.01%を汚染できたと記している。0.01%という値は、データセットのほんの一部にしか見えないが、研究者らは「モデルを汚染するには十分」だと警告している。

 この攻撃は「スプリットビューポイズニング」と呼ばれている。攻撃者が特定のデータセットでインデックス付けされているウェブ上のリソースに対する統制権を手中に収められる場合、その集積データを汚染して不正確なものにして、アルゴリズム全体に負の影響を与えることが可能になる。

 この目標を達成するための方法の1つに、期限切れになったドメイン名を購入するというものがある。ドメイン名は毎日、どこかのものが期限切れになっているため、まったく関係のない他人が購入することもできる。データの汚染を考えている攻撃者にとってはまたとない機会と言えるだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
NEC、「Express5800」サーバーに「高可用性」カテゴリーを追加–3機種投入
IT関連
2024-06-20 02:19
旭化成ファーマ、アバナードの支援で「市民開発」を推進
IT関連
2024-12-19 06:35
ネットワークカメラ搭載の「スマート街路灯」で通行状況を分析、飲食店の来客予測に活用 NECが実験
企業・業界動向
2021-03-17 19:53
ツイッターがTor経由で匿名アクセスできる公式サイトを開設、ロシア当局による検閲回避のため
IT関連
2022-03-10 22:01
第34回:最近、社長はひとり情シスと話していますか?
IT関連
2021-05-27 14:23
任天堂がSwitch向けにプログラミング学習ソフト 作ったゲームの共有機能も
企業・業界動向
2021-05-07 08:33
スマホが自動車のキーになるAndroid 12の新機能をグーグルが発表
モビリティ
2021-05-20 12:48
Google Cloud、Armベースの初の仮想マシン「Tau T2A」を発表
IT関連
2022-07-16 13:26
ソリトンシステムズ、GIGAスクール構想第2期に向けた「NetAttest」を提供–ネットワーク運用を強化
IT関連
2025-01-17 09:00
マスク氏のxAIが発表した新モデル「Grok 3」は期待以上–チャットボットランキングでも急上昇
IT関連
2025-02-20 23:27
テラスカイの2024年2月期決算は増収、投資フェーズから成長フェーズへの進展も
IT関連
2024-04-18 04:39
成長と機会に自信見せるインフォア–CEOとCTOに聞く、次なる課題や日本市場への戦略
IT関連
2024-12-12 02:51
弁護士ドットコム、AI搭載型の「企業法務向け書籍検索サービス」を提供開始
IT関連
2023-12-17 17:46
新しい欧州のAI規則と企業のイノベーションを支えるエコシステム
IT関連
2022-05-03 19:59