マイクロソフト、AIシステムの脆弱性を評価するツール「Counterfit」を公開

今回は「マイクロソフト、AIシステムの脆弱性を評価するツール「Counterfit」を公開」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Microsoftは、開発者が人工知能(AI)システムのセキュリティをテストするためのオープンソースツール「Counterfit」をリリースした。

 CounterfitプロジェクトはGitHubで公開されている。同社は、ほとんどの組織が敵対的な機械学習に対処するためのツールを持っていないことが、以前実施した調査で明らかになったと指摘した。

 「このツールは、当社のAIサービスを積極的に保護するために、AIシステムの脆弱性を評価しなければならないという当社の必要性から生まれたツールだ。Microsoftの責任あるAIの原則と、『Responsible AI Strategy in Engineering(RAISE)』イニシアチブに基づいている」と、同社はブログ記事で述べている。

 Microsoftによると、このコマンドラインツールは、同社のレッドチームが自社のAIモデルのテストで、「複数のAIシステムを大規模に攻撃する際に使用している汎用的な自動化ツール」だという。同社はAIの開発段階で、Counterfitを使用することも検討中だ。

 このツールはブラウザーから「Azure Shell」を介して運用したり、「Anaconda」Python環境にローカルでインストールしたりできる。

 Microsoftは、このコマンドラインツールがあらゆるクラウド環境、オンプレミス、エッジネットワークでホストされているモデルを評価できるとしている。また、Counterfitはモデルを問わずに使用できる。そしてデータの制約を受けず、テキスト、画像、一般的な入力を使用したモデルにも適用できるように努めているとのことだ。

 「このツールは、セキュリティコミュニティーが公開されている攻撃アルゴリズムを利用できるようにするもので、AIモデルに対する攻撃を構築、管理、実行するための拡張可能なインターフェースを提供する」(同社)

 Counterfitは、攻撃者が操作可能なデータで機械学習モデルを欺く、敵対的機械学習を防ぐために利用できる。その例としては、McAfeeが「MobileEye」カメラを搭載した旧式の「Tesla」をハッキングし、速度標識に黒いテープを貼って、制限速度を誤読させた実験がある。他にも、Microsoftのチャットボット「Tay」が、一部ユーザーの誘導により、人種差別的な発言をツイートするようになった例がある。

 ワークフローは、「Metasploit」や「PowerShell Empire」など、広範に使用されているサイバーセキュリティのフレームワークに沿って設計されている。

 このツールは、AIシステムの脆弱性スキャンやターゲットモデルに対する攻撃のログ作成にも役立つ。

 Microsoftは、既に「Azure AI」サービス上でAIプラットフォームを開発中の顧客や、航空宇宙大手Airbusなど、Counterfitを数社とテストしている。

Amazon.co.jp: 録画機能付き防犯カメラ

ワイヤレス防犯カメラセット Hiseeu 屋外セキュリティカメラ 10.1イン NVR 8チャンネルまで増設可 カメラ4台 300万画素 遠隔監視 防水等級ip66 動態検知 屋内/屋外 防犯カメラ (300万画素カメラ4台+8チャンネル一体型本体+1TB HDD)

サーバセキュリティが劇的に変わる――Trend Micro Cloud One - Workload ...

サードパーティー製品を組み合わせて多層防御の仕組みを用意したために、運用にかかる工数の多さに悩まされている企業は少なくない。オペレートも複雑になるため、設定ミスのようなヒューマンエラーを引き起こしやすいことも問題だ。過不足ないセキュリティ運用にあたっては、可能な限りシンプルな構成で多層防御の仕組みを用意することが求められる。本稿ではWorkload Securityが今述べた課題をどのように変えるのか、紹介する。

あなたのプロダクトにも脆弱性が!? Flatt Securityが「Firebase」のセキュリティを重要視するワケ ...

近年、様々な企業で採用されることが増えてきたFirebase。しかし、Firebaseのセキュリティルールを理解し、適切に設定して運用できている企業は多くはないというのが現状です。今回はFlatt Securityの執行役員豊田さんと、セキュリティエンジニアの梅内さん・pizzacatさんに、Firebaseを採用したサービスのセキュリティについてインタビューしました。

Androidの2021年5月セキュリティ更新 ~最大深刻度は「Critical」 - 窓の杜

セキュリティ パッチレベル「2021-05-05」 「2021-05-05」は、すべての脆弱性修正を含んだ完全版。「2021-05-01」での修正に加えフレームワークで1件 ...

5gの保護に有効な「ネットワークスライシング」「ゼロトラスト」とは?:5gに必要なセキュリティ【中編 ...

5Gにはどのような脅威があり、どのようなセキュリティ対策が有効なのか。5Gを安全に使う上で重要な手段となり得る「ネットワークスライシング」「ゼロトラストセキュリティ」を解説する。

テレワークでのセキュリティ対策!よくある事故の原因と未然に防ぐ対策法には? | トルテオマガジン

新型コロナウイルス感染拡大後、感染予防や働き方改革、7割経済への対応策としてテレワークを本格導入する企業が増えています。しかし、テレワークを導入する前に、セキュリティ面での対策は十分におこなう必要があります。パソコンを社外に持ち出したり外部のネットワークを利用したりすることで、セキュリティ事故のリスクは高まります。 今回はテレワークの本格導入前におこなうべきセキュリティ対策を紹介します。

情報セキュリティ講座(125) マルウェア対策ソフト | 小笠原裕事務所

情報セキュリティ講座(125) マルウェア対策ソフト 2021-05-05 / 最終更新日 : 2021-05-02 小笠原 裕 情報セキュリティ マルウェアを検出するソフトには、いくつかのパターンがあります。

「外部ネットワークへの接続部分での事件や事故が多い」 IDCがIoTなどのセキュリティ対策に関する実態調査:IoT ...

IDC Japanは、IoT/IIoTとOTシステムのセキュリティ対策に関する実態調査結果を発表した。セキュリティの事件、事故を経験した企業は36.4%。IDCは「外部ネットワークへの接続部分での事件や事故が多い」としている。

Amazon | 車が今どこにいるのかわかります! リアルタイムGPS ここにーる 車両の盗難対策・追跡 業務改善 ...

車が今どこにいるのかわかります! リアルタイムgps ここにーる 車両の盗難対策・追跡 業務改善 に 専用ソフト不要 12/24v対応がカーセキュリティストアでいつでもお買い得。当日お急ぎ便対象商品は、当日お届け可能です。

Web給与明細システム比較16選!おすすめと選び方も合わせて紹介 | トルテオマガジン

ペーパーレス化を促進し業務効率を向上させるため、近年さまざまな分野で紙の書類からWebへの移行が進んでいます。給与明細も例外ではありません。 今回は、Web給与明細システムの基本的な情報から、16社のおすすめのWeb給与明細システムの比較や選定のポイントまでご紹介。ぜひ、比較を通じて自社に合ったWeb給与明細システムを見つけてください。

脆弱なセキュリティの強化 - 咲とその夫

[ポチッとお願いします]人気ブログランキング3月のアタマから新たなパソコンがフル稼働。中途でトラブルもあったが、原因を究明し現在は極めて快適に使えている。まぁ、当然と云えば当然のこと。それまでのパソコンで、執拗なくらいやってきていた怪しいメール。Amazonを語り個人情報やカード情報を盗み取るらしい偽メール、それもしつこいくらいやって来ていた。そのAmazonの偽メール問題は、先般の新聞紙上やネット上で注意喚起がなされていた。現実に被害に会われたネットユーザーもいたらしい。我が家に来ていたものも、実に巧妙なもので思わず信じ込むようなものだった。発信元のアドレスももっともらしいもの、であるが本物とはどこか違和感があった。一方、楽天を名乗るもの、都市銀行を名乗るもの、極めて怪しいメールもいろいろと来ていた。迷惑メー...脆弱なセキュリティの強化

「カテエネ」における不正ログインに関する追加調査の結果およびセキュリティ強化策の実施について - ニュース|中部電力

中部電力のホームページ。総合エネルギーサービス企業として、安価で高品質なエネルギーサービスを提供し、お客さまとともに未来を創造します。

マカフィー リブセーフ - 家族全員インストール無制限!マルチデバイス対応【ベクターpcショップ】

マカフィー リブセーフは、家族みんなのパソコン・スマホ・タブレットをこれ1つで何台でも守ることができる、セキュリティソフトです。最新のマルウェア検出エンジンを搭載し、より強く、より軽くなりました。

経産省、IoT機器のサイバーセキュリティ確保に向け検証手引きを公開:製造ITニュース - MONOist

経済産業省は、「機器のサイバーセキュリティ確保のためのセキュリティ検証の手引き」を公開した。セキュリティ検証サービスでサービス事業者と検証依頼者が実施すべき事項などについて整理したもので、検証サービスの水準向上に寄与する。

釣り場も危険!100系ランドクルーザーにナビ+カーセキュリティー取付! | 高知のカーオーディオ・セキュリティ ...

ネットフリックスの海外ドラマが最終回を迎えるとちょっぴりさみしい気持ちになるてらっちです。 #ヴィンチェンツォ 移設 ども!エムアイティーガレージです。今回ご紹介するのはコチラの100系ランドクルーザー。車両の乗り換えをするタイミングでカーセキュリティーとカーナビの取り付けをと、ご相談を受けました。

自動車用 セキュリティ、キーレス|自動車|車、バイク、自転車 通販 - Yahoo!ショッピング

Yahoo!ショッピング | 自動車用 セキュリティ、キーレス、114,502商品を取り扱い中。ランキング/カテゴリ別に商品を探せます。価格比較も可能。PayPay残高も使えてお得。

[B! セキュリティ] あなたのプロダクトにも脆弱性が!? Flatt Securityが「Firebase」の ...

今回はFirebaseにまつわる脆弱性や、Firebaseを用いるうえで実際に気を付けるべきセキュリティについて、Flatt Securityにて執行役員を務める豊田恵二郎さん、セキュリティ エンジニアの梅内翼さん・ぴざきゃっとさんの3名へお話を伺いました。

日本の教育市場に導入された端末は、Google Chrome、WindowsPC、iPad|セキュリティ通信

【セキュリティ通信】日本マイクロソフトは、GIGAスクール構想での環境整備が進むなか、教育分野における同社の取り組みについて説明するプレス発表会を開催した。ICT教育で世界的に遅れをとっている日本だが、ひとまず、環境整備の面では、米国についで2位のになったという。

セキュリティロボット市場は2027年まで8%のcagrで成長すると予想されます (2021年5月5日 ...

2021年4月29日にREPORTOCEANが発行した新しいレポートによると、-セキュリティロボット市場は、2020年から2027年の予測期間にわたって、8%を超える健全な成長率で成長すると予想されて...

セキュリティロボット市場は2027年まで8%のCAGRで成長すると予想されます(2021年5月5日)|BIGLOBEニュース

2021年4月29日にREPORTOCEANが発行した新しいレポートによると、-セキュリティロボット市場は、2020年から2027年の予測期間にわたって、8%を…(2021年5月5日 14時47分19秒)

ROSロボット入門講座-AI関連ソフト×Jetson Nano Mouse- | 株式会社ア-ルティ

「まずは既存ソフトウェアをロボット実機で動かしてみたい!」という方へ向けて、ROS対応の小型二輪移動ロボット「Jetson Nano Mouse」を教材にしたウェブセミナーを開催します。

セキュリティロボット市場は2027年まで8%のCAGRで成長すると予想されます:イザ!

Report Ocean2021年4月29日にREPORTOCEANが発行した新しいレポートによると、-セキュリティロボット市場は、2020年から2027年の予…

【新発売】マカフィー リブセーフ シリーズ【ベクターpcショップ】

マカフィー リブセーフは、家族みんなのパソコン・スマホ・タブレットをこれ1つで何台でも守ることができる、セキュリティソフトです。最新のマルウェア検出エンジンを搭載し、より強く、より軽くなりました。

イスラエルの「8200部隊」出身者のセキュリティ企業、Talonの挑戦

イスラエルのサイバーセキュリティのスタートアップ企業「Talon」が、2600万ドル(約28億円)のシード資金の調達に成功した。同社は、まだプロダクトをリリースしていないにも関わらず、イスラエルのスタートアップとしては過去最大のシード資金を・・・

Rpaにおけるメールセキュリティ | メールと企業リスク

しかし、rpaによるメールの自動送信は、セキュリティ上のリスクを伴うことも意識しなければなりません。大量のメールの自動送信は、もし失敗すれば、多数のセキュリティ問題を一気に発生させてしまう可能性もあります。

セキュリティ | ニッチなpcゲーマーの環境構築z

【Windows10】 WindowsUpdate 2021年4月 不具合情報 - セキュリティ更新プログラム KB5001330 / KB5001337 [Update 4] [2021/4/24更新] 特選ニッチ記事

カテエネを活用したalsokとの提携について - ニュース|中部電力

中部電力のホームページ。総合エネルギーサービス企業として、安価で高品質なエネルギーサービスを提供し、お客さまとともに未来を創造します。

セキュリティロボット市場は2027年まで8%のCAGRで成長すると予想されます(Report Ocean プレスリリース)

2021年4月29日にREPORTOCEANが発行した新しいレポートによると、-セキュリティロボット市場は、2020年から2027年の予測期間にわたって、8%を超える健全な成長率で成長すると予想されています。

F5ネットワークスジャパン 地方自治体向けセキュリティ対策を提案 パートナーへ協業を呼びかけ(週刊bcn+ ...

F5ネットワークスジャパンは4月13日、BCN主催の「地方自治体のIT投資は大きな転換点に行政のDXにつながるITインフラの提案とは」と題したオンラインセミナーで、自治体の情...

COMMENTS


27183:
2021-05-07 22:10

Twitterのアプデに伴い電話番号知ってる人に垢バレするという機能が勝手にオンになってるのでオフにする事をお勧めします。 設定とプライバシー →プライバシーとセキュリティ →→見つけやすさと連絡先 の中の項目にあります。 Twitterく…

27182:
2021-05-07 20:50

ひゃぁ〜……まぢか 👉 AirTagのセキュリティ性能を米有力紙が批判〜“安価で効果的なストーキング道具”

27185:
2021-05-07 13:19

まぁしかし、インストール判定のためにhostsファイルを編集するとか行儀の悪いセキュリティソフトだな。

27187:
2021-05-07 12:47

⚠️Twitterアップデート後の注意点⚠️ 電話番号やメールアドレスで友だち検索できるようになってしまいます。親族、同僚にバレる可能性あり。嫌な方は必ずオフにしておきましょう。 設定とプライバシー▶︎プライバシーとセキュリティ…

27184:
2021-05-07 11:40

今回のTwitterアプデで電話番号やメアドで友だち検索できるようになってると聞いて震え上がる😱リア友や同僚に垢バレする前にオフにしとこう! 設定とプライバシー⇨ プライバシーとセキュリティ ⇨ 見やすさと連絡先からオフ。もしその下の…

27188:
2021-05-07 10:46

そう私もWordPressのアプデによる不具合やセキュリティ対応に限界を感じてWixに乗り換えました。 コンテンツやマネタイズの仕組みに注力できて、ほんと助かっています。

27186:
2021-05-07 06:05

セキュリティ関連垢で「Twitterアプデ以後、勝手にメアドと電話番号での見つけやすさ設定がオンになっている」とTLが騒がしい。 僕は大丈夫(勝手な設定変更無し)だったけど、 念のため確認しておいた方が良いかも。 co/kb…

Recommended

TITLE
CATEGORY
DATE
バイデン氏、巨大企業の規制推進派カーン氏をFTC委員に指名
IT関連
2021-03-23 19:50
ヤフーが“ワクチンデマ”に対策 ヤフトピにデマ打ち消し記事を積極掲載
企業・業界動向
2021-08-05 16:47
「アイリスロボティクス」設立 法人向けロボット事業でソフトバンクとアイリスオーヤマが協業
ロボット・AI
2021-01-28 11:33
インドが21/22年度予算案でギグワーカーへの社会保障給付を提案、最低賃金の保証も
パブリック / ダイバーシティ
2021-02-03 07:27
「メルカリ寄付」、寄付先に慈善団体を追加 日本財団や日本ユニセフなど10団体
企業・業界動向
2021-02-02 20:47
ランサムウェア攻撃受けたColonial、身代金5億円超を支払ったとの報道
IT関連
2021-05-14 00:00
Spotify、音楽とトークを組み合わせた「Music + Talk」日本でも提供
くらテク
2021-08-20 11:50
SNSでつなぐ特攻の記憶 「肉声伝える使命」
IT関連
2021-08-17 02:11
コロナ「第5波」でもテレワーク拡大せず 五輪の影響も限定的
企業・業界動向
2021-08-18 04:48
クラウド電話の仏Aircallがユニコーンに、リモートワークの普及が追い風
ネットサービス
2021-06-25 17:02
コロナ禍で需要急増、クロックスの倉庫支える協働型ロボット–6RSのCEOに聞く
IT関連
2021-06-06 02:55
ドコモ、ファミリー割引で方針転換 ahamo契約者も“家族の一員” 割引率を下げず
企業・業界動向
2021-01-16 16:04
GDPR制裁金、前年比で39%増–さらに高額化する可能性も
IT関連
2021-01-26 06:12
プロダクトバックログDeep Dive。スクラムのプロダクトバックログをどう作成し、手入れし、スプリントに投入するべきか(中編)。Regional Scrum Gathering Tokyo 2022
DevOps / アジャイル開発
2022-01-11 23:21