PwCコンサル、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」を提供開始

今回は「PwCコンサル、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」を提供開始」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 PwCコンサルティングは9月19日、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」サービスを開始すると発表した。AIセキュリティの専門家がクライアント企業のAIサービスに対して模擬攻撃を実施し、その脆弱(ぜいじゃく)性や潜在的な脅威、ビジネスリスクを特定して改善を支援する。

 PwC Japanグループのサイバーセキュリティ&デジタルオペレーショナルレジリエンス リーダーで、PwCコンサルティングの上席執行役員パートナーを務める林和洋氏は、最新の地政学リスクを踏まえ、海外で事業を展開する日本企業には経済安全保障を考慮した企業戦略が必要であり、サイバーセキュリティ対応やAI規制法などの海外法規制への対応が求められると指摘した。

 また、PwC Japanグループの調査によると、最も懸念される地政学リスクとして「サイバーアタック/サイバーテロ」が3年連続で首位になっていることを紹介。さらに、林氏はビジネスのデジタル化においてAIの活用が着実に普及していると述べ、サイバーリスクを管理し対処するためにAIレッドチームのサービスが重要な役割を果たすとの見解を示した。

 続いて、執行役員パートナーの村上純一氏が、AIレッドチームのサービス詳細について説明した。同氏はまず、2022~2023年にかけて対話型生成AIが急速に普及し、AIのユースケースが大きく変わり、民主化が進んでいると指摘。これまでのAIはプログラマーやエンジニア、サイエンティストなど専門知識を持つユーザーが利用していたが、生成AIの普及により、専門知識を持たないユーザーでも自然言語で対話的にAIを利用できるようになってきた。しかし、その結果として「生成AI特有のリスクも生じている」と語った。

 村上氏は、AI関連インシデントの年次推移についても言及し、2023年から急増していると指摘した。これらのインシデントの多くは心理や評判、経済などに関連しいものだが、数は少ないものの負傷、損害、死亡といった物理的被害を伴う事例も報告されている。村上氏は、こうしたリスクへの対策の重要性を強調した。

 AIレッドチームの利用は、AIを活用したサービスの提供開始直前や、既に運用中のサービスの診断が想定されている。村上氏は、サービスの差別化要素として、「AIの不正利用に伴うビジネスリスクの特定」「独自リサーチとAIセキュリティに精通したエンジニアによるテストの実施」「サービス設計、実装、運用にわたる改善アドバイスの提供」の3点を挙げた。特に、テスト前の事前準備段階での手厚い対応が重要であると強調した。

 また、AIというシステムの特性上、同じテストを実施しても結果が変わる可能性があり、テストによって内在する問題が検出されない場合があるという。そのため、テストを実施する前に、AIサービスに潜む可能性のあるリスクを徹底的に洗い出すことが重要だと指摘した。また、テストの実施に際しては、同社の独自のインテリジェンスに加え、イスラエルのAdversa AIなどと技術連携してサービスを提供し、業界標準に加えてクライアントのAIサービスに特有のリスクにも焦点を当てると述べた。改善アドバイスについては、「入出力のフィルタリングなどの対症療法だけでは根本的な解決にはならないが、われわれは根本的なAIの改善まで支援できる」(村上氏)としている。

 同社のAIレッドチームサービスは、攻撃の対象範囲が広いため、まずは消費者向けAIサービスを提供する企業が主な対象となると予想されるが、AIレッドチームを社内で内製化しようとする企業に対しても、内製化支援などのサービスを提供できるという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ウイングアーク、「MotionBoard Ver.6.2」を発売–3Dマップ強化で製造業DXを推進
IT関連
2021-06-23 06:14
ふくおかFGのネット銀行、顧客管理の基盤にSalesforceとAWS採用
クラウドユーザー
2021-04-09 06:39
TikTokに履歴書で求人に応募できるLinkedIn的な新パイロットプログラム
ネットサービス
2021-07-09 16:29
第4回:ブロックチェーンを活用した電子署名サービス
IT関連
2022-11-30 07:52
取引先ITベンダーのリスク、事業継続などの対策進まず–ガートナー調査
IT関連
2022-08-23 19:17
深度・色情報を取得できるAIカメラ「OAK-D OpenCV DepthAIカメラ」を2万5179円でスイッチサイエンスが発売
ハードウェア
2021-07-06 10:01
経営陣に技術について知ってもらうための6つのヒント
IT関連
2023-10-26 01:30
ワークマネジメントツールのAsana、AI機能を発表–ゴール見据えた業務をもっと便利に
IT関連
2024-05-17 15:50
株主優待:10万円以下で買える–人気優待株のスクリーニング方法を解説
IT関連
2021-08-17 21:05
DXの要である自動化–ビジネス部門も率先して取り組めるようになるには
IT関連
2022-05-12 21:34
和歌山発glafitの電動ハイブリッドバイク「GFR」が自転車・電動バイク車両区分の切り替えが認められた日本初の車体に
モビリティ
2021-07-06 16:40
量子コンピューターの実行速度を100倍に–IBMがソフト基盤強化の取り組み
IT関連
2021-02-05 23:41
マイクロソフト、「GitHub Copilot X」をVisual Studioに搭載したデモ動画を公開。コードを自然言語で解説、デバッグ、ユニットテストの生成など
GitHub
2023-04-03 10:35
グーグルのトラッキングクッキーのサポート終了は英国の競争規制当局が同意しない限り実現しない
ネットサービス
2021-06-23 18:23