PwCコンサル、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」を提供開始

今回は「PwCコンサル、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」を提供開始」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 PwCコンサルティングは9月19日、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」サービスを開始すると発表した。AIセキュリティの専門家がクライアント企業のAIサービスに対して模擬攻撃を実施し、その脆弱(ぜいじゃく)性や潜在的な脅威、ビジネスリスクを特定して改善を支援する。

 PwC Japanグループのサイバーセキュリティ&デジタルオペレーショナルレジリエンス リーダーで、PwCコンサルティングの上席執行役員パートナーを務める林和洋氏は、最新の地政学リスクを踏まえ、海外で事業を展開する日本企業には経済安全保障を考慮した企業戦略が必要であり、サイバーセキュリティ対応やAI規制法などの海外法規制への対応が求められると指摘した。

 また、PwC Japanグループの調査によると、最も懸念される地政学リスクとして「サイバーアタック/サイバーテロ」が3年連続で首位になっていることを紹介。さらに、林氏はビジネスのデジタル化においてAIの活用が着実に普及していると述べ、サイバーリスクを管理し対処するためにAIレッドチームのサービスが重要な役割を果たすとの見解を示した。

 続いて、執行役員パートナーの村上純一氏が、AIレッドチームのサービス詳細について説明した。同氏はまず、2022~2023年にかけて対話型生成AIが急速に普及し、AIのユースケースが大きく変わり、民主化が進んでいると指摘。これまでのAIはプログラマーやエンジニア、サイエンティストなど専門知識を持つユーザーが利用していたが、生成AIの普及により、専門知識を持たないユーザーでも自然言語で対話的にAIを利用できるようになってきた。しかし、その結果として「生成AI特有のリスクも生じている」と語った。

 村上氏は、AI関連インシデントの年次推移についても言及し、2023年から急増していると指摘した。これらのインシデントの多くは心理や評判、経済などに関連しいものだが、数は少ないものの負傷、損害、死亡といった物理的被害を伴う事例も報告されている。村上氏は、こうしたリスクへの対策の重要性を強調した。

 AIレッドチームの利用は、AIを活用したサービスの提供開始直前や、既に運用中のサービスの診断が想定されている。村上氏は、サービスの差別化要素として、「AIの不正利用に伴うビジネスリスクの特定」「独自リサーチとAIセキュリティに精通したエンジニアによるテストの実施」「サービス設計、実装、運用にわたる改善アドバイスの提供」の3点を挙げた。特に、テスト前の事前準備段階での手厚い対応が重要であると強調した。

 また、AIというシステムの特性上、同じテストを実施しても結果が変わる可能性があり、テストによって内在する問題が検出されない場合があるという。そのため、テストを実施する前に、AIサービスに潜む可能性のあるリスクを徹底的に洗い出すことが重要だと指摘した。また、テストの実施に際しては、同社の独自のインテリジェンスに加え、イスラエルのAdversa AIなどと技術連携してサービスを提供し、業界標準に加えてクライアントのAIサービスに特有のリスクにも焦点を当てると述べた。改善アドバイスについては、「入出力のフィルタリングなどの対症療法だけでは根本的な解決にはならないが、われわれは根本的なAIの改善まで支援できる」(村上氏)としている。

 同社のAIレッドチームサービスは、攻撃の対象範囲が広いため、まずは消費者向けAIサービスを提供する企業が主な対象となると予想されるが、AIレッドチームを社内で内製化しようとする企業に対しても、内製化支援などのサービスを提供できるという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ベルギーのISPに大規模なDDoS攻撃–公的機関のサイトが広範囲でダウン
IT関連
2021-05-07 10:45
NEC、2023年度第3四半期決算も増収増益–ITサービス事業が好調
IT関連
2024-02-01 17:33
インターポールが独自のメタバースを立ち上げ–犯罪者らの悪用に対抗
IT関連
2022-11-02 11:50
CIO着任最初の100日で取り組むべきこととは
IT関連
2021-06-29 14:12
「Raspberry Pi」パワーユーザー向けの冷却ファン
IT関連
2023-04-02 06:45
NTTデータ、調達・購買プラットフォームを活用して購買システムを更改
IT関連
2023-03-11 15:26
「Microsoft 365 Copilot」発表–「GPT-4」を統合した生産性支援機能
IT関連
2023-03-18 21:26
マイクロソフト、Azure OpenAI Serviceを東日本リージョンで提供開始(ほぼ確実に)
Microsoft
2023-07-19 13:57
NYでドック型の電動自転車シェアリングをJOCOが開始、私有地にステーション設置
モビリティ
2021-04-25 15:43
マイクロソフト、WordPressをMicrosoft Azureへ簡単に移行できるプラグイン「Migration plugin for WordPress on App Service」パブリックプレビュー公開
Microsoft Azure
2024-02-01 22:07
IIJ、セキュア・シンプル・低価格な新SASEサービスを提供
IT関連
2022-09-01 23:39
KPMG、DX推進専門組の織構築支援サービスを開始
IT関連
2021-03-24 08:46
CISAなど米政府機関、産業制御システム狙うマルウェアについて注意喚起
IT関連
2022-04-16 12:24
従業員にオフィス回帰を求める意向のIT企業幹部は55%–景気後退が後押し
IT関連
2022-09-22 05:42