PwCコンサル、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」を提供開始

今回は「PwCコンサル、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」を提供開始」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 PwCコンサルティングは9月19日、AIサービスのビジネスリスクを特定・改善する「AIレッドチーム」サービスを開始すると発表した。AIセキュリティの専門家がクライアント企業のAIサービスに対して模擬攻撃を実施し、その脆弱(ぜいじゃく)性や潜在的な脅威、ビジネスリスクを特定して改善を支援する。

 PwC Japanグループのサイバーセキュリティ&デジタルオペレーショナルレジリエンス リーダーで、PwCコンサルティングの上席執行役員パートナーを務める林和洋氏は、最新の地政学リスクを踏まえ、海外で事業を展開する日本企業には経済安全保障を考慮した企業戦略が必要であり、サイバーセキュリティ対応やAI規制法などの海外法規制への対応が求められると指摘した。

 また、PwC Japanグループの調査によると、最も懸念される地政学リスクとして「サイバーアタック/サイバーテロ」が3年連続で首位になっていることを紹介。さらに、林氏はビジネスのデジタル化においてAIの活用が着実に普及していると述べ、サイバーリスクを管理し対処するためにAIレッドチームのサービスが重要な役割を果たすとの見解を示した。

 続いて、執行役員パートナーの村上純一氏が、AIレッドチームのサービス詳細について説明した。同氏はまず、2022~2023年にかけて対話型生成AIが急速に普及し、AIのユースケースが大きく変わり、民主化が進んでいると指摘。これまでのAIはプログラマーやエンジニア、サイエンティストなど専門知識を持つユーザーが利用していたが、生成AIの普及により、専門知識を持たないユーザーでも自然言語で対話的にAIを利用できるようになってきた。しかし、その結果として「生成AI特有のリスクも生じている」と語った。

 村上氏は、AI関連インシデントの年次推移についても言及し、2023年から急増していると指摘した。これらのインシデントの多くは心理や評判、経済などに関連しいものだが、数は少ないものの負傷、損害、死亡といった物理的被害を伴う事例も報告されている。村上氏は、こうしたリスクへの対策の重要性を強調した。

 AIレッドチームの利用は、AIを活用したサービスの提供開始直前や、既に運用中のサービスの診断が想定されている。村上氏は、サービスの差別化要素として、「AIの不正利用に伴うビジネスリスクの特定」「独自リサーチとAIセキュリティに精通したエンジニアによるテストの実施」「サービス設計、実装、運用にわたる改善アドバイスの提供」の3点を挙げた。特に、テスト前の事前準備段階での手厚い対応が重要であると強調した。

 また、AIというシステムの特性上、同じテストを実施しても結果が変わる可能性があり、テストによって内在する問題が検出されない場合があるという。そのため、テストを実施する前に、AIサービスに潜む可能性のあるリスクを徹底的に洗い出すことが重要だと指摘した。また、テストの実施に際しては、同社の独自のインテリジェンスに加え、イスラエルのAdversa AIなどと技術連携してサービスを提供し、業界標準に加えてクライアントのAIサービスに特有のリスクにも焦点を当てると述べた。改善アドバイスについては、「入出力のフィルタリングなどの対症療法だけでは根本的な解決にはならないが、われわれは根本的なAIの改善まで支援できる」(村上氏)としている。

 同社のAIレッドチームサービスは、攻撃の対象範囲が広いため、まずは消費者向けAIサービスを提供する企業が主な対象となると予想されるが、AIレッドチームを社内で内製化しようとする企業に対しても、内製化支援などのサービスを提供できるという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
顧客獲得単価を51%削減–電通デジタル、生成AIサービス群「∞AI」提供
IT関連
2023-10-07 06:26
「コープデリ」障害で食材配送できず 物流システム切り替えに失敗
企業・業界動向
2021-05-13 01:31
非構造化データの活用でワークフローを自動化–Boxに聞く生成AI戦略
IT関連
2024-11-20 04:04
生体認証VS.パスワード–デジタル認証に関する意識調査
IT関連
2023-04-04 16:00
アシスト、「AWSマルチアカウント管理ソリューション」を提供開始
IT関連
2022-03-31 05:00
DEIを進める日立、レインボーカラーの企業ロゴ作成–自社の姿勢示す
IT関連
2023-05-27 14:35
AIにビジネスの常識を組み込むことはできるのか–効果的に生かすには
IT関連
2022-02-26 00:36
日立製作所、アズ・ア・サービス型ITプラットフォームを拡大
IT関連
2023-09-21 05:38
カプセルトイ「手のひらネットワーク機器」発売、取扱店舗一覧が公開。1個500円、シスコ、古河電気工業、A10ネットワークスが監修
Cisco
2023-06-16 01:04
ソフトバンクが支援する建設の巨人「Katerra」が約2200億円以上を使い果たし事業を閉鎖
その他
2021-06-03 11:11
三井住友海上の子会社MSIG Asia、情報管理ソリューションを導入–顧客体験の強化へ
IT関連
2022-03-10 09:57
川崎フロンターレ、競技場の感染対策でトイレの混雑状況を可視化
IT関連
2022-06-08 16:28
LegalForceが社名変更–契約書レビューサービスを米国で1月に開始
IT関連
2022-12-03 03:19
「誹謗中傷でしょうか」「死にたい」 「映画秘宝」編集長、公式Twitterでユーザーどう喝 勤務先が謝罪
ネットトピック
2021-01-27 22:59