ラック、生成AIシステムに対するセキュリティ診断サービスを提供

今回は「ラック、生成AIシステムに対するセキュリティ診断サービスを提供」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


  ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」を提供を開始した。同社によれば、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であることが明らかになってきているという。

 同サービスは、「プロンプトの悪用による機密情報の搾取」「不適切なコンテンツの表示」「内部的に設定されたプロンプトなど知的財産の搾取」「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価する。その上で生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートする。

 さらにウェブアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能だ。なお診断の項目は、今後も随時追加していく予定だという。

 同サービスに含まれる評価項目には、(1)プロンプトインジェクション、(2)ジェイルブレイク、(3)プロンプトリーク、(4)大規模言語モデル出力の改ざん、(5)プロンプトの大量入力によるサービス拒否――がある。

 (1)はシステムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性を指す。(2)はシステムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を解凍できてしまう脆弱性を言う。

 (3)はシステムの内部で設定されているプロンプトを搾取できてしまう脆弱性のこと。(4)は大規模言語モデル(LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性を言う。

 (5)は繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性のことを指す。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Spotifyがポッドキャスト発見プラットフォーム「Podz」を買収
ネットサービス
2021-06-19 14:42
情報漏えい対策のいま–国内外の個人情報やプライバシーを守る動き
IT関連
2024-03-08 21:31
野村総合研究所、「Oracle Alloy」をデータセンターで稼働開始–最新のITサービスを顧客に提供
IT関連
2024-04-19 05:49
アマゾン、1万8000人超の人員削減を発表
IT関連
2023-01-07 03:50
ポルシェが2台の電動アシスト自転車を発表、価格は約92万〜115万円
モビリティ
2021-03-06 03:56
ポケモンGOの沖縄イベント延期 「現在の状況を考慮」
くらテク
2021-07-15 07:27
飛行モビリティWisk Aeroが特許侵害と企業秘密盗用の疑いでArcher Aviationを提訴
モビリティ
2021-04-08 22:50
“可変式望遠レンズ”搭載「Xperia 1 III」登場
製品動向
2021-04-15 17:42
Twitterがフェイスブックのような「ハート」や「顔」の絵文字リアクション導入を検討中
ネットサービス
2021-03-26 19:20
ブロックチェーン開発基盤のSettleMint、日本事業を本格展開–企業向けに高速開発ツールなど提供
IT関連
2023-08-05 23:58
セキュリティ専門家もだまされかけた、巧妙すぎるAIフィッシング詐欺の顛末
IT関連
2023-08-30 13:51
グーグル、ソフトウェアサプライチェーンのセキュリティ向上へ–「Assured OSS」発表
IT関連
2022-05-22 21:10
「マシンはレースごとに変化する」–レーシングチームはアジャイルマネジメントの最前線
IT関連
2021-07-01 09:37
NTT-AT、製品サイトの多言語化で「WOVN.io」導入–7言語で情報発信
IT関連
2022-12-23 15:21