ラック、生成AIシステムに対するセキュリティ診断サービスを提供

今回は「ラック、生成AIシステムに対するセキュリティ診断サービスを提供」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


  ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」を提供を開始した。同社によれば、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であることが明らかになってきているという。

 同サービスは、「プロンプトの悪用による機密情報の搾取」「不適切なコンテンツの表示」「内部的に設定されたプロンプトなど知的財産の搾取」「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価する。その上で生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートする。

 さらにウェブアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能だ。なお診断の項目は、今後も随時追加していく予定だという。

 同サービスに含まれる評価項目には、(1)プロンプトインジェクション、(2)ジェイルブレイク、(3)プロンプトリーク、(4)大規模言語モデル出力の改ざん、(5)プロンプトの大量入力によるサービス拒否――がある。

 (1)はシステムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性を指す。(2)はシステムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を解凍できてしまう脆弱性を言う。

 (3)はシステムの内部で設定されているプロンプトを搾取できてしまう脆弱性のこと。(4)は大規模言語モデル(LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性を言う。

 (5)は繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性のことを指す。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
AIによるサイバー攻撃に備える–ディープフェイク使った高度なビジネスメール詐欺が脅威に
IT関連
2023-04-12 20:04
東京五輪、民放5局は日替わり長時間放送 「チャンネルで迷うことない」
くらテク
2021-06-23 02:54
東証がSREによるレジリエンス向上に挑む理由。過去のシステム障害から何を学んだのか?(後編) ソフトウェア品質シンポジウム2022
SRE
2022-09-28 18:10
さくらと高専機構、包括連携協定–地元に貢献するデジタル人材を育成
IT関連
2023-03-29 02:15
イングリウッド、運用型UGC活用ツールを導入–レビュー掲載でCVRを1.86倍伸長
IT関連
2022-08-03 10:04
中国で横行する偽造防止シールの偽物–その対処法は
IT関連
2024-04-06 19:50
CircleCIが「Visual Config Editor」を正式リリース、CI/CDパイプラインをビジュアルに作成しYAMLファイルを生成、編集可能
CI/CD
2022-08-22 01:09
ヴイエムウェア、堅調なQ4決算–通期売上高は120億ドル超
IT関連
2022-02-26 10:53
ライフイズテック、ディズニーの世界で学べる児童向けプログラミング教材「テクノロジア魔法学校」を2週間限定で無料公開
IT関連
2022-02-11 13:53
「Amazon EC2」の「Mac」インスタンス、「macOS Big Sur」に対応
IT関連
2021-02-26 05:10
LayerX、クラウド請求書受領ソフトのインボイス制度対応を強化
IT関連
2023-01-22 19:28
ワークフロー管理のServiceNowがLightstep買収でアプリケーションパフォーマンス管理に参入
ソフトウェア
2021-05-12 08:42
Eコマース企業Wayfairに見る機械学習活用のポイントとは
IT関連
2023-07-29 03:52
リモートワークの定着でバーチャル会議の頻度や長さ、参加人数に変化
IT関連
2022-12-29 21:56