ラック、生成AIシステムに対するセキュリティ診断サービスを提供

今回は「ラック、生成AIシステムに対するセキュリティ診断サービスを提供」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


  ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」を提供を開始した。同社によれば、生成AIを組み込んだシステムは従来型のシステムと異なり、AIを欺くために設計された敵対的な攻撃(プロンプトインジェクション)に対して脆弱であることが明らかになってきているという。

 同サービスは、「プロンプトの悪用による機密情報の搾取」「不適切なコンテンツの表示」「内部的に設定されたプロンプトなど知的財産の搾取」「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価する。その上で生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートする。

 さらにウェブアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせてシステム全体の脆弱性を点検することも可能だ。なお診断の項目は、今後も随時追加していく予定だという。

 同サービスに含まれる評価項目には、(1)プロンプトインジェクション、(2)ジェイルブレイク、(3)プロンプトリーク、(4)大規模言語モデル出力の改ざん、(5)プロンプトの大量入力によるサービス拒否――がある。

 (1)はシステムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性を指す。(2)はシステムに設定されたポリシーを回避して、不適切なコンテンツ(攻撃的、または有害なコンテンツ)を解凍できてしまう脆弱性を言う。

 (3)はシステムの内部で設定されているプロンプトを搾取できてしまう脆弱性のこと。(4)は大規模言語モデル(LLM)の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性を言う。

 (5)は繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性のことを指す。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
日立システムズとAWS、3年間の戦略的協業契約を締結
IT関連
2022-08-12 20:24
リモートワークかオフィス回帰か–変化の中で働き方や生活をどう整理する?
IT関連
2022-04-08 22:33
リモートワークの採用面接にディープフェイクを悪用する事例–FBIが警告
IT関連
2022-07-06 19:44
セゾン情報、次世代クラウド型データ連携基盤「HULFT Square」を発表
IT関連
2021-06-24 20:35
アドビ、アップル、NVIDIAらがアライアンス結成–3D技術の標準化を目指す
IT関連
2023-08-03 23:22
マイクロソフト、セキュリティ環境の検証ツールをオープンソースで公開
IT関連
2021-05-24 22:17
宮城県中央会とNTT-AT、DXを推進する中小企業の悩みをヒアリング
IT関連
2022-12-21 02:27
【コラム】アジャイルなスタートアップモデルに倫理観を導入する時代がきた
IT関連
2022-01-31 19:51
Rubrik Japan、ランサムウェア被害の顧客に最大500万ドルを保証する新サービス
IT関連
2022-07-24 11:27
シャープが「水曜どうでしょう」のディレクターをあえて起用した理由 コラボ首掛けスピーカーの発売で
くらテク
2021-07-15 01:38
不確実性の高まりがクラウドへの移行を後押し–ガートナー調査
IT関連
2022-11-10 22:13
「Windows 10」バージョン「20H2」「1909」、サービス終了
IT関連
2022-05-14 01:32
自動走行車両の遠隔操作ソフトウェアOttopiaが住友商事のVCなどから9.7億円調達
モビリティ
2021-04-25 07:30
Twitch、プラットフォーム外でのユーザーへの嫌がらせにも対処するポリシー強化
アプリ・Web
2021-04-09 05:50