生成AIシステム用のセキュリティ対策を提供–イスラエル発のKELA

今回は「生成AIシステム用のセキュリティ対策を提供–イスラエル発のKELA」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 セキュリティインテリジェンスを手掛けるKELAは、生成AIのシステムや開発環境を狙う脅威に対処するセキュリティソリューション「AiFort」を発表した。生成AIや大規模言語モデル(LLM)の開発者およびユーザー向けに、4月19日から提供している。

 同社は、イスラエルに本拠を置き、サイバー犯罪者や攻撃者が活動するアンダーグラウンド空間の常時監視、分析、解析によるサイバーセキュリティの脅威インテリジェンスを手掛ける。昨今では、生成AIを悪用するための情報がアンダーグラウンドで活発に交換、売買されているとし、生成AIのセキュリティ対策に特化したAiFortを開発したと説明する。

 AiFortは、スイートとして「AiFort Data」「AiFort Red」「AiFort Protect」の3つのモジュールで構成されている。

 AiFort Dataは、同社の生成AIに関する脅威インテリジェンスを用いて、脅威から保護するためのAIのトレーニングデータセットになる。例えば、生成AIに巧妙な指示を与えて不適切なコンテンツを表示させる「ジェイルブレイク」攻撃の手口を学習させることにより、AIチャットボットが暴力的な発言や誤情報などを出力するといった脅威に対処する。

 AiFort Redは、AIモデルの脆弱(ぜいじゃく)性やセキュリティリスクを分析、診断する。攻撃を模倣するプログラムのアドバーサリーエミュレーションを用いてユーザーが簡単な操作でテストプランを作成でき、ユーザーはこのプランに基づいて生成AI環境に対する模擬攻撃を実施することにより、ダッシュボードで結果を把握して安全性を確認、検証できるとする。

 AiFort Protectは、悪意のある不正なプロンプトの入力をリアルタイムに検知、通知する機能で、データの漏えいやハッキングなどの不正行為をブロックする。モジュールの提供は2024年中を予定している。

 モジュール単体の価格は年額300万円から。スイートもしくはモジュール単体で、クラウド型やオンプレミス型で導入できる。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
富士通、「がんのタイプ分け」などゲノム医療分野の課題を解く説明可能なAI技術を開発
IT関連
2024-05-12 16:36
民間商業宇宙ステーションの実現を目指すAxiom Spaceが約138億円を調達
宇宙
2021-02-18 04:48
GMの自動運転車技術子会社Cruiseが商業化に向けデルタ航空元幹部を採用
モビリティ
2021-01-12 12:41
スタディプラス、教育機関向けコミュニケーション基盤と他社教材の学習記録を連携
IT関連
2024-04-06 10:20
「Windows 10」の「EcoQoS」機能、バッテリー持ち改善やファンノイズ低減を可能に
IT関連
2021-04-26 09:28
「Google Play」ストアに35種類の悪意あるアプリ–200万回以上ダウンロード
IT関連
2022-08-20 06:13
「カーボンKPI」でウェブサイトのカーボンフットプリントを測定するRyte
EnviroTech
2021-06-26 06:50
官民ファンドJIC 半導体サプライ確立、投資で支援
IT関連
2021-07-07 09:26
Pelotonはトレッドミルのリコールで収益への影響を約180億円と予測
ハードウェア
2021-05-08 15:55
Spotifyが全世界でログインできなくなった3月8日の障害について原因を報告。Google CloudのTraffic Directorの障害がgRPCライブラリのバグを踏んだと
Google Cloud
2022-03-16 07:02
ラズパイでもAmazon ECSを動かせる、「Amazon ECS Anywhere」が正式リリース。ラズパイやオンプレミスのコンテナ環境をAWSから集中管理可能
AWS
2021-06-03 23:14
Linux界のリーダーらが「Flathub」のアプリストア構築に乗り出した理由
IT関連
2023-03-15 16:27
ロマンスカー歴代車両を展示 「ロマンスカーミュージアム」4月19日開館
くらテク
2021-03-10 01:29
AIを使ったサイバー攻撃やクラウド環境への攻撃が増加する–ウィズセキュア2023年予測
IT関連
2022-12-20 10:54