Cloudflare、生成AIを守るためのファイアウォール「Firewall for AI」開発へ。従来とは異なる脆弱性に対応

今回は「Cloudflare、生成AIを守るためのファイアウォール「Firewall for AI」開発へ。従来とは異なる脆弱性に対応」についてご紹介します。

関連ワード (一部、存在、従来等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、Publickey様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


Cloudflareは、生成AIを守るためのファイアウォール「Firewall for AI」の開発意向を発表しました。

fig

生成AIの仕組みに起因する固有の脆弱性が存在する

Cloudflareは、従来のWebアプリケーションの脆弱性と生成AIを用いたアプリケーションには共通する脆弱性もある一方で、生成AIのモデルをジャックして不正なアクションを実行できるようにするような生成AIの仕組みに起因する固有の脆弱性も存在すると説明します。

生成AIは自然言語を用いたあいまいなプロンプトの操作に対して、たとえ同じプロンプトが入力されたとしても状況によって正確に予測することが困難であるような多様な答えや結果が示されるという点で、特定の操作に対して特定の動作が引き起こされる決定論的な従来のアプリケーションと振る舞いが大きく異なるとCloudflareは指摘します。

さらに、従来のアプリケーションではコードによるコントロール部分と、データベースによるデータ部分が分離されており、あらかじめコードにより定義された操作だけが行われることが分かっているため、コードの部分に対してチェックや操作の逸脱が怒らないような仕組みを集中させることで、データを保護することができました。

生成AIはこれとは異なり、データそのものが学習プロセスを通じてモデルの一部になるため、データがプロンプトによる操作に対してどのように提供されるのかを管理することは困難です。

ユーザーに近いところでファイアウォールを実行

Cloudflareが開発するFirewall for AIでは、すでにWAF(Web Application Firewall)の機能として提供しているレートの制限やセンシティブなデータの検出などの機能に加えて、こうした生成AI独自の仕組みに起因する脆弱性についても検出し、対応する機能を実装すると説明されています。

またFirewall for AIはCloudflareのネットワークを利用して可能な限りユーザーの近くで提供されることで、攻撃を早期に特定し、エンドユーザーとモデルの両方を悪用や攻撃から保護することができるとも説明されています。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
NICT、複数のセキュリティ情報から深掘り分析などができる新機能
IT関連
2022-06-18 18:11
IBMの量子コンピューターがドイツに、米国外で初–その可能性
IT関連
2021-06-25 08:30
米バイデン政権、ロシアに制裁 SolarWinds悪用サイバー攻撃や大統領選干渉で
アプリ・Web
2021-04-18 17:37
「Terraform」など開発のHashiCorp、日本市場での事業拡大戦略を発表
IT関連
2021-05-28 19:34
生成AIの利用拡大で、今後6年間でハイパースケールデータセンター全体の能力が現在の約3倍に達する。Synergey Research Groupの予測
クラウド
2023-10-24 02:45
Linuxタブレット「PineTab2」発表–内部のモジュール化など大幅な刷新
IT関連
2022-12-24 23:02
トヨタ、2025年までにEV15車種 ホンダも5年以内に中国で10車種
IT関連
2021-04-21 08:50
外国人特定技能人材のマッチングプラットフォームtokutyが3000万円のシード調達
IT関連
2022-01-19 06:44
月データセンターや6Gは黎明期、Web3は期待のピーク期、モノのインターネットは幻滅期など、ガートナーが「日本における未来志向型インフラ・テクノロジのハイプ・サイクル:2022年」を発表
業界動向
2022-09-05 15:55
最終回:CPM導入で真のDXを成し遂げた企業で起きる“3つの変化”
IT関連
2023-11-01 01:46
【コラム】アクセシブルな雇用が「大量退職時代」の解決策となる
IT関連
2022-01-23 01:06
核融合スタートアップ京都フュージョニアリングが総額20億円調達、グローバル核融合市場の取り込みと事業拡大を目指す
IT関連
2022-02-03 03:21
マイクロソフト、米政府の機密データ対応「Azure Government Top Secret」をGAに
IT関連
2021-08-17 18:33
MS、「Windows 10」拡張セキュリティ更新プログラムを1年目61ドルで提供
IT関連
2024-04-05 07:02