Meta、安全で責任あるAI開発を支援する「Purple Llama」プロジェクトを開始

今回は「Meta、安全で責任あるAI開発を支援する「Purple Llama」プロジェクトを開始」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Metaは米国時間12月7日、開発者による責任ある人工知能(AI)の開発を支援するための包括的なプロジェクト「Purple Llama」(パープル・ラマ)を発表した。

 このプロジェクトの目的は、同社が2月に公開したオープンソースの大規模言語モデル「Llama」を使用する開発者に、サイバーセキュリティー向けのツールや検証、そして入出力のセーフガードを提供することだ。

 同社によると、生成AIのリスクを軽減するには、攻撃(レッドチーム)と防御(ブルーチーム)の姿勢を組み合わせたパープルチームのアプローチが必要だという。プロジェクトの名称はこの考え方に基づいている。

 Purple Llamaではまず、サイバーセキュリティー向けツールおよび検証、入出力のセーフガードを提供し、今後その数を拡充していく。プロジェクト内のコンポーネントはライセンス供与を行い、研究と商用の両方で利用できるようにする。これにより、開発者間の協業と、生成AIの安全性ツールの標準化を推進したい考えだ。

 サイバーセキュリティーに関しては、大規模言語モデル(LLM)について、業界全体を対象にしたサイバーセキュリティーの安全性評価を行い、結果を公開する。これには、LLMのサイバーセキュリティーリスクを定量化するための指標、LLMによる安全でないAI生成コードの提案頻度を評価するツール、LLMが不正なコードを生成しにくくするための対策などが含まれる予定だ。

 また、入出力セーフガードの一環として、開発者が潜在的リスクのある出力を生成しないようにするための基盤モデル「Llama Guard」を公開する。このモデルは、一般公開されている多様なデータセットで訓練されており、リスクや違反の可能性があるコンテンツを検出できる。

 Metaは、7月に同社の次世代版LLM「Llama 2」を公開した際に100社以上と協業しており、今回も多数の企業と協力しつつ、オープンなアプローチを取るという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
グーグル、他社クラウドに移行する際のデータ転送を無料に
IT関連
2024-01-13 12:12
Amazon、楽天、ヤフーなどが国の規制対象に 出店者向けの相談窓口も設置
企業・業界動向
2021-04-02 04:54
デル・テクノロジーズ、「Dell PowerFlex 4.5」発表–マルチクラウドの多用途性に対応
IT関連
2023-10-20 08:00
北野建設、日立ソリューションズ支援のもとDX推進プロジェクトを本格化
IT関連
2023-06-22 00:49
サイバーレジリエンスを高めるための5つのステップ
IT関連
2022-06-07 20:10
「Amazon Bedrock」が生成AIのコストを最大90%節約できるプロンプトキャッシングなど新機能を搭載
AWS
2024-12-05 18:58
COBOLは死んでいない–専門家が語る用途や需要、教育の必要性
IT関連
2021-05-02 16:44
テクノロジーの“目利き”は健在か–CTCの米国事業トップに聞いてみた
IT関連
2024-03-02 02:31
自動実験ロボとデータ科学により人の100倍以上の速度でリチウム空気電池の電解液の調合・電池性能評価を実施、充放電サイクル寿命が2倍に
IT関連
2022-03-26 11:39
パスワードマネージャの1Passwordがパスキーに正式対応を開始。パスキーの保存、管理、サインインに対応
FIDO/WebAuthn
2023-09-25 03:12
フォーティネット、製品の脆弱性情報と修正版を公開–悪用攻撃が発生
IT関連
2025-01-18 02:45
Datumix、AI開発を支援する「OptAce」を提供開始–開発費用と工数を削減
IT関連
2022-08-14 09:05
Uber Eats、徒歩での配達OKに 東京23区で試験導入
企業・業界動向
2021-06-22 16:11
財務/人材データの活用が企業のDX推進に効果的–IDC Japan調査
IT関連
2022-12-18 21:21