Meta、安全で責任あるAI開発を支援する「Purple Llama」プロジェクトを開始

今回は「Meta、安全で責任あるAI開発を支援する「Purple Llama」プロジェクトを開始」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Metaは米国時間12月7日、開発者による責任ある人工知能(AI)の開発を支援するための包括的なプロジェクト「Purple Llama」(パープル・ラマ)を発表した。

 このプロジェクトの目的は、同社が2月に公開したオープンソースの大規模言語モデル「Llama」を使用する開発者に、サイバーセキュリティー向けのツールや検証、そして入出力のセーフガードを提供することだ。

 同社によると、生成AIのリスクを軽減するには、攻撃(レッドチーム)と防御(ブルーチーム)の姿勢を組み合わせたパープルチームのアプローチが必要だという。プロジェクトの名称はこの考え方に基づいている。

 Purple Llamaではまず、サイバーセキュリティー向けツールおよび検証、入出力のセーフガードを提供し、今後その数を拡充していく。プロジェクト内のコンポーネントはライセンス供与を行い、研究と商用の両方で利用できるようにする。これにより、開発者間の協業と、生成AIの安全性ツールの標準化を推進したい考えだ。

 サイバーセキュリティーに関しては、大規模言語モデル(LLM)について、業界全体を対象にしたサイバーセキュリティーの安全性評価を行い、結果を公開する。これには、LLMのサイバーセキュリティーリスクを定量化するための指標、LLMによる安全でないAI生成コードの提案頻度を評価するツール、LLMが不正なコードを生成しにくくするための対策などが含まれる予定だ。

 また、入出力セーフガードの一環として、開発者が潜在的リスクのある出力を生成しないようにするための基盤モデル「Llama Guard」を公開する。このモデルは、一般公開されている多様なデータセットで訓練されており、リスクや違反の可能性があるコンテンツを検出できる。

 Metaは、7月に同社の次世代版LLM「Llama 2」を公開した際に100社以上と協業しており、今回も多数の企業と協力しつつ、オープンなアプローチを取るという。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
クラウド運用のテーマは多彩に–Cloud Operator Days Tokyo開催
IT関連
2023-07-22 09:50
LegalOn Technologies、法務プラットフォーム「LegalOn Cloud」発表
IT関連
2024-04-11 05:57
サイバー脅威は自然災害同様に備えて事業を守るべき–トレンドマイクロが2022年を総括
IT関連
2023-01-07 18:56
八海醸造、リスク管理の強化でクラウド契約業務サービスを導入
IT関連
2022-06-23 12:52
米国2位の自動車保険大手Geicoが数カ月にわたりウェブサイトから運転免許証番号を盗まれていたと認める
セキュリティ
2021-04-21 23:16
楽天モバイル、オラクルのポリシーと課金ソリューション導入–5Gサービスの加速へ
IT関連
2023-07-29 14:27
戦略と文化の両輪の変革を加速し大きく飛躍ヘ–NEC・森田社長
IT関連
2023-01-08 13:12
「Zen Browser」レビュー–高いカスタマイズ性を備えた「Firefox」ベースのブラウザー
IT関連
2024-11-17 07:41
セコム損保、30年運用の基幹システムをプライベートクラウドへ移行–日立が支援
IT関連
2024-11-10 15:25
同じ本を読んだ人と出会えるマッチングサービス 男女同額で正式スタート
企業・業界動向
2021-06-08 18:00
予約が増えると特典も増える「オッドタクシー」BD-BOX、1000セット達成で「勢いが止まらない…どちらまで? 仕様」に
くらテク
2021-08-05 08:15
NECと三井住友FG、「スマートシティ社会実装コンソーシアム」を設立
IT関連
2022-06-11 06:16
プログラミング言語ごとのコミュニティの最大規模はJavaScriptの約2520万人、続いてPythonが1820万人、Javaが1770万人など。SlashDataの調査
.NET
2024-06-20 05:42
リミニストリート、新ソリューション「Rimini Connect」を発表
IT関連
2022-12-08 05:16