マイクロソフト、生成AIのリスク特定に役立つ「PyRIT」ツールを公開

今回は「マイクロソフト、生成AIのリスク特定に役立つ「PyRIT」ツールを公開」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 生成型の人工知能(AI)モデルは高度な機能を備えるが、虚偽の情報を生成してハルシネーション(幻覚)を起こしたり、悪意ある人物に悪用される恐れのある抜け穴があったりする事例が、数多く確認されている。Microsoftはこの問題の緩和を支援するため、生成AIシステムのリスクを特定するのに役立つツールを発表した。

 Microsoftは米国時間2月22日、「Python Risk Identification Toolkit for generative AI(PyRIT)」をリリースした。これは、MicrosoftのAI Red Teamが、「Copilot」を含む同社の生成AIシステム内のリスクを確認するために使用しているツールだ。

 Microsoftはこの1年間で、複数の高価値の生成AIシステムに対するレッドチーミングを行い、その経験を通して、それらのシステムのレッドチーミングが従来のAIやソフトウェアに対するものとは大きく異なることを学んだと、発表の中で述べた。

 異なる点の1つは、通常のセキュリティリスクに加えて、有害なコンテンツや偽情報の生成など、責任あるAIのリスクを考慮しなければならないことだという。

 また、生成AIモデルはアーキテクチャーがそれぞれ大きく異なり、同じ入力から生成できる結果にばらつきがあるため、すべてのモデルに適合する、合理化された1つのプロセスを見つけるのが難しい。

 その結果、それらのさまざまなリスクの1つ1つを手動で調べる作業が、退屈で時間のかかる、低速なプロセスになってしまう。Microsoftは、自動化がレッドチームに役立つとして、より注意が必要なリスクの高い部分を自動で特定し、定型的なタスクを自動化することができるとしている。そこで登場するのが、PyRITというわけだ。

 PyRITは、悪意のあるプロンプトを生成AIシステムに送信し、返ってきた応答を評価する。その評価に基づいてまた新たなプロンプトを送信するという。

 MicrosoftはPyRITの最大のメリットとして、作業効率が向上し、作業にかかる時間が大幅に短縮されることを挙げている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
萌芽的トピックは少人数による継続的論文発表によって創出―筑波大学が萌芽的トピック創出のプロセスを数量的に解析
IT関連
2022-01-25 09:46
凸版印刷、遠隔操作ロボットで看護業務支援を実証
IT関連
2022-03-08 13:19
次世代の月面探査車をGMとロッキード・マーティンが共同で開発中
宇宙
2021-05-28 04:27
竹中工務店、300年以上蓄積したデータを建物の設計に利用
IT関連
2021-05-27 14:26
Visual Studio Codeが正式にRaspberry Piに対応。Notebook内のMarkdownレンダリングを強化し絵文字やKaTexによる複雑な数式など表記可能に
Microsoft
2021-04-02 23:30
DXの浸透と定着化–全社的かつ継続的な取り組みとするために
IT関連
2023-02-16 02:24
パスワードマネージャー6選–すべてのログイン情報を簡単に管理
IT関連
2022-05-22 14:21
巨大テック企業を規制する米国の新たな独占禁止法案の方針
ネットサービス
2021-02-06 13:48
Amazonに大打撃を与えるインドRelianceによるFutureの資産買収を同国証券取引所が承認
ネットサービス
2021-01-22 04:40
リアルタイム翻訳機能付きVRオフィス、ロゼッタらが開発へ 会話を自動で多言語変換
DX
2021-03-11 09:57
「“オンラインさい銭”に無断で名前使われた」──神社が相次いで注意喚起 運営元は「詐欺ではない」
ネットトピック
2021-07-10 04:12
2030年に目指すべき姿を示した富士通 時田社長の「思い」と外部から見た「懸念」
IT関連
2024-05-03 15:53
DeepMindが作った平凡な性能のAI「Gato」、何がすごいのか
IT関連
2022-05-26 20:07
フロー型からストック型へのビジネスモデル転換に向けた「本気度」をDell幹部に聞いてみた
IT関連
2022-12-09 03:04