マイクロソフト、生成AIのリスク特定に役立つ「PyRIT」ツールを公開

今回は「マイクロソフト、生成AIのリスク特定に役立つ「PyRIT」ツールを公開」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 生成型の人工知能(AI)モデルは高度な機能を備えるが、虚偽の情報を生成してハルシネーション(幻覚)を起こしたり、悪意ある人物に悪用される恐れのある抜け穴があったりする事例が、数多く確認されている。Microsoftはこの問題の緩和を支援するため、生成AIシステムのリスクを特定するのに役立つツールを発表した。

 Microsoftは米国時間2月22日、「Python Risk Identification Toolkit for generative AI(PyRIT)」をリリースした。これは、MicrosoftのAI Red Teamが、「Copilot」を含む同社の生成AIシステム内のリスクを確認するために使用しているツールだ。

 Microsoftはこの1年間で、複数の高価値の生成AIシステムに対するレッドチーミングを行い、その経験を通して、それらのシステムのレッドチーミングが従来のAIやソフトウェアに対するものとは大きく異なることを学んだと、発表の中で述べた。

 異なる点の1つは、通常のセキュリティリスクに加えて、有害なコンテンツや偽情報の生成など、責任あるAIのリスクを考慮しなければならないことだという。

 また、生成AIモデルはアーキテクチャーがそれぞれ大きく異なり、同じ入力から生成できる結果にばらつきがあるため、すべてのモデルに適合する、合理化された1つのプロセスを見つけるのが難しい。

 その結果、それらのさまざまなリスクの1つ1つを手動で調べる作業が、退屈で時間のかかる、低速なプロセスになってしまう。Microsoftは、自動化がレッドチームに役立つとして、より注意が必要なリスクの高い部分を自動で特定し、定型的なタスクを自動化することができるとしている。そこで登場するのが、PyRITというわけだ。

 PyRITは、悪意のあるプロンプトを生成AIシステムに送信し、返ってきた応答を評価する。その評価に基づいてまた新たなプロンプトを送信するという。

 MicrosoftはPyRITの最大のメリットとして、作業効率が向上し、作業にかかる時間が大幅に短縮されることを挙げている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
企業の75%が「ChatGPT」利用を禁止する方向–BlackBerry調査
IT関連
2023-08-17 18:44
Epic Games、AppleをEUで提訴 米英豪での訴訟に続き独禁法違反を主張
企業・業界動向
2021-02-19 06:49
DNS脆弱性の発表で知られるダン・カミンスキー氏が死去–享年42歳
IT関連
2021-04-27 18:02
CTC、住友生命保険に次世代セキュリティ製品提供–セキュリティ運用の効率化へ
IT関連
2023-06-28 09:33
カプコン、PSPゲームのダウンロード版を一律500円に値下げ
くらテク
2021-07-15 02:02
Pixel独占だったGoogleフォト高機能が他のAndroidにも ただし要有料「Google One」
アプリ・Web
2021-02-15 15:11
ネット印刷・集客支援などのラクスルがダンボール・梱包材専門通販ECサイトのダンボールワンを完全子会社化
IT関連
2022-02-02 08:20
AI導入を成功に導くための準備–押さえるべき3つの重要な視点
IT関連
2024-07-24 22:19
AIのガバナンスと信頼構築を支援するツールキットを提供開始–日本IBM
IT関連
2023-12-07 00:49
さらばIE、25年以上にわたるセキュリティバグの思い出
ソフトウェア
2021-05-22 21:12
1万円の“大人のボールペン”、サクラクレパスが創業100周年記念で 軸は金属削り出し
くらテク
2021-01-14 00:47
アビーム、財務経理の業務基盤として「BlackLine」導入–工数が約7割削減
IT関連
2023-03-12 09:53
TabnineとAtlassian、開発者向け生成AIツールを発表
IT関連
2024-05-04 03:28
理解ではなく「受容」していく–青山学院大学・エリック学部長に聞く、DE&IとZ世代
IT関連
2023-04-14 00:51