AIのガバナンスと信頼構築を支援するツールキットを提供開始–日本IBM

今回は「AIのガバナンスと信頼構築を支援するツールキットを提供開始–日本IBM」についてご紹介します。

関連ワード （ビッグデータ等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　日本アイ・ビー・エム（日本IBM）は12月4日、「watsonx.governance」を同1日に提供開始したと発表した。watsonxは「信頼できるデータをビジネス全体で使用して、AIの効果を拡大・加速できるように設計された、さまざまなAI支援機能を備えたAIとデータのプラットフォーム」として、5月にグローバルで発表されたもの。主要な3つの構成要素のうち、「watsonx.ai」と「watsonx.data」は7月に提供開始され、残るwatsonx.governanceは2023年交換提供開始予定とされていたが、今回提供開始が発表された。

　冒頭で同社のAI倫理への取り組みについて説明した執行役員 兼 技術理事 AIセンター長の山田敦氏は、AIの進化を強力に推進していく一方、AIの進化発展が道を外れてしまうことがないようにAI倫理にも注力していくという同社の方針を「アクセルと併せて、ガードレールをどう引いていくか、その両方を担当している」という表現で説明した。

　同氏は現在想定されているAIリスクについて、「AIモデル学習」の段階で想定されるリスクと「AIモデル利用」の段階で想定されるリスクに分けて概要説明を行い、対応策についても紹介を行った。同社で「IBMのAI原則」として「信頼と透明性の原則」を掲げ、さらに「原則を支える基本特性」として説明可能性、公平性、堅牢（けんろう）性、透明性、プライバシーの5つを置き、その実現に向けた取り組みとして「AI倫理委員会」を中核とするガバナンス体制を構築するとともに、リスク審査プロセスを規定して運用していることも紹介された。今回発表されたwatsonx.governanceにおいてもこうした社内のガバナンス体制の実践経験が生かされているとされる。

　続いて、watsonx.governanceの詳細説明を行った理事 テクノロジー事業本部 Data and AIテクニカルセールス watsonx Client Engineeringの竹田千恵氏は、「AIの領域でIBMが目指すところ」として「watsonxプラットフォームを使い、信頼できるAIでお客さまのノウハウや自社固有のデータを学習させることによって自社の競争力を増幅させていく『AI価値創造企業』になりましょう」と語り、「一般向け大規模言語モデルのAI利用者（AI User）」ではなく「AI Value Creator」を対象とし、さらにビジネスユーザーのニーズをターゲットとして開発した同社の独自大規模言語モデル「Granite」を提供開始するなど、フォーカスを明確にした取り組みを行っていることを強調した。

　その上で同氏はwatsonx.governanceを、こうした「AI価値創造企業」が信頼できる高品質なAIを構築するために必要となる「インベントリー管理、リスクガバナンス、継続的な評価とモニタリング」の機能を提供するコンポーネントと位置付けた。

　最後に、テクノロジー事業本部 Data and AIテクニカルセールスの坂本康輔氏がwatsonx.governanceの画面を紹介しながら具体的な機能について説明を行った。インベトリー管理では、「AIモデルの作成のライフサイクルを可視化し、管理していく」ことができる。ベースとなるモデルの基本情報や学習データの管理、さらにモデルのバージョンごとに「開発、テスト、検証、操作」という各局面のどの段階にあるのかといったステータスの可視化も行う。また、作成されたAIモデルの評価では、AIに評価用の入力を与えて出力された結果を検証し、その品質を確認するといった機能が紹介された。

　AIに関しては、バイアスの掛かったデータを学習させることで出力結果を汚染するような攻撃が想定されたり、「もっともらしく嘘をつく」といった信頼できない出力が危惧されたりするなどさまざまな課題が指摘されているが、「AI価値創造企業」が自社でAIを作成する際には、学習データをコントロールし、出力に関しても検証を行うことでこうした問題の発生を抑制することは可能だと思われる。こうした作業を支援するツールとしてwatsonx.governanceは有用だと考えられる。