富士通研と北海道大が「説明可能なAI」を共同開発–AIの信頼性／透明性を向上

今回は「富士通研と北海道大が「説明可能なAI」を共同開発–AIの信頼性／透明性を向上」についてご紹介します。

関連ワード （ビッグデータ等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　富士通研究所と北海道大学は、人工知能（AI）が自動判断した結果をもとに、望む結果を得るために必要な手順を自動で提示できる技術を世界で初めて開発した。

　今回、共同開発したAI技術を用いて、糖尿病、ローンの与信審査、ワインの評価の3種類のデータセットで検証したところ、今回の開発技術が全てのデータセットと機械学習アルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための適切なアクションと実施順序を取得できたことを確認し、特にローンの与信審査のケースでは半分以下の労力を実現したという。

　この技術によって、AIが出した判断理由を知るだけでなく、個々の利用者が望む結果を得るために取るべき改善の手順を示すことが可能となる。

　例えば、健康状態を判断するAIが不健康と判断した場合、身長や体重、血圧などの健康診断項目のデータから不健康の判断理由を説明するだけでなく、健康になるための最善策を提示してほしいというニーズに対して、今回開発した技術を適用することで、過去データから複雑に絡み合った多数の診断項目間の相互作用を特定し、実現の可能性や実施の難易度を考慮した上で具体的な改善手順を示すことができる。

　今後、社会の重要な判断や提案をAIが担うためには、AIシステムの透明性と信頼性の担保が課題となってきている。データに基づいて自動的に判断するだけでなく、個々の判断理由を提示する「説明可能なAI」と呼ばれる新しいAI技術の研究が盛んになっている。

　説明可能なAIは、図1でいえばリスクの高低に関する判断結果に加えて判断の根拠となった属性（図1のB）を提示することになる。

　今回開発した技術は、この例でいえば入力データの属性をもとに健康リスクが高いと判定しているのに対し、健康リスクが低いという望む判断結果を得るために属性の値を変えるものといえる。

　ただし、AIによる自動判断で望む結果を得るためには、変更が必要な属性を提示するだけでなく、その変更が現実的かつできるだけ小さい労力で変更できる属性を提示することが必要になる。

　健康診断の例でいえば、AIによる判断結果をリスク高の現状からリスク低に変えたい場合、筋肉量を増やせば少ない労力で変更ができそうだが（図2の変更1）、体重を変えずに筋肉量だけを増やすことは非現実的であるため、実際には体重と筋肉量を増やすことが現実的な解（図2の変更2）となる。

　しかし現状から変更2に到達するために、体重と筋肉量のどちらを先に変えればよいかは自明ではないため、膨大な変更点の候補の中から実現の可能性や順序を考慮した上で適切な変更の方法を見つけることが課題となっていた。

　このような課題に対し、富士通研究所と北海道大学大学院情報科学研究院の有村研究室は「もしこれをしていれば結果はこうなっていた」というように事実とは異なる状態を示し説明する手法である「反実仮想説明」という考えに基づき、今回の技術を開発した。

　属性変更におけるアクションとその実施順序を手順として提示するプロセスは、過去の事例の分析を通して非現実的な変更を避けつつ、属性値の変更が他の属性値に与える因果関係などの影響をAIが推定し、それに基づいて実際に利用者が変更しなければならない量を計算する。これにより適切な順序かつ最も少ない労力で最適な結果が得られるアクションの提示を可能にした。

　例えば、健康診断で望む結果にするために変更する入力属性とその順序（図3のC)において、リスクを低くするためには筋肉量をプラス1kg、体重をプラス7kg変更しなければならない場合に、筋肉量と体重の間の相互作用を事前に分析することにより、筋肉量を1kgプラスすれば体重は6kgプラスされるというような関係が因果関係の分析により推定できる。

　この因果関係をもとにすると、体重の変化量として必要なプラス7kgのうち、筋肉量の変更の後に必要となる変化量はプラス1kgとなる。つまり、実際に変化させなければならない変更量は筋肉量プラス1kgと体重プラス1kgであるといえるため、先に体重を変化させるよりも少ない労力で望む結果を得ることができる。

　富士通研究所は今後、個別の因果関係を発見する技術と組み合わせることで、より適切なアクションを提示できるよう継続して取り組んでいく。独自開発した「FUJITSU AI Technology Wide Learning」によるアクション抽出技術を今回の技術により拡張し、富士通のAI技術「FUJITSU Human Centric AI Zinrai」を支える新たな機械学習技術として2021年度の実用化を目指す。

　また北海道大学はアクションの提示に限らず、多様な現場のデータから人間の意思決定に役立つ知識や情報を抽出するためのAI技術の確立を目指す。

ビッグデータとは（その概要と、人工知能/AI、IoT、医療、観光、教育などの分野での事例）

「ビッグデータ(Big Data)」とは、一般的なソフトウェアの能力を超えたサイズのデータ集合であり、従来のデータベース管理システムでは「記録」「保管」「管理」「解析」などの処理が難しいほどの巨大で複雑なデータ群。「インターネット普及」「コンピュータの処理速度」「クラウド技術向上」などに伴い、日々大量に生成され溢れている大容量デジタルデータを指す。

位置情報ビッグデータのAI解析システムLocation Engine(TM)️で解析した各種の人流統計データを提供 ...

マーケティングから金融、公共の分野まで幅広く活用できる統計データを提供クロスロケーションズ株式会社（本社：東京都渋谷区、代表取締役：小尾一介）は、クラウドサービ…（2021年2月5日 12時46分56秒）

【無料WEBセミナー開催】コロナで動いている業界、止まっている業界～cyzen(サイゼン)のビッグデータから見える ...

レッドフォックス株式会社業界、職種を問わず多くの企業でのDX化に貢献しているアプリ「cyzen（サイゼン）」このビッグデータから見える、儲かる事業とビジネスを生…

位置情報ビッグデータのAI解析システム＝Location Engine(TM)️で解析した各種の人流統計データを提供 ...

位置情報ビッグデータのAI解析システム＝Location Engine(TM)️で解析した各種の人流統計データを提供開始

データ・サイエンティストの育成・確保が加速 23年度には14万人体制に | 財経新聞

日本ではAI、ビッグデータ、アナリティスクなどを担うデータ・サイエンティスト人材が圧倒的に不足している。

位置情報ビッグデータのAI解析システム＝Location Engine(TM)️で解析した各種の人流... | Ba ...

実際にオルタナティブデータ（注2）としてヘッジファンドでの活用や、地方自治体の都市計画や防災避難計画、民間企業での市場環境の分析、広告業界での屋外広告周囲周辺の分析など様々な分野の人流ビッグデータ解析基盤として活用されております。

【整備費用ビッグデータ】自動車メンテナンスって、どこにお金がかかるの？｜株式会社ナルネットコミュニケーションズの ...

株式会社ナルネットコミュニケーションズのプレスリリース（2021年2月4日 08時00分） 整備費用ビッグデータ 自動車メンテナンスって、どこにお金がかかるの？

位置情報ビッグデータのAI解析システム＝Location Engine(TM)️で解析した各種の人流統計データを提供 ...

マーケティングから金融、公共の分野まで幅広く活用できる統計データを提供クロスロケーションズ株式会社（本社：東京都渋谷区、代表取締役：小尾一介）は、クラウドサービスとして提供中の位置情報ビッグデータ活用プラットフォーム「Location AI Platform(TM)（ロケーション

＜イッポまえだのよろしくスタートアップ セカンドシーズン＞（54）gamba クラウド"日報ビッグデータ"の本格活用 ...

2012年設立のgamba（ガンバ）は、SNSのような形で日報の共有ができるアプリを提供しているスタートアップです。アプリの提供だけでなく運用支援にも力を入れることで、競合サービスとの差別化を図っています。松田充弘代表取締役に話をうかがいました。

【整備費用ビッグデータ】自動車メンテナンスって、どこにお金がかかるの？ - サカエ経済新聞

サカエ経済新聞は、広域栄圏のビジネス＆カルチャーニュースをお届けするニュースサイトです。イベントや展覧会・ライブなどのカルチャー情報はもちろん、ニューオープンの店舗情報から地元企業やソーシャルビジネスの新しい取り組み、エリアの流行・トレンドまで、地元のまちを楽しむ「ハッピーニュース」をお届けしています。

【整備費用ビッグデータ】自動車メンテナンスって、どこにお金がかかるの？ (2021年2月4日) - エキサイトニュース

5万台以上のビッグデータから、車種別・項目別の整備費用を算出自動車メンテナンス受託管理のリーディング・プレイヤーである株式会社ナルネットコミュニケーションズ（本社：愛知県春日井市、代表取締役社長：鈴木...

増え続けるデータから迅速にインサイトを取得、いま求められる分析基盤の要件 - ホワイトペーパー [ビッグデータ]

データからビジネス価値を生み出せる組織が、市場での競争力を維持できることは明らかだが、従来のデータ環境ではそれを実現するのは難しい。組織にいま求められているのは、クラウドへのデータ集約を中心としたモダンな分析基盤の構築だ。

セルフマネージドからフルマネージドへ、分析プラットフォームを移行すべき理由 - ホワイトペーパー [ビッグデータ]

ビジネスの中核的存在であるデータからイノベーションを生み出すために、企業は多大なリソースを投入している。しかし、データ駆動型組織の構築が進まない企業も少なくない。その主な要因はセルフマネージド型データ分析にあるという。

2/12(金)【店舗DXウェビナー開催】GoogleマイビジネスとSNSの店舗情報の一括管理スマホ行動ビッグデータを ...

［画像1:https://prtimes.jp/i/37205/30/resize/d37205-30-242168-3.jpg］新型コロナウイルス感染拡大に伴…（2021年2月4日 18時46分44秒）

【整備費用ビッグデータ】自動車メンテナンスって、どこにお金がかかるの？ - Pr Times｜レスポンス ...

【整備費用ビッグデータ】自動車メンテナンスって、どこにお金がかかるの？ 2021.2.4(Thu) 8:00 5万台以上のビッグデータから、車種別・項目別の ...

オープンソースのストリームデータ処理 / Apache Stormとは

Apache Storm(アパッチストーム)。オープンソースで耐障害性に優れた高速分散処理型ニアリアルタイムビッグデータ処理フレームワークです。

ビッグデータのニュースを紹介(2021/02/04) | ビッグデータに関するニュースの紹介 - 楽天ブログ

ビッグデータのニュースを紹介(2021/02/04) ビッグデータのニュースを紹介(2021/01/29) ビッグデータのニュースを紹介(2021/01/17) ビッグデータのニュースを紹介(2021/01/14) ビッグデータのニュースを紹介(2021/01/11)

PDF ビッグデータを活用したエリア別来訪者数（京都駅）

ビッグデータを活用したエリア別来訪者数（中心地） （万人） 2019年11月以降の来訪者数の動向 出典：KDDI Location Analyzer（auスマートフォンユーザーのうち個別同意を得たユーザーを対象に， 個人を特定できないよう処理を行って集計している。

【整備費用ビッグデータ】自動車メンテナンスって、どこにお金がかかるの？ - PR TIMES｜NewsCafe

5万台以上のビッグデータから、車種別・項目別の整備費用を算出 自動車メンテナンス受託管理のリーディング・プレイヤーである株式会社ナルネットコミュニケーションズ（本社：愛知県春日井市、代表取締役社長：鈴木隆志）は、自社が運営する点検・整備等を含めた包括的サービス ...

Sbiホールディングスに学ぶ、異業種間のビッグデータ活用事例 | Topics

一企業だけでなく、異業種間でビッグデータ活用を進める企業が増えてきている。古くからグループ全体でビッグデータ活用を推し進めてきた企業として名高い金融サービス大手のSBIホールディングスの事例から、異業種間ビッグデータの活用事例を紹介する。グループ企業全体の最適化を目指したビッグデータ活用事例。同社はSBI証券や住信SBIネット銀行、SBI損保といった金融サービス事業のほか多業種に渡った事業を展開しており、グループ企業だけで実に160社以上を数える。同社ではグループ企業各社にデータ分析の部署を設けるだけでなく、SBIホールディングスの社長室直下にグループ企業全体のビッグデータ活用を進める役割として、2012年から各社のデータ活用を連携させるための部署を設置している。この先駆的な事例が目指すのは、各グループ企業が最適なビジネス行動を取れるようにする（個別最適）と同時に、SBIグループとしても最適なビジネス行動を取れるようにする（全体最適）こと。そして、全体最適を通じて、新たな仮説やコラボレーションを起こしていくことにある。このような横断組織ができた背景には、「個々の事業における改善には限界がある」という気付きが発端となっている。ビジネスモデルが変わらないなかで、各社の個別最適を目指すビッグデータ分析は成熟しつつあり、その停滞を打破するための施策として、ビッグデータを駆使して全体最適を進めたという事例といえる。現在は、各社のデータ分析チームと、SBIホールディングスのビッグデータ担当が毎月会議を行い、ビッグデータ活用の進捗確認や先進技術を使った活用について議論している。各社のデータ分析チームでは採用と育成が困難なビッグデータやAI、ディープラーニングなどを扱う人材については、SBIホールディングスで採用し、育成しているという。以上、下記URLからの要約http://www.itmedia.co.jp/enterprise/articles/1706/01/news015.html

Ebpmへの取組や現場のdx推進のための人流統計データを提供 | クロスロケーションズ株式会社

クロスロケーションズは、自社で独自に開発・提供を行っている位置情報ビッグデータ活用クラウド型プラットフォーム『Location AI Platform™』の解析エンジン『Location Engine™️』から各種統計データを提供しており、公共・民間など、様々なプロジェクトで活用されています。

有名企業のビッグデータを扱える♪フリマアプリのクラウド基盤構築をお任せ* - 株式会社クリーク・アンド・リバー社の ...

株式会社クリーク・アンド・リバー社のデータサイエンティスト中途・契約・委託の転職・採用情報。Wantedlyでは、働くモチベーションや一緒に働くメンバーについて知ることができます。今回は弊社の一員としてオンラインショッピングモールの草分け的存在である有名企業のプロジェクトメンバーとなり、活躍いただけるデータベース...

【Dx事例】ソフトバンクは「社内データを活用できていない72%」からどう巻き返したのか ｜ビジネス+It

「デジタル変革（DX）」という概念、そしてそのためにデータが非常に重要だということは広く知られてきたが、実際、現場を見るとどうだろうか？日々データを蓄積するものの「データの意味が分からない」「使い方が分からない」という社員のほうが多いのではないだろうか。本記事では、まさにその「データが分からない（情報が不足している）」社員が7割超を占めたソフトバンクが、どのように改善に取り組んできたのか、DX事例として紹介する。

デジタル戦略コンサルタント（Ai,ビッグデータ、機械学習等）(3343450) | リクルートのハイクラス転職・求人 ...

CAREER CARVER（キャリアカーバー）はリクルートキャリアが運営する、ハイクラス・エグゼクティブ限定の会員制転職サイトです。ハイクラス・エグゼクティブの方にご満足いただくために、厳選した優良なヘッドハンターだけがサービスに登録しています。

有名企業のビッグデータを扱える♪フリマアプリのクラウド基盤構築をお任せ* - Data Scientist jobs ...

The recruitment of Data Scientist at 株式会社クリーク・アンド・リバー社. You can know about the motivation to work and the members who will work together. 今回は弊社の一員としてオンラインショッ...

Ai技術により今の家賃で買える家を推定 | Oricon News

Release No.814556｜「賃貸vs持ち家」議論に終止符。業界初、現在の賃料と同額で買える物件が判明！2月5日サービス開始。　個人情報不要、非営業。「したい暮らし」と資産形成を同時実現。不動産ビッグデータをもとに様々な分析ツ...

ヤフー株式会社 / 《大阪》ビッグデータエンジニア / 32993143_37：マイナビ転職エージェントサーチ

ヤフー株式会社の求人情報/《大阪》ビッグデータエンジニアであなたの能力を発揮しませんか？：マイナビ転職エージェントサーチは、求職者と人材紹介会社を繋ぐ転職サイトです

2/12(金)【店舗DXウェビナー開催】GoogleマイビジネスとSNSの店舗情報の一括管理×スマホ行動ビッグデータ ...

対策店舗数7500店舗越え、月額2.5万円から始められるMEO対策。自社開発のMEO対策ツール「MEOクラウド」を用いて、表示順位や閲覧数の可視化、クラウド上にお客様の情報を分かりやすい形で蓄積できます。

開発エンジニア｜ビッグデータ収集・分析サービスベンチャー | 株式会社オフ・ビート

開発エンジニア｜ビッグデータ収集・分析サービスベンチャー; 常勤監査役｜クラウド型企業情報サービスベンチャー; 経理マネージャー（候補）｜土木測量システム開発会社; プロセスエンジニア（製品自動検査装置）｜外資系自動車用電子機器サプライヤー

Lg電子、Sw専門家1000人育成へ - Nna Asia・韓国・It・通信

韓国のＬＧ電子は２日、2023年までにソフトウエア（ＳＷ）専門家を1,000人規模で育成すると発表した。人工知能（ＡＩ）やビッグデータ、セキュリティーなど分野別の専門家を育てることで、家電やロボット、モノのイン…