AIのバイアスをなくすには–業界エキスパートに聞く

今回は「AIのバイアスをなくすには–業界エキスパートに聞く」についてご紹介します。

関連ワード （ビッグデータ等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　開発者やデータサイエンティストは（もちろん）人間だが、彼らが生み出したシステムは人間ではない。それは単に、人間の論理をコードに組み込んで反映させたものにすぎない。人工知能（AI）システムが出力する結果からバイアスをなくして、賢明なビジネス上の意思決定を行えるようにするには、多くの部門を巻き込んだ包括的なアプローチが必要になる。

　ITスタッフやデータサイエンティストだけでAIを扱うことはできないし、そうすべきでもない。

　最近では、AIに関する取り組みをシステム開発の枠内にとどめることをやめて、事業部門にも拡大すべきだという圧力が高まっている。例えば、「AI Summit」で行われたパネルディスカッションでは、ビジネスリーダーや経営者は、AIを用いた意思決定の質を問うだけでなく、AIを生み出す過程にも積極的に関与する必要があるという点で意見が一致した（筆者はこのカンファレンスに共同議長として参加し、パネルディスカッションのモデレーターを務めた） 。

　Aibleの最高技術責任者（CTO）であるRod Butters氏は、AIの開発とモデリングのプロセスをオープンに行うためのシステマチックな手法が必要だと主張した。「私たちは、データサイエンティストにモデルを作らせようとするとき、彼らに読心術士や占い師の役割を求めてしまっている。データサイエンティストは正しいことをやろうとしているし、責任あるしっかりしたモデルを作ろうとしているが、何を基盤にすべきかは難しい問題だ」と同氏は言う。

　「優れたモデルを作るだけで、すべての問題を解決できるとは限らない」

　では、Butters氏が言うような状況を解決し、潜在的なバイアスや不正確さを修正するにはどうすればいいのだろうか。これは明らかに、企業の経営陣が全体として取り組むべき課題だ。これまで、AIに関する仕事のほとんどはIT部門が担ってきたが、これはIT部門だけでできることではない。業界のさまざまな専門家が、AI開発をよりオープンに行うようにして、関わる人間を増やすべきだと主張している。

　Virtueの最高経営責任者（CEO）であり、Bizconnectのアドバイザーを務めるReid Blackman氏は、「IT担当役員やIT部門のスタッフにその重荷を負わせれば、組織全体に関わる重要な倫理の問題や、評判に関する問題や、法的な問題を技術の問題として一般化してしまうことになるが、それは間違っている」と述べている。「AIのバイアスは技術だけの問題ではない。さまざまな部門が絡んでくる問題だ」と同氏は言う。

　Blackman氏は、AIのバイアスをなくすためのこれまでの取り組みは十分ではなかったと続けた。「アルゴリズムのバイアスに注目が集まっているにも関わらず、この問題を解決するための取り組みはこれまで非常に少なかった。標準的なアプローチは（もちろん、何もしない場合を除けば）、商品やサービスの組み合わせが、複数の下位集団、特に人種や性別によって分けられるグループにどのように分配されているかを調べるさまざまなツールを用いるか、さまざまな定量的な指標を用いて、分配が公平なのか偏っているのかを調べることだ」