AI倫理の専門家が語る、AIによる偏見の助長を防ぐために必要なこと

今回は「AI倫理の専門家が語る、AIによる偏見の助長を防ぐために必要なこと」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Salesforceの倫理AIプラクティス担当主席アーキテクトであるKathy Baxter氏によると、人工知能(AI)の開発に携わるデベロッパーは、アルゴリズムのバイアスに対処するシステムを早急に開発、導入しなければならないという。同氏は米ZDNetとのインタビューで、バイアスのない公正なAIシステムを保証する上で、偏りのないデータセットの作成や、ユーザーリサーチの必要性を強調した。さらに同氏は、個人のプライバシーを守りつつ、AIシステムの透明性と理解可能性、説明責任を確保することの重要性についても強調した。そのためには、米国立標準技術研究所(NIST)が提唱しているモデルを用いた、分野をまたがるコラボレーションによって、あらゆる人々にメリットをもたらす堅牢かつ安全なAIシステムの開発が必要だと主張している。

 AI倫理に関する根本的な課題の1つは、既存の社会的偏見を助長したり、新たな偏見を生み出したりすることのないAIシステムの開発/導入だ。この課題を解決する上で同氏は、誰がメリットを享受するのか、そして誰がAIテクノロジーのコストを負担するのかを問うことの重要性を強調した。また使用するデータセットに目を向け、確実に万人の声が反映されるようにする必要もある。さらに、開発プロセスにおける包括性や、ユーザーリサーチを通じた潜在的害悪の特定も重要だ。

 同氏は「これは基本的な疑問の1つだが、議論を避けて通るわけにはいかない」と述べ、「とりわけ有色人種の女性はこの問題について何年も前から声を上げ続けているとともに、この分野のリサーチを進めてきている。私は、生成型AIの利用において、多くの人々がこの件について語っている点に感激している。しかし、われわれがなすべき根本的なことは、このテクノロジーから利益を得る人々と、資金を供給している人々が誰であるのかという問いかけだ。つまり、誰の声が含まれているのかということだ」と続けた。

 AIシステムを訓練するために用いられたデータセットを通じて、同システムに社会的なバイアスが忍び込む可能性がある。網羅的とは言えないデータセット、例えば特定の人種が多く含まれていたり、文化的な多様性が考慮されていない画像データセットによって、AIシステムはバイアスを有したものになる可能性がある。さらに、AIシステムの社会への導入を不均一なかたちで推し進めることで社会における偏見を定着させてしまう可能性もある。

 AIシステムを一般的な人々にとって透明かつ分かりやすいものにするには、開発プロセスにおける説明可能性の重視が鍵となる。例えば、「思考連鎖型(chain-of-thought)プロンプト」といったテクニックは、AIシステムの思考過程と意思決定プロセスをより理解しやすいかたちで確認できるようにする上で役立つだろう。また、ユーザーに対する説明を明確化するとともに、AIの生成したコンテンツのあいまいなところを識別できるようにする上で、ユーザーのリサーチも必要不可欠となる。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
来場者100万人規模、巨大VRイベント「バーチャルマーケット」がクリエイターや企業から注目される理由
PR
2021-03-23 23:54
セールスフォースと大阪府、福祉分野のスマート化で連携–DX人材の育成など図る
IT関連
2022-09-11 05:04
IT部門社員を共有するユナイトアンドグロウが事業拡大する理由
IT関連
2024-08-06 20:54
ニュータニックスが重点戦略に挙げた「新しいHCI」とは
IT関連
2021-01-22 07:02
約660億円の暗号資産が流出か、「分散型金融」ブロックチェーンにハッキング
企業・業界動向
2021-08-12 12:59
決済を「成長の資産」と見る兆し–ストライプジャパン・Heffernan代表取締役
IT関連
2024-01-10 02:17
HashiCorp、「HCP Packer」でアーティファクトのPackerバージョンを確認可能に
IT関連
2024-04-26 18:13
ITに投資しているのに–なぜ職場の生産性は上がらないのか
IT関連
2021-06-20 11:40
食品・日用品チェーンストアEC「垂直立ち上げ」プラットフォームStailerの10Xが15億円調達、2年で流通総額10倍以上を目指す
ネットサービス
2021-07-29 21:02
トランスコスモス、コンタクトセンター向けシステムに生成AIチャットボットを追加
IT関連
2024-05-02 19:15
オーケー、オブザーバビリティ基盤「New Relic」を導入–全システムのクラウド化を推進
IT関連
2024-06-01 20:50
富士通、AIで看護師の業務量を予測する研究スタート 新型コロナ重症化リスクを判別
ロボット・AI
2021-02-03 12:44
マイクロソフトによる2兆円規模のニュアンス買収、その狙いとメリット
IT関連
2021-04-16 02:23
JR西日本ら6社、持続可能な社会インフラの再構築に向け「JCLaaS」を開始
IT関連
2024-02-21 05:01