AI倫理の専門家が語る、AIによる偏見の助長を防ぐために必要なこと

今回は「AI倫理の専門家が語る、AIによる偏見の助長を防ぐために必要なこと」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 Salesforceの倫理AIプラクティス担当主席アーキテクトであるKathy Baxter氏によると、人工知能(AI)の開発に携わるデベロッパーは、アルゴリズムのバイアスに対処するシステムを早急に開発、導入しなければならないという。同氏は米ZDNetとのインタビューで、バイアスのない公正なAIシステムを保証する上で、偏りのないデータセットの作成や、ユーザーリサーチの必要性を強調した。さらに同氏は、個人のプライバシーを守りつつ、AIシステムの透明性と理解可能性、説明責任を確保することの重要性についても強調した。そのためには、米国立標準技術研究所(NIST)が提唱しているモデルを用いた、分野をまたがるコラボレーションによって、あらゆる人々にメリットをもたらす堅牢かつ安全なAIシステムの開発が必要だと主張している。

 AI倫理に関する根本的な課題の1つは、既存の社会的偏見を助長したり、新たな偏見を生み出したりすることのないAIシステムの開発/導入だ。この課題を解決する上で同氏は、誰がメリットを享受するのか、そして誰がAIテクノロジーのコストを負担するのかを問うことの重要性を強調した。また使用するデータセットに目を向け、確実に万人の声が反映されるようにする必要もある。さらに、開発プロセスにおける包括性や、ユーザーリサーチを通じた潜在的害悪の特定も重要だ。

 同氏は「これは基本的な疑問の1つだが、議論を避けて通るわけにはいかない」と述べ、「とりわけ有色人種の女性はこの問題について何年も前から声を上げ続けているとともに、この分野のリサーチを進めてきている。私は、生成型AIの利用において、多くの人々がこの件について語っている点に感激している。しかし、われわれがなすべき根本的なことは、このテクノロジーから利益を得る人々と、資金を供給している人々が誰であるのかという問いかけだ。つまり、誰の声が含まれているのかということだ」と続けた。

 AIシステムを訓練するために用いられたデータセットを通じて、同システムに社会的なバイアスが忍び込む可能性がある。網羅的とは言えないデータセット、例えば特定の人種が多く含まれていたり、文化的な多様性が考慮されていない画像データセットによって、AIシステムはバイアスを有したものになる可能性がある。さらに、AIシステムの社会への導入を不均一なかたちで推し進めることで社会における偏見を定着させてしまう可能性もある。

 AIシステムを一般的な人々にとって透明かつ分かりやすいものにするには、開発プロセスにおける説明可能性の重視が鍵となる。例えば、「思考連鎖型(chain-of-thought)プロンプト」といったテクニックは、AIシステムの思考過程と意思決定プロセスをより理解しやすいかたちで確認できるようにする上で役立つだろう。また、ユーザーに対する説明を明確化するとともに、AIの生成したコンテンツのあいまいなところを識別できるようにする上で、ユーザーのリサーチも必要不可欠となる。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ジョーシス、企業間営業連携クラウド「ハイウェイ」導入–販売パートナーとの連携強化へ
IT関連
2024-08-03 12:03
KDDIら、広告クリエーティブの生成AIシステム開発–一貫したブランドイメージを実現
IT関連
2025-02-05 23:49
Anthropic、「Claude」のiOSアプリと企業向け「Team」プランを発表
IT関連
2024-05-03 05:08
「いらすとや」10年目 毎日更新、忙しすぎて終了へ 「心配かけると悪い」と事前に報告
IT関連
2021-01-26 19:37
森ビルのデジタル基盤にNECのネットワークサービスが採用–都市のデジタル化へ
IT関連
2021-04-06 17:04
ウクライナ出身のVC、故郷の難民のために支援金を募って送金
IT関連
2022-03-14 01:02
量子コンピューティングのIonQ、Softbank Investment Advisorsと戦略的提携
IT関連
2021-06-04 07:51
Zoom、約110億円のファンドを立ち上げ–開発者エコシステムの拡大に投資
IT関連
2021-04-20 06:48
部門間の「溝」を乗り越える共通の認識と言語の力
IT関連
2023-11-17 15:43
セーフィーのウェアラブルカメラSafie Pocket2を千葉県八千代市消防本部が試験導入、訓練形式の人命救助実証試験
IT関連
2022-03-10 02:01
シスコ、eBPF分野をリードするIsovalentを買収へ。クラウドネイティブ分野のネットワーキングなど強化
Cisco
2024-01-16 11:30
OpenAI、「ChatGPT」のAPIを提供開始–アプリへの組み込みが容易に
IT関連
2023-03-03 01:17
経営者と従業員の双方で不安を解消–仮想オフィス「Sococo」活用の実際
IT関連
2021-02-28 04:17
Meta、「このズボンに合う服は?」に答えられるAIを目指すプロジェクトを発表
IT関連
2022-02-26 23:23