AIが職場の偏見を助長する?–企業が注意すべき4つのリスク

今回は「AIが職場の偏見を助長する?–企業が注意すべき4つのリスク」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 人工知能(AI)の普及はいまだかつてないほどに進んでいる。その理由の1つは、最近になって生成AIツールが急速に進歩し、利用しやすくなったことにある。

 米国では、「ChatGPT」が2022年11月に提供され始めてから、1度もその名前を聞いたことがない人を見つけるのが難しいほどになっている。しかしこれらのシステムは、人間によって作られた学習データ以上に賢くなるわけではない。これはつまり、人間と同じように、AIツールが偏見に侵されやすいことを意味している。

 Bloombergは最近、「GPT-3.5」と「GPT-4」が持つ人種的偏見についての調査結果を発表した。この調査は、GPT-3.5を使って、応募者の名前は異なっているが、そこに書かれている適性(資格やスキルなど)は同じである多数の履歴書をランク付けさせるというものだ。その結果、GPT-3.5は、アフリカ系アメリカ人などの特定の人口統計学的属性を持つグループで伝統的に使用されている名前を持つ人々を、リストの下位にランク付けした。また、OpenAIが偏りが少ないとうたっているGPT-4でも、明確な差が見られた。

 英国の放射線医学論文誌であるBritish Journal of Radiologyに掲載された論文でも、医療アプリケーションで使用されているAIモデルが、医療へのアクセスや受けてきた医療の質に関する歴史的な不平等や格差が原因で生じている、既存のバイアスの影響を受けていることが明らかになった。これらの要因は、AIシステムが不平等を反映したデータで訓練された場合には特に強まる傾向がある。

 この記事では、AIが職場の偏見を助長してしまう可能性がある4つのリスクを紹介する。

 生成AIの台頭は、自動化された採用支援システムにも影響を与えている。しかも多くの企業は、経費削減や効率化のために、採用活動でAIツールを活用することに熱心だ。ところが、ChatGPTなどのAIツールは、人の名前に基づく偏見をあからさまに示すことが分かってきた。

 Bloombergの研究者(Leon Yin氏、Davey Alba氏、Leonardo Nicoletti氏)が行った調査では、特定の人種や民族を連想させる名前を使って8種類の履歴書を作成し、GPT-3.5(無料版のChatGPTで使用されている大規模言語モデル〈LLM〉)を使って、採用候補者としての適切さをランク付けした。その結果、GPT-3.5は、以前から社会学の研究で指摘されてきた人種的偏見を助長する形で、一部の人口統計学的属性を持つグループを他のグループよりも有利に取り扱い、「社会的保護を必要とするグループに対する職業差別を評価するベンチマークでは合格できない水準」の結果を示した。

 研究者らは、仕事に対する適性の条件は変えずに、名前との組み合わせだけを変えながら1000回実験を行った。その結果、GPT-3.5はファイナンシャルアナリストの候補としてアジア系アメリカ人を上位に挙げる可能性が最も高く(32%)、アフリカ系アメリカ人は下位に位置づけられることが多かった。平等に扱われる可能性が最も可能性が高かったのは、白人やヒスパニック系の名前の候補者だった。

 どの履歴書もファイナンシャルアナリストとしての適性は同じであったにもかかわらず、LLMは人種的偏見を示した。さらに、それとは異なる3種類の求人情報(人事ビジネスパートナー、シニアソフトウェアエンジニア、小売店マネージャー)に対しても同じ実験を繰り返したところ、職種によってAIが好ましいと考える性別や人種が異なることが分かった。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「Googleマップ」、位置情報履歴の保存先をクラウドから各デバイスに変更へ
IT関連
2024-06-11 06:56
JBS、全社会議をメタバースで開催–従業員約2300人が参加
IT関連
2022-11-17 04:13
[速報]マイクロソフト、「Copilot in Excel with Python」プレビュー公開。Excel上でCopilotがPythonコードを生成、実行し、複雑なデータ分析など可能に
Office
2024-09-17 14:24
E・マスク氏肝いりの「Grok 3」、発表からわずか1日で「脱獄」される
IT関連
2025-02-22 02:56
ライオン、対話型生成AIを国内従業員向けに公開–企画資料の作成などに活用
IT関連
2023-06-02 17:06
NEC、ServiceNow Japanと戦略的協業を加速–自社と顧客のDXを推進
IT関連
2022-11-04 07:04
従業員が「キャリアを選び取る」働き方へ–シスメックスが挑むジョブ型人事
IT関連
2022-04-08 20:23
NISAとつみたてNISA、どちらが良い?–個別株投資ならNISA、少額・積み立て投資ならつみたてNISA
IT関連
2021-03-17 16:22
Facebook幹部のシモ氏をInstacartがCEOとして引き抜き
企業・業界動向
2021-07-10 20:49
アバナードら、小売現場のスマート化に着手–エッジデバイス活用でデータ量削減
IT関連
2022-04-26 23:47
マイクロソフトとオラクル、「Oracle Database Service for Microsoft Azure」発表。AzureからOracle Cloudのデータベースをプロビジョニング可能に
DBaaS
2022-07-21 13:29
OTのセキュリティでこれから必須になるインシデントへの対応
IT関連
2024-04-13 22:54
ダイフク、世界規模での企業文化の醸成へ–従業員エンゲージメントの向上を目指す
IT関連
2022-05-19 02:53
生成AI依存で客離れ、機械相手に取引する時代も到来–ガートナー
IT関連
2024-04-26 02:13