GoogleがAI倫理研究チームを率いるマーガレット・ミッチェル氏を解雇

今回は「GoogleがAI倫理研究チームを率いるマーガレット・ミッチェル氏を解雇」についてご紹介します。

関連ワード （Google等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

GoogleがMargaret Mitchell（マーガレット・ミッチェル）氏を解雇した。彼女はGoogleで倫理的AIの研究チームを立ち上げ、その共同先導者の1人だった。ミッチェル氏は解雇を、ツイートで発表している。

Googleは、TechCrunch宛ての声明でミッチェル氏の解雇を認めた。声明では次のように述べられている。

本管理者の行為を調査検討した結果、弊社の行動規範とセキュリティポリシーへの複数の違反があることが確認された。それには、企業秘密文書と他の従業員のプライベートデータの流出行為が含まれる。

Axiosによると、2021年1月にGoogleは、自動化スクリプトを使ってTimnit Gebru（ティムニット・ゲブル）博士に対する不当な扱いの事例を見つけようとしたとして、AI倫理学者であるマーガレット・ミッチェル氏の企業アクセスを取り消していた。ゲブル氏はGoogleを解雇されたと述べているが、Googleは彼女が辞職したと主張している。

2021年2月初めにミッチェル氏は、彼女の企業メールへのアクセスを切られた翌日、彼女がGoogleのプレスチームに送ったとされるメールを公開した。そのメールでは、ゲブル氏の解雇について触れており、「我が社のAIシステムが間違った人々の手にあった時代ににじみ込んだものと同じ人種差別と性的差別を基盤とするもの」のようだとミッチェル氏は主張している。

ミッチェル氏のメール全文はここで読めるが、ゲブル博士のGoogle退職にはさまざまな考え方と組織が関わっていたことを詳しく説明している。ミッチェル氏の主張によると、ゲブル博士に起こったことは「今日のテクノロジーの中核にあるものと同じく浅慮に起因しているものであり、その問題の実例として役に立つものだ」という。

ミッチェル氏は次ぎのように書いている。

その解雇は、我が社のAIシステムが間違った人々の手にあった時代ににじみ込んだものと同じ人種差別と性的差別を基盤とするもののようだ。ゲブル博士の解雇のされ方は良いものではなく、それについて言われていることも良いものではない。そして解雇に導いた職場環境が、今も相変わらず、良いものではない。直接の上司であるJeff Dean（ジェフ・ディーン）とMegan Kacholia（ミーガン・カコリア）が自分の行為の責任を認めようとしない限り、会社全体が沈黙を守り、その沈黙は、ゲブル博士がこのように扱われるのは当然であるという恐ろしいメッセージを送っているかのようだ。彼女がまるで彼女の同僚に劣ると扱われた。それは、不合理な、いやそれよりも悪質な扱い方だ。彼女の研究論文が公に水準以下と定義されているようだ。彼女の研究成果が公に不十分と宣告されている。はっきりいってゲブル博士は、完全に不適切に扱われ、それは極端に無礼な行為であり、謝罪に値する。

書簡はさらに続けて、開発途上の技術である人工知能に対する倫理面からのアプローチや、ミッチェル氏が倫理的AIチームの先導者となり、次いでゲブル博士とともに共同先導者になった経緯、および結局のところそこで起きたことについて論じている。ミッチェル氏によると、2022年は「世界の指導的な科学者の1人を貶めた不正なシステムに関わってしまった者として、このようなことが二度と起きないように努めたい」という。

ミッチェル氏の解雇の直前にGoogleは、同社が責任を負う人工知能部門のトップとしてMarian Croak（マリアン・クローク）博士を任命したことを発表した。米国時間2月18日、Googleに問い合わせたが、ミッチェル氏の去就について何も情報が得られなかった。

関連記事：Googleが「責任あるAI」部門の新たなリーダーにマリアン・クローク博士を任命

Axiosによると、米国時間2月19日、Googleは、ゲブル博士の退職に関する調査結果を社内的に発表した。それは一般には公表されていないが、しかし、ダイバーシティとインクルージョンを強化するための新しいポリシーを実装する、とその中で述べているそうだ。

TechCrunchは現在、ミッチェル氏に問い合わせている。何か情報が得られ次第、本記事をアップデートする。

画像クレジット：TechCrunch

【原文】

Google has fired Margaret Mitchell, the founder and former co-lead of the company’s ethical AI team. Mitchell announced the news via a tweet.

Google confirmed Mitchell’s firing in a statement to TechCrunch; Google said:

After conducting a review of this manager’s conduct, we confirmed that there were multiple violations of our code of conduct, as well as of our security policies, which included the exfiltration of confidential business-sensitive documents and private data of other employees.

In January, Google revoked corporate access from AI ethicist Margaret Mitchell for reportedly using automated scripts to find examples of mistreatment of Dr. Timnit Gebru, according to Axios. Gebru says she was fired from Google while Google has maintained that she resigned.

Earlier this month, Mitchell published the email she said she sent to Google’s press team the day her corporate email access was cut off. The email spoke about Gebru’s firing and how it appeared to be “fueled by the same underpinnings of racism and sexism that our AI systems, when in the wrong hands, tend to soak up.”

Mitchell’s letter, which you can read in full here, details the different ideas and structures at play that led to Dr. Gebru’s departure from Google. Mitchell argues what happened to Gebru “appears to stem from the same lack of foresight that is at the core of modern technology, and so itself serves as an example of the problem.”

Mitchell adds:

The firing seems to have been fueled by the same underpinnings of racism and sexism that our AI systems, when in the wrong hands, tend to soak up. How Dr. Gebru was fired is not okay, what was said about it is not okay, and the environment leading up to it was — and is — not okay. Every moment where Jeff Dean and Megan Kacholia do not take responsibility for their actions is another moment where the company as a whole stands by silently as if to intentionally send the horrifying message that Dr. Gebru deserves to be treated this way. Treated as if she were inferior to her peers. Caricatured as irrational (and worse). Her research writing publicly defined as below the bar.  Her scholarship publicly declared to be insufficient. For the record: Dr. Gebru has been treated completely inappropriately, with intense disrespect, and she deserves an apology. 

The letter went on to discuss the ethical artificial intelligence approach to developing technology, how Mitchell came to lead and then co-lead the ethical AI team with Gebru and what ultimately happened. Within the next year, Mitchell said she wanted “those of us in positions of privilege and power” to come to terms with “the discomfort of being part of an unjust system that devalued one of the world’s leading scientists, and keep something like this from ever happening again.”

Mitchell’s firing comes shortly after Google announced the appointment of Dr. Marian Croak to lead its responsible artificial intelligence division. When we reached out to Google yesterday the company did not have a comment on Mitchell’s fate.

Earlier today, Google internally announced the results of its investigation of Gebru’s exit, according to Axios. The company did not reveal what it found, but said it would implement some new policies to enhance diversity and inclusion at Google.

TechCrunch has reached out to Mitchell and will update this story if we hear back.

（文：Megan Rose Dickey、翻訳：Hiroshi Iwatani）