Googleが「責任あるAI」部門に新たなリーダーにマリアン・クローク博士を任命
今回は「Googleが「責任あるAI」部門に新たなリーダーにマリアン・クローク博士を任命」についてご紹介します。
関連ワード （Google、人事等） についても参考にしながら、ぜひ本記事について議論していってくださいね。
本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。
Google（グーグル）は、Google Researchの「責任ある人工知能（AI）」部門のリーダーにMarian Croak（マリアン・クローク）博士を任命したと、Bloombergが米国時間2月18日に報じた。クローク博士はそれまで、同社のエンジニアリング担当副社長を務めていた。
クローク博士の新しい役職は、アクセシビリティ、社会的利益のためのAI、健康におけるアルゴリズムの公平性、脳の公平性、倫理的AIなどに取り組むチームを監督することだ。彼女の直属の上司は、Google ResearchのAIと健康部門のSVPであるJeff Dean（ジェフ・ディーン）氏になる。このニュースを認めたGoogleのブログ記事と動画の中で、クローク博士は次のように述べている。
この分野、責任あるAIと倫理の分野は新しいものです。ほとんどの機関はこの5年ほどで原則を策定してきましたが、それは非常に高レベルで抽象的な原則です。これらの原則の規範的な定義を標準化しようとすることに対して、多くの反対意見があり、多くの対立があります。誰が定義した公平性や安全性に、私たちは従うのか？現在、この分野では多くの対立があり、二極化していることもあります。私がしたいことは、人々に今よりもっと外交的な方法で、対話してもらうことです。そうすれば、私たちはこの分野を真に発展させることができるでしょう。
今回の件はすべて、Googleの倫理的AIチームで共同リーダーを務めていたTimnit Gebru（ティムニット・ゲブル）博士の辞職と、Googleの倫理的AIチームの創設者である研究者のMargaret Mitchell（マーガレット・ミッチェル）氏が企業アカウントをロックされた後の出来事だ。Axiosの報道によると、Googleは2021年1月、自動化されたスクリプトを使ってゲブル博士が虐待されていた例を探したとして、AI倫理研究家のマーガレット・ミッチェル氏の企業アクセスを無効化したという。Googleは彼女が辞職したと主張しているが、同社から解雇されたとゲブル氏は語っている。Googleは当時、Axiosに送った声明で次のように述べている。
当社のセキュリティシステムは、従業員の企業アカウントが信用性の問題により危険にさらされていることを検出した場合や、機密データの取り扱いを含む自動ルールが発動された場合、アカウントを自動的にロックします。今回の例では、昨日あるアカウントが数千ものファイルを流出させ、複数の外部アカウントと共有していることがシステムによって検出されました。我々は、その従業員に本日の早い段階でこのことを説明しました。
ミッチェル氏はまだアカウントをロックアウトされたままであり、Bloombergの記事を見て初めて組織再編のことを知ったと、2月18日にツイートしている。
…And this is how I find out. I'm so glad for all the trust they've rebuilt. It seems I've been completely erased and my team taken.https://t.co/1BTGOo5Wry
— MMitchell (@mmitchell_ai) February 18, 2021
私はこの記事で知りました。信用を取り戻してくれて本当に良かった。私は完全に消されてチームを奪われてしまったようです。
TechCrunchは、これがミッチェル氏にとって何を意味するのかを判断しようとGoogleに連絡を取ったが、同社は彼女についてのコメントを辞退した。
画像クレジット：Bloomberg / Getty Images
【原文】
Google has appointed Dr. Marian Croak to lead its responsible artificial intelligence division within Google Research, Bloomberg reported earlier today. Croak was previously the vice president of engineering at the company.
In her new role, Croak will oversee the teams working on accessibility, AI for social good, algorithmic fairness in health, brain fairness, ethical AI and others. She’ll report to Jeff Dean, SVP of Google AI Research and Health. In a Google blog post and video confirming the news, Croak said:
This field, the field of responsible AI and ethics, is new. Most institutions have only developed principles, and they’re very high-level, abstract principles, in the last five years. There’s a lot of dissension, a lot of conflict in terms of trying to standardize on normative definitions of these principles. Whose definition of fairness, or safety, are we going to use? There’s quite a lot of conflict right now within the field, and it can be polarizing at times. And what I’d like to do is have people have the conversation in a more diplomatic way, perhaps, than we’re having it now, so we can truly advance this field.
This all comes after the departure of Dr. Timnit Gebru, the former co-lead of Google’s ethical AI team, as well as the corporate lockout of researcher Margaret Mitchell, founder of Google’s ethical AI team. In January, Google revoked corporate access from AI ethicist Margaret Mitchell for reportedly using automated scripts to find examples of mistreatment of Gebru, according to Axios. Gebru says she was fired from Google while Google has maintained that she resigned. In a statement to Axios at the time, Google said:
Our security systems automatically lock an employee’s corporate account when they detect that the account is at risk of compromise due to credential problems or when an automated rule involving the handling of sensitive data has been triggered. In this instance, yesterday our systems detected that an account had exfiltrated thousands of files and shared them with multiple external accounts. We explained this to the employee earlier today.
Mitchell is still locked out of her account, and tweeted today about how she only found out about the reorganization through the Bloomberg story.
TechCrunch has reached out to Google to try to determine what this means for Mitchell, but the company declined to comment on her.
（文：Megan Rose Dickey、翻訳：Hirokazu Kusakabe）