生成AIの倫理的な使用–偏見や悪用の防止に向けた研究者の取り組み

今回は「生成AIの倫理的な使用–偏見や悪用の防止に向けた研究者の取り組み」についてご紹介します。

関連ワード (CIO/経営、生成AIの台頭等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 生成AIの機能に関する新たな発見が毎日のように発表される中で、日常業務だけでなく、より大規模で複雑なプロジェクトの推進にAIがどの程度有効かを、さまざまな業界の人々が探ろうとしている。

 しかし、こうした発見に伴い、生成AIの使用を規制する方法についての懸念や疑問が生じている。同時に、OpenAIを相手取った訴訟が起きており、生成AIの倫理的使用は明らかな懸念事項だ。

 AIモデルが更新され、新たな機能を進化させていく一方で、法規制はまだグレーゾーンにある。今、私たちにできるのは、強力なテクノロジーの使用に伴う課題について学習するとともに、大きな可能性を秘めたテクノロジーの悪用防止のために整備されている対策を学ぶことだ。

 ChatGPTが生成した実在しない判例を弁護士が引用するといった状況や、AIチャットボットを使用して論文を書く大学生、さらにはDonald Trump氏が逮捕されるAI生成写真まで、本物のコンテンツと生成AIが作成したコンテンツの区別が一段と困難になり、AIアシスタントの使用の境界線がどこにあるか分かりにくくなっている。どうすれば責任ある形でAIをテストすることができるのだろうか。

 研究者らは、生成AIの悪用を防ぐ手段を研究するために、AI自体を活用してAIによる操作の例を検出する方法を開発しようとしている。「出力を生成したニューラルネットワークは、そのシグネチャーを特定することもできる。これはニューラルネットワークの目印のようなものだ」。Cornell Tech Policy Instituteの創設者でディレクターを務めるSarah Kreps氏はこのように述べた。

 そうしたシグネチャーを特定する方法の1つに、「電子透かし」と呼ばれるものがある。これは、ChatGPTなどの生成AIが作成した出力に、「スタンプ」のようなものを押すという方法だ。電子透かしは、AIが使用されたコンテンツとそうでないコンテンツを区別するのに役立つ。研究はまだ進行中だが、生成AIによって変えられたコンテンツと、実際に人間だけの力で作成したコンテンツを区別する解決策になる可能性がある。

 Kreps氏は、電子透かしを使用する研究者を、学生が提出した課題に盗用がないかチェックする教師や教授になぞらえ、「文書をスキャンして、ChatGPTやGPTモデルの技術的なシグネチャーがないか調べる」ことができると述べた。

 「OpenAIは、アルゴリズムにエンコードする値の種類についてさらに検討し、誤った情報や正反対の出力、物議を醸す出力が含まれないようにしている」とKreps氏は米ZDNETに語った。この点は特に大きな懸念だった。というのも、OpenAIの最初の訴訟の原因が、ラジオ司会者のMark Walters氏に関する虚偽の情報を作成したChatGPTのハルシネーションだったからだ。

 学校でコンピューターの使用が拡大していた頃、コンピューターラボのような授業を受けて、インターネット上での信頼できる情報源の見つけ方、引用のやり方、宿題での適切な調査の方法を学ぶのは一般的なことだった。生成AIの利用者は、テクノロジーの使い方を最初に学び始めたときにやっていたことと同じことができる。すなわち、自分で学習することだ。

 現在はGoogleの「Smart Compose」や「Grammarly」などのAIアシスタントがあり、そのようなツールの使用は、普遍的ではないにしても一般的になった。「これらがあらゆる場所で使用され、『Grammarly化』が大きく進むことで、5年後には過去を振り返ってこう考えるだろう。なぜそんなことを議論していたのだろうか、と」(Kreps氏)

 だが、さらなる規制が導入されるまで、「何を探すべきかを人々に教えることが、デジタルリテラシーの一環だと思う。それはコンテンツをより批判に消費する者であろうとして考えを巡らせることにも一致しているだろう」とKreps氏は語る。

 たとえば、最新のAIモデルでも、エラーや事実と異なる情報を生成することは珍しくない。「これらのモデルは、以前のように反復的なループを実行しなくなったという点では改善されたと思うが、小さな事実誤認はあるし、ある意味で非常に信ぴょう性の高そうな誤認をする」とKreps氏。「引用をねつ造することや、記事の執筆者を間違えることがある。それを認識することが非常に有益だと思う。そのため、出力を精査して、『これが正しいと思えるだろうか』と熟考しよう」

 AI教育は最も基本的なレベルから始めるべきだ。Artificial Intelligence Index Report 2023によると、K-12(幼稚園から高校3年生まで)のAIとコンピューターサイエンスの教育は2021年以降、米国とその他の国々の両方において拡大したという。また、それ以来、「ベルギー、中国、韓国を含む11カ国がK-12のAIカリキュラムを正式に承認し、導入した」とされている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
グーグル「Chromebook」10周年、「Chrome OS」に複数の新機能
IT関連
2021-03-11 08:49
「exploit」の多さは筆頭級、悪用多発のFlash終了
セキュリティ
2021-01-13 13:17
Ziddyちゃんの「私を社食に連れてって」:freeeの「シャショク」で手作りランチ編
IT関連
2023-04-15 05:59
AWSのグラフデータベースがサーバレスに、「Amazon Neptue Serverless」正式サービス提供開始
AWS
2022-11-07 14:57
ますますユーザーの近くに–アマゾンCTOが語るクラウドサービスの現在地
IT関連
2022-08-06 08:03
任天堂が2021年3月期の決算発表、Switch累計販売数7987万台・あつ森累計3118万本に
ゲーム / eSports
2021-02-03 15:44
企業が運用するKubernetesクラスター数は今後大幅増に–VMware調査
IT関連
2022-05-12 06:15
Spotifyが1100億円を投じて自社株購入へ、なぜ?
IT関連
2021-08-22 03:36
レノボのグローバルCIOに聞く–サービスモデルへの転身や生成AIの導入
IT関連
2024-01-11 12:44
ユーザーによる写真投稿数55万枚、美容医療の口コミ・予約アプリ「トリビュー」が10億円のシリーズB調達
IT関連
2022-02-02 01:30
Panicの奇抜な携帯ゲーム機「Playdate」年内生産分の2万台がわずか20分で完売
ハードウェア
2021-07-31 07:16
アクセラレーターUrbanーXは世界がその環境思想に追いついてきたこの機に次期コホートを決定
EnviroTech
2021-01-31 22:36
RPA活用で医師の事務作業を最大75%削減–コロナ禍で問診対応など業務増大
IT関連
2023-04-20 06:34
Googleマイビジネスや複数SNSの店舗アカウントを一括管理できる「カンリー」が累計約5.3億万円調達
ネットサービス
2021-06-02 09:59