生成AIの倫理的な使用–偏見や悪用の防止に向けた研究者の取り組み

今回は「生成AIの倫理的な使用–偏見や悪用の防止に向けた研究者の取り組み」についてご紹介します。

関連ワード (CIO/経営、生成AIの台頭等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 生成AIの機能に関する新たな発見が毎日のように発表される中で、日常業務だけでなく、より大規模で複雑なプロジェクトの推進にAIがどの程度有効かを、さまざまな業界の人々が探ろうとしている。

 しかし、こうした発見に伴い、生成AIの使用を規制する方法についての懸念や疑問が生じている。同時に、OpenAIを相手取った訴訟が起きており、生成AIの倫理的使用は明らかな懸念事項だ。

 AIモデルが更新され、新たな機能を進化させていく一方で、法規制はまだグレーゾーンにある。今、私たちにできるのは、強力なテクノロジーの使用に伴う課題について学習するとともに、大きな可能性を秘めたテクノロジーの悪用防止のために整備されている対策を学ぶことだ。

 ChatGPTが生成した実在しない判例を弁護士が引用するといった状況や、AIチャットボットを使用して論文を書く大学生、さらにはDonald Trump氏が逮捕されるAI生成写真まで、本物のコンテンツと生成AIが作成したコンテンツの区別が一段と困難になり、AIアシスタントの使用の境界線がどこにあるか分かりにくくなっている。どうすれば責任ある形でAIをテストすることができるのだろうか。

 研究者らは、生成AIの悪用を防ぐ手段を研究するために、AI自体を活用してAIによる操作の例を検出する方法を開発しようとしている。「出力を生成したニューラルネットワークは、そのシグネチャーを特定することもできる。これはニューラルネットワークの目印のようなものだ」。Cornell Tech Policy Instituteの創設者でディレクターを務めるSarah Kreps氏はこのように述べた。

 そうしたシグネチャーを特定する方法の1つに、「電子透かし」と呼ばれるものがある。これは、ChatGPTなどの生成AIが作成した出力に、「スタンプ」のようなものを押すという方法だ。電子透かしは、AIが使用されたコンテンツとそうでないコンテンツを区別するのに役立つ。研究はまだ進行中だが、生成AIによって変えられたコンテンツと、実際に人間だけの力で作成したコンテンツを区別する解決策になる可能性がある。

 Kreps氏は、電子透かしを使用する研究者を、学生が提出した課題に盗用がないかチェックする教師や教授になぞらえ、「文書をスキャンして、ChatGPTやGPTモデルの技術的なシグネチャーがないか調べる」ことができると述べた。

 「OpenAIは、アルゴリズムにエンコードする値の種類についてさらに検討し、誤った情報や正反対の出力、物議を醸す出力が含まれないようにしている」とKreps氏は米ZDNETに語った。この点は特に大きな懸念だった。というのも、OpenAIの最初の訴訟の原因が、ラジオ司会者のMark Walters氏に関する虚偽の情報を作成したChatGPTのハルシネーションだったからだ。

 学校でコンピューターの使用が拡大していた頃、コンピューターラボのような授業を受けて、インターネット上での信頼できる情報源の見つけ方、引用のやり方、宿題での適切な調査の方法を学ぶのは一般的なことだった。生成AIの利用者は、テクノロジーの使い方を最初に学び始めたときにやっていたことと同じことができる。すなわち、自分で学習することだ。

 現在はGoogleの「Smart Compose」や「Grammarly」などのAIアシスタントがあり、そのようなツールの使用は、普遍的ではないにしても一般的になった。「これらがあらゆる場所で使用され、『Grammarly化』が大きく進むことで、5年後には過去を振り返ってこう考えるだろう。なぜそんなことを議論していたのだろうか、と」(Kreps氏)

 だが、さらなる規制が導入されるまで、「何を探すべきかを人々に教えることが、デジタルリテラシーの一環だと思う。それはコンテンツをより批判に消費する者であろうとして考えを巡らせることにも一致しているだろう」とKreps氏は語る。

 たとえば、最新のAIモデルでも、エラーや事実と異なる情報を生成することは珍しくない。「これらのモデルは、以前のように反復的なループを実行しなくなったという点では改善されたと思うが、小さな事実誤認はあるし、ある意味で非常に信ぴょう性の高そうな誤認をする」とKreps氏。「引用をねつ造することや、記事の執筆者を間違えることがある。それを認識することが非常に有益だと思う。そのため、出力を精査して、『これが正しいと思えるだろうか』と熟考しよう」

 AI教育は最も基本的なレベルから始めるべきだ。Artificial Intelligence Index Report 2023によると、K-12(幼稚園から高校3年生まで)のAIとコンピューターサイエンスの教育は2021年以降、米国とその他の国々の両方において拡大したという。また、それ以来、「ベルギー、中国、韓国を含む11カ国がK-12のAIカリキュラムを正式に承認し、導入した」とされている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ローカル5Gで想定されるセキュリティの脅威と対策
IT関連
2021-02-25 11:27
トランスコスモス・デジタル・テクノロジー、ローコードでPCR検査受診情報の集約システムを構築
IT関連
2023-01-12 10:00
ルートインジャパン、受発注業務にデジタル化ソリューションを導入
IT関連
2024-05-22 05:12
日立Sol、UiPathのロボット開発を支援する製品を展開
IT関連
2021-02-01 17:55
「ChatGPT」、イタリアで一時的に禁止–データ収集に懸念
IT関連
2023-04-04 21:35
中国の「データの罠」に陥るのを避ける方法
IT関連
2022-03-01 12:39
「PUI PUI モルカー」カフェ4都市で開催 “渋滞モルカー寿司”やグッズ販売など
くらテク
2021-08-19 10:36
リモートワーカー同士の「つながり・信頼・共感」を支援するGatheround
ネットサービス
2021-06-29 12:05
「PUI PUI モルカー」のBD/DVD予約開始 エンドレスに再生できる“無限モルカー”仕様
くらテク
2021-03-24 18:16
リコー社内のDX取り組み事情–業務高度化への工夫と実績
IT関連
2023-07-12 06:52
Intelが生み出したさまざまなPC標準規格 Microsoftとの協力と対立 :“PC”あるいは“Personal Computer”と呼ばれるもの、その変遷を辿る(1/4 ページ)
トップニュース
2021-05-26 04:35
今、米国で盛り上がるD2Cソフトウェア、Z世代のAlloy創業者インタビュー
ネットサービス
2021-04-28 02:41
DXに対してIT部門が示すべき方針–最悪のシナリオを回避するためには
IT関連
2022-01-20 06:36
日本テラデータ、2025年の事業戦略を発表–日本企業の「AIドリブン経営」を促進
IT関連
2024-12-13 23:52