生成AIの倫理的な使用–偏見や悪用の防止に向けた研究者の取り組み

今回は「生成AIの倫理的な使用–偏見や悪用の防止に向けた研究者の取り組み」についてご紹介します。

関連ワード (CIO/経営、生成AIの台頭等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 生成AIの機能に関する新たな発見が毎日のように発表される中で、日常業務だけでなく、より大規模で複雑なプロジェクトの推進にAIがどの程度有効かを、さまざまな業界の人々が探ろうとしている。

 しかし、こうした発見に伴い、生成AIの使用を規制する方法についての懸念や疑問が生じている。同時に、OpenAIを相手取った訴訟が起きており、生成AIの倫理的使用は明らかな懸念事項だ。

 AIモデルが更新され、新たな機能を進化させていく一方で、法規制はまだグレーゾーンにある。今、私たちにできるのは、強力なテクノロジーの使用に伴う課題について学習するとともに、大きな可能性を秘めたテクノロジーの悪用防止のために整備されている対策を学ぶことだ。

 ChatGPTが生成した実在しない判例を弁護士が引用するといった状況や、AIチャットボットを使用して論文を書く大学生、さらにはDonald Trump氏が逮捕されるAI生成写真まで、本物のコンテンツと生成AIが作成したコンテンツの区別が一段と困難になり、AIアシスタントの使用の境界線がどこにあるか分かりにくくなっている。どうすれば責任ある形でAIをテストすることができるのだろうか。

 研究者らは、生成AIの悪用を防ぐ手段を研究するために、AI自体を活用してAIによる操作の例を検出する方法を開発しようとしている。「出力を生成したニューラルネットワークは、そのシグネチャーを特定することもできる。これはニューラルネットワークの目印のようなものだ」。Cornell Tech Policy Instituteの創設者でディレクターを務めるSarah Kreps氏はこのように述べた。

 そうしたシグネチャーを特定する方法の1つに、「電子透かし」と呼ばれるものがある。これは、ChatGPTなどの生成AIが作成した出力に、「スタンプ」のようなものを押すという方法だ。電子透かしは、AIが使用されたコンテンツとそうでないコンテンツを区別するのに役立つ。研究はまだ進行中だが、生成AIによって変えられたコンテンツと、実際に人間だけの力で作成したコンテンツを区別する解決策になる可能性がある。

 Kreps氏は、電子透かしを使用する研究者を、学生が提出した課題に盗用がないかチェックする教師や教授になぞらえ、「文書をスキャンして、ChatGPTやGPTモデルの技術的なシグネチャーがないか調べる」ことができると述べた。

 「OpenAIは、アルゴリズムにエンコードする値の種類についてさらに検討し、誤った情報や正反対の出力、物議を醸す出力が含まれないようにしている」とKreps氏は米ZDNETに語った。この点は特に大きな懸念だった。というのも、OpenAIの最初の訴訟の原因が、ラジオ司会者のMark Walters氏に関する虚偽の情報を作成したChatGPTのハルシネーションだったからだ。

 学校でコンピューターの使用が拡大していた頃、コンピューターラボのような授業を受けて、インターネット上での信頼できる情報源の見つけ方、引用のやり方、宿題での適切な調査の方法を学ぶのは一般的なことだった。生成AIの利用者は、テクノロジーの使い方を最初に学び始めたときにやっていたことと同じことができる。すなわち、自分で学習することだ。

 現在はGoogleの「Smart Compose」や「Grammarly」などのAIアシスタントがあり、そのようなツールの使用は、普遍的ではないにしても一般的になった。「これらがあらゆる場所で使用され、『Grammarly化』が大きく進むことで、5年後には過去を振り返ってこう考えるだろう。なぜそんなことを議論していたのだろうか、と」(Kreps氏)

 だが、さらなる規制が導入されるまで、「何を探すべきかを人々に教えることが、デジタルリテラシーの一環だと思う。それはコンテンツをより批判に消費する者であろうとして考えを巡らせることにも一致しているだろう」とKreps氏は語る。

 たとえば、最新のAIモデルでも、エラーや事実と異なる情報を生成することは珍しくない。「これらのモデルは、以前のように反復的なループを実行しなくなったという点では改善されたと思うが、小さな事実誤認はあるし、ある意味で非常に信ぴょう性の高そうな誤認をする」とKreps氏。「引用をねつ造することや、記事の執筆者を間違えることがある。それを認識することが非常に有益だと思う。そのため、出力を精査して、『これが正しいと思えるだろうか』と熟考しよう」

 AI教育は最も基本的なレベルから始めるべきだ。Artificial Intelligence Index Report 2023によると、K-12(幼稚園から高校3年生まで)のAIとコンピューターサイエンスの教育は2021年以降、米国とその他の国々の両方において拡大したという。また、それ以来、「ベルギー、中国、韓国を含む11カ国がK-12のAIカリキュラムを正式に承認し、導入した」とされている。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
日立製作所、2024年度第1四半期は減収増益–中計最終の行方を握る「Lumada」
IT関連
2024-08-02 22:25
グーグルのProject Zero、パッチ適用を促すため30日間の猶予期間を新設
IT関連
2021-04-19 16:49
McAfee、法人向け事業を40億ドルで売却 個人向けに特化
セキュリティ
2021-03-10 17:38
サムスンがエントリーモデルの完全ワイヤレス「Galaxy Buds 2」にアクティブノイズキャン搭載
ハードウェア
2021-08-13 16:39
「宇宙寺院」23年打ち上げへ 醍醐寺とテラスペースが合意 ご本尊や曼荼羅を搭載
くらテク
2021-02-03 15:28
後払い決済のアトミ、日本に進出–客単価向上や新規顧客増加をアピール
IT関連
2022-07-08 21:37
マイクロソフトの2月の月例更新で「File Explorer」の不具合など報告
IT関連
2025-02-20 15:19
Spotify、フォローするアーティストの新着情報を知らせる「What’s New」機能
アプリ・Web
2021-07-28 02:27
犯罪者の視点からセキュリティを強化する、グーグルの「レッドチーム」とは
IT関連
2022-11-01 03:32
東芝、複雑な状態のモノをピッキングするロボットハンドAIを発表
IT関連
2024-10-18 06:23
津波シミュレーターに竜巻発生装置……最新の「気象科学館」人気
IT関連
2021-02-16 19:59
Google、エンタープライズ向けのAlloyDBで、過去のある時点をマイクロ秒単位で指定したリストアが可能に。つねにバックアップし続ける「Continuous Backup and Restore」機能提供
Google Cloud
2023-06-22 13:42
「Nintendo Switch 有機ELモデル」予約は9月下旬から
くらテク
2021-07-08 00:00
日清食品HD、対話型チャットアプリ「NISSIN AI-chat」を開発–アバナードが支援
IT関連
2023-11-17 16:27