OpenAI、AIによる文章を検出するツールを開発か

今回は「OpenAI、AIによる文章を検出するツールを開発か」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 BestCollegesの調査によると、大学生の半数以上が人工知能(AI)を使って不正を働いているという。この割合は、学生の60〜70%に不正行為が見つかったとするスタンフォード大学の調査結果と一致している。だが、AIが怠惰な学生の論文作成ツールではなくなる日が間もなく来るかもしれない。「OpenAIは、論文などを書くために『ChatGPT』を利用したことを確実に検知する手法を知っている」と、The Wall Street Journal(WSJ)が報じたからだ。しかも、その精度は99.9%だという。

 OpenAIは、この新たな手法がどのようにAIの書いた文章をほぼ完璧に特定できるのか、詳細を一切明らかにしていない。少なくとも、AIのハルシネーション(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を見破れるようになったからでないことは明らかだ。OpenAIの共同創設者であるJohn Schulman氏は2023年、「われわれの最大の懸念は事実性にまつわるものだ。なぜなら、モデルは事実をねつ造する傾向があるからだ」と語っている。

 この状況が変わることは決してないだろう。機械学習のテストサービスを手がけるKolenaの共同創設者で最高経営責任者(CEO)を務めるMohamed Elgendy氏は、次のように述べている。「ハルシネーションが起きる割合は減少するだろうが、なくなってしまうことは決してない。高度な教育を受けた人でも誤った情報を流すことがあるのと同じことだ」

 どうやらOpenAIは、魔法のような手法でAIの書いた文章を見つけ出すのではなく、はるかにシンプルな方法でAI生成文章を検知しているようだ。このサービスは、出力結果に透かしを入れているのかもしれない。

 OpenAIは、米国時間8月4日に更新した「Understanding the source of what we see and hear online」と題するブログ記事で、AIが作成した成果物を見つけ出すために、分類子、透かし、メタデータを使う研究を行っていることを明らかにした。もっとも、この透かしを用いた手法がどのように機能するのか、正確なことは分かっていない。

 分かっているのは、この手法が「書き換えなどの部分的な改ざんに対して、極めて正確に機能し、効果的でさえある」とOpenAIが述べていることだけだ。ただし、この透かしを使った手法は、「全面的な改ざんに対してはそれほど強力ではない」という。

 そのため、文章を翻訳するような改ざんや、各単語の間に特殊文字を挿入してから削除するといった単純な改ざんに対しては、この手法はあまり機能しない。そしてもちろん、他のAIモデルで作成された文章を見つけ出すことも不可能だ。例えば、「Perplexity」やGoogleの「Gemini」で作成された文書をこのChatGPTのAI文章検出ツールに取り込んでも、おそらくAIによる文章とは識別できないだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
後払い販売(Buy-Now-Pay-Later)が英国で規制対象に
フィンテック
2021-02-04 04:07
ソニー「α99 II」が公式ストアで販売終了 最後のAマウントボディに?
企業・業界動向
2021-08-11 04:46
パナソニック コネクトが中長期計画を公表、SCMソフトウェアなどに活路
IT関連
2022-06-03 01:51
ボルボが車両のデジタル化が進む今後も「高い安全性」というイメージを維持する方法
IT関連
2022-01-31 11:01
対話型AIを含む遠隔医療プラットフォームのConversa HealthがシリーズBを約21億円に増額
ヘルステック
2021-01-22 15:11
SUSE、筆頭株主の意向により上場廃止し、長期的戦略の実行に集中へ
Linux
2023-08-21 18:08
2020年に倒産した米国スタートアップを振り返る
その他
2021-01-20 06:46
変化の中で求められるこれからのCIOとは
IT関連
2022-02-23 23:40
企業の75%が「ChatGPT」利用を禁止する方向–BlackBerry調査
IT関連
2023-08-17 18:44
共同テレビとNEC、生中継番組におけるローカル5Gを活用検証
IT関連
2024-06-05 17:41
フェイスブックが脳からの神経信号を読み取るAR操作用ニューラルリストバンドのコンセプトを公開
VR / AR / MR
2021-03-21 04:52
コロナ禍がAIにもたらした光と闇–英オックスフォード大のオズボーン教授に聞く
IT関連
2023-02-03 04:59
ネットアップ、クラウド事業戦略を発表–「シンプル」「セキュア」「フレキシブル」に注力
IT関連
2022-07-23 08:43
ServiceNow、「Now Platform」最新版「Washington, D.C.」リリース
IT関連
2024-03-26 11:50