OpenAI、AIによる文章を検出するツールを開発か

今回は「OpenAI、AIによる文章を検出するツールを開発か」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 BestCollegesの調査によると、大学生の半数以上が人工知能(AI)を使って不正を働いているという。この割合は、学生の60〜70%に不正行為が見つかったとするスタンフォード大学の調査結果と一致している。だが、AIが怠惰な学生の論文作成ツールではなくなる日が間もなく来るかもしれない。「OpenAIは、論文などを書くために『ChatGPT』を利用したことを確実に検知する手法を知っている」と、The Wall Street Journal(WSJ)が報じたからだ。しかも、その精度は99.9%だという。

 OpenAIは、この新たな手法がどのようにAIの書いた文章をほぼ完璧に特定できるのか、詳細を一切明らかにしていない。少なくとも、AIのハルシネーション(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を見破れるようになったからでないことは明らかだ。OpenAIの共同創設者であるJohn Schulman氏は2023年、「われわれの最大の懸念は事実性にまつわるものだ。なぜなら、モデルは事実をねつ造する傾向があるからだ」と語っている。

 この状況が変わることは決してないだろう。機械学習のテストサービスを手がけるKolenaの共同創設者で最高経営責任者(CEO)を務めるMohamed Elgendy氏は、次のように述べている。「ハルシネーションが起きる割合は減少するだろうが、なくなってしまうことは決してない。高度な教育を受けた人でも誤った情報を流すことがあるのと同じことだ」

 どうやらOpenAIは、魔法のような手法でAIの書いた文章を見つけ出すのではなく、はるかにシンプルな方法でAI生成文章を検知しているようだ。このサービスは、出力結果に透かしを入れているのかもしれない。

 OpenAIは、米国時間8月4日に更新した「Understanding the source of what we see and hear online」と題するブログ記事で、AIが作成した成果物を見つけ出すために、分類子、透かし、メタデータを使う研究を行っていることを明らかにした。もっとも、この透かしを用いた手法がどのように機能するのか、正確なことは分かっていない。

 分かっているのは、この手法が「書き換えなどの部分的な改ざんに対して、極めて正確に機能し、効果的でさえある」とOpenAIが述べていることだけだ。ただし、この透かしを使った手法は、「全面的な改ざんに対してはそれほど強力ではない」という。

 そのため、文章を翻訳するような改ざんや、各単語の間に特殊文字を挿入してから削除するといった単純な改ざんに対しては、この手法はあまり機能しない。そしてもちろん、他のAIモデルで作成された文章を見つけ出すことも不可能だ。例えば、「Perplexity」やGoogleの「Gemini」で作成された文書をこのChatGPTのAI文章検出ツールに取り込んでも、おそらくAIによる文章とは識別できないだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
立命館、購買システムの定着化に「テックタッチ」を採用
IT関連
2024-04-12 09:02
サイケデリック療法とテックが融合したメンタルヘルスソリューションのNUE Life Health
ヘルステック
2021-06-05 05:04
マルコメ、経費精算SaaSで申請者の作業時間を月100時間削減
IT関連
2023-09-08 19:15
大阪大学、薬剤耐性菌・非耐性菌を電子顕微鏡画像と深層学習により形で判別することに成功
IT関連
2022-03-18 10:28
クアルトリクス、新製品ライン「CrossXM」を発表–CXに影響をもたらすEXを特定
IT関連
2022-11-10 05:40
なぜデスクトップ「Linux」のユーザーは一向に増えないのか?
IT関連
2023-08-17 15:05
中国がアプリによる過剰なユーザーデータ収集を5月から禁止
パブリック / ダイバーシティ
2021-03-24 17:49
「Copilot Workspace」発表、人間がコードを書くことなく、仕様作成からコード作成、デバッグまで/Docker Desktop、Appleシリコン上でx86-64バイナリをほぼネイティブな速度で実行、ほか。2023年11月の人気記事
編集後記
2023-12-01 15:31
トランスコスモス、Google Cloud Contact Center AI を実装
IT関連
2021-08-05 20:45
DBMSの市場規模、DBaaSがオンプレミスに並ぶ。シェア1位はマイクロソフト、AWSがオラクルを抜いて2位に。ガートナーによる2021年の調査結果
AWS
2022-04-18 21:37
Google、iPaaS「Application Integration」正式リリース。Salesforceやkintone、BigQuery、MySQLなど多数のサービスをGUIで接続
Google Cloud
2023-07-25 04:22
Datadog、日本法人の社長に正井拓己氏が就任
IT関連
2024-02-10 15:38
慶應大病院が全国のApple Watchユーザーを対象とする睡眠中・安静時の脈拍に関する臨床研究開始
ヘルステック
2021-02-03 18:34
Facebook、ウイグル族を狙う中国のハッカー集団を阻止
IT関連
2021-03-25 05:50