OpenAI、AIによる文章を検出するツールを開発か

今回は「OpenAI、AIによる文章を検出するツールを開発か」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 BestCollegesの調査によると、大学生の半数以上が人工知能(AI)を使って不正を働いているという。この割合は、学生の60〜70%に不正行為が見つかったとするスタンフォード大学の調査結果と一致している。だが、AIが怠惰な学生の論文作成ツールではなくなる日が間もなく来るかもしれない。「OpenAIは、論文などを書くために『ChatGPT』を利用したことを確実に検知する手法を知っている」と、The Wall Street Journal(WSJ)が報じたからだ。しかも、その精度は99.9%だという。

 OpenAIは、この新たな手法がどのようにAIの書いた文章をほぼ完璧に特定できるのか、詳細を一切明らかにしていない。少なくとも、AIのハルシネーション(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を見破れるようになったからでないことは明らかだ。OpenAIの共同創設者であるJohn Schulman氏は2023年、「われわれの最大の懸念は事実性にまつわるものだ。なぜなら、モデルは事実をねつ造する傾向があるからだ」と語っている。

 この状況が変わることは決してないだろう。機械学習のテストサービスを手がけるKolenaの共同創設者で最高経営責任者(CEO)を務めるMohamed Elgendy氏は、次のように述べている。「ハルシネーションが起きる割合は減少するだろうが、なくなってしまうことは決してない。高度な教育を受けた人でも誤った情報を流すことがあるのと同じことだ」

 どうやらOpenAIは、魔法のような手法でAIの書いた文章を見つけ出すのではなく、はるかにシンプルな方法でAI生成文章を検知しているようだ。このサービスは、出力結果に透かしを入れているのかもしれない。

 OpenAIは、米国時間8月4日に更新した「Understanding the source of what we see and hear online」と題するブログ記事で、AIが作成した成果物を見つけ出すために、分類子、透かし、メタデータを使う研究を行っていることを明らかにした。もっとも、この透かしを用いた手法がどのように機能するのか、正確なことは分かっていない。

 分かっているのは、この手法が「書き換えなどの部分的な改ざんに対して、極めて正確に機能し、効果的でさえある」とOpenAIが述べていることだけだ。ただし、この透かしを使った手法は、「全面的な改ざんに対してはそれほど強力ではない」という。

 そのため、文章を翻訳するような改ざんや、各単語の間に特殊文字を挿入してから削除するといった単純な改ざんに対しては、この手法はあまり機能しない。そしてもちろん、他のAIモデルで作成された文章を見つけ出すことも不可能だ。例えば、「Perplexity」やGoogleの「Gemini」で作成された文書をこのChatGPTのAI文章検出ツールに取り込んでも、おそらくAIによる文章とは識別できないだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
新ブロックストレージ追加で全ボートフォリオの刷新を完了–ネットアップ
IT関連
2025-02-19 10:58
ゲーミフィケーションを活用したコネクテッドローイングマシンのErgattaが約32.8億円を調達
ヘルステック
2021-05-02 21:02
日立ソリューションズ、「社内副業管理サービス」の自社検証を開始
IT関連
2024-05-18 20:10
IoT×販売網で流通全体の変革へ–Retail AIと東芝テック、協業の展望語る
IT関連
2022-10-12 19:18
デジタルワーカーの47%が仕事に必要な情報を見つけるのに苦心–ガートナー調査
IT関連
2023-06-04 13:54
オラクル、「Oracle Fusion Data Intelligence」の新たなAI機能を発表
IT関連
2024-05-14 20:49
富士通、台湾中央気象局の気象予報スパコンシステムを構築
IT関連
2023-01-19 22:55
ソフトウェア開発者の役割が変化した10年–Atlassian幹部に聞く
IT関連
2022-04-12 15:33
「Firefox 89」で大幅デザイン変更 タブや通知が見やすく
アプリ・Web
2021-06-03 05:03
JavaScriptランタイム「Bun 1.1」正式リリース。Windows版登場、Node.jsとの互換性向上、前バージョンより高速化など
Bun
2024-04-03 22:26
ウクライナ攻撃に新たな破壊型マルウェア、軍事侵攻に合わせて実行か
IT関連
2022-03-03 20:14
Microsoft、クラウド版Windows「Windows 365」のプラン発表 1人当たり月額2720円から
アプリ・Web
2021-08-04 21:37
第53回:情シスは人材採用の優先順位が低い
IT関連
2022-10-07 06:00
多角的なセキュリティサービスが好調、IIJが事業説明
IT関連
2022-02-26 18:01