OpenAI、AIによる文章を検出するツールを開発か

今回は「OpenAI、AIによる文章を検出するツールを開発か」についてご紹介します。

関連ワード (CIO/経営等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 BestCollegesの調査によると、大学生の半数以上が人工知能(AI)を使って不正を働いているという。この割合は、学生の60〜70%に不正行為が見つかったとするスタンフォード大学の調査結果と一致している。だが、AIが怠惰な学生の論文作成ツールではなくなる日が間もなく来るかもしれない。「OpenAIは、論文などを書くために『ChatGPT』を利用したことを確実に検知する手法を知っている」と、The Wall Street Journal(WSJ)が報じたからだ。しかも、その精度は99.9%だという。

 OpenAIは、この新たな手法がどのようにAIの書いた文章をほぼ完璧に特定できるのか、詳細を一切明らかにしていない。少なくとも、AIのハルシネーション(幻覚:AIが事実と異なる情報を勝手に作り出してしまう現象)を見破れるようになったからでないことは明らかだ。OpenAIの共同創設者であるJohn Schulman氏は2023年、「われわれの最大の懸念は事実性にまつわるものだ。なぜなら、モデルは事実をねつ造する傾向があるからだ」と語っている。

 この状況が変わることは決してないだろう。機械学習のテストサービスを手がけるKolenaの共同創設者で最高経営責任者(CEO)を務めるMohamed Elgendy氏は、次のように述べている。「ハルシネーションが起きる割合は減少するだろうが、なくなってしまうことは決してない。高度な教育を受けた人でも誤った情報を流すことがあるのと同じことだ」

 どうやらOpenAIは、魔法のような手法でAIの書いた文章を見つけ出すのではなく、はるかにシンプルな方法でAI生成文章を検知しているようだ。このサービスは、出力結果に透かしを入れているのかもしれない。

 OpenAIは、米国時間8月4日に更新した「Understanding the source of what we see and hear online」と題するブログ記事で、AIが作成した成果物を見つけ出すために、分類子、透かし、メタデータを使う研究を行っていることを明らかにした。もっとも、この透かしを用いた手法がどのように機能するのか、正確なことは分かっていない。

 分かっているのは、この手法が「書き換えなどの部分的な改ざんに対して、極めて正確に機能し、効果的でさえある」とOpenAIが述べていることだけだ。ただし、この透かしを使った手法は、「全面的な改ざんに対してはそれほど強力ではない」という。

 そのため、文章を翻訳するような改ざんや、各単語の間に特殊文字を挿入してから削除するといった単純な改ざんに対しては、この手法はあまり機能しない。そしてもちろん、他のAIモデルで作成された文章を見つけ出すことも不可能だ。例えば、「Perplexity」やGoogleの「Gemini」で作成された文書をこのChatGPTのAI文章検出ツールに取り込んでも、おそらくAIによる文章とは識別できないだろう。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
今の日本にアクティブインテリジェンスが必要な理由
IT関連
2021-04-23 00:16
EU、大手ITの規制強化で合意–「デジタル市場法」制定へ
IT関連
2022-03-29 12:24
リクルート、経営管理基盤の刷新に向けて請求書管理サービス導入
IT関連
2023-02-01 05:06
JAXA、国産「空飛ぶクルマ」研究開発に協力 国内最大の「風洞実験装置」提供
企業・業界動向
2021-08-11 16:02
競争力強化のためのDXを実現する国内大企業は2026年でも10%未満–ガートナー展望
IT関連
2023-03-03 13:19
出社率低下も、76.3%の企業でインターネットトラフィックが増加–IDC
IT関連
2022-05-11 02:15
AtlassianがY Combinator出身のデータ視覚化プラットフォームChartioを買収
ネットサービス
2021-02-28 00:25
三菱商事、グループ経費精算システムを採用–営業費精算プロセスを効率化
IT関連
2024-02-09 21:07
Google Workspace(旧G Suite)に「Googleアシスタント」対応や「Focus Time」などの新機能
アプリ・Web
2021-03-03 02:57
マネックス証券でシステム不具合 「口座残高0円」など表示に異常
企業・業界動向
2021-04-17 13:16
アフラックが入社プロセスを刷新–内定者一人当たりの受け入れ業務が約半分に
IT関連
2022-07-28 22:15
アリババ1~3月期、巨額罰金の影響で赤字–クラウド事業は成長減速も37%増収
IT関連
2021-05-14 11:31
テレワークスペース・シェアの「テレスペ」が「ワイン飲み放題付きテレワーク」プランを提供開始
シェアリングエコノミー
2021-01-13 20:58
電子機器メーカーのコーセル、ハラスメント研修に漫画形式のe-ラーニング採用
IT関連
2023-08-17 05:03