対話AI「ChatGPT」で生成した回答、「Stack Overflow」で一時禁止に

今回は「対話AI「ChatGPT」で生成した回答、「Stack Overflow」で一時禁止に」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 開発者がコーディングについて質問・回答できるサイト「Stack Overflow」は、Open AIが先週発表したチャットボット「ChatGPT」で生成したテキストの投稿を一時禁止とした。

 ChatGPTは、OpenAIの「GPT-3」言語モデルをベースとしている。プロンプトに対して「人間に近い」回答をするが、問題のある回答も含まれることが、ほどなく明らかになってきた。

 ChatGPTは公開以来、新しいコードの記述やコーディングエラーの修正など、さまざまなプロンプトを与えられている。またOpenAIが例示しているように、コーディング問題の解決を人間に求められた場合に、さらなるコンテキストを求めることができる。しかしOpen AIは、ChatGPTが「もっともらしく聞こえるが、不正確な回答や意味不明な回答」をすることもあるとしている。

 これが主な原因となって、Stack Overflowとコーディング問題への正しい答えを求めるユーザーに影響が生じているようだ。さらに、ChatGPTがあまりに迅速に回答を生成するため、正確かどうかを確認せずに、ChatGPTが生成した回答を多数提供しているユーザーもいる。

 「いちばんの問題は、ChatGPTが生成する回答は不正確である確率も高いのに、適切であるように思われることが多く、回答が非常に容易に生成されることだ」とStack Overflowのモデレーターは投稿で述べている。

 StackOverflowが一時禁止措置をとったのは、ChatGPTが生成する回答が、同サイトと正しい回答を求めるユーザーの両方にとって「おおむね有害」だからだ。

 「全体的に、ChatGPTから正しい回答を得られる確率は平均して低すぎるため、ChatGPTが生成した回答を投稿することは、当サイトと、正しい回答を探し求めているユーザーにとって、おおむね有害だ」とStackOverflowは述べている。

 OpenAIの最高経営責任者(CEO)であるSam Altman氏は、米国時間11月30日にChatGPTを公開してから、利用者はすでに100万人を超えたとツイートしている。同氏はTwitterを所有するElon Musk氏に対し、回答1件当たりの平均コストは「10セント未満」だと明かした。また別のユーザーからの「今後もずっと無料なのか」という質問に対し、演算にかかる費用が「非常に高額」であるため、いずれはマネタイズの必要があると認めた。

 開発者の中には、ChatGPTの回答を正確性を確認せずに投稿してポイントを稼げてしまうことが、明らかに問題だとする意見もある。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
NXHDとNEC、遠隔搬送ソリューションを共同開発–物流現場のDX推進へ
IT関連
2024-09-06 21:10
「Windows Terminal」新プレビュー版、「Quake」モードなどを追加
IT関連
2021-05-28 01:18
全面クラウドの勘定系システム、北國銀行で稼働スタート Microsoft Azure採用
DX
2021-05-07 01:04
NVIDIAがGeForce RTX 3060での暗号資産マイニング効率を半分に制限、採掘専用GPU発表
ハードウェア
2021-02-20 20:08
プロジェクト管理ツール「Trello」で運転免許証など個人情報流出 閲覧範囲の設定ミスが原因か
セキュリティ
2021-04-07 08:37
Facebookのビジネスアカウントを狙うマルウェア「DUCKTAIL」出現
IT関連
2022-07-29 22:51
コードを読んでリポジトリ名を当てろ! プログラマ向けゲーム「GitHub-Guessr」が登場
GitHub
2023-09-19 15:08
三重県、県庁のセキュリティ対策を境界防御からゼロトラストに転換
IT関連
2023-12-15 16:29
IBMの量子コンピューターがドイツに、米国外で初–その可能性
IT関連
2021-06-25 08:30
NTTPCコミュニケーションズ、中堅中小企業のDX推進を支援するSASEサービスの提供
IT関連
2021-02-10 23:24
リアルタイムに人材データを把握–データドリブンなタレントマネジメントを支援
IT関連
2021-02-04 11:44
“ヘリ基地局”で通信エリア構築、auの通信網に接続 遭難者の連絡を支援 KDDIが実験
企業・業界動向
2021-01-22 08:38
Facebookでウクライナ軍やジャーナリスト狙うハッカーの活動拡大
IT関連
2022-03-03 14:04
NECのCHROが語る「ジョブ型人材マネジメントの勘所」とは
IT関連
2024-03-23 13:41