対話AI「ChatGPT」で生成した回答、「Stack Overflow」で一時禁止に

今回は「対話AI「ChatGPT」で生成した回答、「Stack Overflow」で一時禁止に」についてご紹介します。

関連ワード （ソフトウェア等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　開発者がコーディングについて質問・回答できるサイト「Stack Overflow」は、Open AIが先週発表したチャットボット「ChatGPT」で生成したテキストの投稿を一時禁止とした。

　ChatGPTは、OpenAIの「GPT-3」言語モデルをベースとしている。プロンプトに対して「人間に近い」回答をするが、問題のある回答も含まれることが、ほどなく明らかになってきた。

　ChatGPTは公開以来、新しいコードの記述やコーディングエラーの修正など、さまざまなプロンプトを与えられている。またOpenAIが例示しているように、コーディング問題の解決を人間に求められた場合に、さらなるコンテキストを求めることができる。しかしOpen AIは、ChatGPTが「もっともらしく聞こえるが、不正確な回答や意味不明な回答」をすることもあるとしている。

　これが主な原因となって、Stack Overflowとコーディング問題への正しい答えを求めるユーザーに影響が生じているようだ。さらに、ChatGPTがあまりに迅速に回答を生成するため、正確かどうかを確認せずに、ChatGPTが生成した回答を多数提供しているユーザーもいる。

　「いちばんの問題は、ChatGPTが生成する回答は不正確である確率も高いのに、適切であるように思われることが多く、回答が非常に容易に生成されることだ」とStack Overflowのモデレーターは投稿で述べている。

　StackOverflowが一時禁止措置をとったのは、ChatGPTが生成する回答が、同サイトと正しい回答を求めるユーザーの両方にとって「おおむね有害」だからだ。

　「全体的に、ChatGPTから正しい回答を得られる確率は平均して低すぎるため、ChatGPTが生成した回答を投稿することは、当サイトと、正しい回答を探し求めているユーザーにとって、おおむね有害だ」とStackOverflowは述べている。

　OpenAIの最高経営責任者（CEO）であるSam Altman氏は、米国時間11月30日にChatGPTを公開してから、利用者はすでに100万人を超えたとツイートしている。同氏はTwitterを所有するElon Musk氏に対し、回答1件当たりの平均コストは「10セント未満」だと明かした。また別のユーザーからの「今後もずっと無料なのか」という質問に対し、演算にかかる費用が「非常に高額」であるため、いずれはマネタイズの必要があると認めた。

　開発者の中には、ChatGPTの回答を正確性を確認せずに投稿してポイントを稼げてしまうことが、明らかに問題だとする意見もある。