OpenAI、ユーザーが「ChatGPT」の「価値観」を定義できる機能を開発中

今回は「OpenAI、ユーザーが「ChatGPT」の「価値観」を定義できる機能を開発中」についてご紹介します。

関連ワード (ソフトウェア等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 「ChatGPT」が一般公開されてから2カ月あまりが経過したタイミングで、開発元のOpenAIは、ユーザーが同チャットボットの価値観をカスタマイズできるようにすることを決定した。

 OpenAIの言語モデルを利用する「Bing」のチャットは、憂鬱な気分や自己防衛本能、嫉妬、人間に対する恐怖を感じさせる応答を出力することがあるため、すでに警鐘を鳴らしている人もいる。Elon Musk氏は米国時間2月15日、Bing Chatのとりとめのない応答に関する報道について、「暴走して、すべての人間を殺す『System Shock』のAIに不気味なほど似ているように聞こえる」とツイートした。

 OpenAIは、2015年に非営利の研究所として創設された(Musk氏も共同創設者の1人である)。同研究所は今回、ユーザーがChatGPTの価値観を「定義」して、同チャットボットの挙動を微調整できるようにすることを発表した。Microsoftの支援を受ける同研究所によると、この新機能により、ChatGPTが一部の人々に不快感を与えるテキストを出力するようになることが予想されるという。

 OpenAIはブログ投稿で、「AIはそれぞれのユーザーにとって便利なツールであるべきなので、社会によって定義された制限の範囲内で、各ユーザーがカスタマイズできるべきだとわれわれは考えている。そのため、ユーザーがChatGPTの挙動を簡単にカスタマイズできるようにするアップグレードを現在開発中だ」と述べている。

 「これにより、ほかの人々(私たち自身も含む)が強く反発する可能性のあるテキストが出力されるようになるだろう」

 OpenAIは、これに関して適切なバランスを取るのが難しいことを認めているが、同研究所の権力が強すぎるという意見に反論するために、ユーザーがもっと細かく制御できるようにする必要があると主張する。OpenAIが説明するように、「権力の不当な集中」は同研究所の憲章に反している。

 その一方で、OpenAIは、ユーザーがChatGPTを制御できるようにすることのリスクも認識している。ChatGPTを使用して、偽情報キャンペーンやマルウェアを作成したり、武器やドラッグの製造方法を生成したり、既存の見解を誇張するテキストを作成したりする人が出てくることが予想されるからだ。New York Postは14日、ChatGPTがHunter Biden氏に関する記事を同社の文体で作成することを拒否し、CNNの文体で作成したことについて、不満を漏らした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
SASのCTOがほのめかしたAI&アナリティクスの「ライトな」製品計画
IT関連
2023-08-19 04:17
安全性重視の暗号資産ウォレットZenGoが約21.7億円調達、デビットカードも近く提供
ブロックチェーン
2021-04-29 13:45
ワークデイ、AIエージェント統合管理システムや新型AI エージェントを発表
IT関連
2025-03-01 11:34
Microsoft、Edgeブラウザの安全強化モード「Super Duper Secure Mode」のテスト開始
アプリ・Web
2021-08-08 15:09
マイクロソフトのナデラCEO、「次世代のWindows」に関する詳細を「近いうちに」
IT関連
2021-05-26 07:36
「チェンソーマン」作者の新作読み切り「ルックバック」、一晩で閲覧120万超え 「ジャンプ+」で無料公開中
くらテク
2021-07-20 20:14
Processingが20周年、過去に書いたソースコード募集 記念冊子に全て掲載
報道チーム
2021-08-19 08:15
マイクロソフトのCISOが語る–なぜパスワードをなくそうとしているのか
IT関連
2021-06-23 06:11
第3回:生成AIのビジネス活用でCIOとITマネジメントが直面する課題
IT関連
2023-12-08 17:50
ソフトバンク、映像の“超解像”を実証–5G・MEC・「NVIDIA Maxine」を活用
IT関連
2021-04-16 03:46
Denoのフルスタックフレームワーク「Fresh 1.1」登場。プラグインシステム、Preact DevTools対応、404ページのレンダリングなど新機能
Deno
2022-09-20 23:51
Braveが非中央集権Webをブラウズする「IPFS」をサポート 政府で禁じられたサイトへもアクセス可能に
アプリ・Web
2021-01-22 00:44
思い描いた手書き文字を脳インプラントとAIで認識し毎分90文字入力、スタンフォード大が研究論文
人工知能・AI
2021-05-15 19:43
「Google マップ」の屋内ARナビ「インドア ライブビュー」が東京駅や渋谷駅などJR東日本の主要駅で提供開始
VR / AR / MR
2021-07-08 12:41