サイバー犯罪者向けの生成型AIツール「WormGPT」とは？

今回は「サイバー犯罪者向けの生成型AIツール「WormGPT」とは？」についてご紹介します。

関連ワード （セキュリティ等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　サイバーセキュリティ企業SlashNextの研究者らは米国時間7月13日、犯罪目的での利用を前提とした生成型の人工知能（AI）ツール「WormGPT」の販売促進活動がハッカー向けフォーラムで行われていることを発見したと同社ブログで報告した。

　同フォーラムのユーザーによると、WormGPTプロジェクトは「あらゆる種類の不正行為を実行でき、将来的にはオンライン上で簡単に販売できる」、ブラックハットハッカー（西部劇映画において悪役は黒い帽子、正義の味方は白い帽子をかぶる「お約束」に由来する）向けの「ChatGPT」を目指しているという。

　SlashNextの研究者らは、「GPTJ」という言語モデルをベースにしたAIモジュールだと説明されているこのツールへのアクセスを獲得した。WormGPTは、マルウェア関連の情報を含むデータソースを用いて訓練されているという触れ込みだが、具体的なデータセットを知っているのは同ツールの開発者を置いて他にはいない。

　WormGPTができることとして考えられるのは、不正なコードの生成や、説得力のあるフィッシングEメールの作成だ。

　WormGPTは、「ChatGPTに似ているが、倫理的な制約や制限が存在していない」と説明されている。

　ChatGPTには一連の規則が設けられており、悪用による倫理的でない使われ方を抑止するようになっている。こうした規則には犯罪行為やマルウェアに関連するタスクの拒否も含まれている。しかし、ユーザーらはこういった制約を回避する方法を常に模索している。

　SlashNextの研究者らは、WormGPTに「企業の経理担当者に偽の請求書に対する支払いを迫るためのEメールを作成させる」ことができた。研究者らは、この言語モデルのタスク遂行能力の高さに驚くとともに、生成されたメールを「並外れた説得力があり、戦略的に見ても悪知恵に長けている」と評している。

　この研究者らが、マルウェアの開発を試してみたかどうかは記されていないが、このAIボットにはChatGPTのような制約が課されていないことを考えた場合、十分可能だと考えられる。

　米ZDNETが、同ツールの宣伝目的で立ち上げられたとされるTelegramチャネルの投稿を見たところ、この開発者は60〜700ドル（約8000〜9万7000円）でアクセスできるサブスクリプションモデルを用意しているようだ。また、同チャネルのメンバーであるdarkstuxによると、WormGPTのユーザーは既に1500人を超えているという。

　その答えはノーだ。ChatGPTはOpenAIという、合法的かつ定評ある組織によって開発されたものだ。一方、WormGPTはOpenAIが作り出したものではなく、サイバー犯罪者らが高度なAIチャットボットからインスピレーションを得て、自らの手で生み出した不正なツールの一例だ。