サイバー犯罪者向けの生成型AIツール「WormGPT」とは?

今回は「サイバー犯罪者向けの生成型AIツール「WormGPT」とは?」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 サイバーセキュリティ企業SlashNextの研究者らは米国時間7月13日、犯罪目的での利用を前提とした生成型の人工知能(AI)ツール「WormGPT」の販売促進活動がハッカー向けフォーラムで行われていることを発見したと同社ブログで報告した。

 同フォーラムのユーザーによると、WormGPTプロジェクトは「あらゆる種類の不正行為を実行でき、将来的にはオンライン上で簡単に販売できる」、ブラックハットハッカー(西部劇映画において悪役は黒い帽子、正義の味方は白い帽子をかぶる「お約束」に由来する)向けの「ChatGPT」を目指しているという。

 SlashNextの研究者らは、「GPTJ」という言語モデルをベースにしたAIモジュールだと説明されているこのツールへのアクセスを獲得した。WormGPTは、マルウェア関連の情報を含むデータソースを用いて訓練されているという触れ込みだが、具体的なデータセットを知っているのは同ツールの開発者を置いて他にはいない。

 WormGPTができることとして考えられるのは、不正なコードの生成や、説得力のあるフィッシングEメールの作成だ。

 WormGPTは、「ChatGPTに似ているが、倫理的な制約や制限が存在していない」と説明されている。

 ChatGPTには一連の規則が設けられており、悪用による倫理的でない使われ方を抑止するようになっている。こうした規則には犯罪行為やマルウェアに関連するタスクの拒否も含まれている。しかし、ユーザーらはこういった制約を回避する方法を常に模索している。

 SlashNextの研究者らは、WormGPTに「企業の経理担当者に偽の請求書に対する支払いを迫るためのEメールを作成させる」ことができた。研究者らは、この言語モデルのタスク遂行能力の高さに驚くとともに、生成されたメールを「並外れた説得力があり、戦略的に見ても悪知恵に長けている」と評している。

 この研究者らが、マルウェアの開発を試してみたかどうかは記されていないが、このAIボットにはChatGPTのような制約が課されていないことを考えた場合、十分可能だと考えられる。

 米ZDNETが、同ツールの宣伝目的で立ち上げられたとされるTelegramチャネルの投稿を見たところ、この開発者は60〜700ドル(約8000〜9万7000円)でアクセスできるサブスクリプションモデルを用意しているようだ。また、同チャネルのメンバーであるdarkstuxによると、WormGPTのユーザーは既に1500人を超えているという。

 その答えはノーだ。ChatGPTはOpenAIという、合法的かつ定評ある組織によって開発されたものだ。一方、WormGPTはOpenAIが作り出したものではなく、サイバー犯罪者らが高度なAIチャットボットからインスピレーションを得て、自らの手で生み出した不正なツールの一例だ。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
ZHDの川邊社長、Clubhouseに「学ぶべきところは多い」 サービス垂直立ち上げの参考に
企業・業界動向
2021-04-29 01:49
ブロックチェーン活用し「唯一無二」のアニメ原画データなどを販売する「AniPic!」が4000万円調達
ネットサービス
2021-02-20 19:45
Google マップ・口コミサイトの一括管理や口コミ内容のAI解析が可能な「口コミコム」を運営するmovが3.3億円調達
ネットサービス
2021-07-17 05:20
ATMで電波遮断、AIが通話警告……コロナ禍でも止まぬ特殊詐欺被害、根絶に“水際対策”強化
IT関連
2021-02-04 21:32
日本の未来に大胆な決断を–キンドリルジャパン・上坂社長
IT関連
2024-01-07 16:00
ベネッセスタイルケア、保育園62拠点にITシステム導入–現場のスタッフがけん引
IT関連
2022-08-04 14:00
ウィズセキュア、マルウェアミュージアム開設へ–サイバー犯罪との闘いにおける行動と協力を促す
IT関連
2024-07-05 11:20
Cloudflare、分散SQLiteデータベース「Cloudflare D1」の性能を10倍以上高速に、ストレージバックエンド強化で。任意の状態にいつでも戻せる機能も
Cloudflare
2023-05-22 13:56
松吉医科器械、「AS/400」で動く基幹システムをクラウドERPで刷新
IT関連
2023-12-12 21:17
社内リソースにこだわらない──開発2週間で公開したヤフー「混雑予想」誕生秘話 (1/2 ページ)
くわしく
2021-02-01 11:19
Metaが「Android」アプリの開発言語をJavaからKotlinに移行する理由とは
IT関連
2022-11-08 23:03
マイクロソフト、Azure OpenAI Serviceを東日本リージョンで提供開始(ほぼ確実に)
Microsoft
2023-07-19 13:57
LINE、PCゲームの配信プラットフォームを日本でも展開 MMORPGなどを提供
企業・業界動向
2021-05-15 09:47
GitHubは200万行規模のRailsアプリケーションであり、毎週RailsとRubyを最新版にアップデートし続けている
CI/CD
2023-04-12 12:46