ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘

今回は「ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 ウィズセキュアは、機械学習によってテキストを生成する高精度の言語人工知能(AI)である「Generative Pre-trained Transformer 3(GPT-3)」に関する調査の結果を発表した。

 これによるとGPT-3をベースに開発されたチャットボットモデル「ChatGPT」がサイバー攻撃に利用される可能性があるという。

 GPT-3やGPT-3.5のような自己回帰言語モデルを採用した使いやすいツールが広くリリースされることで、インターネットに接続できる環境であれば、誰でも人間のような音声を数秒で生成することができるようになった。ウィズセキュアでは、わずかなインプットから多用途の自然言語テキストを生成することは、サイバー犯罪者の興味を引くことは必至だとしている。

 またウェブを使って詐欺やフェイクニュース、誤報を流す人たちも、信頼が置けるあるいは説得力のあるテキストを瞬時に作成するツールに関心を持つ可能性があるとしている。

 今回の調査で、ウィズセキュアはChatGPTに関する悪用例として次のユースケースを研究した。

 研究の結果、大規模言語モデルを用いれば、たとえ学習データに関連情報が含まれていなくても、スピアフィッシング攻撃に適したメールスレッドの作成、特定の人物の文体の模倣である「テキストディープフェイク」、文章内容への意見の適用、特定の文体での執筆、説得力のあるフェイク記事の作成が可能であることが証明されたという。

 この結果を受け、ウィズセキュアでは、インターネットに接続できる人なら誰でも強力な大規模言語モデルにアクセスできるようになったことで、人々が受け取るメッセージやコンテンツは、AIによって書かれたものかもしれないと、まず疑念を抱くことが必要だとした。そして同社は、相手にしている知性が「本物」なのか「人工のもの」なのかを見極めようとしているとした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
マイクロソフト、持続可能性への取り組みを説明–多様なクラウドツール群も
IT関連
2022-03-25 12:06
【2月17日】掲載記事アクセスランキング・トップ5―第1位はPCやMacをChromebookに変える「Chrome OS Flex」
IT関連
2022-02-18 12:49
中国のバイトダンス、LLM学習に対する妨害攻撃に遭遇–組織内の犯行で被害
IT関連
2024-12-10 03:20
プレゼン時間は1分間 DMMが“超ショート”なオンライン展示会企画スタート
企業・業界動向
2021-06-16 04:00
湘南ベルマーレが国内初のプロサッカークラブトークン発行、クラブファンディング開始
ブロックチェーン
2021-01-28 04:44
「音声認識AIの競争に対する懸念が高まっている」とEUが発表
ソフトウェア
2021-06-21 05:15
世界株式の調整は続く?–リスクはリターンの源泉なり
IT関連
2021-05-21 10:50
被災地の8K映像を5Gで配信、救助や避難誘導に活用 富士通など6団体が共同実験
社会とIT
2021-02-20 15:00
住友精化、基幹業務システムを「RISE with SAP」に移行–日本IBMとSAPジャパンが支援
IT関連
2023-12-09 16:29
あなたの声で合成音声に“演技指導” AIが抑揚を分析、東芝が新ソフト
イラスト・デザイン
2021-08-18 21:57
Google Cloud最適化版の「Rocky Linux」が一般提供に
IT関連
2022-07-20 15:18
ソニー、FeliCaとスマホで座席管理の新サービス 机にカードを貼るだけで設置完了
企業・業界動向
2021-06-08 04:29
伊藤忠商事、ビジネスプロセスを可視化–全社で戦略的なデジタル化を加速
IT関連
2023-05-13 20:54
弁護士ドットコム、「Copilot for lawyers」のロードマップ公開–弁護士向け実務サービス
IT関連
2023-07-28 07:16