ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘

今回は「ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 ウィズセキュアは、機械学習によってテキストを生成する高精度の言語人工知能(AI)である「Generative Pre-trained Transformer 3(GPT-3)」に関する調査の結果を発表した。

 これによるとGPT-3をベースに開発されたチャットボットモデル「ChatGPT」がサイバー攻撃に利用される可能性があるという。

 GPT-3やGPT-3.5のような自己回帰言語モデルを採用した使いやすいツールが広くリリースされることで、インターネットに接続できる環境であれば、誰でも人間のような音声を数秒で生成することができるようになった。ウィズセキュアでは、わずかなインプットから多用途の自然言語テキストを生成することは、サイバー犯罪者の興味を引くことは必至だとしている。

 またウェブを使って詐欺やフェイクニュース、誤報を流す人たちも、信頼が置けるあるいは説得力のあるテキストを瞬時に作成するツールに関心を持つ可能性があるとしている。

 今回の調査で、ウィズセキュアはChatGPTに関する悪用例として次のユースケースを研究した。

 研究の結果、大規模言語モデルを用いれば、たとえ学習データに関連情報が含まれていなくても、スピアフィッシング攻撃に適したメールスレッドの作成、特定の人物の文体の模倣である「テキストディープフェイク」、文章内容への意見の適用、特定の文体での執筆、説得力のあるフェイク記事の作成が可能であることが証明されたという。

 この結果を受け、ウィズセキュアでは、インターネットに接続できる人なら誰でも強力な大規模言語モデルにアクセスできるようになったことで、人々が受け取るメッセージやコンテンツは、AIによって書かれたものかもしれないと、まず疑念を抱くことが必要だとした。そして同社は、相手にしている知性が「本物」なのか「人工のもの」なのかを見極めようとしているとした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
OpenAI、自然言語をコードに変換する「Codex」をプライベートベータに
IT関連
2021-08-12 22:55
「Proton Pass」が新機能を追加–詳細な個人情報の保存と生体認証が可能に
IT関連
2024-08-10 11:02
事業の選択と集中を着実に進め、成⻑回帰に向けた1年に–コニカミノルタ・大幸氏
IT関連
2024-01-11 07:29
グーグルがPythonエコシステムのセキュリティ向上を支援
IT関連
2021-02-17 06:18
クリップで机に固定できる電源タップ、エレコムが発売 「テレワークにも」
くらテク
2021-07-21 22:06
Cloudflare、CDNエッジのJavaScriptから生成AIを実行できる「Workers AI」を発表。GPUで高速処理を実現
Cloudflare
2023-10-02 21:03
5G情報流出、社外から遠隔操作で持ち出し 転職直前に170点
IT関連
2021-01-17 12:02
生徒の習熟度に合わせ難易度を調整するAI学習システム「Monoxer」を中国語教室「waysChinese」が本格導入
EdTech
2021-05-25 21:31
アイデンティティ管理のOktaが新しい無料開発者プランを公開
ソフトウェア
2021-04-08 04:54
パスキーとは–パスワードに代わる認証方法の基礎
IT関連
2023-10-25 20:08
伊藤忠丸紅鉄鋼、NTT Com、メタル便の3社、鉄鋼物流の脱炭素化で実証実験
IT関連
2024-08-01 17:55
CISAなど米政府機関、産業制御システム狙うマルウェアについて注意喚起
IT関連
2022-04-16 12:24
「Windows 10」の「バージョン22H2」、提供範囲を拡大
IT関連
2022-11-26 16:47
アップルが子ども向けポッドキャストのキュレーションでCommon Sense Mediaと提携
ネットサービス
2021-03-10 06:16