ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘

今回は「ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 ウィズセキュアは、機械学習によってテキストを生成する高精度の言語人工知能(AI)である「Generative Pre-trained Transformer 3(GPT-3)」に関する調査の結果を発表した。

 これによるとGPT-3をベースに開発されたチャットボットモデル「ChatGPT」がサイバー攻撃に利用される可能性があるという。

 GPT-3やGPT-3.5のような自己回帰言語モデルを採用した使いやすいツールが広くリリースされることで、インターネットに接続できる環境であれば、誰でも人間のような音声を数秒で生成することができるようになった。ウィズセキュアでは、わずかなインプットから多用途の自然言語テキストを生成することは、サイバー犯罪者の興味を引くことは必至だとしている。

 またウェブを使って詐欺やフェイクニュース、誤報を流す人たちも、信頼が置けるあるいは説得力のあるテキストを瞬時に作成するツールに関心を持つ可能性があるとしている。

 今回の調査で、ウィズセキュアはChatGPTに関する悪用例として次のユースケースを研究した。

 研究の結果、大規模言語モデルを用いれば、たとえ学習データに関連情報が含まれていなくても、スピアフィッシング攻撃に適したメールスレッドの作成、特定の人物の文体の模倣である「テキストディープフェイク」、文章内容への意見の適用、特定の文体での執筆、説得力のあるフェイク記事の作成が可能であることが証明されたという。

 この結果を受け、ウィズセキュアでは、インターネットに接続できる人なら誰でも強力な大規模言語モデルにアクセスできるようになったことで、人々が受け取るメッセージやコンテンツは、AIによって書かれたものかもしれないと、まず疑念を抱くことが必要だとした。そして同社は、相手にしている知性が「本物」なのか「人工のもの」なのかを見極めようとしているとした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
Airbnb、売上高はほぼ4倍だがデルタ株を踏まえた消極的な来期予測
企業・業界動向
2021-08-14 10:09
NVIDIA、仮想コラボレーション環境「Omniverse」の企業版を発表
IT関連
2021-04-13 16:50
英ネットスーパーOcadoが自動走行システム開発Oxboticaに約15億円投資、他社配達事業展開支援を目指す
モビリティ
2021-04-19 00:39
チェコのベンチャー投資家8人に聞く、景気回復の兆しと2021年の投資見通し
VC / エンジェル
2021-05-10 07:43
TIS、バーチャル店舗で決済まで行う新サービス–買い物体験を円滑化
IT関連
2022-07-01 10:35
「ChatGPT」がアップデート–プロンプト例表示や追加質問の提案など
IT関連
2023-08-10 02:13
ワクチン接種開始、あなたはいつ打てる? AIが予測
IT関連
2021-02-19 09:15
ドイツ当局、Appleの独禁法調査を開始 GAFA揃う
企業・業界動向
2021-06-23 17:09
ランサムウェア被害の大阪急性期・総合医療センター、シスコのセキュリティ対策を導入
IT関連
2023-11-23 02:55
Esriが地理情報システムプラットフォーム「ArcGIS」をKubernetesに搭載
ソフトウェア
2021-04-08 23:09
HashiCorp、「Vagrant Cloud」をHCP移行–新名称は「HCP Vagrant Registry」
IT関連
2024-05-26 02:16
隅田川花火大会、今年も中止 「地域の方や来場者の健康が第一」
くらテク
2021-06-20 02:05
インテルの次世代プロセッサーはアップルのチップを凌駕する–CEOが見せた自信
IT関連
2023-09-27 15:30
AI市場は9兆ドル規模–「State of AI Report 2024」が示す現状と今後の展開
IT関連
2024-10-31 09:08