ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘

今回は「ウィズセキュア、サイバー攻撃での「ChatGPT」悪用について警鐘」についてご紹介します。

関連ワード (セキュリティ等) についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。


 ウィズセキュアは、機械学習によってテキストを生成する高精度の言語人工知能(AI)である「Generative Pre-trained Transformer 3(GPT-3)」に関する調査の結果を発表した。

 これによるとGPT-3をベースに開発されたチャットボットモデル「ChatGPT」がサイバー攻撃に利用される可能性があるという。

 GPT-3やGPT-3.5のような自己回帰言語モデルを採用した使いやすいツールが広くリリースされることで、インターネットに接続できる環境であれば、誰でも人間のような音声を数秒で生成することができるようになった。ウィズセキュアでは、わずかなインプットから多用途の自然言語テキストを生成することは、サイバー犯罪者の興味を引くことは必至だとしている。

 またウェブを使って詐欺やフェイクニュース、誤報を流す人たちも、信頼が置けるあるいは説得力のあるテキストを瞬時に作成するツールに関心を持つ可能性があるとしている。

 今回の調査で、ウィズセキュアはChatGPTに関する悪用例として次のユースケースを研究した。

 研究の結果、大規模言語モデルを用いれば、たとえ学習データに関連情報が含まれていなくても、スピアフィッシング攻撃に適したメールスレッドの作成、特定の人物の文体の模倣である「テキストディープフェイク」、文章内容への意見の適用、特定の文体での執筆、説得力のあるフェイク記事の作成が可能であることが証明されたという。

 この結果を受け、ウィズセキュアでは、インターネットに接続できる人なら誰でも強力な大規模言語モデルにアクセスできるようになったことで、人々が受け取るメッセージやコンテンツは、AIによって書かれたものかもしれないと、まず疑念を抱くことが必要だとした。そして同社は、相手にしている知性が「本物」なのか「人工のもの」なのかを見極めようとしているとした。

COMMENTS


Recommended

TITLE
CATEGORY
DATE
「Microsoft Store」、方針変更を撤回–オープンソースアプリの課金禁止に物議
IT関連
2022-07-23 09:05
デジタルレンディングプラットフォームのBlendの新規公開での評価額は約4400億円超
フィンテック
2021-07-18 19:43
インテル、高効率コアと高性能コアを搭載した「Alder Lake」の概要を公開
IT関連
2021-08-20 14:52
JAXAの「変形する月面ロボット」 タカラトミー開発協力の背景に「アイソボット」
くらテク
2021-05-29 15:26
「学校の机、PC置くと狭すぎ」問題解決へ 「天板拡張くん」登場
くらテク
2021-03-10 03:16
簡単にアクセシビリティの問題を解決する「アクセシビリティオーバレイ」のaccessiBeが約29.6億円調達
ネットサービス
2021-03-12 08:21
クラウドアイデンティティ管理のOktaが同業のスタートアップAuth0を約7000億円で買収
ソフトウェア
2021-03-06 13:48
グーグル、「Chrome」の新たなゼロデイ脆弱性の修正を公開
IT関連
2022-09-07 20:42
DX目的で増える「第三者保守」の利用–リミニストリートのラビンCEO
IT関連
2022-06-03 19:47
新CEOと新会長に聞く、レッドハットの次の一手
IT関連
2022-07-26 05:49
グーグルがChromebookの10周年を記念しChrome OSに多数の新機能を追加
ハードウェア
2021-03-11 21:03
Windows 11に見捨てられたPCをChromebook化して幸せに :小寺信良のIT大作戦(1/4 ページ)
トップニュース
2021-07-07 18:00
AWSの新たな「ユーザー視点のパートナー施策」は奏功するか
IT関連
2022-03-18 14:21
医療探知犬の嗅覚を真似した機械学習装置 前立腺がんを同じ精度で検出 :Innovative Tech
トップニュース
2021-03-13 11:37