生成系AIがサイバーセキュリティに混乱をもたらす–脅威インテリジェンス専門家が警鐘

今回は「生成系AIがサイバーセキュリティに混乱をもたらす–脅威インテリジェンス専門家が警鐘」についてご紹介します。

関連ワード （セキュリティ等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、ZDNet Japan様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

　生成型の人工知能（AI）はサイバーセキュリティ分野に変革をもたらし、攻撃側と防御側の双方を手助けしている。サイバー犯罪者らはAIツールを用いて、新しい高度な大規模攻撃を展開している。その一方、防御する側も同様のテクノロジーを用いて、基幹インフラや政府組織、企業のネットワークを守っている。これは、脅威インテリジェンスプラットフォームであるRecorded Futureの最高経営責任者（CEO）Christopher Ahlberg氏が語ってくれた見解だ。

　生成型AIによって脅威アクターは新たな攻撃戦略を採用、開発し、サイバーセキュリティを保護する側に一歩先んじることができている。サイバー犯罪者らは攻撃の自動化や、アタックサーフェスの調査、さまざまな地理的地域や攻撃対象層に合わせたコンテンツの生成にAIを利用し、複数の国々をまたいで幅広い潜在被害者を標的にしている。そしてこのテクノロジーを生かし、本物と見まがうようなフィッシングメールを作成している。AIが生成したテキストを使うことで攻撃者は、標的を容易にだませるようにカスタマイズした電子メールやテキストメッセージを作成できるようになるのだ。

　Ahlberg氏は「あなたは創造力を発揮する必要もなく、これが（サイバー犯罪者らの）創作活動を手助けしていることに気付くと思う。そこが問題だ」と述べた。

　防御側も、攻撃の回避に向けてAIを利用している。複数の組織は情報漏えいを防ぐとともに、積極的にネットワークの脆弱性を発見するためにAIを活用している。またこのテクノロジーを使えば、特定のキーワードを検出して警告を発するように設定して、オンライン上の機密情報を検出するといった作業を動的に自動化できる。脅威ハンターらは、異常なパターンを洗い出したり、大量のデータを要約したり、複数の情報源や隠れたパターンを俯瞰して点と点をつなぐためにAIを利用している。

　こうした作業には依然として人間の専門家が必要であるものの、Ahlberg氏は「ChatGPT」などのプロジェクトで用いられている生成型AIテクノロジーが役に立つ可能性があると述べた。

　同氏は、「われわれは、思考の速度で分析できるよう、分析サイクルを高速化したいと考えている」と述べ、「それには大きな困難が伴うだろうが、飛躍的進歩がもたらされつつあると思う。極めてエキサイティングなことだ」と続けた。

　またAhlberg氏は、高い知性を持った機械によってもたらされる潜在的脅威についても考察している。世界規模でデジタル化と相互接続が進む中、現実を曲げて認識を再形成するこの能力は、悪意を持ったアクターに利用される可能性がある。こうした脅威は国内にとどまらないため、状況はより複雑かつ不均衡なものになる。

　AIは、こうした新しい脅威から身を守るのに役立つ可能性があるが、AIなりのリスクも抱えている。例えば、処理能力の高いマシンが人間よりすばやく効果的にシステムをハッキングできるようになるかもしれない。このような脅威に対抗するには、AIが防御的に使用されるようにし、誰がそのAIをコントロールしているのかを明確に把握しておく必要がある。

　AIがますます社会に浸透する中で重要となるのは、立法関係者や司法関係者などの意思決定者に、AIとその影響を理解してもらうことだ。技術専門家と政策立案者が強固な連携を築くことが、脅威検知やその先を含めたAIの未来を舵取りするのに欠かせないものとなるだろう。

　AIがサイバーセキュリティにもたらす機会と課題、および倫理的問題は複雑で、しかも進化を続けている。AIモデルのバイアスを排除し、人間が意思決定に関与し続けられるようにすることが、倫理的な問題を管理するのに役立つはずだ。高度に知的なマシンが長期にわたってもたらす潜在的な脅威に対処するには、AIを警戒しながら、AIと協調し、AIをよく理解することが欠かせない。

　さらにAhlberg氏は、中国やロシアといった経済的に対立する国家が自律型マシンを利用することへの懸念を示した。こうした国々がAI開発の手を緩めたり倫理的な懸念を共有したりすることはないだろう。このようなマシンを「切り離す」能力を保持しておくことは賢明な防御策だが、AIが社会やグローバル経済に統合されれば切り離しが困難になる可能性が高いと、同氏は指摘する。製品やマシンの設計にあたっては、誰がその製品やマシンを管理するのかを明確にすることが必要だと、Ahlberg氏は強調した。

　「このような状況においてインターネットがもたらした重要な結果は、インターネットを世界中の情報が集まる場所のようなものにしたことだ」と、Ahlberg氏は言う。「このような大規模言語モデルは実に驚くようなことを実現している。（中略）思考のサイクルを早めているのだ」

　その上で、「次の四半世紀には、世界がインターネットを反映した場所になる」と、同氏は付け加えた。