AI(人工知能)がサイバー脅威に与える短期的な影響についてイギリスの国家サイバーセキュリティセンター(NCSC)が評価をしたレポートを発表しました。AIはサイバー攻撃の量を増加させ、サイバー攻撃の影響はさらに高まるということです。ただし、AIが脅威に与える影響は均一ではないようです。
ソーシャルエンジニアリングの能力が向上する
NCSCの評価は今後2年間にAIがサイバー脅威にどのような影響を与えるのかを分析したもので、それによるとAIによってサイバー脅威はさらに高まるということです。NCSCによるとすでにあらゆるサイバー脅威においてAIは使われているということですが、2025年にはその戦術、技術、手順(TPP)がAIによりさらに強化され進化すると予測しています。
AIは主にソーシャルエンジニアリングの分野で攻撃者の能力を向上させ、すでにフィッシングでは生成AIを使ってターゲットに効果的なドキュメントが作成されているということです。また、AIによって脅威アクターが価値の高い資産を特定できる可能性が高まることから、サイバー攻撃の価値と影響がさらに増す恐れがあるということです。
脅威アクターは現実に AI を使用してサイバー攻撃の効率と有効性を高めており、この傾向は確実に 2025 年以降も続くとしています。サイバー犯罪インフラやサイバー犯罪ネットワークへのアクセスを容易にするAIモデルが登場することでサイバー犯罪への障壁が低くなり、その結果、世界的なランサムウェアの脅威をもたらす恐れがあると指摘しています。
2025 年までに、生成AI と大規模言語モデル (LLM) により、パスワードのリセット要求が本物かどうかを評価したり、フィッシングやなりすまし、ソーシャル エンジニアリングの試みを特定することが困難になるということです。脆弱性を修正するためのセキュリティアップデートがリリースされてから、パッチが適用されていないソフトウェアを攻撃者が悪用するまでの時間はさらに短縮され、既知の脆弱性が悪用される前にパッチを適用するという課題が一層深刻になる恐れがあるということです。
国家主体の脅威アクターが恩恵を受ける
短期間でAIの恩恵を受ける脅威アクターは、すでに能力を備えた既存の攻撃者に限定される可能性が高いとも指摘しています。AI には、現在のセキュリティによる検出を回避できるマルウェアを生成する可能性があるということですが、それを実行するためには高度なエクスプロイトデータに基づいてトレーニングされている場合に限られるということです。つまりそれはマルウェアに関する蓄積をもつ高度なサイバー攻撃能力のある国家主体の攻撃者を指しているようです。
AI を高度に活用するには、専門知識、設備、時間、資金的リソースが不可欠で、2025年までにAIの恩恵を受ける脅威アクターはAI に投資することができ、リソースと専門知識があり、質の高いデータにアクセスできる者に限られるとしています。つのり最も優位な立場にあるのは高度な能力を有する国家主体の攻撃者だとし、これら攻撃者はソーシャル エンジニアリング、偵察、窃盗の分野で中程度の能力向上を達成すると予測しています。
一方でAIはサイバーセキュリティの分野にも影響を与えるはずですから、AIによってサイバー脅威を封じ込める可能性はないのでしょうか?この点についてはNCSCも言及していて、「サイバー脅威に対する AI の影響は、 AI を使用してセキュリティを強化することによって相殺されます。サイバーセキュリティにおけるAI開発が脅威の影響をどの程度制限するかを判断するには、さらなる研究が必要です」としていて今後の課題だとしています。
■出典
https://www.ncsc.gov.uk/report/impact-of-ai-on-cyber-threat#section_5