生成AIの高度化は業務効率や研究開発を加速させる一方で、攻撃者側の生産性も同時に引き上げます。報道では、新型AI「Claude（クロード）」を巡り、金融機関や重要インフラへのサイバー攻撃に悪用される懸念を受け、政府として対策を進めるよう指示が出たとされています。これは「特定のAIが危険」という単純な話ではなく、高度なAIが攻撃工程の自動化・分業・高速化を後押しし、従来の防御設計を陳腐化させる可能性があるという点に本質があります。
本稿では、専門家の視点から、AI悪用の現実的なシナリオ、金融・重要インフラが直面するリスク、そして政府・事業者が取るべき技術的・運用的な打ち手を整理します。
AIはサイバー攻撃の「成功率」より「回転率」を上げる
攻撃者にとって生成AIの価値は、ゼロデイ開発のような特殊技能の代替だけではありません。むしろ大きいのは、偵察、文面作成、ソーシャルエンジニアリング、マルウェア改変、運用手順の整備といった周辺作業を効率化し、攻撃全体の回転率を引き上げる点です。
例えば標的型メールは、従来は日本語の不自然さや社内文書の模倣精度がボトルネックでした。しかしAIは、業界特有の言い回し、役職者の文体、添付資料の体裁まで再現できます。これにより「少数精鋭の巧妙な攻撃」だけでなく、大量試行で当たりを引く攻撃がより低コストで成立します。
想定すべき悪用シナリオ
フィッシングとBEC（ビジネスメール詐欺）の高度化
金融機関や重要インフラの調達・保守は、外部委託や多重下請けを含むサプライチェーンで成り立っています。AIは、公開情報・漏えい情報・SNS断片を組み合わせ、送金依頼や請求書差し替えを自然な日本語で作成し、承認プロセスの隙を突きます。音声合成やビデオ合成と組み合わされば、本人確認の弱い業務フローほど被害が拡大します。
脆弱性探索と侵入手順の半自動化
AIはスキャン結果や設定情報を整理し、次に試すべき侵入経路を提案することで、初動を速めます。特に、境界機器（VPN、リモート管理、認証基盤）やクラウド設定不備は影響範囲が大きく、短時間で横展開されるリスクがあります。
マルウェアの改変・検知回避の加速
既存のマルウェアに対して、シグネチャ回避のための小改変を高速に繰り返すことで、検知と回避のイタチごっこが激化します。攻撃者が狙うのは「完全な不可視化」ではなく、初動で数時間〜数日の検知遅延を確保することです。その遅延がランサムウェア展開やデータ持ち出しの成功率を押し上げます。
OT（制御系）・重要インフラでの現実的な危険
発電・送配電、交通、上下水、医療などの現場では、稼働停止が許されず、更新が遅れがちです。AIが直接OT機器を「自動でハッキングする」よりも、現実的には、IT側（メール、端末、認証、保守用VPN）から侵入し、運用手順や構成情報を学習して横移動する形が問題になります。特に保守ベンダー経由の侵入は、組織境界を越えるため検知が遅れやすい点が要注意です。
政府の対策指示で重視すべき論点
生成AIを巡る政策対応は、規制の強弱だけでなく、実装可能なガードレールと実務の底上げが鍵になります。重要なのは次の3点です。
脅威インテリジェンスと官民連携の即応性
AI悪用は手口の更新が速いため、平時の注意喚起だけでは追いつきません。金融・重要インフラを中心に、検知ルール、攻撃キャンペーン情報、侵害指標の共有を「速報性」と「実用性」の両面で強化する必要があります。
AI提供者・利用者双方の安全設計
モデル側の悪用抑止（安全ポリシー、レッドチーミング、出力制限）は重要ですが、万能ではありません。組織での利用拡大に合わせ、機密データの投入制御、プロンプト経由の情報漏えい対策、監査ログなど、利用者側の統制も同時に求められます。
「遵守」ではなく「耐性」を上げるKPIへ
チェックリスト型の遵守だけでは、攻撃の速度に負けます。MTTD（検知時間）・MTTR（復旧時間）を短縮する、権限乱用を防ぐ、バックアップから復旧できる、といったレジリエンス指標に重点を移すべきです。
金融機関が優先すべき実務対策
認証と権限の再設計（特権IDの防衛）
攻撃の最終到達点は、しばしば特権IDの奪取です。多要素認証の徹底に加え、条件付きアクセス、端末健全性チェック、特権操作の分離（PAW/踏み台）、PAM導入を進め、横移動しにくい構造を作ります。
送金・支払い業務の不正対策（人とプロセス）
BEC対策は技術だけでは不十分です。支払い先変更や緊急送金は、メール指示を起点にしない、別チャネルでのコールバック、承認者の複線化など、攻撃者が模倣できない確認手順を組み込みます。
メール・エンドポイント・ログの三位一体
AI生成文面は「文章の違和感」で見抜きにくくなります。DMARC等のメール認証、EDRによる端末挙動監視、SIEM/SOARでの相関分析を連携させ、侵入後の兆候で止める設計が重要です。
重要インフラが取るべき防御強化
IT/OT境界の厳格化と遠隔保守の統制
遠隔保守は利便性が高い一方、侵入口にもなります。接続元制限、時間制限、セッション記録、ジャンプサーバー、最小権限を徹底し、ベンダー経由の横展開を抑えます。
資産可視化と脆弱性・設定の「放置」を減らす
重要インフラでは「更新できない」事情があるため、まず資産台帳と通信の可視化を整え、更新できないものは代替策（ネットワーク分離、仮想パッチ、監視強化）でリスクを下げます。
停止を前提にしない復旧計画（演習の質）
ランサムウェアや破壊型攻撃に備え、バックアップの隔離、復旧手順の標準化、現場手順の紙・オフライン化も含めた演習が不可欠です。AI悪用で攻撃が高速化するほど、初動の判断と切り離しが結果を左右します。
生成AI時代の結論：技術・運用・政策を同時に更新する
新型AIを巡る政府の対策指示は、社会全体のサイバー防衛を再設計する契機になり得ます。攻撃は「AIで突然すべてが変わる」のではなく、既存の弱点がAIによって増幅される形で顕在化します。したがって、焦点はモデルの善悪ではなく、重要領域（金融・インフラ）での侵入経路を潰し、検知と復旧を加速し、官民で情報共有の速度を上げることです。
生成AIが普及するほど、攻撃者も防御者も同じ道具を使います。勝敗を分けるのは、平時の設計と訓練、そしてインシデント発生時の即応力です。今求められているのは、対策の「追加」ではなく、AI時代に合わせた防御の「更新」です。