高性能なチャット型生成AI、Claude(クロード)を開発したAnthropic(米カリフォルニア州)が脅威インテリジェンスレポートを発行して高度なサイバー攻撃において生成AIがどのように悪用されているのか、その実態を明らかにしました。Anthropicはレポートで取り上げている事例についてClaudeにとどまらず「あらゆる最先端のAIモデルに共通する」としています。
窃取したデータを分析し要求金額算出
Anthropicの脅威インテリジェンスレポートによると、Claude Codeによって生成されたコードを使って複数の国際的な標的に対して短期間で大規模な恐喝が行われているということです。Claude Codeは開発・コーディング支援に特化したAIツールで、一般的な生成AIであるClaudeに対してコードの修正やエラーチェック、テストコードの生成など開発作業の効率化を目的とした専門的な機能を備えた生成AIだということです。攻撃は7月だけで17組織に及んでおり、政府機関や医療機関が含まれているようです。マルウェアの作成から標的に対する偵察や認証情報の取得、ネットワーク侵入、データ窃取などにClaude Codeが悪用されていたということです。また窃取したデータを分析し被害者に要求する金銭を算出し脅迫文を作成することにもClaude Codeが使われていたようで、この攻撃についてレポートは「AIを活用したサイバー犯罪の懸念すべき進化を如実に示している」と表明しています。Anthropicはこの攻撃に関連する操作を行ったアカウントを禁止するとともに悪意のある利用を防止し迅速に検知する能力を強化しているということです。
さらにイギリスを拠点とする脅威アクターがClaudeを悪用して高度な回避機能を備えたランサムウェアを開発、販売しているということです。この脅威アクターは少なくとも2025年1月からダークウエブのフォーラムで活動しており、AIに依存した開発でランサムウェアを開発し400ドルから1200ドルの価格帯のランサムウェアパッケージの販売に成功しているということです。この脅威アクターには暗号化アルゴリズム、分析回避技術、Windows内部の操作を実装する能力はないとみられるものの、Claudeの支援により開発に成功したということです。Anthropicはプラットフォーム上でマルウェアのアップロード、改変、生成を検出する新しい手法を実装して対応を図っているということです。レポートはその他、北朝鮮や中国の脅威アクターがClaudeを悪用している実態やロシア語を話す開発者がClaudeを悪用して高度な回避機能を備えたマルウェアを開発している実態、AIモデルを搭載したロマンスボットなどについても明らかにしています。
AIモデルが攻撃をサポートしている
レポートは、AIモデルが攻撃の実行方法をアドバイスするにとどまらず、高度なサイバー攻撃を実行するために使用されている事実を明らかにするとともに、AIの支援を受けることでスキルがない者でもマルウェアを作成している事実を示しており、AIがサイバー攻撃の敷居をさらに下げている状況を示しています。また、国家を背景としている脅威が積極的にAIを取り入れている実態も明らかにしています。
Anthropicは、「悪用事例を徹底的に調査して発見し防御力を向上させていく」とするとともに、「AIの安全性とセキュリティに関する活動に貢献し、産業界、政府、より広範な研究コミュニティがAIシステムの悪用に対する防御を公開で議論し強化できるよう、脅威インテリジェンスレポートを定期的に公開し透明性を確保していく」としています。
■出典
https://www.anthropic.com/news/detecting-countering-misuse-aug-2025