米国国立標準技術研究所（NIST）のAI安全性評価に関する報告の中で、中国月之暗面科技（Moonshot AI）が開発した大規模言語モデル「Kimi K3」のサイバーセキュリティ関連能力について、米国の最先端モデルと比較して水準が劣ると評価されたと報じられた。あわせて、AIモデルのセキュリティ保護について、依然として脆弱性の悪用を助長し得る開発を許容しているとの見解が示された。
事案の詳細
報道によれば、米国のAI安全基準策定を主導するNISTが、生成AIモデルを対象としたサイバーセキュリティ評価の一環としてKimi K3を評価し、その能力が米国の最先端モデル（GPT-4、Claude、Geminiなど）と比べて後れを取っているとした。ここでの指摘は、攻撃コードの生成抑制や、脆弱性悪用につながるプロンプトに対する防御能力など、サイバーセキュリティ関連タスクへの対応力を比較した結果に基づくものとされている。
記事では、Kimi K3がサイバーセキュリティ面で十分に競争できていないという評価が含意されているものの、定量的なスコアや具体的なテストケースの詳細、個別の評価指標までは明らかにされていない。評価手法の技術的な内訳や、各モデルごとのタスク別成績、試験環境の構成なども現時点では公表されておらず、詳細は現時点で不明である。
またNISTは、AIモデルのセキュリティ保護のあり方について、なお脆弱性の悪用を伴う開発を許容してしまう余地があると指摘している。これは、モデル側に安全対策やガードレールが導入されているにもかかわらず、プロンプトインジェクションや攻撃コード生成、既知の脆弱性を悪用する手順の提示などと結びつく利用・開発行為を十分に抑止できていない状況が残っていることを示すものと報じられている。
元記事の見出し・記述から確認できる範囲では、具体的な評価手法、比較対象となった米国の各最先端モデル名と個別スコア、試験条件、あるいは評価に直接関連するインシデント（実際の被害）の発生の有無といった詳細は示されていない。従って本件は、特定インシデントの発生報告というより、AIモデルの能力評価とセキュリティ保護上の課題に関する専門機関の見解の表明として位置づけられる。
影響と背景
AIモデルのサイバーセキュリティ能力が注目される背景として、生成AIがセキュリティ対策の強化（防御側の自動化・効率化）にも、攻撃手法の高度化（攻撃コード生成・ソーシャルエンジニアリング支援など）にも関わり得る点がある。近年の各種調査では、多くの生成AIモデルが、SQLインジェクションやクロスサイトスクリプティングといった典型的な脆弱性を含むコードを生成したり、機密情報の露出につながる応答を行ったりするケースが確認されており、モデル側の安全設計が不十分だと攻撃面を拡大し得ることが指摘されている。
今回のNISTによる評価は、Kimi K3のサイバーセキュリティ関連能力が米国最先端モデルに及ばないという比較評価と、現行の保護策が脆弱性悪用を許容し得るという問題提起の二点から、AIの安全性・保護設計が国際的な競争力や利用リスクに直結する重要な論点であることを改めて示すものとなっている。中国発の大規模言語モデルが国際的な評価の枠組みでどの位置にあるのかを測るうえでも、今回の報告は一つの材料と受け止められている。
対策・今後の展望
元記事のタイトルから読み取れる範囲での論点は「能力差」と「保護の脆弱さ」である。AIの利用者や開発側が取るべき方向性としては、少なくとも次の観点が重要になる。
- セキュリティ保護の強化：脆弱性を悪用した開発や利用を許容し得る状況が残るとの指摘を踏まえ、プロンプトインジェクション対策や攻撃コード生成抑制、機密情報の露出防止など、モデルおよび周辺システムの保護策の見直しや強化が求められる。
- 能力評価の継続：最先端モデルとの比較で遅れがあるとされるため、サイバーセキュリティ関連タスクに焦点を当てた能力評価を継続し、課題を明確化して改善を重ねる必要がある。第三者機関による定期的なベンチマークやレッドチーミングの実施が、モデルの安全性向上に資する可能性が高い。
- 安全性を前提とした運用：保護が十分でない可能性が指摘されている以上、実運用では安全性を重視した取り扱いが欠かせない。重要システムへの組み込み時には、人間によるレビューや追加のアクセス制御・監査ログの整備などを行い、AIの出力がそのまま攻撃につながるリスクを低減する運用設計が求められる。
今回の報道は、特定の被害事例の断定ではなく、AIモデルのサイバーセキュリティ能力と保護の課題に関する評価・指摘として伝えられている。今後、同様の評価がどのように具体化され、国際的な標準化や各モデルの保護策の改善につながるかが焦点となる。Kimi K3を含む各モデルが、継続的な評価と改善を通じて、攻守双方のサイバーセキュリティ環境に与える影響を最小化しつつ、安全な活用を実現できるかが問われている。
参照: 美国AI基準機関：Kimi K3のサイバーセキュリティ能力は米国の最先端モデルに遅れをとっており、セキュリティ保護は依然として脆弱性を悪用した開発を許容している – odaily.news