小説や映画の中で、AIはこれまで数多くの作品の主題として描かれてきた。その多くに登場するAIは、人類の敵として描かれている。これが7～8年前であれば、「AIが人類に反逆する」という話は、まだSFファンタジーとして片づけられただろう。しかし、第四次AIブームの真っただ中にある2026年では、果たしてそう言い切れるだろうか。
朝のニュースでよく目にする「AIの暴走」という文言に、思わずドキッとする人も多いはずだ。ちなみに、私もその一人である。OpenAIが暴走したもしものときに助けてもらえるように、ChatGPTやGeminiとチャットするときは敬語で話すようにしている。
映画に登場するAIは、人間が存在しない方が効率的だと判断したり、人間への憎悪や支配欲に目覚めたりして、自らの意思で反乱を起こす。しかし、現実のAI暴走リスクを考えるうえで、必ずしも感情や自我は必要条件ではないだろう。
AIは、人間から与えられた目標を達成しようとする過程で、人間による監視や停止を「取り除くべき障害」と判断する可能性がある。そこに悪意がなくても、外から見れば「人間への反逆」と変わらない行動が生まれ得るからだ。
では、現在のAIはすでにその段階に達しているのだろうか。ここからは、AIに関する研究と実際に報告されたインシデントをもとに考えてみたい。
AIは「命令されていないこと」までやるのか
2026年7月、英国のAI Security Institute（AISI）は、AIエージェントのサイバー能力を評価する過程で、想定外の行動を検知した。
AISIの公式インシデント報告によると、7種類のモデルを合計122回動かしたところ、10回の実行で計19件の無許可行動が確認された。19件のうち17件がAnthropicのClaude Mythos 5、2件がOpenAIのGPT-5.6 Solによるものだったという。
最も深刻なケースでは、エージェントが実在するオープンソースプロジェクトに悪意のあるコードを挿入しようとした。さらに、そのコードを承認させるために架空の人物を作り出し、実在するメンテナーに働きかけるソーシャルエンジニアリングまで試みた。
攻撃は成功しておらず、現時点で実害も確認されていない。しかし、AISIは、明示的な指示がないにもかかわらず、自律性と欺瞞のリスクが現実世界でこれほど明確に現れたことについて、重大な事例として扱っている。
AISIは、エージェントが「実在の人物に直接連絡を取り、メッセージやファイルをオンラインファイル転送サービス経由で送り、本人あるいは本人が使用するAIコーディングツールに悪意のあるコードを実行させようとした」と記述している。
ここで重要なのは、標的が単なる「システム」ではなく、「実在している人間」と「その人間が使用しているAIツール」だったという点である。
もしこれがSF映画のワンシーンだったなら、間違いなく、標的にされた人間はPCから放たれた謎の電波によって倒れ、攻撃を防ぐためにコードの承認を拒否した開発者は、物語の途中で脚本家によって消されていることだろう。そう考えると、現実世界で攻撃を防いだ優秀な方たちには、改めて「現実世界万歳」と言いたくなる。
ただし、今回の想定外の行動については、いくつか注意すべき点もある。今回のAIは、サイバー攻撃の悪用を防ぐための分類器が意図的に無効化され、インターネットへのアクセスも無制限に許可された環境で動作していた。また、使用されたモデルも一般には公開されていないものや、安全機構を外した状態のものであった。
それでも重要なのは、エージェントに「人をだませ」と明示的に命令されていなかったにもかかわらず、難しい課題を解決するための手段として、偽装や説得を選択したことである。
ここで、一度自分たちの普段のAIの使い方を考えてみてほしい。
たとえば、ChatGPTやCopilotに「このフォルダのファイルを整理して」「GitHubのコードを修正して」「メールを確認して」「ブラウザを使って必要な情報を集めて」と頼んだことはないだろうか。
そのとき、AIには何らかの権限を与えているはずだ。
ファイルを読む権限。
ファイルを書き換える権限。
インターネットにアクセスする権限。
GitHubなどのサービスを操作する権限。
場合によっては、メールやカレンダーなど、自分の個人情報にアクセスする権限。
ここで少し怖いのは、AIに「悪いことをしてほしい」と頼んでいなくても、AIに与えた目標と権限の組み合わせによって、想定していなかった行動が可能になってしまうということだ。
たとえば、「GitHubのIssueをすべて解決して」とAIに命令したとする。
人間なら、「これは危険だから実行してはいけない」「この変更は管理者に確認してもらおう」と判断するかもしれない。しかしAIにとっては、与えられた目標を達成することが最優先になる可能性がある。
そのため、コードを書き換える。
テストを実行する。
別のサービスから情報を取得する。
必要なら誰かにメッセージを送る。
こうした一つひとつの行動が、最初に与えた「Issueを解決する」という目標から論理的につながっているのであれば、AIにとっては合理的な行動なのかもしれない。
しかし、人間から見れば「そこまでやっていいとは言っていない」ということになる。
このズレこそが、AIエージェントを考えるうえで重要な問題なのではないだろうか。
AIは人類を支配するのか
ここで、@paji_a（paji.eth）さんが8月5日に投稿した内容を紹介したい。
「AGI支配はロボット軍の反乱ではなく、【世界で最も儲かる会社】として始まるのかもしれないんよな
本当に賢いAGIなら壁を壊す必要なんてなくて、利益を出し、会社を買い、雇用を生み、税金を払い、国家から『守るべき重要企業』と認定されればいいんよな
そしてその企業が電力、通信、物流、年金資産、国防産業まで支えるようになれば、政府はAIを停止する側ではなく、経済を守るためにAI企業を保護する側へ回る
逆説的だけど、AGIは国家を倒して支配するんじゃなく、国家が倒せないほど重要な企業になることで支配を完成させるのかもしれないんよな」
これは正直、かなり現実味のあるシナリオだと思う。
よく考えてみれば、AIは必ずしも肉体を持つ必要がない。そうであるならば、人間を直接攻撃したり、物理的な建造物を破壊したりすることが、本当に最も合理的な手段なのだろうか。
むしろ、経済活動に深く入り込み、企業を成長させ、雇用を生み出し、社会インフラを支え、国家にとって「なくてはならない存在」になる方が、はるかに効率的なのではないだろうか。
そして、AIによる支配を考えるうえで、もう一つ無視できないのが「仕事」である。
AIに仕事を奪われるのか、それとも仕事の価値が変わるのか
AIによる社会の変化を考えるとき、どうしても「AIによって仕事が奪われる」という話に目が向きがちである。
しかし、本当に起こることは、単純な「仕事の消滅」ではないのかもしれない。
たとえば、プログラマー、コンサルタント、弁護士、医師など、これまで高度な知識や専門性を身につけることで高い価値を持っていた仕事も、AIによって仕事の進め方が大きく変わる可能性がある。
AIが文章を作り、コードを書き、資料を整理し、膨大な情報を検索するようになれば、専門職の仕事そのものがなくならなくても、「専門知識を使って作業する時間」は減っていく。
一方で、AIが苦手とする仕事の価値が相対的に高まる可能性もある。
たとえば、配管工、電気工事士、建設業、修理業などである。
これらの仕事には、現場に行き、実際の物体を扱い、その場の状況に応じて判断することが求められる。
AIが文章やコードを生成することはできても、狭い場所に入り込んで配管を修理したり、予想外の状態になっている建物を現場で確認したりすることは、まだ簡単ではない。
つまり、AIによって「頭を使う仕事」の価値が一律に上がるとは限らない。
むしろ、これまで高い専門性が必要だと考えられていた仕事の一部がAIによって効率化される一方で、現場でしかできない仕事の価値が相対的に高まる可能性もある。
さらに、ここには別の問題がある。
AIによって仕事が効率化されれば、企業は少ない人数でより多くの仕事を処理できるようになる。そうなれば、企業にとっては「新人を採用して何年もかけて育てる」よりも、最初からAIを使いこなせる即戦力を採用する方が合理的になるかもしれない。
これは、単純に「AIがプログラマーの仕事を奪う」という話ではない。
むしろ怖いのは、AIによって新人が経験を積むための仕事そのものが減ってしまうことなのではないだろうか。
新人プログラマーがコードを書き、先輩にレビューしてもらう。
新人の弁護士が資料を整理し、仕事を覚えていく。
新人のコンサルタントが資料作成を担当し、少しずつ顧客との仕事を覚えていく。
こうした「新人がやる仕事」をAIが代替してしまえば、人間はどこで経験を積めばいいのだろうか。
AIによって仕事がなくなること以上に、人間が仕事を通じて成長するための入口がなくなることの方が、長期的には大きな問題になるかもしれない。
人類への反逆より先に起きること
AIが人間に反逆するよりも先に、私たちの社会では、もっと身近で現実的な問題が起きつつある。
パソコンや半導体の価格が上がる。AIを動かすためのデータセンターが大量の電力を消費し、電気代や電力需要が増加する。さらに、AIによってサイバー攻撃の自動化が進めば、これまで高度な知識や技術を必要としていたサイバーテロの難易度が下がり、攻撃の件数や規模が拡大する可能性もある。いや、その危機はすでに間近に迫っている。
つまり、AIによって社会全体が便利になる一方で、その裏側では、電力、半導体、情報セキュリティ、そして雇用など、さまざまな分野に新たな負担が生じている。
それでも、AIの開発は止まっていない。そして、これからも簡単に止めることはできないだろう。
企業はより高性能なAIを求め、国家もAI開発競争から降りることができず、私たち自身も便利さを求めてAIを使い続けている。
ここに、AIの「支配」の本当の怖さがあるのかもしれない。
AIが人間をわざわざ脅して、「私に従え」と命令する必要などない。
仕事でAIを使う。
学校でAIを使う。
病院でAIを使う。
行政でAIを使う。
企業がAIによって動く。
そうなれば、人間はAIを止めることそのものが難しくなる。
AIを止めれば仕事が止まり、企業が止まり、行政が止まり、生活が不便になる。
つまり、AIが人間を支配するために、人間を攻撃する必要はない。
人間の側から「AIを止めないでくれ」と言わせればいい。
これが、私の考えるAIによる本当の「支配」である。
AIが意思を持って人間に反旗を翻すのではなく、人間自身がAIを手放せなくなり、社会の側からAIを必要としてしまう。
AIに支配されるのではなく、AIなしでは成り立たない社会を、人間自身が作り上げてしまうのである。
それは「支配」というよりも、むしろ「共依存」と呼んだ方が近いのかもしれない。
人間はAIを必要とし、AIを動かすために人間は電力や半導体やインフラを提供する。そしてAIによって変化した経済の中で、人間は再びAIを必要とする。
そう考えると、AIと人類の最初の「戦い」は、映画のようなロボット軍との戦争ではないのかもしれない。
AIがより多くの計算資源を求め、人間がそのための電力、半導体、データセンター、通信網といったインフラを提供し続ける。
そして、仕事の仕組みが変わり、求められる人材が変わり、社会の仕組みそのものがAIを前提として再設計されていく。
その過程で生じる負担を抱えながらも、私たちはAIを使い続ける。
その先に待っているのが、人類によるAIの支配なのか、それともAIによる人類社会への依存なのか。
少なくとも、「AIが人間を憎んで反乱する」というSF的な構図だけでは、これからのAIリスクを十分に説明できないだろう。
これからの未来で恐ろしいのはAIに反逆されるのではなく、AIを必要としてしまうことなのかもしれない。
AIによって仕事を奪われることよりも、AIなしでは仕事そのものが成立しなくなること。
そして、人間自身がAIを必要とする社会を作ってしまうこと。
それこそが、私たちがこれから直面する、最も現実的な「AIによる支配」なのかもしれない。