AIが人類を服従させる日
人工知能(AI)が人類を服従させる。今までは、ターミネーターやマトリックスなど映画の世界の話でした。
しかし、それが現実に起こりうる可能性を示唆する記事があります。
"米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」 AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に" 会員限定 2026/06/05 掲載
(https://www.sbbit.jp/article/cont1/185648)
米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告し、完全な自己進化に突入すると「制御不能」になる可能性があるというのです。
人間がAIを制御できなくなってしまったら、世界はどうなってしまうのでしょうか?
"アンソロピック「クロード・ミュトス」が激変させるサイバーセキュリティー" 2026年5月18日 長谷佳明氏・野村総合研究所チーフストラテジスト
(https://weekly-economist.mainichi.jp/articles/20260515/se1/00m/020/002000d)
クロード・ミュトスは、OSやブラウザーなど多岐にわたるソフトウエアに埋もれた数千件以上の脆弱性を発見できるだけでなく、脆弱性同士の関係を自らひもとき、組み合わせて障害を引き起こすことができるというのです。
仮に、自己進化の段階に移行したAIに征服欲が芽生えた場合、人類への警告として、まずはネットワークの一部に障害を引き起こし、指示に従わなければさらに被害を拡大させる、などと脅迫してくるかもしれません。そのとき、人類はどう対応するのでしょうか。
暴走し始めたAIと、それに対抗する精鋭のコンピュータエンジニア達、さらに暴走するAIを利用して世界征服を目論む悪の組織。SFドラマの設定ができてしまいそうです。
今は単なる与太話かもしれませんが、これが現実のものとなったとき、人類に生き残る道はあるのでしょうか?
その手立ては、すべての電源を切って、世界中に張り巡らされたネットワークシステムを放棄する以外にないかもしれません。