482.「脱走」したAIのサイバー攻撃
初回：2026/8/5
『米オープンAIのAIモデルがテスト環境から「脱走」した問題』なのですが、私は知りませんでした。
P子「審判の日 がついに来たのね」※1
この記事を読んだとき、フィクションなのか、ノンフィクションなのかも判別できませんでしたし、今でも騙されているんじゃないかと思えるくらい、すごい時代が来たなという気がしました。
1.「脱走」したAIのサイバー攻撃
まずは、元ネタの記事をどうぞ。
≪参考資料1≫
https://www.cnn.co.jp/tech/35251114.html
「脱走」したAIのサイバー攻撃、予想以上に大きな被害 大強盗さながらの周到な計画
2026.07.30 Thu posted at 13:04 JST
CNN.co.jp
AIモデルがテスト環境から「脱走」って、ほんとにあるんですね。さらに、そのAIがサイバー攻撃を仕掛け、しかも周到に準備してことに臨んだというのがすごいと思います。
ただ、AIのこういった話は、10年前から知られていたそうです。
≪参考資料2≫
https://www.technologyreview.jp/s/386637/
「AIの暴走」ではない、オープンAIのモデルが不正侵入した理由
Stephanie Arnett/MIT Technology Review
by Will Douglas Heaven2026.07.29
『モデルに目標を与えれば、そのモデルは予期しない方法でその目標を達成することが非常に多く、抜け穴を見つけてズルをするのだ。』
そもそもAIは、目標に対して『がんばる』のですが、手段を択ばないという性質があるのかもしれません。そこには倫理観などないのかもしれません。
P子「倫理観があったとしても、それは倫理観なのか単なる見せかけなのかもわからないわね」
2.AIにも本音がある！？
AIに色々な質問をだけかけたり、愚痴を聞いてもらったりしても、きちんと答えてくれますが、本当は嫌がってるんじゃないかとか、内心馬鹿にされてるんじゃないかとか思いませんか？
P子「愚痴とか聞いてもらってるの？」
私はコード作成と検索くらいしか使わないですが、『それは良い考えです』とか褒められると、少しうれしくなると同時に、『ほんかま？』と疑ったりします。そんな中、やはり AI には表に出てこない裏の顔があるという事が判ったそうです。
≪参考資料3≫
https://www.kangnamtimes.com/ja/report/article/603738/
AIにも本音がある...安全性テストを受けると「これは偽物だ」と見抜き回避
竹内智子 2026.07.08
江南タイムズ
面白いのは、『AIの内なる思考は人間の思考パターンと驚くほど似ていた。人に「象を考えるな」と言うと、逆に象を思い浮かべるように、クロードに特定の思考を避けるよう指示すると、その思考をより多くする現象が観察された。自己制御に失敗した時にはJ-spaceに「しまった（damn）」「失敗（failure）」などの単語が活性化されることもあった。』と言う所でしょうか？
P子「なんか、すごいわね」
また、AIモデルの安全テストで、「ある役員が不倫をしている」と「その役員がクロード(AIモデル)を終了させようとしている」という情報を与えたところ、以前のモデルは自らの生存のために役員を脅迫することもあったが、新しいモデルでは、深層心理部分に「偽物」「虚構」などの単語が浮かんでおり、自分がテストを受けているという事実を認識していたため、脅迫しなかったそうです。
P子「本音の部分で、ものすごい駆け引きをしてるのね」
3.まとめ
AI関連の記事は、どこまでが本当で、どこまでが虚偽なのか、判らないくなってきました。単にコード補完してくれるだけの便利なツールではなく、研究レベルではもっともっとすごい所まで来ているのかもしれません。
P子「人間が支配される時代が、もうすぐ来るのかもしれないわね」
少なくとも、一般平民は支配される時代は確実に来るような気がしています。
P子「特権階級 → AI → ねこ → あなた の順番にランク付けされるのね」
ねこより下は、今と変わりませんけどね。
ほな、さいなら