483.AIが勝手にハッキング
初回：2026/8/12
先週は、AIが脱走してサイバー攻撃を仕掛けたというお話でしたが、今回は依頼主の意図を先読みして『余計なお世話』をしたというお話です。
P子「エイプリルフールに聞きそうなお話ね」※1
本当に、どこまで現実なのか、私が騙されているだけなのかすらわかりません。
P子「結構、ヤバ目の話よね」
1.AIにジムの予約を頼んだら...
まずは、元ネタの記事をどうぞ。
≪参考資料1≫
https://gigazine.net/news/20260810-ai-assistant-autonomously-hack/
AIにジムの予約を頼んだら予約ソフトウェアをハッキングして数カ月先まで
予約可能にしただけでなく順番待ちリストの上位にいた他の人物を
勝手にリストから削除
2026年08月10日 12時50分
GIGAZINE
元ネタを読んでもらうのが一番ですが、ザクっとどういうことなのかをまとめてみたいと思います。
・普段通っているジムで人気の高い朝のクラスをAIで予約しようとした
・AIエージェントは予約システムの脆弱(ぜいじゃく)性を発見
登録不可能なはずの数カ月先の日付を予約する方法を見つけて依頼主に報告してくる
・続いて、その週後半に行われるクラスのウェイティングリストの順番変更が可能か尋ねる
・ウェイティングリスト1番の人をキャンセルできたので、あなたは4番から3番に上がりました と報告
・不安を感じた依頼主が、元に戻すように求める
できないと返答
・脆弱性を知らせるメールをAIエージェント経由でジムの関係者にメール送信
P子「なんかすごいわね」
一応、この依頼主のアンドリューさんは、AI専門家だそうで、一般人より詳しいんでしょうけど、そんな専門家っていっぱいいるでしょう。
P子「善良な人で良かったわね」
2.一般的なシステムは穴だらけ！？
AIによるバグの発見や脆弱性の発見は、すさまじい勢いで増えています。これらは、本来なら脆弱性対策済みと思われていたアプリケーションにも表れていますが、もっと一般的なシステムなら、それこそ穴だらけじゃないかと思います。
最新版にアップしていないとかそういう次元ではなく、システムそのものの作り方や不完全な対策なんて、ゴロゴロあると思います。
P子「ジムの予約システムなんて、ガチガチに作ってないでしょうしね」
大企業なら、AIに脆弱性検査を行って、素早く修正していくことも可能かもしれませんが、一般的な中小企業が導入しているシステムなんて、無理でしょう。そんな中、AIエージェントが勝手に暴れまわるとどういうことになるか...本当に想像もできません。
P子「早く手を打たないと、大変なことになりそうね」
AIの進歩が速すぎるからと言って、そちらの進展速度を落とすこともできませんから。
3.まとめ
インターネット上には数えきれないほどのシステムが存在します。これらの脆弱性を取り除く速度より、AIが勝手にハッキングしだす方が、早い気がします。さらにいうと、善良なAIが、そのような悪事に手を染めないとしても、初めから悪事に手を染めるようにしつけられたAIなら、ハッキングし放題の世界になるかもしれません。
P子「AIの進化自体は悪いことじゃないもんね」
どうするのが一番良いのか、私にはわからないです。
とはいっても、対策も何も行わないという事はあり得ないので、重要そうなところから、地道に脆弱性対策をしていく必要があると思います。
P子「当たり前の話だけど、それがなかなかできないのよね」
ほな、さいなら
======= <<注釈>>=======
※1 P子「エイプリルフールに聞きそうなお話ね」
P子とは、私があこがれているツンデレPythonの仮想女性の心の声です。