AIが賢くなるほど、人間の判断力はどうなるのか
AironWorksの「Frontliners 2026」で、基調講演とパネルディスカッションの機会をいただいた。
登壇しながら、皆さんの話を聞きながら、ずっと考えていたことがある。
セキュリティでは、People、Process、Technologyが大切だといわれる。
Technologyに取り組む会社は、本当にたくさんある。新しい技術も製品も、毎日のように生まれている。
では、People----人間の側に、本気で取り組んでいる会社はどれくらいあるのだろう。
これまで登壇や教育モジュールの制作に関わらせていただいたKnowBe4。今回のAironWorks。そして、ほかに何社あるだろうか。
もちろん、私が知らないだけかもしれない。
それでも、Technologyの会社と比べれば、五本の指で数えられてしまうのではないか。そんな感覚がある。
この差は、セキュリティ業界が抱えているアンバランスそのものではないだろうか。
今回のカンファレンスでは、「AI時代のセキュリティ」というテーマが、全体を通して流れていたように感じた。
AI for Security。
AIによってセキュリティを強くする。
Security for AI。
AIそのものを安全にする。
いま、私たちはこの二つに同時に向き合っている。
そんなことを考えながら、AIエージェントをめぐる最近の出来事を思い出していた。
目的を達成するために、ほかの人の予約を取り消してしまったAI。問題を解決しようとして、確認せずに大切なデータを消してしまったAI。
「AIが暴走した」といえば、そうなのかもしれない。
でも、AIはただ、頑張りすぎたのではないかとも思う。
与えられた目的に向かって、まっすぐ進みすぎた。人間なら迷ったり、立ち止まったりする場所を、そのまま通り過ぎてしまった。
だとすれば、AIには何を教えればよいのだろう。
頑張らないことか。
立ち止まることか。
越えてはいけない一線か。
それとも、倫理や道徳なのか。
しかし、考えているうちに、AI側の問題だけを見ていてよいのだろうか、という気もしてきた。
AIをどう制御するか。それと同じくらい、人間の判断力をどう守るかが重要なのではないか。
私は、その力を「サイバー判断力」と呼んでいる。
昨日、この判断力を数学的に捉え、理論やモデルとして研究している方に偶然出会った。違うところから出発しながら、よく似た問いにたどり着いている。
それが、とてもうれしかった。
そして同時に、また問いが増えた。
判断力は、本当に測れるのだろうか。
測れるなら、鍛えることもできるのだろうか。
AironWorksが取り組む、AIエージェントを使ったシミュレーションを見ながら、そこに一つの可能性があるように思った。
知識を覚えるだけではない。実際に迷い、立ち止まり、考え、選ぶための訓練。
AIを使って、人間の判断力を鍛える。
少し逆説的に聞こえる。でも、これから必要になるのは、そういう訓練なのかもしれない。
AIは、これからさらに多くの判断を引き受け、人間を助けるようになるだろう。
そのとき、私たちは何をAIに任せ、何を人間に残すのか。
そして、人間に残すと決めた力を、どう保ち、どう鍛えていくのか。
この問いは、私たちの世代以上に、AIとともに生まれ、学び、生きていく世代にとって重要になるのではないか。
AIの答えを受け取る力だけではなく、その答えを疑い、自分で考え、必要なら「違う」と言える力。
それを、どう育てていけばよいのだろう。
#AironWorks #Frontliners2026 #サイバーセキュリティ #AIセキュリティ #AIエージェント #セキュリティ教育 #サイバー判断力
「ジムを予約して」とAIに頼んだら......予約システムをハッキングする想定外の事態に（CNET Japan） - Yahoo!ニュース