攻撃に対して「ハックされにくい人間」に

AIと学ぶ時代に、判断する力をどう鍛えるか

»

u5292553157_AI_and_humans_are_working_together_to_do_penetrat_a9b4ea02-3e6b-4a57-ba84-543c75396777_3.png

AIを訓練に取り入れるとき、問うべきなのは、課題をどれだけ速く解けるかだけではない。AIの提案を受けた人間が、その根拠を確かめ、誤りを見抜き、必要なら方針を変えられるかである。訓練の成果を、その場で得られた正解だけで評価してしまえば、人間の能力が育ったのか、AIが能力を補ったのかを見誤る。

この問題を考える手がかりが、TangらによるUSENIX Security 2026の研究である[1]。研究チームは、会場型のサイバーセキュリティ競技「CTF」の参加者95人のうち41人を対象に、AIとの協働を調べた。また、同じ未公開課題に四つの自律型AIを取り組ませ、人間との成果や解法の過程を比較した。そこで示されたのは、AIを使いこなす力とサイバー分野の専門知識が、互いを補い合うという関係である。AIが探索を速める一方、人間による方向づけと検証が重要な役割を果たした[1]。

この知見から考えると、AIリテラシーを、上手な指示文を書く技術だけに狭めるべきではない。何をAIに尋ねるかを定め、返答の妥当性を判断し、確かめる方法を選ぶところまで含める必要がある。そして、その判断を支えるのが専門知識である。対象について理解しているからこそ、もっともらしい説明の弱点に気づき、追加の証拠を求められる。AIを使う技術を教えることと、専門知識を教えることは、訓練の中で結びつけて設計すべきだ。

これは、デジタル避難訓練にも示唆を与える。不審な連絡や情報漏えいの疑いに直面したとき、AIから対応案を得ることはできる。しかし、訓練で育てたいのは、案を受け取る習慣だけではない。何が未確認なのか、どの情報を信頼できるのか、誰に確認すべきなのかを、自分で判断する力である。AIを利用する場面でも、人間が判断主体であり続けるための稽古が求められる。

そのためには、「答えを得る訓練」と「AIを問い、疑い、検証する訓練」を区別して設計することが有効だろう。例えば、AIを自由に使う条件、AIが結論を提示する条件、AIが問いかけや助言を通じて支援する条件を比較する。評価では正答率や所要時間に加え、参加者が自ら方針を変えた場面、提案を検証した場面、根拠をもって提案を退けた場面を捉える必要がある。ただし、検証や拒否は、回数が多ければよいわけではない。状況に照らして適切だったかを評価しなければならない。

さらに重要なのは、AIを使った訓練の後、AIなしでも対応できるかである。その場の成績向上と、人間の技能向上は同じではない。時間を置いた再評価や別の場面への応用を通じて、判断力が保持され、転移したかを確かめたい。

もちろん、この研究だけで一般向けの訓練効果まで断定することはできない。CTFは、技能や参加意欲の高い人が集まる特殊な環境であり、長期的な技能保持や実務への転移には、別途の検証が必要である。それでも、訓練を設計するうえでの問いは明確になる。AIによって何問多く解けたかに加えて、AIと関わることで、人間は何を判断できるようになったのか。その問いを中心に据えることが、AIリテラシーと専門知識の双方を育てる訓練につながる。

参考文献

[1] T. Tang et al., "From Assistance to Autonomy: An Empirical Study of AI Use in a Live Capture-the-Flag (CTF) Competition," in Proc. 35th USENIX Security Symposium (USENIX Security 26), Baltimore, MD, USA, Aug. 2026, pp. 6645-6664. [Online].

Comment(0)

コメント

コメントを投稿する