人間を置いてきぼりにしないサイバーセキュリティへ
Safety-I／Safety-IIから考える「サイバー判断力」と「間」
金曜日に広瀬さんの講義を聞いた。テーマは、Safety-I、Safety-II、そしてサイバーセキュリティだった。講義を通して、私が取り組んでいる人間中心のサイバーセキュリティについて、考えを深めるとともに、続けていく勇気を得た。
勇気づけられたことは二つある。一つは、安全を捉える視点そのものを広げていくことの意味であり、もう一つは、人間が日々、安全をつくっている働きに目を向けることの重要性である。
私は「サイバー判断力」と「間（Ma）」を提唱し、その実装を目指している。新しい概念を言葉にし、現場で役立つ形にしていく道は平坦ではない。既存の枠組みとの関係を問われ、独自性と実効性の双方を説明しなければならない。くじけそうになることもある。
それでも、サイバーセキュリティの考え方は、これまでも変化してきた。Zero Trustは信頼の置き方を問い直し、ISMSは組織として情報セキュリティを管理し、改善する枠組みを提供してきた。それぞれ射程は異なるが、安全を実現するための視野を広げてきた点に学ぶことは多い。
人間中心のサイバーセキュリティも、そのような視野の拡張として考えたい。技術や管理の仕組みを土台にしながら、そのなかで判断し、迷い、確認し、仕事を進める人間を、設計の中心に据えることである。
人間を置いてきぼりにしないデジタルの世界へ。その方向を、私は具体的な研究と実践によって確かなものにしたい。
Safety-Iは、事故や失敗などの望ましくない出来事をできる限り減らすことに焦点を当てる。Safety-IIは、変動する条件のもとで、なぜ日々の活動がうまくいっているのか、その働きをどう支えられるかを問う。両者は補完的な視点である。EUROCONTROLの白書も、日常の安全を生み出す人間の働きを理解し、それを支える環境を設計する必要性を示している［1］。
この視点をサイバーセキュリティに持ち込むと、問いが広がる。
私たちは「なぜ、その人は不審なメールを開いてしまったのか」を調べる。それとともに、「多忙な日々のなかで、人々はどのように違和感に気づき、確認し、相談して、被害を防いでいるのか」も調べる必要がある。
日常には、記録されにくい安全の働きがある。送金前に別の経路で相手を確かめる。急ぎの依頼でも、いつもと違う点を同僚に尋ねる。判断に迷った操作をいったん保留する。こうした小さな調整によって、業務と安全が両立している場面があるはずだ。
私が考えるサイバー判断力は、こうした状況のなかで、進める、疑う、保留する、確認する、助けを求めるといった行動を選び取る力である。そして「間」は、その選択肢を保つための余白である。
ここでいう「間」は、単に判断を遅くすることではない。判断を急いで固定せず、状況を捉え直し、必要な行動に移れる余地を持つことである。
その余地は、本人の心がけだけでは生まれない。確認する時間があり、相談相手がいて、保留することが認められ、信頼できる確認経路が使える必要がある。立ち止まるよう求めながら、実際には即答や即処理しか許さない環境では、「間」を生かすことは難しい。
この意味で、サイバー判断力を育てる取り組みには、その力を発揮できる環境の整備も含まれる。
こう考えながら読み返したのが、Holsteinらの論文 Think Once, Reflect Twice: How Feedback Shapes Human-AI Collaboration である［2］。
この研究は、AIの助言を伴うローン審査課題において、AIの助言を覆した判断に対する事後フィードバックが、その後の振り返りや依拠行動にどう関係するかを調べている。失敗した判断だけを示された条件では、その後の判断中の熟考に関する自己報告が有意に低下した。成功だけを示した条件にも低下傾向があったが、通常の有意水準には達していない。成功と失敗の双方を示した条件では、その低下は確認されなかった。ただし、熟考は事後の自己報告で測られており、認知過程を直接観察した結果ではない。
この知見から私が受け取るのは、振り返りの設計には、次の判断まで見通す必要があるという示唆である。
判断の前や最中に立ち止まれるよう支えることと、判断後に経験をどう振り返るかを支えることは、分けて設計する必要がある。そして、両者がどうつながるかを確かめなければならない。
前回の経験から「自分はいつも正しい」「AIに従えばよい」といった単純な教訓だけを受け取れば、次の場面で状況を吟味する選択肢が狭まるかもしれない。「間」を育てるには、その場の余白をつくることに加えて、経験からの学びが次の余白をどう変えるかにも目を向ける必要がある。
ここには、Safety-IIを実践するうえでも大切な論点がある。成功例を集めて称賛するだけでは、安全を支える仕組みは十分に見えてこない。
被害が起きなかったという結果だけでは、判断が適切だったかどうかは分からない。確認が機能したのか、周囲の支援があったのか、それとも偶然に助けられたのか。失敗した場合にも、その時点で得られた情報や使えた手段を見なければ、判断の妥当さを評価できない。
学ぶべきなのは、結果と、その結果に至った判断や条件との関係である。
例えば、デジタル避難訓練では、正答率や誤クリック率を把握することに意味がある。そのうえで、参加者が何に気づき、どこで迷い、何を根拠に確認へ進んだのかを知りたい。相談や保留を可能にした条件は何だったのか。確認したくても、できなかった事情はなかったか。同じ判断方法が通用しなくなるのは、どのような場面か。
訓練後の振り返りでは、成功と失敗の双方について、こうした過程を扱いたい。そして次の訓練で、判断や行動がどう変化したかを確かめたい。これは今回の論文が直接実証した訓練方法ではない。私たちが、サイバーセキュリティの現場で検証していくべき課題である。
AIへの「適切な依拠」の研究も、この方向と接続する。問われるのは、AIに従う頻度だけではなく、助言の正しさに応じて採否を選べるかである［3］。実際の判断では正解があらかじめ見えないからこそ、何を根拠に従い、疑い、確かめたのかを捉えることが重要になる。
もちろん、サイバー空間には、人の判断を意図的に誘導する攻撃者がいる。確認しようとする行動さえ、偽の窓口へ導かれることがある。だからこそ、人の判断を支える取り組みは、技術的な防御や組織の運用と組み合わせて設計しなければならない。
今回の講義と論文を通して、私のなかで一つの問いが、以前より明確になった。
人が日々、安全をつくっている判断を理解し、その判断を可能にする「間」を支え、経験からの学びが次の判断の選択肢を広げるようにできるか。
「間」の意義は、立ち止まった秒数だけでは測れない。状況を捉え直せたか。必要な確認や相談につながったか。そして組織は、それを可能にする条件を整えられたか。その積み重ねによって、サイバー判断力を具体的に示していきたい。
これをパラダイムシフトと呼べるかどうかは、今後の研究と実践の積み重ねによって確かめられていくだろう。新しい名前を掲げること以上に、その概念によって何が見えるようになり、何を変えられるかが問われる。
それでも、目指す方向は明確である。
判断する人間を支え、その人が安全をつくるための条件を整える。人間を置いてきぼりにしないデジタルの世界に向けて、私はこの取り組みを続けていきたい。
#人間中心のサイバーセキュリティ #サイバー判断力 #間Ma #SafetyI #SafetyII #デジタル避難訓練 #人間とAI #判断を支える #安全をつくる
参考文献
［1］EUROCONTROL, Human Factors Integration in ATM System Design: A White Paper, 2019.
［2］J. Holstein, P. Spitzer, S. Schäfer, M. Förster, and G. Satzger, "Think Once, Reflect Twice: How Feedback Shapes Human-AI Collaboration," arXiv:2610.19991, 2026（プレプリント）.
［3］M. Schemmer, N. Kühl, C. Benz, A. Bartos, and G. Satzger, "Appropriate Reliance on AI Advice: Conceptualization and the Effect of Explanations," IUI '23, 2023.