【Human-Centered AI｜Day 5/10】人間のDecision Bandwidth（判断の間）を守る
AIは、人間の注意を使い切らせるのではなく、重要な判断のために間を残すべきである
私たちは、仕事の負担を「作業量」で測りがちです。
何件のメールを処理したか。
何件のアラートを確認したか。
何件の申請を承認したか。
何件の問い合わせに対応したか。
しかし、人を消耗させるのは、作業量だけではありません。
もう一つ、見えにくい負担があります。
それが、判断の積み重なりです。
人は一日の中で、大小さまざまな判断を繰り返しています。
これは本物か、それともノイズか。
今すぐ対応するべきか。
誰かに相談するべきか。
上司や専門部署へ報告するべきか。
この例外を認めてよいか。
このAIの推奨を信じてよいか。
ここで止めるべきか、それとも進めるべきか。
一つひとつは、小さな判断に見えます。
しかし、それが何十回、何百回と積み重なると、人間の注意と判断力は少しずつ削られていきます。
認知疲労に関する研究でも、疲労によって判断の一貫性や、情報の使い方が不安定になる可能性が示されています。
本稿では、人がその瞬間に意味のある判断を行うために使える、限られた間を、Decision Bandwidth（判断の間）と呼びます。
判断の間は、広く確立された単独の学術用語というよりも、認知負荷、判断疲労、注意の有限性、そしてAI時代に人間へ残すべき役割を一つに捉えるための、HCCSの作業概念です。
簡単に言えば、
人が立ち止まり、考え、確かめ、責任ある判断をするために残っている、頭と心の余白
という意味です。
1．判断の間とは何か
判断の間（判断の余力）は、単なる集中力ではありません。
人がその場で、次のことを行うために使える間です。
- 情報の意味を理解する
- 小さな違和感に気づく
- 事実と推測を分ける
- 分からないことを認識する
- 複数の選択肢を比べる
- 行動した場合の影響を考える
- 必要に応じて立ち止まる
- 他の人へ相談する
- 判断の理由を説明する
- 結果に責任を持てる判断をする
この間は、無限ではありません。
疲れているとき。
焦っているとき。
時間に追われているとき。
多くの通知が同時に届いているとき。
責任の重い判断が続いているとき。
人間の判断の間は小さくなります。
重要なのは、そのとき人が「考えることを放棄している」と決めつけないことです。
実際には、
考えるための余地そのものが、残っていない
ことがあります。
これは、個人の気合いや意識だけで解決できる問題ではありません。
人が判断の間を失いやすい仕事の流れやシステムを、組織がどのように設計しているかという問題です。
2．AIは負担を減らす一方で、人間の注意を奪うこともある
AIは、人間の負担を減らすために導入されます。
しかし、実装の仕方によっては、AIが人間の注意をさらに消費することがあります。
例えば、次のような状態です。
- AIが大量のアラートを生成する
- ほぼすべての推奨に、人間の承認を求める
- 重要度の低い出力も、重大な出力と同じように表示する
- 複数のシステムが、同じ問題を繰り返し通知する
- AIの判断理由が分からず、人間が毎回調べ直す
- 自動化した処理の最後に、人間が形式的な確認だけを求められる
- AIが間違えないように、人間が常に監視し続ける
これは、見かけ上は「最後に人間が関与している」ように見えます。
しかし実際には、人間を価値の低い確認作業に縛りつけています。
AIを導入した結果、
通知が増える。
確認が増える。
承認が増える。
画面の切り替えが増える。
小さな判断の回数が増える。
のであれば、人間の判断の間は守られていません。
むしろ、AIによって使い切られています。
NISTのAI Risk Management Framework（AIリスクマネジメント・フレームワーク）は、AIを単独の技術としてではなく、socio-technical system（人と技術、組織が一体となった仕組み）として捉えています。AIのリスクや効果は、モデルだけでなく、人間の行動、仕事の流れ、組織の役割、利用される状況との関係によって生まれるという考え方です。
したがって、「AIの精度が高いから、人間の負担も減る」とは限りません。
実際の仕事の中で、人間の確認や判断がどれだけ増減したかまで見なければなりません。
3．「最後は必ず人が確認する」が、人間中心とは限らない
Human-Centered AI（人間中心AI）というと、
最後は必ず人間が確認するべきだ
と考えられがちです。
しかし、すべての処理に人間を関与させることが、直ちに人間中心になるわけではありません。
例えば、
毎日何百件も発生する、既知の低リスクなアラートを毎回人が確認する。
自動的に集められる証拠を、毎回人が承認する。
同じ問題について届いた通知を、人が一件ずつ閉じる。
明確なルールで処理できる低リスクの申請を、必ず管理職が確認する。
こうした運用は、一見すると「人間が統制している」ように見えます。
しかし実際には、人間の注意を、本来それほど必要としない作業に使っています。
その結果、本当に曖昧で重大な判断が必要になったときに、考える間が残っていない可能性があります。
人間中心AIの目的は、人をすべての工程に残すことではありません。
人間にしか担えない判断のために、人間の注意を残すことです。
4．Automation Bias（自動化への過信）
ここで注意しなければならないのが、automation bias（自動化への過信）です。
これは、人がAIや自動化システムの出力を過度に信頼し、自分で十分に確認しなくなる傾向を指します。
例えば、
AIが承認を推奨しているから、問題ないだろう。
リスクスコアが低いから、安全だろう。
システムが警告していないから、異常はないだろう。
と考えてしまうことです。
自動化への過信に関する研究では、意思決定支援システムが全体として役立つ場合でも、人間が出力を過信すると、新しい見落としや誤った行動が生じる可能性が整理されています。
さらに、AIの判断が正しいかを確認する作業が複雑であるほど、人間による検証は難しくなります。
大量のデータを見直さなければならない。
複数の画面を開かなければならない。
モデルの仕組みが理解できない。
確認するための時間がない。
このような環境では、人間は「確認した」という形式だけを残し、実際にはAIの推奨をそのまま受け入れやすくなります。
検証作業の複雑さと自動化への過信の関係についても、体系的な研究が行われています。
したがって、
人間が承認ボタンを押したから安全である
とは言えません。
必要なのは、人間が実際に、
- 判断理由を理解できる
- AIの出力を疑える
- 必要な情報を確認できる
- 推奨を拒否できる
- 判断を保留できる
- 他の人へ相談できる
状態です。
5．Human-in-the-loop（判断過程に人間を入れる仕組み）の落とし穴
AIの分野では、human-in-the-loop（判断過程に人間を入れる仕組み）という言葉がよく使われます。
これは、AIだけで処理を完結させず、途中または最後に人間が確認や判断を行う仕組みです。
しかし、人間が形式的にループの中に存在するだけでは十分ではありません。
例えば、
- 情報は見えない
- 判断理由は分からない
- 時間は与えられない
- AIを止める権限がない
- 推奨を拒否すると説明を求められる
- 問題が起きた場合だけ、人間が責任を負う
という状態であれば、人間は判断者ではありません。
単に、AIの判断へ名前を付ける承認者になっています。
重要なのは、
人間がループの中にいるかどうかではなく、その人が意味のある判断を行えるかどうか
です。
人間に判断を求めるのであれば、少なくとも情報、時間、権限、そして異議を唱える手段が必要です。
6．具体例1：セキュリティ担当者の500件のアラート
あるセキュリティ担当者が、一日に500件のアラートを受け取るとします。
そのうち、
- 450件は、すでに知られている低リスクのパターン
- 40件は、過去の事例と照合すれば分類できるもの
- 残り10件は、人間の判断が本当に必要なもの
だったとします。
残りの10件には、例えば次の特徴があります。
- 情報が不完全である
- 複数の説明が考えられる
- 事業への影響が大きい
- 利用者の意図や背景を考える必要がある
- システムを止めるか決める必要がある
- 通常ルールの例外を認めるか判断する必要がある
それにもかかわらず、人間が500件すべてを同じように確認する設計なら、重要な10件に到達する前に疲れてしまいます。
これは、alert fatigue（アラート疲れ）の典型的な問題です。
アラート疲れとは、通知や警告が多すぎるため、人が重要なものを見分けにくくなり、反応が遅れたり、見落としたりする状態です。
SOC（Security Operations Center／セキュリティ監視・対応部門）におけるアラート疲れは、単なる通知量の問題ではなく、認知負荷、運用負荷、見落とし、疲弊などが関係する複合的な問題として研究されています。
ここでAIが本当に担うべきなのは、500件を500件のまま人間へ渡すことではありません。
AIは、
- 既知の低リスクパターンを処理する
- 同じ事象に関する通知をまとめる
- 過去の類似事例を探す
- 関連ログを集める
- 不足している情報を示す
- 影響度や緊急度で整理する
- 事前に合意された範囲で、低リスク案件を自動処理する
といった役割を担えます。
その上で人間には、
この10件には、人間の判断が必要です。
その理由は、この部分です。
まだ分かっていないことは、これです。
次に確認するべきことは、これです。
と示すべきです。
これが、人間の判断の間を守る設計です。
7．具体例2：管理職の50件の承認
管理職が、一日に50件の承認依頼を受け取るとします。
それぞれに、
AI推奨：承認
信頼度：87％
と表示されています。
形式上は、管理職が最終判断を行っています。
しかし管理職は、50件すべてについて、
本当に承認してよいのか。
通常とは異なる例外ではないか。
誰に影響するのか。
後で重大な問題にならないか。
AIの推奨に従ってよいのか。
を考えなければなりません。
50件すべてに十分な注意を向けることは、現実には難しいでしょう。
その結果、次のどちらかが起こります。
一つは、AIの推奨をほぼ自動的に承認すること。
もう一つは、すべてを疑い、確認に多くの時間を使うことです。
どちらも、望ましい人間中心AIではありません。
必要なのは、案件を分けることです。
自動処理できる案件
- ルールが明確である
- 影響が小さい
- 後から元に戻せる
- 過去にも同様の処理実績がある
- リスクが事前に合意されている
人間の確認が必要な案件
- 通常ルールから外れる例外である
- 人や事業への影響が大きい
- 一度実行すると元に戻せない
- 利害が対立している
- 証拠が矛盾している
- 倫理、価値、公平性に関する判断が必要である
重要なのは、すべてを人間へ渡すことではありません。
人間の判断が本当に必要な案件だけを、人間へ渡すことです。
8．AIは何を引き受けるべきか
人間の判断の間を守るために、AIは次のような役割を引き受けることができます。
1．繰り返しの分類
既知のパターンに基づいて、案件を仕分けたり、担当部署へ送ったりする。
2．必要な情報の収集
関連ログ、過去の事例、手順書、社内ルールを集める。
3．重複の削減
同じ問題について届いた複数の通知を、一つにまとめる。
4．不足情報の特定
判断前に、何が足りないのか、何を確認する必要があるのかを示す。
5．選択肢の整理
考えられる対応方法と、それぞれの利点、リスク、影響を整理する。
英語では、こうした利点と不利益の比較をtrade-off（何かを得ると、別の何かを失う関係）と呼びます。
6．低リスク処理の自動化
事前に決められた安全な範囲の中で、定型的な処理を行う。
ここで強調したいのは、AIが最終判断を奪うべきだということではありません。
AIは、人間が判断しなくてもよい部分を減らし、
人間が判断するべき部分を明確にする
べきです。
9．人間の注意を守るための設計
判断の間を守るには、AIモデルの精度を上げるだけでは足りません。
仕事の流れと組織の仕組みを変える必要があります。
通知を減らす
すべてを知らせるのではなく、行動が必要なものを優先して知らせる。
同じ判断をまとめる
同じ問題に関係する複数の案件を、一つの判断単位にする。
不要な中断を減らす
重要度の低い通知が、作業へ何度も割り込まないようにする。
AIの不確実性を見えるようにする
「信頼度87％」だけでなく、何が分からないのか、どの条件では精度が下がるのかを示す。
人間が確認する理由を示す
「人間の確認が必要です」と表示するだけではなく、
影響が大きいため
証拠が矛盾しているため
元に戻せない処理であるため
など、理由を明らかにする。
相談、保留、停止の道をつくる
一人で抱えず、誰かへ相談できるようにする。
今すぐ決められない場合は、保留できるようにする。
危険がある場合は、処理を止められるようにする。
重大判断を一人へ集中させない
負担の大きい判断が続いた後に、同じ人へさらに重大な判断を任せない。
人間の注意を守ることは、個人の集中力や根性の問題ではありません。
組織とシステムの設計責任です。
10．人間の注意は、有限の安全資源である
サイバーセキュリティでは、ツール、データ、予算、人員を資源として管理します。
しかし、人間の注意もまた、限りのある資源です。
注意が減ると、人は、
- 小さな違和感を見落とす
- 確認を省略する
- 初期設定のまま進める
- AIの推奨を過信する
- 誰かへの相談を後回しにする
- 十分に考えるより、早く終わらせることを優先する
ようになります。
これは個人の弱さではありません。
人間の判断力を使い切るように設計された環境の結果です。
Human-Centered AI（人間中心AI）が目指すべきなのは、人間を常にAIの監視役として拘束することではありません。
AIが繰り返し作業やノイズを引き受け、人間には、
- 背景や文脈を考える
- 責任の所在を考える
- 価値や公平性を考える
- 例外を判断する
- 重大な影響を考える
場面で、立ち止まれる間を残すことです。
AIが速く動くからといって、人間の判断まで常に速くする必要はありません。
11．HCCSが考える「判断の間」
HCCSでは、人が安全に判断するために、次の流れを重視しています。
感じる
→ 止まる
→ 間をつくる
→ 疑う
→ 確認する
→ 行動する
しかし、人間に判断の間が残っていなければ、
違和感に気づくことも、
立ち止まることも、
問い返すことも、
別の経路で確認することも、
誰かへ相談することも、
難しくなります。
だから、判断の間は単なる生産性の問題ではありません。
安全な判断を行うための基盤です。
AIは、人間の残された注意を奪ってはなりません。
人間にしか扱えない意味、責任、文脈、価値判断のために、その注意を守るべきです。
12．結論
あなたの組織のAIは、人間の判断負荷を本当に減らしているでしょうか。
それとも、
新しい通知、
新しい確認、
新しい承認、
新しい監視、
を増やし、人間の注意をさらに消費しているでしょうか。
Human-Centered AI（人間中心AI）とは、すべてに人間を関与させることではありません。
本当に重要な判断のために、人間の注意を残すことです。
AIは、人間の注意を使い切らせてはならない。
AIは、繰り返し作業とノイズを引き受けるべきである。
AIは、人間が立ち止まり、考え、問い返すための間を守るべきである。
AIは、人間の注意を消費するのではなく、
重要な判断のために「判断の間」を残すべきである。
あなたの組織では、人間が立ち止まり、考えるための間が守られているでしょうか。
参考文献
[1] E. Tabassi, "Artificial Intelligence Risk Management Framework (AI RMF 1.0)," NIST AI 100-1, National Institute of Standards and Technology, Jan. 2023.
[2] R. Schwartz, A. Vassilev, K. Greene, L. Perine, A. Burt, and P. Hall, "Towards a Standard for Identifying and Managing Bias in Artificial Intelligence," NIST Special Publication 1270, National Institute of Standards and Technology, Mar. 2022.
[3] K. Goddard, A. Roudsari, and J. C. Wyatt, "Automation bias: a systematic review of frequency, effect mediators, and mitigators," Journal of the American Medical Informatics Association, vol. 19, no. 1, pp. 121-127, 2012, doi: 10.1136/amiajnl-2011-000089.
[4] D. Lyell and E. Coiera, "Automation bias and verification complexity: a systematic review," Journal of the American Medical Informatics Association, vol. 24, no. 2, pp. 423-431, 2017, doi: 10.1093/jamia/ocw105.
[5] O. A. Mullette-Gillman, R. L. F. Leong, and Y. A. Kurnianingsih, "Cognitive Fatigue Destabilizes Economic Decision Making Preferences and Strategies," PLOS ONE, vol. 10, no. 7, e0132022, 2015, doi: 10.1371/journal.pone.0132022.
[6] S. Tariq et al., "Alert Fatigue in Security Operations Centres: Research Challenges and Opportunities," ACM Computing Surveys, 2025, doi: 10.1145/3723158.