判断する人間をどう支え、どう守るか
デジタル避難訓練で考える「間」の設計
「最後は人間が判断する」。AIを業務に組み込むとき、私が気になるのは、その「最後」にどんな仕事が残されているかだ。
たとえば、上司を名乗るメールで、今日中の送金を求められたとする。メールを点検するAIは「安全」と表示している。担当者は振込先がいつもと違うことに気づくが、上司には連絡がつかない。承認画面には「振込先を確認しましたか」とある。担当者が確認できたのは、振込先がいつもと違うことまでだ。依頼が本物かどうかは、まだ分からない。
あとから記録を見れば、誰が承認したかは分かる。その人に送金を保留する権限があったか、本人に別の経路で連絡できたか、相談を受けて動ける人がいたかは、承認の記録からは分からない。人が確認したかという問いと、その人が判断できる条件にあったかという問いは、分けて考える必要がある。
判断を見直せる「間」
確認項目を増やせば、見落としていた点に気づけることがある。一方で、別の画面を開くたびに作業が中断され、必要な情報もすぐに見つからないなら、確認そのものが負担になる。どの確認が役立つかは、確認を求められた人が、その場で何をできるかによって変わる。
この場面なら、今回の振込先と登録済みの振込先を見比べられる。送金を保留して、登録済みの番号から依頼者に連絡できる。AIの「安全」が何を確認した結果なのかも分かる。そうした手段があれば、担当者は違和感を手がかりに判断を見直せる。正規の依頼だと確かめられれば、手続きを進められる。
私は、このように実行する前に判断を見直し、必要なら引き継げる余地を「間」と呼びたい。数分の猶予があっても、その間に照合も相談もできなければ、担当者は同じ材料でもう一度判断を迫られる。何分止まったかより、その間に何ができたかを問いたい。
「まだ分からない」を渡せるか
判断を見直しても、その場で答えが出るとは限らない。そこで引継ぎが必要になる。私がとくに気になるのは、引継ぎの途中で、分からなかったことまで分かったことにされてしまう場面だ。
「振込先が登録情報と違う。依頼者にはまだ確認できていない」と伝えたのに、次の報告では「振込先は担当者が確認済み。AIでも安全」となる。どちらの報告にも「確認」という言葉がある。けれど、受け取った人がそこから下す判断は違う。
「送金は保留中。振込先の相違は確認した。依頼者への確認は未了。次は経理責任者が登録済みの番号で確かめる」。ここまで伝わり、受け手が引き受けて初めて、担当者は判断を預けられる。相談先の名前が手順書にあっても、応答がなければ、保留した人が期限と責任を抱え続ける。判断する人を守るとは、疑問を口にできるようにすることに加え、その疑問を受け取って動ける人を決めておくことでもある。
デジタル避難訓練で何を確かめるか
デジタル避難訓練で、怪しいメールを見抜けたかを調べると、担当者がどこで気づいたかが分かる。私が訓練で見たいのは、その先だ。気づいた人は送金を止められたか。AIの助言を見直す材料はあったか。「まだ分からない」という情報は、次の判断を担う人に届いたか。
訓練には、正規の依頼も入れたい。怪しい依頼ばかりなら、すべて止めても成績はよくなる。正規の依頼が混じれば、必要なときに止め、確かめられたら業務を進めるところまで見られる。確認項目を増やした場合と、情報の整理や保留、引継ぎを支援した場合とで、判断の結果や負担がどう変わるかも比べられる。担当者の負担が減ったように見えて、相談を受ける人に仕事が集中することもあり得る。そこまで含めて、どんな「間」が役に立つのかを確かめたい。
「最後は人間が判断する」と決めた組織に、私はこう聞きたい。その人が「まだ分からない」と言ったとき、仕事を止められるだろうか。そして、その判断を一緒に引き受ける人はいるだろうか。