親しい。信頼する。任せる。その間で、私は何を判断しているのだろう 人とAIの関係を考える③
「このAIには、話しやすい」
そう感じることがあります。
うまく言葉にできなくても、対話を続けられる。何度も問い返せる。自分の考えを言葉にしてもらい、「そう。私が言いたかったのは、それ」と思う。
その経験に、助けられることもあると思います。
では、そのAIが次に助言をしたとき、私は何を根拠に受け入れるのでしょうか。
内容を確かめたから。
これまで何度も役に立ったから。
自分の事情をわかってくれていると感じたから。
その境目を、自分ではっきり説明できるでしょうか。
前回は、人とAIの関係を六つの側面から整理しました。
今回は、親しく感じること、信頼すること、任せることの間で、何が起きているのかを考えます。
「助かった」の中身は、一つではない
たとえば、職場で気になるメールを受け取ったとします。
言っていることは理解できる。でも、どうしても引っかかる。すぐに返信すると、感情が言葉に出てしまいそうです。
そこで、AIに話してみる。
何度かやり取りするうちに、「私は、仕事内容よりも、この言い方に傷ついたのかもしれない」と気づく。自分が何を伝えたいのかが、少し見えてくる。
ここで、AIとの対話は助けになっています。
続けて、返信文を作ってもらう。
丁寧な文章です。自分では思いつかなかった表現もある。読んでいると、「これなら送れそうだ」と感じる。
でも、「助かった」の中には、いくつかのことが含まれています。
気持ちが整理できた。
言葉が見つかった。
対応方針が示された。
自分で決める負担が軽くなった。
私は、そのどれに助けられたのでしょうか。
そして、何について助けられたかを確かめないまま、「このAIなら大丈夫」と受け止めてはいないでしょうか。
気持ちを受け止めてもらうことと、対応を決めること
最初に話していたのは、自分の気持ちでした。
でも、返信を考える段階では、扱うものが変わっています。
相手に何を伝えるのか。
どの事実を示すのか。
今、返信すべきなのか。
誰かと相談してから動くべきなのか。
そこには、相手との関係、仕事の目的、自分の権限、周囲への影響が関わります。
対話は途切れずに続いています。同じ画面の中で、同じように丁寧な言葉が返ってきます。
その滑らかさの中で、判断しなければならないことが変わったと、私は気づけているでしょうか。
気持ちが楽になったことには意味があります。
ただ、その後の対応が適切かどうかを考えるには、別に見なければならないことがあります。
自分が伝えていない事情はないか。
相手の意図について、推測を事実のように扱っていないか。
返信文の中に、自分では決めていなかった方針が入り込んでいないか。
「よい文章だ」と思ったとき、私は何を評価していたのでしょうか。
読みやすさなのか。
自分の気持ちに合っていることなのか。
それとも、その対応を選ぶ妥当性まで確かめたのでしょうか。
信頼には、「何について」が必要になる
「このAIを信頼している」
その言葉の後ろに、「何について」を加えてみます。
文章を整えることについて。
複数の見方を出すことについて。
与えた資料を整理することについて。
すると、信頼の根拠と範囲が、少し具体的になります。
ある仕事で何度も役に立った経験は、次の利用を考える材料になります。
一方で、用途が変われば、必要な能力も変わります。自分が結果を確かめられるかどうかも、変わるでしょう。
慣れた分野なら、提案のよさも間違いも見つけられる。詳しくない分野では、筋の通った説明を読んでも、その根拠を十分に評価できないことがあります。
役に立ったという経験と、今回も妥当だと確かめられること。その間には、距離があるかもしれません。
自動化への信頼を扱ったLeeとSeeの研究レビューでは、信頼がシステムへの頼り方に影響し、その適切さには文脈やシステムの特性も関わると整理されています。［1］
この視点から考えると、「信頼を高める」だけでは、目標として十分ではないと思います。
何を根拠に、どの範囲で頼れるのか。その範囲を超えたとき、どう気づけるのか。
そこまで含めて、信頼を考える必要があります。
任せたのは、信じていたからだろうか
ここで、逆の方向からも見てみます。
AIの提案を、そのまま採用した。
その行動だけを見れば、AIを強く信頼しているように見えるかもしれません。
でも、本人の中では、違うことが起きている可能性があります。
気になるところはある。でも、締切が迫っている。
確かめたい。でも、相談できる相手がいない。
自分では評価しきれない。でも、決めなければならない。
今日は、もう考える余力が残っていない。
そんな状況で、採用したのかもしれません。
ここで本人に「なぜ信じたのですか」と聞いたら、何を見落とすでしょうか。
その人がどれくらい納得していたか。
ほかの選択肢があったか。
確認するための時間や支援があったか。
任せるという行動の中には、信頼だけでなく、余裕のなさや、選べる条件の乏しさが含まれているかもしれません。
だから、AIの提案を採用したかどうかだけで、その人の判断を理解したつもりにならないことが大切だと思います。
判断は、「承認する」前から始まっている
AIが作った返信文を、自分で読んで送った。
最後に選んだのは自分だから、自分で判断した。そう感じるかもしれません。
では、何を選んだのでしょうか。
示された文章を送るか、送らないか。
その二つだけだったでしょうか。
そもそも返信する必要があるのか。
別の手段で話したほうがよいのか。
今は保留するという選択肢はないのか。
AIに返信文を頼んだ時点で、「返信する」という方向は、すでに置かれています。
これは、AIが勝手に決めたという話ではありません。自分の問いの立て方も、AIが返す案も、その後に考える範囲を形づくっているということです。
何を問題とし、どんな選択肢を並べ、何を基準に比較したのか。判断は、その途中にもあります。
最後の承認だけを見ても、自分がどこを担い、どこを任せたかはわかりません。
この視点は、組織でAIを使うときにも必要だと思います。
「最終的には人が確認する」と決めたとして、その人には、前提を問い直す時間があるでしょうか。別の選択肢を出せるでしょうか。保留したり、差し戻したりする権限があるでしょうか。
人に最終承認を求めるなら、判断できる条件も、一緒に整える必要があります。
親しさが、判断を支えることもある
ここまで、確認が薄れる可能性について書いてきました。
同時に、親しみや信頼が、判断を支える可能性にも目を向けたいと思います。
話しやすいから、わからないと伝えられる。
安心して問い返せるから、自分の前提を見直せる。
一度言葉にすることで、急いでいた自分に気づける。
そういう関わりも考えられます。
AI支援の意思決定を扱った実験では、熟考を促す仕組みが、比較対象の説明提示の仕組みよりも、誤った提案の受け入れを減らしました。一方で、効果の高い仕組みほど利用者の主観的な評価が低くなるというトレードオフも報告されています。［2］
この研究は、親しいAIとの関係を直接検証したものではありません。
ただ、使い心地のよさと、判断を支える働きを、分けて見ていく必要性を考える材料になります。
対話が心地よく進んだか。
必要なことを確かめられたか。
自分で別の見方を持てたか。
それぞれを見ながら、両立できる条件を探したいと思います。
私が確かめていきたいこと
ある場面で育った信頼は、別の場面へ、どのように届くのでしょうか。
何度も助けてもらった経験。
自分の話を丁寧に扱ってもらった感覚。
長く対話を続けてきたという履歴。
それらが、次の助言を受け入れる理由に、どのように加わるのか。
そして、そのとき自分が何を根拠にしているかを、私たちはどこまで説明できるのでしょうか。
これは、私がこれから確かめていきたい問いです。
親しく感じること、信頼すること、任せることは、連動することがあります。でも、順番に深まる一つの段階ではありません。
親しく感じても、判断は任せない。
能力を信頼していても、重要な場面では確認する。
十分に信頼できなくても、条件に追われて任せる。
その違いを見ることが、人の判断を理解するうえで大切だと思います。
最初のメールの場面に、戻ってみます。
気持ちが整理できた。
文章も読みやすくなった。
ここまでは、自分にとって助けになった。
では、この対応を選ぶことについては、何を確かめただろう。
私は今、この提案の何に納得し、どこから先を任せようとしているのだろう。
その問いを持てる、小さな「間」を残しておきたいと思います。
次回は、年齢、ジェンダー、文化、専門知識、過去の経験、そしてそのときの状況が、AIへの期待や関わり方にどう関係するのかを考えます。
参考文献
［1］Lee, J. D., & See, K. A.（2004）. Trust in Automation: Designing for Appropriate Reliance. Human Factors, 46(1), 50-80.
［2］Buçinca, Z., Malaya, M. B., & Gajos, K. Z.（2021）. To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-Assisted Decision-Making. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), Article 188.
#人とAIの関係 #人間中心AI #人間中心サイバーセキュリティ #サイバー判断力 #判断の稽古 #HumanCenteredAI #HumanCenteredCybersecurity