とりあえず、トリアージ
『全自動運転が実現するとこんな世界になると話題に』という記事で紹介されているラッシュアワーの交差点の動画を見て思わず吹き出した。しかし、笑いながらも頭の片隅では「多くのエンジニアは安全と効率を極限まで追究する誘惑に勝てないだろうから、この動画が現実となる可能性もあるかも知れない」と思ったりもした。
もし現実となったなら、おそらく、クルマに乗っている人はどんなジェットコースターよりもスリルを味わうことになるだろう。安全を追究しても安心は得られないということか。
■安全をどうプログラミングするか
ところで、機械が人間の安全を守るといえば必ず思い出されるのが、アシモフの「ロボット工学三原則」だ。しかしこれに関して最近、『ロボットがロボット工学三原則を守るのは困難だと判明』という記事を見つけた。
ロボット工学三原則については、リンク先の記事内を参照して頂きたいが、その第一条はようするに「人間の安全を守れ。」ということだ。
この実験で使われたのは「最小の倫理ロボット」とのことだ。その「倫理」というのがどのようにプログラミングされているのかは不明だが、あまり複雑なものではないだろう。だから、この記事で紹介されている実験をもって「困難」と断じるのはどうかと思う。
とはいえ、ちょっと考えればわかることだが、すべての人間を平等に助けることは不可能だ。
例えば戦場や災害の現場では、必ず負傷者に対してトリアージ（優先順位付け）が行われる。ロボットにしろクルマにしろ、機械に安全を守らせるということは、このトリアージをどのように設計するか、ということにつながるのではないだろうか。
いざというとき、歩行者の安全を優先するか乗っている人の安全を優先するかによって、クルマにとっての最適解は変わるはずだ。乗っているのが複数の場合には、その中の誰の安全を優先するかによっても変わるだろう。
■これからの「安全」の話をしよう
近い将来、自動運転車が各メーカーから出てきたとき、トリアージのスペックが各社で違うなら、それが購入時の重要な判断材料になるだろう。そんなスペックをメーカーが表に出すか、という問題もあるが、もしも出さないのなら、逆に不安で乗れないような気がする。あるいは、優先順位は自分でカスタマイズできるということも考えられる。
いずれにせよ、考えておかなければならないことがある。つまり、我々は誰を優先的に守りたいのかということだ。
逆に、エンジニアとしては、「安全」には無数の解があることをわきまえ、それをどう取り扱っていくべきかをしっかりと考える必要がある、ということも忘れてはならない。