イノウーの選択 (18) 果たせない職責
年が変わり、第4 四半期が始まった翌週の月曜日、生成AI ガイドライン作成プロジェクトチームの、成果発表会が開かれた。
プロジェクトチームの成果発表は、9 月末か3 月末に実施されるのが通例だ。プロジェクトチームのメンバーには、それぞれ本来の業務があり、プロジェクト活動に割ける時間は限られている。そのため、発表できる成果がまとまるのは、どうしても半期の終わり頃になってしまう。1 月というのはかなり異例だ。
成果発表会への参加は強制ではないし、後で動画も配信されるので、わざわざ参加する社員は少数だ。会場は大きな会議室、ということが多いが、今回はビジョンセンター横浜みなとみらいのイベントスペースだった。会社にとって重要なプロジェクトなので、可能な限り参加するように、と通知があったためだ。
会場には、二人がけのスクールテーブルがずらりと並び、各席には資料のプリントアウトが置かれていた。優に200 人は収容できそうなスペースだ。左奥に演台、正面に巨大なスクリーンが設置されている。
「なんかすごいっすね」マリが囁いた。
ぼくは頷いた。たかが、と言っては失礼かもしれないが、プロジェクトチームの成果発表ごときに、ここまでの手間とコストをかける理由がさっぱりわからない。
「ちょっと挨拶してきます」
安川さんがそう言って足早に離れていった。そっちを見ると、来賓席とおぼしき一角に大竹社長と夏目さん、それに10 人ほどの見知らぬ男女が立ち話をしていた。安川さんが、わざわざ挨拶に行ったということは、おそらくエースシステム横浜の人たちだろう。成果発表会にしてはオーバースペックな会場を用意したのは、そのためか、と腑に落ちた。
演台近くに固まっているのは、プロジェクトのメンバーたちだ。もちろん尾日向さんもいる。戸室課長が小声で指示を与えているようだが、その様子を見て、ぼくは少し違和感をおぼえた。それが何だろう、と考えていると、マリがまた囁いた。
「ケンカでもしてるんですかね」
これから100 人以上に対するプレゼンを控えた社会人なら、緊張感と高揚感が入り交じった表情をしているものだ。実際、戸室課長と尾日向さんはそんな顔だ。だが、残りのメンバーは、まるで義務感で参加しています、と言いたげな、どことなく面白くなさそうな顔をしていた。
約二ヶ月の間、週に何度も――週2 回だったはずが、実際は毎日のように集まっていた――活動をしてきたのだから、大学のサークル仲間のような連帯感なり一体感なりが醸造されていると想像していた。だが、見た限りでは、互いに微妙な距離を取っているような気がする。例外は、元上司だった伊牟田さんと、以前にちょっと揉めたことがある椛沢さんだ。
着席してください、とアナウンスがあったので、ぼくとマリは別々の場所に向かった。部署ごとにだいたいの場所が決まっていて、マリは本来の所属である営業四課に座ることになる。ぼくは経営管理部に割り当てられたテーブルに、安川さんと並んで座った。
14:00 を1 分経過したとき、戸室課長が演台に上がり、マイクを握った。
「それでは時間になりましたので、ただいまより、生成AI ガイドライン作成プロジェクトチームの成果発表会を始めさせていただきます」
戸室課長はプロジェクトのコンセプトや、活動内容の概略、メンバー紹介などを、意気揚々と説明した。ときおり、その視線はエースシステムからの参加者たちに向けられていた。
長々と演説するつもりか、と思いきや、戸室課長は2 分に満たない時間で説明を切り上げた。
「えー、それでは、具体的なガイドラインの説明に移りたいと思います。ここからは、プロジェクトメンバーにマイクを譲ります。まあね、AI がらみでやらかした私が説明しても、説得力ないと思うんでね」
自虐で笑いを取ることに成功した戸室課長は、一礼して演台を降りると、メンバーたちに頷いた。まだ続いていた笑い声が、次第に驚きに変わったのは、演台に上ったのが尾日向さんだけだったからだ。
「どうもおつかれさまです」尾日向さんはよく通るバリトンを響かせた。「システム開発室の尾日向です。新人の身で僭越ながら、ガイドラインの説明をさせていただきます」
拍手が沸き起こった。何人かの女性社員は、必要以上に長く手を叩いていた。
尾日向さんが合図すると、会場の照明が一段階暗くなり、スクリーンにパワーポイントのフルスクリーン画面が投影された。
システム開発における生成AI利用ガイドライン（案）
「今回、プロジェクトチームでたたき台を作成したガイドラインは」尾日向さんは笑顔で話し始めた。「当社が受託したシステム開発業務を、パートナー企業へ再委託する場合、再委託先ベンダーのエンジニアさんが生成AI を利用する際の基本的なルールを定めたものです」
スライドが切り替わる。
「生成AI の利用によって、開発効率が大幅にアップすることは、今さら言うまでもないことですが、一方でリスクも存在します。これは、想定されるリスクです」
・顧客情報・個人情報等の外部流出
・ソースコード・設計書等の機密情報の流出
・生成AIサービスへの意図しない情報提供
・生成AIが生成したコード等に含まれる脆弱性・誤り
・著作権・ライセンス等の知的財産権上の問題
・生成AIサービスの利用料金・トークンの過剰消費
・契約・法令・顧客規程への違反
・生成AIサービス障害等による開発遅延
・生成AIの利用状況を把握できなくなることによる監査・説明責任上の問題
「本ガイドラインは、これらのリスクを適切に管理することを優先して作成されています。つまり、リスクベース管理を基本とするわけです。これから順に説明させていただきます。まず、ベンダーさんが生成AI を使用する場合には、事前に申請してもらい、うちで承認を得てもらうことになります。お手元の資料は、その申請書式のサンプルで......」
尾日向さんの解説は続いた。
この手の解説を聞いていると睡魔に襲われることが多いが、今回は脳が覚醒状態を維持している。議題自体が興味深い、ということもあるが、なんといっても、巧みな緩急で飽きさせない尾日向さんのトークによるものだ。周囲の社員の中には、興味もないのに上長に言われたから仕方なく参加している、という人もいたに違いないのに、一人として退屈そうな顔をしていない。
仮にぼくがあの場所に立ったとしても、ここまで聴衆を惹きつけるトークはできそうにない。こういうのをカリスマ性と呼ぶのだろうか。
「......トークン消費については、次のような利用を避けることが重要です」
・巨大なソースコードを毎回全文送信する
・同じ内容を何度も送信する
・不要な長文コンテキストを毎回付加する
・AIエージェントを監視せず長時間実行する
・自動処理で無制限にAPIを呼び出す
「たとえばCursor であれば、.cursorignore ファイルを適切に設定しておくことが重要です。サンプルファイルは、この後、ファイル共有にアップしておきますので、案件ごとにカスタマイズして使ってください」
「あー、ちなみにですな」戸室課長が口を挟んだ。「長文コンテキストによる弊害は、やらかしてしまった私が保証します」
そこかしこで笑い声が上がった。もちろんアドリブではなく、事前に設定したシナリオだろうが、戸室課長が自分の失点をここまで開けっぴろげにするのは意外だった。てっきりなかったことにしたいのかと思っていたのだが。
途中で10 分の休憩を2 回挟み、約2 時間30 分の成果発表は終わった。尾日向さんが「ご静聴ありがとうございました」と一礼すると同時に、会場全体から大きな拍手の渦が沸き起こった。戸室課長が自分も拍手しながら演台に上がり、会場に呼びかけた。
「さて、では質疑応答となります。質問のある方は挙手を願います」
その言葉が終わらないうちに、何本もの手が挙がった。戸室課長が一人を指すと、両サイドに控えていたプロジェクトメンバーから、多良さんが走り寄ってマイクを手渡した。
「素晴らしい発表でした」マーケティング課の若手女性社員が言った。「このガイドラインを作るにあたって、生成 AI はどの程度利用したんでしょうか？」
「いい質問ですね」戸室課長は応じると、尾日向さんを見た。「どうですか」
「お答えします」尾日向さんはにこやかに答えた。「最初のドラフトとして、いくつかの生成AI を使用しました。そこで出た項目を人間の手でまとめ、実際のパートナー企業の開発状況なども考慮しつつ、改良を加えていき、最終的に誤字脱字や矛盾点などをチェックするために、もう一度AI に通しました。正確なパーセンテージは出せませんが、AI が20%、人間が70%、共同作業が10% といったところです。これで答えになっていますか？」
女性社員は頬を赤らめて頷き、着席した。プロジェクトメンバーがまた駆け寄り、マイクを回収していく。
「次は......」戸室課長は楽しむように、視線をさまよわせた。「では、そちらの営業の方、どうぞ」
「ありがとうございます」営業三課の男性社員がマイクを受け取って質問した。「営業でクライアントに説明するための資料として......」
そんな調子で質疑応答は続いた。20 分を予定していたが、その枠では収まりそうになく、戸室課長は時間を延長することを宣言した。質問の手を挙げたのは女性社員が目立ち、その大半は生成AI ガイドラインよりも、尾日向さん本人に興味があるようだった。
「ベンダーからチェック済リストにないツールやサービスの使用の希望が上がったときは......」
「違反した場合の罰則などの取り決めは......」
「クライアントからAI ツールの指定があった場合......」
途切れなく続いていた質問も、次第に数が減ってきて、そろそろ終わりか、と思ったとき、最前列で手が挙がった。戸室課長は目を見開き、反射的に指名した。
「大竹社長、どうぞ」
マイクを受け取った大竹社長が立ち上がった。会場のざわめきが一瞬にして静まる。
「まずは見事な発表だったと言わせてもらいます」大竹社長は褒めた。「IT 企業として生成AI との関わりは避けて通れない時代です。私たちのこれからの生存戦略の重要な柱となる要素に、真っ向から向き合ったプロジェクトとして、満足いく成果を出すことができたと言ってよいでしょう」
拍手が沸き起こりかけたが、大竹社長は手でそれを制して続けた。
「ただ、ここまでの質問内容は、パートナー企業に対しての運用と、クライアントへのアピールポイントとしての活用に限られていたようです。あー、すいません。もう一度ガイドラインのアジェンダを映してください」
プロジェクトメンバーが動き、やがてアジェンダが投影された。
1. 目的
2. 適用範囲
3. 基本方針
4. 生成AIサービスの利用承認
5. 生成AIへの入力禁止情報
6. ソースコードの入力
7. 個人情報・機密情報の匿名化
8. 生成AIによるコード生成
9. 生成AIの回答の正確性
10. セキュリティ
11. 著作権・ライセンス
12. 生成物の帰属・契約確認
13. 生成AIサービスのアカウント
14. API利用時の管理
15. トークン・利用料金の管理
16. AIエージェント利用時の追加管理
17. 本番環境での利用
18. AI利用状況の記録
19. インシデント発生時の対応
20. パートナー企業に対する要求事項
21. 利用可否の基準
22. 開発者向けチェックリスト
23. 責任分界
24. 例外申請
25. ガイドラインの見直し
「これを見てわかるように、このガイドラインはシステム開発で生成AI を利用する際に適用されるものですね。つまり、何が言いたいかというと、実装を行う視点からの意見も訊きたいんです。戸室さん、どうでしょう？」
「ええと」戸室課長は慌てて答えた。「尾日向さんは、システム開発室所属で、つまり実装を行う部門ですが......」
プログラマとしての視点も盛り込まれている、と暗に主張したようだが、大竹社長は首を横に振った。
「尾日向さんのスキルは尊重しますが、作った当人ではなく、別の視点からの評価が重要です。違いますか？」
「それは......確かに」
「では訊いてみてください」
参加者からの視線が、ぼくに集中した。名指しはされなかったが、「実装を行う視点」がぼくのことを指しているのは明確だった。多良さんが、急ぎ足で駆け寄ってきて、ぼくにマイクを差し出したので、ぼくは仕方なく受け取って立ち上がった。
「えー、ご指名にあずかりまして......」ぼくは言葉を切って言い直した。「いえ、指名はされてないですが、システム開発室を代表して質問します」
戸室課長が鋭い視線を向けてきていた。肯定的な反応が満ちた空気をぶち壊すようなことを言うな、と懇願しているようだ。会場全体の雰囲気も同じだ。戸室課長に同情して、というよりは、尾日向さんの晴れの舞台を台無しにしないでほしい、という無言の圧力だ。
「全体としてはよく考えられている、と思いました」ぼくは尾日向さんを見ながら話した。「ただ、いくつか気になった点があったので質問させてください。一つ目は、生成AI が作成したコードに対する、人間によるレビューについて触れられていないことです。これは、AI が書いたコードをそのまま納品物に入れてもいい、と取れます。この点についてプロジェクトチームではどう考えていますか？」
戸室課長が何か言いかけたが、尾日向さんが先に答えた。
「いわゆるHITL――人間によるレビューを必須にするルールですね。もちろん、その点について考慮しなかったわけではありません。いくつかの現実的な事情から、ガイドラインに盛り込むのを断念しました」
「それは何ですか？」
「AI が生成したコードを全て人間の目でチェックすることは、ベンダーに過大な負荷をかけることになります。今後、ますますAI 生成のコード量が増えていくことを考えると、その全てを人間がチェックすることを義務化するとなると、そもそも生成AI を使用する意味自体が薄れてしまうのではないか、という意見もあります」
「つまりコードのチェックはしない？」
「コードを読んで、という意味であればそうです」尾日向さんは微笑んだ。「人間のエンジニアは、仕様通りに動作するかどうかをチェックする役割にシフトしていく、と言われています」
「ブラックボックステストですか」
「基本はそうですね」
「私も少しCursor を触っていますが、たまにハルシネーションが出るんですよね。表面上は正常に動作しているように見えても、かなり例外的な操作をするとエラーが発生するとか」
「いや、それでも」我慢できなくなったのか、戸室課長が口を挟んできた。「人間のチェックで不具合が発見できたのなら、問題ないのじゃないかね。そのためにやっているんだから」
「逆説的ですが、人間がやることは完全ではないです」ぼくは答えた。「想定される全てのケースを網羅したブラックボックステストは、テストケースを作るだけでも難しいですよ。たまたま発見できた場合よりも、発見できていないバグが潜んでいるという可能性の方が怖いと思います」
戸室課長は沈黙した。
「確かに」尾日向さんが考えながら言った。「それは怖いですね。HITL については検討の余地があるようです。ご指摘ありがとうございました」
「もう一つ」ぼくは続けた。「ローカルLLM について、ガイドラインでは触れられていませんでした。これについてはどうでしょう？」
「ローカルLLM は、コード生成のクオリティの点で、クラウド型に及びません」尾日向さんはすぐに答えた。「その差を埋めようとすると、かなり大容量のVRAM 搭載グラボを載せた高スペックPC が必要になります。昨今だと、半導体の価格が高騰化していることもありますから、まともに動くローカルLLM 環境を構築するにはそれなりのコストがかかります。それぐらいなら、クラウドAI を使った方がいい、と思います」
「それがプロジェクトチームの結論？」
「いえ」尾日向さんは笑った。「今のは私論です」
会場の数カ所から笑いが起こった。
「とはいえ、これはあくまでも現時点での話です」尾日向さんは真面目な表情に戻った。「半導体市場の動向や、モデルの世代交代によって、将来的には独自のローカルLLM を構築して、セキュリティやトークン消費量を意識しなくてもよく、かつ、現実的なクオリティとスピードでコード生成が可能になるかもしれません。そのときは、このガイドライン自体も改訂することになるでしょう」
「わかりました。以上です」
ぼくが着席すると同時に、戸室課長がマイクを握った。
「では、そろそろお時間も迫っておりますので、いったん、質疑応答は終了させていただきます。後から聞きたいことが出てきた場合は、Teams で質問してください」
早口でそう告げた後、来賓席に向き直って、感想を求めた。エースシステムの人たちは顔を見合わせた後、一人が立ち上がり、期待通りの成果だと思う、という意味のことを簡単に述べて座る。戸室課長は礼を言って、また会場に向き直った。
「それではこれで成果発表会を終了したいと思います。おつかれさまでした」
総務の女性がマイクを受け取り、会場からの退出方法について説明した。混乱しないように、ある程度部署ごとに順番に退出してください、と言われて、多くの社員が浮かしかけた腰をまた下ろした。
システム開発室の順番は、かなり後の方だ。ぼくが座ったまま、資料をパラパラと見直していると、総務の指示に背いて、マリが合流してきた。
「結構、盛り上がってましたね」
「営業もそうだったか」
「女子連中がキャーキャー言ってました」マリは笑った。「尾日向さんの人気も、これで相当上がったんじゃないすかね」
「元々、人気者だったのにな」ぼくは出口の状況を観察した。「そろそろ行くか」
ぼくとマリ、安川さんは立ち上がって出口に向かった。尾日向さんは、プロジェクトチームのメンバーと固まって何かやっているので待つ必要はないだろう。
会場を出ようとしたとき、ぼくは大竹社長から呼び止められた。
「イノウー、ちょっと来い」
ぼくはマリと安川さんに先に戻っているように言ってから、大竹社長の元に向かった。
「おつかれさまです」
「お前」大竹社長は不機嫌そうな表情だった。「さっき、忖度して質問を切り上げたな。違うか？」
この人にはわかってしまったか。ぼくは仕方なく頷いた。HITL に関しては、言いたいことと訊きたいことがもっとあったのは事実だ。
「なぜだ。同じシステム開発室のメンバーだからか」
「そういうわけでは......いえ、そうだったかもしれません」
そもそも、さっきの質問は、後からシステム開発室に戻った後、尾日向さんだけに訊くつもりだった。大勢の社員が注視する中で、欠点をあげつらうような真似は、できればしたくなかったからだ。
「お前、どうした。前はもっと自分の仕事に関して妥協がなかったじゃないか」
「この場でやらなくてもいい、と思っただけです」
大竹社長は小さくため息をついた。いや、舌打ちだったのかもしれない。
「イノウー、お前を室長補佐という役職に就けると人事から報告を受けたとき、私は少し不安に感じたんだ。お前の長所がスポイルされてしまうんじゃないかとな。今のお前を見ていると、そのときの予感に従っておけばよかったんじゃないかと思えてくる」
「何の話ですか」
「まあいい」大竹社長は表情を和らげた。「それこそ、この場で言うことじゃない。とにかく、自分の職責を忘れないようにな」
そう言い残すと、大竹社長は夏目さんたちと合流して、一般社員とは別の出口から会場を後にしていった。
（続）
次週は連休なのでお休みです。