AI時代のSOC―守るべきは、人間の判断である
生成AIやフロンティアAIの登場によって、セキュリティ部門はいま、さまざまな仕組みの見直しと、新しい挑戦を迫られている。
AIの利用によって、量や速度、高度さが変化する攻撃から、どう組織を守るのか。自社が利用するAIからの情報漏洩や、AIエージェントの予期しない動作をどう捉えるのか。そして、防御する側はAIをどう活用するのか。
正解がまだ確立されていない、未知の領域である。私を含め、多くのセキュリティ責任者が試行錯誤を続けているのではないだろうか。
AI時代のSOCを考えると、AIによって何を自動化できるか、どれほど多くのログを分析できるかに目が向きやすい。
しかし私は、AI時代のSOCを、AIの能力やログの量から設計すべきではないと考えている。
起点にすべきなのは、人間である。
人間が限られた時間のなかで、何を理解し、何を疑い、どの意思決定を担うのか。そこから逆算して、AI、ログ、SIEM、そしてSOCの運用を設計する必要がある。
技術から人間を見るのではない。人間の判断から技術を設計するのである。
SOCを人間の判断能力から逆算する
人間が処理できる情報量には限界がある。
アラートが増え続ければ、重要な兆候はノイズに埋もれる。AIによる分析結果や指示が大量に提示されれば、担当者が内容を十分に理解しないまま追認する危険もある。
AIがどれほど高度になっても、人間に大量のアラートを渡し、最後に承認ボタンを押させるだけでは、人間を中心に置いたSOCとは言えない。それは、人間に判断を任せているのではなく、責任だけを残している状態である。
だからこそ、SOCの設計では、最初に次の問いを立てるべきだ。
人間が担うべき意思決定は何か。
そのためには、どの情報が必要か。
何をAIに整理させ、何を人間が確認すべきか。
どの場面に人間の承認が必要で、どこまでなら自動化できるのか。
ここが決まってから、必要なログ、分析の仕組み、アラートの数や内容を考える。
ログの量ではなく、判断に必要な情報を考える
セキュリティモニタリングは、異常や脅威を継続的に見つける活動である。
ロギング（Logging）は、そのための材料を記録すること。SIEMは、各所のログを集め、整理し、関連付けて分析する仕組み。SOCは、それらを使って監視、調査、対応を行う人と運用である。
AI時代に問われているのは、これらを単に高度化することではない。人間が正しく判断できるように、どう組み直すかである。
AIシステムでは、従来のシステムログに加えて、ユーザーのプロンプト、システムプロンプト、モデルの出力、モデルのバージョン、AIエージェントの判断や処理、外部システムとのやり取りなども監視対象になる。
だが、記録できるものを、すべて記録すればよいわけではない。
ログが増えれば、保存や分析のコストも増える。プロンプトやモデルの出力には、機密情報や個人情報が含まれる可能性もある。監視のために集めたログが、新たな情報漏洩の原因になることもあり得る。
だから、問うべきなのは「何を記録できるか」ではない。「重大な意思決定を行うために、何を確認できなければならないか」である。
そこから、記録するデータ、保存期間、アクセス権限、分析方法を決める。これが、人間の判断から逆算したロギングの設計である。
AIには、判断のための環境を整えさせる
AIは、SOCにおいて大きな力になる。
膨大なログから異常を探し、複数の事象を関連付け、アラートに優先順位を付ける。過去のインシデントや脅威情報と照合し、人間が確認すべきポイントを示す。こうした作業は、AIが得意とする領域だ。
例えば、ある管理者アカウントに不審な挙動が見つかったとする。
AIは、関連する認証履歴、利用端末の動作、ネットワーク通信、過去の類似事例を集め、侵害の可能性とその根拠を示すことができる。
しかし、そのアカウントを直ちに停止するのか。業務への影響を考慮し、監視を続けながら追加調査を行うのか。これは、技術的な確率だけでは決められない。対象となる業務や組織の状況を理解した人間の選択が必要になる。
AIの役割は、あらゆる判断を人間から奪うことではない。
低リスクで定型的な処理は自動化しながら、重大な意思決定では、必要な情報を絞り込み、関連する事象を結び付け、根拠と優先順位を示す。それによって、人間が理解し、疑い、選択できる状態をつくることである。
そのためには、AIが出した結論だけでなく、なぜその結論に至ったのかを確認できなければならない。重大な場面では、担当者がAIの提案を疑い、止め、別の選択肢を取れる必要がある。
AIの提案を人間が承認したという形式だけでは不十分だ。重要なのは、担当者が根拠を理解し、主体的に選択できたかどうかである。
CISAのガイドラインを、実装の足場にする
この考えを実装へ落とすうえで、CISAの「Logging Reference Architecture」は参考になる。
主に米国連邦政府機関を想定したガイドラインではあるが、ベースライン、成熟度、測定という考え方は、民間企業が自社の監視能力を考えるうえでも参考になる。
このガイドラインのよいところは、理想像を示すだけでなく、最低限何を記録するかというベースライン、組織の状況に応じて能力を高める成熟度、そして監視が実際に機能しているかを確かめる測定まで示していることだ。
AIシステムについても、プロンプトやモデル出力、モデルの履歴、AIエージェントの判断、外部機能とのやり取りなど、AI固有の記録を考慮する必要性が示されている。
ただし、重要なのは、ログの量を増やすことでも、成熟度の数字を上げることでもない。
必要な情報が、必要な速さと品質で、意思決定を担う人に届いているか。アナリストが過度な手作業なしに調査できるか。インシデントの発生後に、AIと人間がそれぞれ何を行ったのかを再構成できるか。
CISAのガイドラインは、こうした状態をつくり、継続的に検証するための実践的な足場として使うことができる。
守るべきは、判断できる環境である
AI時代のSOCでは、AIを監視すると同時に、AIを使って脅威を監視することになる。
そこで人間に残すべきなのは、単なる最終承認ではない。
AIが示した根拠を確認できること。
AIの提案に疑問を持てること。
必要であれば、AIを止め、別の選択ができること。
そして、意思決定に至った過程を記録し、後から検証できること。
重大な対応については、AIが何を提示し、人間が何を確認し、なぜその選択をしたのかを残す。その過程を定期的に振り返り、対応の質と仕組みの両方を改善していく。
AI時代のSOCで守るべきものは、形式的に人間を残すことではない。
人間が理解し、疑い、自ら選択するために必要な情報と時間を守ること。そして、その判断が正しく機能する環境をつくることである。
#AIセキュリティ #サイバーセキュリティ #セキュリティモニタリング #SOC #SIEM #CISA #HumanInTheLoop