セキュリティブログ

SERIES

Series 05｜Agentic AI時代のAIガバナンスとセキュリティ

全3回中3回・更新中

社内AIアシスタントを導入した途端、本来見えないはずの資料が検索結果に出てくる。AIエージェントの時代には、こうした問題が「回答」ではなく「操作」として起こります。本シリーズは全3回で、AIが自律的にシステムへアクセスすることで生じる実行のリスク、最小権限や人間の承認、緊急停止を含む統制の設計、そしてユースケース審査から運用監視までを一つにした金融機関向けのガバナンスモデルを扱います。

このシリーズの記事

  1. 第1AI Agentが企業システムに接続されると何が変わるのか生成AIは「答える」道具から、メールを送り、SaaSを操作し、業務APIを呼び出す「実行する」主体へと変わりつつあります。AIエージェントが業務システムにつながると、リスクの中心は誤った回答から誤った操作へ移ります。本稿では、答えるAIと動くAIの違いを整理したうえで、社内AIアシスタントの導入で表面化する権限の乱れと機密データの露出、汚染された入力・過剰な権限・連鎖する失敗という実行のリスクを、OWASPが2025年12月に公表したエージェント向けTop 10と対応づけて解説します。
  2. 第2AI Agentの権限・データ・ツール利用をどう統制するかAIエージェントに「機密情報を外部に送ってはいけない」と指示しても、それは統制ではありません。汚染された入力ひとつで、その指示は上書きされうるからです。許可の判断はAIに委ねず、エージェントの外側の仕組みで行う必要があります。本稿では、ID・権限、ツールの許可制、データ境界、人間の承認、監査ログ、緊急停止という6つの統制を、実行前・実行中・実行後の3段階に配置して体系化します。あわせて、すべての操作に承認を求めて形骸化させないための、影響度に応じた3段階の承認設計を示します。チェックリスト10項目付き。
  3. 第3金融機関向けAgentic AIガバナンスモデルを設計するAIエージェントは、導入した後に中身が変わります。基盤モデルの更新、ツールの追加、参照データの拡大。導入時に一度審査するだけでは、統制の前提はすぐに崩れます。本稿では、ユースケース審査、リスク分類、導入前審査、運用監視、変更管理、インシデント対応の6段階を、AI台帳を中心に回す金融機関向けのガバナンスモデルを提示します。金融庁「モデル・リスク管理に関する原則」の枠組みを生かした設計、自律度と影響範囲によるリスク分類、再審査のトリガー、最初の90日の進め方まで解説します。