RainForestは、AI Agentの判断・根拠・実行を監査する純国産Security for AI基盤「Senda-Argus」の技術プレビューとして、AI Agent向けログ収集ライブラリ「Senda-Argus Hooks」をGitHubで公開しました。Senda-Argusに関連するAI Agentの実行証跡収集、判断過程の再構成、Runtime Audit Eventの相関分析に関する一部技術は、現在、日本国内で特許出願中です。 GitHub: https://github.com/rainforest-tokyo/senda_argus_hooks 生成AIの活用は、単なるチャット利用から、RAGによる社内データ参照、MCPによる外部Tool連携、AI Agentによる自律的な判断・実行へと進化しています。一方で、企業のセキュリティ運用においては、「AI AgentがなぜそのToolを選び、実際に何を実行したのか」を監査・検証する仕組みが重要になっています。 Senda-Argus Hooksは、AI AgentがLLMを用いてToolを選択し、RAGを参照し、MCPなどの外部Toolを呼び出す一連の流れを、step単位で記録・解析するCollectorです。LLMが出力する task_summary、reason_summary、selected_tool を取得し、Agent decisionおよび実際のMCP Tool Callと突合することで、AI Agentが「どのようなタスクと判断し」「なぜそのToolを選択し」「実際にどのMCP Toolを呼び出したのか」を監査可能にします。 また、RAG context、prompt本文、MCP resultなど、社内の重要情報を含む可能性があるデータはdefaultでは保存せず、messages_hash、context_hashes、result_hash、purpose_id などのHASHとmetadataを中心に記録します。これにより、企業環境におけるPrivacy-SafeなAI Agent監査を目指します。 背景：AI Agent時代に求められる新しいセキュリティ監査 AI Agentは、LLMの判断に基づいてRAGを参照し、MCPやAPIを通じて外部Toolを呼び出すことで、従来のアプリケーションよりも柔軟かつ自律的に業務を実行できます。 一方で、セキュリティ市場では以下のような課題が顕在化しています。 LLMがなぜ特定のToolを選択したのかが分からない RAGでどの社内文書やナレッジが参照されたのか追跡しづらい Agent decisionと実際のTool Callの整合性を確認しづらい promptやRAG contextを保存すると、機密情報・個人情報・顧客情報の取り扱いが課題になる MCPや外部Tool連携により、AI Agentの実行範囲が拡大している Senda-Argusは、こうした課題に対し、AI Agentの「判断」「根拠」「実行」を横断的に記録・解析するSecurity for AI基盤を目指しています。 Senda-Argus Hooksの主な特徴 1. LLMのTool選択理由を記録 Senda-Argus Hooksは、LLMがTool選択時に返す以下の情報を取得します。 task_summary: LLMがタスクをどう理解したか reason_summary: なぜそのToolを選んだのか selected_tool: LLMが選択したTool selected_tool.arguments: Tool呼び出しに必要な引数情報 これにより、単に「Toolが呼ばれた」だけではなく、「LLMが何を理解し、なぜそのToolを選んだのか」を監査できます。 2. Agent decisionと実MCP Tool Callを突合 LLMが選択したToolは、Agent decisionとして記録され、その後、実際のMCP Tool Callと突合されます。 Senda-Argus Hooksでは、selected_tool_purpose_id と mcp.tool_call.purpose_id を用いることで、以下を確認できます。 LLMが選択したToolとAgent decisionが一致しているか Agent decisionと実際のMCP Tool Callが一致しているか 選択されたToolの目的IDと、実際に呼ばれたMCP Toolの目的IDが一致しているか selected_tool = null の場合に、不要なMCP Tool Callが発生していないか これにより、AI Agentの判断と実行の整合性を確認