株式会社Campus Create(东京都调布市)利用株式会社VESS Labs正在开发的AI代理权限管理系统「VESS AIdentity」,实施了利用可验证凭证(VC)对AI代理进行权限控制的实证实验。本公司与VESS Labs合作,正在推动VC的社会实施与普及,本次实证是其中一环,旨在具体化「创新数字技术应用生态系统」构想中「VC×AI代理」的杀手级应用。通过本次实证,我们确认了企业AI运营管理者安全、安心使用AI代理的技术依据。 参考:「创新数字技术应用生态系统」商标申请相关新闻稿 https://prtimes.jp/main/html/rd/p/000000395.000031052.html ■ 背景 生成式AI和AI代理在企业中的导入正在迅速推进。另一方面,随着AI代理访问企业的聊天工具、电子邮件、文档保存、各种SaaS并自主运作变得普遍,传统为人类设计的ID和权限模型无法处理的新风险也随之显现。例如,传递给AI的API密钥或访问令牌泄漏、外部提示注入导致AI被劫持、AI意外删除重要文档或进行不必要的采购等。 这对于试图将生成式AI集成到业务中的企业来说,是一个具体的障碍,使得他们无法安心地将业务完全委托给AI代理。先进AI技术的演进速度与现场组织和社会所需的控制与治理之间,正在产生结构性鸿沟。 本公司作为广域TLO,其内核任务是弥合此类先进技术领域中社会问题方与技术应用方之间的鸿沟,而AI代理的权限管理被定位为应当应用此方法论的重要主题。 ■ 实证实验概要 本公司利用株式会社VESS Labs正在开发的「VESS AIdentity」,在自有业务环境中实证了通过可验证凭证对AI代理进行权限控制。 VESS AIdentity采用闸道型架构,不直接将认证信息传递给AI代理,而是发布和验证指示「可以运行什么、在什么范围内、多长时间」的权限证明。 实证实验按以下步骤进行: 权限缺省:在VESS AIdentity的管理画面中连接Slack,设置AI代理可运行的操作权限。具体来说,针对特定频道上的任务,定义了多个权限级别,例如「AI代理可自由运行的权限」和「需经人工确认流程方可运行的权限」。 AI代理连接:在Claude的管理画面中连接Claude和Slack,并将VESS AIdentity作为Claude的MCP(Model Context Protocol)服务器进行协作。 任务委托:从Claude管理画面向AI代理委托在Slack频道上运行特定处理的任务。该任务已缺省为「需经人工确认流程方可运行的权限」。 介入审批流程:Claude管理画面显示通知,表明VESS AIdentity管理画面需要人工确认。在VESS AIdentity管理画面中运行了审批操作。 权限内运行:经审批的AI代理在Slack频道上运行了该任务。 通过此,确认了AI代理无需直接持有认证信息,即可在人类监督下运行必要操作的一系列流程得以成立。 ■ 本次实证的意义 AI代理的权限管理是组织AI治理中极为关键的要素。本次实证确认的权限控制机制,可以从技术上强制防止人类不期望的行为,例如AI代理删除重要文档、无上限地投放网络广告、或从电子商务网站进行不必要的采购。此外,它还有助于降低近年来日益受到关注的AI代理冒充和AI代理遭受黑客攻击等风险。这使得企业AI运营管理者可以考虑安全、安心地利用AI代理。