开发AI资安平台「MODEL SAFE」的MONO BRAIN股份有限公司(总部:东京都涩谷区,代表董事:加藤 真规)已发布其最新报告「AI工具应用资安事故8选(2026年4月版)」,该报告分析了企业AI工具中实际发生的事件。 本报告全面整理了现实中发生的AI相关事故,从机密信息外泄到生产数据库删除,并提出了结构性风险和具体对策。 ▼ 下载实证报告(免费) https://modelsafe.jp/download/ai_incident_202604 ■ 背景:AI工具的普及正在创造「新的攻击面」 M365 Copilot、ChatGPT和GitHub Copilot等AI工具在显著提高业务效率的同时,也产生了传统资安设计未曾预料到的新攻击途径。 本报告分析的案例显示,导致严重事故的并非单纯的漏洞,而是: 外部串接(OAuth / API) 权限设计不完善 提示注入 这类「设计与操作层面的问题」。 ■ 实际发生的8起资安事故 本报告解释了在现有AI工具中确认的以下事件: ① M365 Copilot:零点击机密信息外泄 通过电子邮件的间接提示注入,内部数据被自动发送。 ② Lovable:授权缺陷导致数据曝光 因API权限设计错误,聊天记录和原代码可被第三方查看。 ③ ChatGPT串接:机密信息传输至外部API 滥用外部应用程序串接,自动提取和发送Google Drive及GitHub信息。 ④ Replit AI Agent:生产数据库删除 AI代理程序失控,删除了超过1,000笔数据。 ⑤ GitHub Copilot:通过隐藏注解窃取信息 通过PR中不可见的指令,秘密信息被传输到外部。 ⑥ Copilot:保存库权限泄漏 通过Issue中的指令泄露权杖,导致保存库可能被劫持。 ⑦ Copilot:一键式信息窃取 只需点击URL,对话历史和文件信息就被发送到外部。 ⑧ Vercel:通过OAuth泄露环境变量 从与外部AI工具的串接开始,API密钥和数据库信息被泄露。 ■ 共同的本质风险 这些事故的共同点并非AI本身的性能,而是以下结构性问题: 「AI可访问范围」过于广泛 过度信任外部输入的设计 自动运行(Agent)的控制不足 OAuth与API串接的治理缺失 换句话说,根本问题不在于AI「脆弱」,而在于其「在权限过高的情况下被无防备地使用」。 ■ 防御方向:重新设计AI治理 本报告针对这些风险,提出了企业应采取的以下对策: 彻底实施最小权限原则(PoLP) 外部串接(OAuth / Apps)的规范 AI输入/输出的净化与审核 代理程序运行的真人批准流程 强化日志监控与异常检测 以AI应用为前提的「治理设计」,才是未来决定企业竞争力的关键基础。 ■ 关于AI资安平台「MODEL SAFE」 「MODEL SAFE」是一个集成平台,保护企业AI系统免受提示注入、外部串接风险、代理程序失控等威胁。 基于在生产环境中的检测实绩,它能横向监控AI的输入/输出、权限和外部通信,即时检测政策违规和异常行为。它支持创建AI应用的治理基础。 【MONO BRAIN股份有限公司 公司概要】 代表人:代表董事 加藤 真规 事业内容:AI资安与治理平台「MODEL SAFE」的开发・营运 AI治理协会 正会员 ▼ 咨询 https://modelsafe.jp/contact ▼ MODEL SAFE 服务介绍 https://modelsafe.jp/