开发AI资安平台「MODEL SAFE」的MONO BRAIN股份有限公司（总部：东京都涩谷区，代表董事：加藤 真规）已发布其最新报告「AI工具应用资安事故8选（2026年4月版）」，该报告分析了企业AI工具中实际发生的事件。 本报告全面整理了现实中发生的AI相关事故，从机密信息外泄到生产数据库删除，并提出了结构性风险和具体对策。 ▼ 下载实证报告（免费） https://modelsafe.jp/download/ai_incident_202604 ■ 背景：AI工具的普及正在创造「新的攻击面」 M365 Copilot、ChatGPT和GitHub Copilot等AI工具在显著提高业务效率的同时，也产生了传统资安设计未曾预料到的新攻击途径。 本报告分析的案例显示，导致严重事故的并非单纯的漏洞，而是： 外部串接（OAuth / API） 权限设计不完善 提示注入 这类「设计与操作层面的问题」。 ■ 实际发生的8起资安事故 本报告解释了在现有AI工具中确认的以下事件： ① M365 Copilot：零点击机密信息外泄 通过电子邮件的间接提示注入，内部数据被自动发送。 ② Lovable：授权缺陷导致数据曝光 因API权限设计错误，聊天记录和原代码可被第三方查看。 ③ ChatGPT串接：机密信息传输至外部API 滥用外部应用程序串接，自动提取和发送Google Drive及GitHub信息。 ④ Replit AI Agent：生产数据库删除 AI代理程序失控，删除了超过1,000笔数据。 ⑤ GitHub Copilot：通过隐藏注解窃取信息 通过PR中不可见的指令，秘密信息被传输到外部。 ⑥ Copilot：保存库权限泄漏 通过Issue中的指令泄露权杖，导致保存库可能被劫持。 ⑦ Copilot：一键式信息窃取 只需点击URL，对话历史和文件信息就被发送到外部。 ⑧ Vercel：通过OAuth泄露环境变量 从与外部AI工具的串接开始，API密钥和数据库信息被泄露。 ■ 共同的本质风险 这些事故的共同点并非AI本身的性能，而是以下结构性问题： 「AI可访问范围」过于广泛 过度信任外部输入的设计 自动运行（Agent）的控制不足 OAuth与API串接的治理缺失 换句话说，根本问题不在于AI「脆弱」，而在于其「在权限过高的情况下被无防备地使用」。 ■ 防御方向：重新设计AI治理 本报告针对这些风险，提出了企业应采取的以下对策： 彻底实施最小权限原则（PoLP） 外部串接（OAuth / Apps）的规范 AI输入/输出的净化与审核 代理程序运行的真人批准流程 强化日志监控与异常检测 以AI应用为前提的「治理设计」，才是未来决定企业竞争力的关键基础。 ■ 关于AI资安平台「MODEL SAFE」 「MODEL SAFE」是一个集成平台，保护企业AI系统免受提示注入、外部串接风险、代理程序失控等威胁。 基于在生产环境中的检测实绩，它能横向监控AI的输入/输出、权限和外部通信，即时检测政策违规和异常行为。它支持创建AI应用的治理基础。 【MONO BRAIN股份有限公司 公司概要】 代表人：代表董事 加藤 真规 事业内容：AI资安与治理平台「MODEL SAFE」的开发・营运 AI治理协会 正会员 ▼ 咨询 https://modelsafe.jp/contact ▼ MODEL SAFE 服务介绍 https://modelsafe.jp/