特定非营利活动法人日本网络安全协会(会长:江﨑 浩)调查研究部会AI安全工作组(组长:服部 祐一)发布了「AI应用系统威胁建模方法评估」。 ■ 发布网址 「AI应用系统威胁建模方法评估」 https://www.jnsa.org/result/aisec/2025/index.html ■ 关于本成果物 近年来,随着AI应用系统的普及,理解AI特有威胁以及这些威胁对整个系统的影响变得日益重要。 此外,随着AI的进步,与AI相关的威胁也随之不断产生。 「威胁建模」是了解这些威胁可能对自身管理系统造成影响的方法之一。 NPO日本网络安全协会调查研究部会AI安全工作组一直在工作组内部共享关于AI应用系统威胁及其分析方法的知识,并积累了专业知识。 本文档基于这些活动中获得的知识,旨在针对具有不同AI使用模式的多个系统,应用和评估多种威胁建模方法,并分享其结果。 本文档涵盖的AI使用模式包括: 内部具有AI功能的应用程序 利用外部LLM(大型语言模型)的应用程序 使用代理型AI的应用程序 针对这三种类型,应用了STRIDE、STRIDE+AI和MAESTRO三种威胁建模方法,并探讨了它们的特点、优点和缺点。 威胁建模由三个团队(每个团队由三名成员组成)进行,共进行了九次建模。 此外,本文档还公开了目标威胁模型的概述信息和每次建模的结果。 我们希望本成果物能作为AI应用系统威胁建模的培训教材,并在实际进行威胁建模时作为参考数据使用。 ■ 成果物 以下数据作为成果物「AI应用系统威胁建模方法评估」发布。 https://www.jnsa.org/result/aisec/2025/index.html ■ 「AI应用系统威胁建模方法评估」制作成员列表 工作组组长 服部 祐一 (株式会社Secure Cycle) 工作组成员(按日语五十音顺) 安达 康平 (株式会社Secure Cycle) 五十岚 裕 (株式会社GIVELY) 砂金 善弘 (株式会社Secure Cycle) 伊东 道明 (株式会社ChillStack) 榎本 祐树 (Future Secure Wave株式会社) 仓地 伸明 (富士软件株式会社) 庄司 胜哉 (株式会社LAC) 野田 俊夫 (ADSOL NISSIN株式会社) 濵村 辽成 (株式会社Secure Cycle) 松永 昌浩 (SECOM株式会社) 松山 保 (株式会社Nulab) ■ 本新闻稿相关咨询 特定非营利活动法人日本网络安全协会