特定非营利活动法人 日本网络安全协会(会长:江﨑 浩)的调查研究部会 AI 安全工作小组(负责人:服部 祐一)已公开「针对利用 AI 之系统的威胁建模手法评估」。 ■发布网址 「针对利用 AI 之系统的威胁建模手法评估」 https://www.jnsa.org/result/aisec/2025/index.html ■关于本成果物 近年来,随着利用 AI 之系统的普及,掌握 AI 特有的威胁以及这些系统整体所面临的威胁,其重要性日益提高。 此外,随着 AI 的进步,与 AI 相关的威胁也随之产生。 作为掌握此类威胁是否会对自身管理系统造成影响的手法之一,存在着「威胁建模」。 NPO 日本网络安全协会 调查研究部会 AI 安全工作小组在工作小组内共享了针对利用 AI 之系统的威胁以及分析这些威胁的手法,并持续累积相关知识。 本文档旨在基于这些活动所获得的知识,针对 AI 利用模式各异的多个系统,应用并评估多种威胁建模手法,并共享其结果。 本文档中,针对 AI 的利用模式,涵盖了以下 3 种类型: 内部具备 AI 功能的应用程序 利用外部 LLM(大型语言模型)的应用程序 使用代理型 AI 的应用程序 针对上述类型,应用了 STRIDE、STRIDE+AI、MAESTRO 这 3 种威胁建模手法,并探讨了各自的特征、优点及缺点。 威胁建模由 3 个小组(每组 3 人)运行,总计进行了 9 次建模。 此外,本文档亦公开了所针对之威胁模型的概要信息以及各项建模结果。 期望本成果物能作为针对利用 AI 之系统进行威胁建模的培训教材,以及在实际运行威胁建模时的参考数据加以活用。 ■成果物 以下数据作为成果物「针对利用 AI 之系统的威胁建模手法评估」公开。 https://www.jnsa.org/result/aisec/2025/index.html ■「针对利用 AI 之系统的威胁建模手法评估」 成员名单 工作小组负责人 服部 祐一(株式会社 Secure Cycle) 工作小组成员(按五十音顺序) 安达 康平(株式会社 Secure Cycle) 五十岚 裕(株式会社 Givery) 砂金 善弘(株式会社 Secure Cycle) 伊东 道明(株式会社 ChillStack) 榎本 祐树(Future Secure Wave 株式会社) 仓地 伸明(富士软件株式会社) 庄司 胜哉(株式会社 LAC) 野田 俊夫(Adsol Nissin 株式会社) 濵村 辽成(株式会社 Secure Cycle) 松永 昌浩(SECOM 株式会社) 松山 保(株式会社 Nulab) ■本新闻稿相关咨询窗口 特别非营利活动法人 日本网络安全协会 事务局 E-Mail:sec@jnsa.org TEL:03-6435-6540 ■法人概要 【公司名称】特定非营利活动法人 日本网络安全协会 【所在地】东京都港区新桥 5-7-12 Hinokiya 大楼 4 楼 【事务局长】下村 正洋 【设立】2001 年 7 月 【网站】 http://www.jnsa.org/