开发并提供AI资安解决方案的CoWorker株式会社（总公司：东京都新宿区，代表取缔役：山里一辉，以下简称「本公司」或「CoWorker」），已开始提供专为生成式AI/LLM应用所打造的「LLM诊断服务」。 本服务是一项专属诊断，对象包含本公司提供之数字转型（DX）服务中所内置的AI应用，以及企业内部的AI应用，能全面评估LLM集成应用程序特有的风险。过去传统的弱点扫描服务主要针对网页应用程序或整体基础架构的弱点，而这项新服务则聚焦于「生成式AI的安全应用」。 [Box] AI资安公司CoWorker推出「弱点扫描服务」——通过自研AI「Red Agent」× 专家的混合诊断，加快诊断速度并抑制重大风险的遗漏。 https://prtimes.jp/main/html/rd/p/000000018.000156001.html [/Box] ## 开发与提供的背景 生成式AI应用的急遽扩张与新兴风险 随着ChatGPT和Gemini等大型语言模型（LLM）的普及，聊天机器人和AI助手正迅速被集成至企业的DX服务与内部业务中。然而，提示词注入、信息外泄、输出结果遭恶意利用等LLM特有的弱点也随之浮现，导致传统型弱点扫描难以侦测的案例正不断增加。 本公司基于OWASP所定义的LLM Top 10风险，开发了支持生成式AI安全应用的全新诊断服务。