株式会社Knowledge Communication（总部：千叶县市川市，代表董事：奥泽 明，以下简称「本公司」）活用由F5 Networks Japan合同会社提供的AI安全解决方案「F5 AI Guardrails」，完成了为大型企业提供生成式AI治理与安全基础设施构建支持的PoC（概念验证）。本案为 F5 AI Guardrails 于日本国内的首个接单案件（根据本公司调查）。 在本次PoC中，涵盖了从内部业务使用到针对外部的服务范围，并一贯地运行了基于客户现有指南的需求梳理、实施架构的探讨，以及包含红队演练（※）在内的验证。确认了兼顾安全性与业务便利性的营运模式方向，并明确了迈向正式导入的设计重点。 ※ 红队演练（Red Team）：针对预期的攻击模式或不当使用，验证系统耐受性的手法。 生成式AI运用中的安全挑战 企业中生成式AI的运用领域正迅速扩大，从提升内部业务效率到客户接触点的高端应对。另一方面，随着运用部门与使用形式的扩展，传统信息安全措施无法充分应对的AI特有风险日益凸显，例如提示词注入（Prompt Injection）、机密信息的意外泄漏以及不当输出的生成等。 针对这些挑战，不能仅停留在个别的风险对策上，而是需要创建一个能够在整个组织中持续扩大生成式AI使用的统制与保护机制。本项目正是正面应对此一课题的举措。 倡议概要 本项目通过以下步骤提供了支持： 阶段 内容 需求梳理 基于客户现有的安全指南，定义生成式AI运用所需的统制与保护需求 架构设计 探讨针对内部使用与外部使用等不同形式的保护架构 测试计划与运行 制定验证场景并运行各项测试 红队演练验证 通过缺省攻击模式与不当使用的自动化测试，确认保护功能的全面性 营运模式梳理 为正式导入做准备，梳理营运设计的方向性与剩余课题 PoC的主要成果 通过本次PoC，确认了以下成果： 基于客户指南，系统性梳理生成式AI的安全与治理需求 验证了针对不同使用形式（内部/外部）保护架构的可行性 通过红队验证确认了保护功能的有效性 明确了迈向正式导入的设计重点与应对方针 基于这些结果，我们梳理了以安全性与业务便利性为前提的营运模式方向，并正持续进行迈向下一阶段的讨论。 本公司获选的理由 本公司的优势在于能够提供一站式的支持，从生成式AI运用的指南制定、导入咨询，到实施、验证与营运设计。我们不仅停留在上游的方针梳理，更具备能陪伴客户打造着眼于实际营运的具体机制的体制，这点获得了高度评价，进而成功接下本案。 未来发展 本公司未来也将继续通过活用 F5 AI Guardrails 的支持，推动企业安全且可持续的生成式AI运用。具体而言，我们将在以下领域加强支持： 安全与治理基础设施的设计与建构支持 AI治理设计与营运支持 测试计划制定与红队验证 与Knowledge Com AI平台集成 来自 F5 Networks Japan 合同会社的推荐辞 F5 Networks Japan 合同会社非常欢迎 Knowledge Communication 这次活用 F5 AI Guardrails 的倡议，以及在大型企业完成 PoC。 随着生成式AI的运用从内部业务扩展到客户接触点，为了兼顾安全性与业务便利性，统制与保护的重要性正与日俱增。F5 AI Guardrails 支持生成式AI运用中的保护与治理，为企业安全地推动AI运用提供了基础。 Knowledge Communication 提供了从基于客户现有指南的需求梳理、实施架构的探讨、测试计划、验证，到包含红队演练在内的评估等一贯的支持，对本项目的推动做出了巨大贡献。 F5 未来也将继续通过与 Knowledge Communication 的合作，为推动日本企业安全且可持续的生成式AI运用做出贡献。 F5 Networks Japan 合同会社 区域经理 木村 正范