株式会社 JSOL(以下简称 JSOL)已与提供先进 AI 治理解决方案的 WitnessAI, Inc.(总部:美国)签订经销商协议。该公司的产品「WitnessAI」是一个支持生成式 AI、AI 应用程序和 AI 代理使用所带来的风险管理和控制的平台,可保护用户企业免受因生成式 AI 普及和自主 AI 代理活动而出现的「提示注入」等新风险。JSOL 将进一步结合其原创的集成型 CSIRT 服务「J’s ARMOR™」※1,实现利用其在安全营运方面的专业知识的全面 AI 控制。 近年来,生成式 AI 和 AI 应用程序在业务中的应用迅速扩大,但同时,以影子 AI 和影子 AI 代理的使用以及提示注入等新威胁为起点,机密信息可能在用户无意中被处理的风险日益显现。这使得输入数据可能被意外利用,最终导致违反法规、行业准则和内部政策的可能性成为现实问题。特别是对于企业而言,在要求以合规性、内部控制和行业准则为前提使用 AI 的情况下,仅将生成式 AI 作为工具引入,并不足以充分防止用户非官方使用 AI 或输入不当指令。因此,创建一个包含持续监控、彻底运行营运规则和事件应对的有效 AI 治理体系变得至关重要。 WitnessAI 是一个 AI 治理平台,可视化生成式 AI 和 AI 应用程序的使用情况,全面支持基于政策的控制、风险检测和合规性应对。它基于「Discover」(即时可视化组织内使用的 AI 应用程序)、「Protect」(防御/保护不当提示等输入输出结果和攻击)和「Control」(控制基于部门和角色/权限的政策应用)等功能,除了用户对 AI 的控制外,还包括对 AI 代理的保护,从而实现组织内安全使用 AI。 我们将根据我们在多种安全解决方案方面的丰富咨询和实施经验,提供涵盖事前评估、设计、导入、营运/控制管理等方面的导入咨询服务。此外,通过与我们的集成型 CSIRT 服务「J’s ARMOR」结合,可以在 AI 应用中的风险检测、监控和事件应对支持等 AI 控制所需的日常营运工作中,利用标准化的安全营运知识和规则,实现安全的 AI 应用环境。 JSOL 今后将把 AI 治理定位为一个业务领域,目标是到 2030 年实现 10 亿日圆的成长。具体而言,我们将向制造业、金融业、生命科学行业等广泛行业推广支持生成式 AI 使用规则制定、风险管理、营运和监控的 AI 治理解决方案。同时,在现有的安全业务中,将「Security for AI」(用于安全使用 AI)和「AI 治理」(作为基于 AI 应用的控制和管理机制)作为重要的强化主题。 此外,通过与同样与 WitnessAI 公司签订经销商协议的母公司株式会社 NTT Data 以及整个集团的共同努力,我们将支持实现企业可以安心地将 AI 纳入业务并持续推进数字转型的环境。 [WitnessAI 公司的认可声明] 制药、制造、金融等 JSOL 的主要行业是 AI 应用将进一步发展的主要领域,同时也是容易受到 AI 引起的威胁和风险的目标领域。 我们认为,与在安全业务方面拥有高专业知识的 JSOL 合作,对于进一步加速日本市场的业务发展至关重要且意义重大。 我们非常期待与 JSOL 共同进一步提高 AI 应用的可靠性。 Rick Caccia, WitnessAI 首席执行官兼共同创办人 [相关网址] https://promotion.jsol.co.jp/SecAIOps/security-network/witness_ai/index.html ■WitnessAI, Inc. WitnessAI 是一家提供 AI 治理平台的公司,旨在支持安全使用生成式 AI 和 AI 应用程序。它通过 AI 使用可视化、风险检测、政策控制和合规性应对,协助企业实现安心使用 AI 的环境。 ■株式会社 JSOL (总部:东京都千代田区,代表取缔役社长:永井 健志) https://www.jsol.co.jp/ 株式会社 JSOL 是一家由株式会社 NTT Data 和株式会社日本综合研究所出资的系统咨询和解决方案集成商。 自 2006 年成立以来,凭借在制造、流通服务、金融和公共领域累积的丰富业务知识和系统开发能力,以及在工程科学领域的先进分析技术,为客户的价值提升做出了贡献。