株式会社MONO BRAIN（总部：东京都涩谷区，代表董事：加藤真规）宣布，在强化AI安全基础的同时，将正式展开与客户合作的AI共创开发业务（AI Dev事业）。 ■ 背景：AI应用的扩大与治理课题的显现 随着生成式AI的普及，许多企业正推动将AI导入业务。然而，如提示词注入（Prompt Injection）、AI供应链攻击、机密信息泄漏等AI特有的风险日益凸显，传统的安全措施已难い充分应对。此外，在第一线也出现了影子AI（Shadow AI）的使用、运维负担增加、以及因规则强化导致便利性下降等问题，因此迫切需要一种「安全应用的机制」。 ■ AI安全基础「MODEL SAFE」的强化 本公司提供针对AI特有漏洞的集成安全平台「MODEL SAFE」。该平台涵盖了从AI开发到运维的全过程，提供以下功能： - 模型及依赖关系的自动扫描（供应链对策） - 基于450多种攻击手法的自动红队演练（Red Teaming） - 生产环境下的24小时运行时监控（Runtime Monitoring） 借此实现对AI特有攻击和漏洞的持续防御与可视化。目前在生产环境中已有超过3,000件的检测实绩。 ■ 保护员工使用AI工具的「Mamoraku AI」 此外，为应对员工使用AI工具带来的风险，本公司还提供AI安全代理「Mamoraku AI」。只需分发浏览器扩充功能，最快可在1天内完成导入，通过以下功能在不增加现场负担的情况下实现AI治理： - 机密信息自动脱敏（发送前检测并进行屏蔽处理） - 侦测影子AI并引导至安全的AI工具 - 不改变既有业务流程の「零负担」导入设计 通过促进「安全应用」而非「禁止」，同时兼顾了第一线的便利性与安全性。 Mamoraku LP：https://modelsafe.jp/mamoraku ■ 共创型AI开发业务（AI Dev）的正式展开 本公司将与客户共同策划与开发AI，并推动着眼于实际运行及对外销售的共创型AI开发。通过深入探讨AI导入中的课题与风险，支持实现真正「被使用的AI」。此外，在共创开发中所获得的洞察也将持续反映在「MODEL SAFE」的功能改进上，进而构建更具实践性的AI安全基础。 ■ 未来展望 本公司不仅将AI安全视为风险对策，更将其定位为以AI应用为前提的基础设施。通过提供集成了开发、运维及第一线使用的AI治理，我们将使「因为安全所以可用」的环境标准化，加速企业的AI应用。未来，我们将继续通过提供兼顾AI安全与AI应用的产品与服务，为实现一个能安心应用AI的社会做出贡献。 【株式会社MONO BRAIN 公司概况】 代表者：代表董事 加藤真规 事业内容：AI安全平台「MODEL SAFE」的开发与提供，以及共创型AI开发业务 联系方式：https://modelsafe.jp/contact 服务介绍：https://modelsafe.jp/