行政 AX 领域的先行者 Polimill 株式会社(总部:东京都港区,代表取缔役:伊藤あやめ/谷口野乃花)宣布,将于 2026 年 4 月 1 日针对面向行政机关的生成式 AI「QommonsAI(Commons AI)」进行版本更新,推出多层防止机密信息意外输入的「个人信息自动侦测」「禁止词汇封锁」「侦测与封锁日志」三项新功能。 多层防止机密信息意外输入 将法规实效性从「纸本规定」提升为「技术机制」的「多层信息治理功能」 在生成式 AI 导入于全国各自治体快速普及之际,若要进一步推动其应用,关键在于将机关内部的信息管理规则落实为系统机制,打造让职员能安心、无所顾虑地活用 AI 的环境。许多自治体虽已在生成式 AI 使用指引中明订输入注意事项,但其运行往往仍仰赖职员个人的自律意识。 将法规实效性从「纸本规定」提升为「技术机制」 ,职员便不必在信息管理上承受过度负担,得以安心地充分运用生成式 AI。 QommonsAI 此次搭载 「个人信息自动侦测」「禁止词汇封锁」「侦测与封锁日志」三层防御 ,实现「不依赖每位职员的个人判断,由系统层面防止信息外泄」的环境。自治体因此得以同时满足「想让员工使用」与「不让信息外泄」这两项看似相悖的需求,安心推动生成式 AI 的应用。 个人信息警示/禁止词汇设置功能说明 本功能可在侦测到含有个人信息或禁止词汇的输入内容时, 显示警告消息或封锁向 AI 发送的请求。 三层防御全貌 QommonsAI 的信息治理功能通过「侦测→拦截→记录」三个阶段防止机密信息外泄。 第一层:个人信息自动侦测——AI 即时监控输入内容 职员输入提示词的当下,系统即自动侦测个人信息特征。 侦测后的动作可依机密信息种类分别设置为「仅显示警告(提醒职员注意,是否送出由职员自行判断)」或「封锁送出(直接拦截向 AI 发送的请求)」。 例如,管理者可在设置画面灵活配置「健保号码立即封锁、姓名则显示警告并交由职员判断」等分级运作规则,从而实现符合实际业务情境的务实治理模式。 第二层:禁止词汇封锁——将组织特有规则落实于系统 管理者可自由登录 100 个以上 的禁止词汇。含有已登录词汇的输入内容, 向 AI 发送的请求将直接遭到封锁 ,无需职员介入判断,由系统层面强制拦截。 对於单靠个人信息特征无法涵盖的组织专属机密信息——例如未公开的政策项目名称、内部研议中的设施名称、人事相关固有名词等——管理者可依自身裁量灵活登录为保护对象。 不只是在指引中载明「○○禁止输入」,更能在系统上强制运行……