行政 AX 的领跑者 Polimill 公司（总部：东京都港区，代表董事：伊藤あやめ／谷口野乃花）宣布，将于 2026 年 4 月 1 日预计进行的更新中，为行政专用生成式 AI「QommonsAI」提供能多层次防止机密信息意外输入的「个人信息自动检测」、「禁止词汇封锁」、「检测与封锁日志」功能。 多层次防止机密信息意外输入 将规则的实效性从「纸本规定」提升至「技术性机制」的「多层次信息治理功能」 随着生成式 AI 在全国自治体导入加速，为进一步推动其利用，创建将厅内信息管理规则系统化，并让职员能无疑虑地运用 AI 的环境变得至关重要。许多自治体在生成式 AI 使用指南中规定了输入时的注意事项，但其运行往往取决于职员个人的意识。通过将 规则的实效性从「纸本规定」提升至「技术性机制」 ，职员将能减轻信息管理上的过度负担，安心地充分运用生成式 AI。 QommonsAI 本次搭载了 「个人信息自动检测」、「禁止词汇封锁」、「检测与封锁日志」这三大防护层 ，实现了「不依赖个别职员判断，而是由系统防止泄漏」的环境。借此，自治体能够兼顾「欲用之，勿泄漏」的矛盾要求，安心地推动生成式 AI 的广泛应用。 个人信息警示／禁止词汇设置为何 本功能是在 检测到包含个人信息或禁止词汇的输入时，显示警告或封锁发送至 AI 的功能。 三大防护层的整体架构 QommonsAI 的信息治理功能通过「检测→阻挡→记录」三个阶段，防止机密信息外泄。 第一层：个人信息自动检测 — AI 即时监控输入内容 在职员输入提示词（prompt）的当下，自动检测个人信息模式。 检测时的动作，可根据机密信息的种类，个别设置为「仅警告（向职员发出注意提醒，发送判断交由职员决定）」或「发送封锁（直接阻挡发送至 AI）」。 例如，管理员可通过设置画面灵活配置如「我的号码立即封锁，姓名则显示警告后由职员判断」等分级的营运规则。借此实现符合业务实况的现实性治理。 第二层：禁止词汇封锁 — 将组织特有规则系统化 管理员可注册 超过 100 个 任意的禁止词汇。包含已注册词汇的输入将 直接被封锁发送至 AI ，在不经过职员判断的情况下由系统层级阻挡。 仅靠个人信息模式无法完全捕捉的组织特有机密信息 — 例如，未公开的政策项目名称、内部讨论中的设施名称、人事相关的专有名词等 — 可由管理员依裁量灵活设置为保护对象。 不仅在指南中记载「禁止输入○○」，更在系统上强制运行...