行政AXのトップランナーであるPolimill株式会社（本社：東京都港区、代表取締役：伊藤あやめ／谷口野乃花）は、行政向け生成AI「QommonsAI（コモンズAI）」において、2026年4月1日に予定しているアップデートで、機密情報の意図せぬ入力を多層的に防止する「個人情報自動検知」「禁止ワードブロック」「検知・ブロックログ」機能を提供開始することをお知らせいたします。 機密情報の意図せぬ入力を多層的に防止 ルールの実効性を「紙の規定」から「技術的な仕組み」に引き上げる「多層的な情報ガバナンス機能」 生成AIの導入が全国の自治体で加速するなか、利活用を一層推進するためには、庁内の情報管理ルールをシステムとして実装し、職員が迷いなくAIを活用できる環境を整えることが重要になっています。多くの自治体では生成AI利用ガイドラインにおいて入力時の注意事項を定めていますが、その運用は職員個人の意識に委ねられているケースが少なくありません。 ルールの実効性を「紙の規定」から「技術的な仕組み」に引き上げる ことで、職員は情報管理に過度な負担を感じることなく、安心して生成AIをフル活用できるようになります。 QommonsAIは今回、 「個人情報自動検知」「禁止ワードブロック」「検知・ブロックログ」の3層防御 を搭載することで、「職員一人ひとりの判断に頼らず、システムとして漏洩を防ぐ」環境を実現しました。これにより、自治体は「使わせたいが、漏らさせない」という相反する要請を両立し、生成AIの利活用を安心して推進できるようになります。 個人情報アラート／禁止ワード設定とは 本機能は、 個人情報や禁止ワードを含む入力を検知した際に、警告の表示またはAIへの送信をブロックする機能です。 3層防御の全体像 QommonsAIの情報ガバナンス機能は、「検知→遮断→記録」の3段階で機密情報の流出を防止します。 第1層：個人情報自動検知 ─ AIが入力内容をリアルタイムで監視 職員がプロンプトを入力した時点で、個人情報パターンを自動的に検知します。 検知時の動作は、機密情報の種類に応じて「警告のみ（職員に注意喚起し、送信の判断は職員に委ねる）」と「送信ブロック（AIへの送信そのものを遮断する）」を個別に設定可能です。 たとえば、「マイナンバーは即時ブロック、氏名は警告表示のうえ職員判断」といった段階的な運用ルールを、管理者が設定画面から柔軟に構成できます。これにより、業務の実態に即した現実的なガバナンスを実現します。 第2層：禁止ワードブロック ─ 組織固有のルールをシステムに実装 管理者が任意の禁止ワードを 100個以上登録可能 です。登録された語句を含む入力は AIへの送信そのものがブロック され、職員の判断を介さずにシステムレベルで遮断されます。 個人情報パターンだけでは捕捉しきれない、組織固有の機密情報──たとえば、非公開の政策プロジェクト名、内部検討中の施設名称、人事関連の固有名詞など──を管理者の裁量で柔軟に保護対象として登録できます。 ガイドラインに「○○は入力禁止」と記載するだけでなく、それをシステム上で強制的に適用できるため、 ルールの実効性を「紙の規定」から「技術的制御」に引き上げる ことが可能です。 第3層：検知・ブロックログ ─ ガバナンスの「見える化」と監査対応 個人情報検知および禁止ワードブロックの全履歴を、管理者がログとして閲覧可能です。「いつ、誰が、どのような情報を入力しようとし、システムがどう対応したか」を時系列で確認できるため、庁内ガバナンスの継続的モニタリングを実現します。 さらに、QommonsAIの既存のログ管理機能と連携し、入出力ログのCSV形式での出力にも対応。情報セキュリティ監査や内部統制の報告資料としてそのまま活用できます。 「個人の注意力」から「組織の仕組み」へ ─ 利活用推進と情報保護の両立 生成AIの導入において、多くの自治体が「利活用の推進」と「情報漏洩の防止」という二律背反に直面しています。 利活用を促進すれば漏洩リスクが高まり、セキュリティを厳格にすれば活用が萎縮する──この構造的なジレンマに対し、QommonsAIは「職員個人の注意力」に頼るのではなく、 「組織としての仕組み」で解決する アプローチを提供します。 管理者は、自治体ごとの情報セキュリティポリシーに合わせて検知対象・ブロック対象・ログ保持ルールをカスタマイズできるため、画一的な制限ではなく 業務実態に即した柔軟なガバナンス設計 が可能です。 自治体業務における想定活用シーン 住民対応課 ：住民からの問い合わせ対応文を生成する際、窓口で取得した氏名・住所が意図せずプロンプトに混入することを自動検知し警告 税務課・福祉課 ：マイナン