Elith 公司(總部:東京都文京區,代表取締役 CEO:井上 顧基,以下稱「Elith」)已推出應對影子 AI 的 SaaS「GENFLUX Security」,該服務旨在協助企業實現生成 AI 利用的可視化、控制與記錄。 GENFLUX Security 是一項安全服務,旨在應對員工在業務中使用公司未批准的 AI 工具所產生的「影子 AI」風險,並為企業建立安全利用生成 AI 的官方管道。 服務官方網站:https://lp.genflux.jp/ 背景:生成 AI 應用擴大與影子 AI 風險 儘管生成 AI 在業務上的應用迅速普及,但企業端的管理和規則整備卻越來越難以跟上。 例如,以下類型的應用可能導致企業面臨資訊洩漏、違反法規遵循以及稽核應對困難等問題: 在業務中使用公司未批准的 AI 服務 在製作提案書時將客戶資訊輸入外部 AI 將圖面、合約書、設計資料等機密文件上傳至 AI 在提示詞(prompt)中輸入 API 金鑰、密碼、公司內部資訊 資訊安全部門/CISO 無法事後確認實際使用情況 生成 AI 正逐漸成為提升業務效率和競爭力的不可或缺的技術。然而,僅僅以「禁止使用」來限制,不僅會損害現場的生產力,還可能助長在管理範圍外的濫用。 企業所需的是建立安全利用生成 AI 的官方管道,並在掌握實際使用情況的同時進行管控,而非禁止生成 AI 的使用。 關於 GENFLUX Security GENFLUX Security 透過「視覺化」、「控制」和「記錄」企業內部的生成 AI 使用情況,是 AI 時代支援安全 AI 應用的基礎架構。 管理者可以掌握誰、在何時、使用了哪些 AI 服務,並在儀表板上查看依部門和使用者劃分的利用狀況。此外,對於存有風險的操作,例如存取被禁止的 AI 或傳送包含機密資訊的提示詞,可以根據企業的政策執行警告、封鎖或遮罩處理。 主要功能 1. AI 使用情況視覺化 GENFLUX Security 在儀表板上統一管理員工的 AI 使用情況。 掌握誰、在何時存取了哪些 AI 服務 查看依部門、使用者劃分的利用狀況 偵測未批准 AI 服務的使用 為管理者提供實際使用情況的視覺化 藉此,資訊安全部門、CISO 和管理部門可以確認過去難以掌握的生成 AI 使用實態。 2. 風險操作的控制 即時控制存取被禁止的 AI 服務、傳送包含機密資訊的提示詞等風險操作。 封鎖存取被禁止的 AI 服務 在傳送包含機密資訊的輸入前發出警告/封鎖 視需要進行遮罩處理後傳送 套用依部門/使用者單位的政策 對於使用者,可以顯示被封鎖的原因,從而在保持現場人員理解的同時,促進安全的 AI 應用。 3. DLP(資料遺失防護)保護機密資訊 GENFLUX Security 會檢查傳送至 AI 的提示詞,防止機密資訊洩漏。 偵測對象範例如下: 個人資訊:姓名、地址、電話號碼、電子郵件地址 日本特有資訊:My Number、駕照號碼、健保號碼 支付/認證資訊:信用卡號碼、API 金鑰、密碼 企業機密:併購資訊、客戶名單、未公開產品、公司內部術語 若可能包含機密資訊,將在傳送前發出警告/封鎖,並提示修正為安全的提示詞。 4. 使用記錄與稽核應對 GENFLUX Security 將 AI 使用記錄作為證據保存,並以可供稽核和報告的形式進行管理。 記錄誰、在何時、使用了哪個 AI 保存封鎖、警告、遮罩等控制歷史記錄 用於稽核、責任歸屬和法規遵循應對 支援管理者報表輸出 這使得在生成 AI 應用中的責任歸屬更容易被履行。 兼顧現場與管理者的使用者體驗 GENFLUX Security 的目標是在保護現場生產力的同時,實現企業所需的管控。 一般員工 已授權的 AI 可照常使用 僅在進行危險操作時發出警告/封鎖 顯示存取被禁止 AI 的原因 視需要遮罩機密資訊 由於能理解為何被阻止,設計上容易獲得使用者認同 管理者/CISO/資訊安全部門 透過儀表板掌握整體 AI 使用情況 發現未批准的 AI 服務 透過 DLP 警報通知風險 支援政策管理、記錄確認、報表輸出 保留用於稽核/治理應對的證據 應用場景 GENFLUX Security 可根據產業特有的機密資訊和業務流程,設計 AI 使用規則。 金融機構:審查資料、客戶資訊、帳戶資訊 製造/建設:圖面、設計資料、未公開產品 SaaS/IT:原始碼、API 金鑰、系統架構 人力資源/政府機關:個人資訊、My Number、駕照資訊 製藥/醫療:臨床試驗數據、患者資訊、處方資訊 基礎設施:設備圖面、發票、設計規格 提供形式 GENFLUX Security 首先以瀏覽器擴充功能的形式提供。 網頁擴充版:已提供 桌面版:預計提供 代理程式版:預計提供 生成 AI 的使用形態正從瀏覽器上的 AI 服務,擴