InfiniCloud株式會社(總公司:靜岡縣靜岡市,以下InfiniCloud)已對其國產私有AI基礎架構「InfiniCloud® AI」進行大規模更新,旨在讓企業機密資訊、個人資訊及內部文件能在用戶的管控下使用,而無需任意傳送給外部AI。 更新後的Ver2版本,強化了多項功能,包括操作性更佳的新UI、以證據為導向的思考模式「EDTM(Evidence-Driven Thinking Mode)」、原始資料來源(Source of Truth, SoT)管理功能、基於角色的權限管理(RBAC/ACL)、審計日誌,以及技能/工作流程自動化等。InfiniCloud® AI已從僅用於概念驗證(PoC)的AI,進化為「安全應用機密資訊、個人資訊、內部原始資料於業務中的企業級AI基礎架構」。 InfiniCloud® AI聊天介面InfiniCloud® AI管理畫面(智慧註冊)InfiniCloud® AI管理畫面(用戶群組設定)InfiniCloud® AI管理畫面(權限設定) 關於「InfiniCloud® AI」 「InfiniCloud® AI」是一款「國產私有AI基礎架構」,專為安全解決難以處理的機密資訊、企業特有情境及在地業務挑戰而設計,支援從私有雲到完全隔離的本地部署。這類資訊對於龐大的全球公共AI來說難以處理。 InfiniCloud® AI的基本架構是在用戶管理的環境內,於伺服器內部處理提示詞(prompt)、對話紀錄、註冊文件、參考資料及生成結果。因此,這些資訊無法用於共享模型的學習、用戶個人檔案建立、廣告、行為分析、服務改進等二次目的。這是一款由資訊部門管理並能安全提供給員工使用的AI。 特別適合以下組織和企業導入: 擁有嚴格治理與安全要求的組織 例如金融機構、醫療機構、地方政府/公共機關、國防相關企業、大學/研究機構等,其資訊外洩受到法規或基礎設施政策限制的組織。 希望保護獨有知識資產的企業 例如製造業的設計/開發部門、處理專利技術的企業、處理公開前經營資訊的企業等,希望無憂慮地將內部資料投入AI並「擁有」的組織。 IT基礎設施供應商/系統整合商 希望將私有AI服務整合到自家SaaS或資料中心內,以OEM或套件形式提供給客戶的供應商。 ◼️ 主要特色 透過完全隔離(Air-Gap)確保資料主權 支援在不連接網際網路的封閉環境中運作,不會將提示詞、內部知識庫、對話紀錄等傳送至外部雲端AI或伺服器。※除非啟用網路搜尋引擎功能或將處理卸載到外部遠端LLM。這些可由管理者設定。 從「知識(RAG)」昇華至「智慧(Fine-Tune)」 不僅止於像放在旁邊的手冊或規定一樣回答的「RAG(檢索增強生成)」,更可透過使用從內部資料自動生成的問答資料集進行微調(LoRA),培養出內含組織獨特思考模式和語氣的「業務專用AI」。※此處的微調功能,是使用用戶明確指定的資料,在用戶有權限的智慧網域(intelligence domain)單位內改善AI的回答,且無法用於InfiniCloud提供給第三方的共享模型學習/改進、其他公司模型或使用者個人檔案建立。 針對企業應用優化的嚴格權限管理(RBAC/ACL)與內部控制 採用「角色基礎存取控制(RBAC)」控制「可開啟哪些畫面、可執行哪些操作」,以及「存取控制清單(ACL)」控制「可觸及哪些智慧網域的哪些部分」的兩層結構。此外,還具備「逐步驗證」和審計日誌功能,以應對嚴格的內部控制與治理。 InfiniCloud® AI Ver2 主要更新內容 1. 煥然一新的直觀操作UI,支援對話紀錄自動保存 更直觀的UI設計 大幅改善了登入畫面、側邊欄、輸入欄、設定畫面、深色模式等的外觀與操作感,打造出任何人都能輕鬆使用的精緻介面。 對話紀錄永不消失的「伺服器保存」 從以往的瀏覽器暫存,改為支援伺服器端安全自動保存。無論更換電腦、手機或瀏覽器,都能隨時繼承過去的對話。 ※保存的對話紀錄會保留在用戶管理環境中,所佔用的記憶體僅用於與使用該功能的用戶的對話,不會與第三方共享。 僅需輸入「/」即可進行指令補全 在輸入欄輸入「/」,即可顯示可用的業務自動化選單和說明,直接從聊天介面流暢啟動自動化程式(工作流程)。 2. 搭載AI自行「尋找證據」並進行驗證的進階思考模式 證據導向思考(EDTM模式) 針對複雜問題或專業商業挑戰,現已提供一種極其聰明的思考模式,AI能「自主收集相關證據並在驗證內容的同時」建構回答。 強化搜尋功能,不錯過任何想找的內部文件 透過結合意義搜尋的「向量搜尋」與關鍵字搜尋的「稀疏搜尋」的混合搜尋,並搭載「Agentic RAG(根據對話情境自動修正搜尋詞的功能)」,能從龐大的內部文件中更精確地提取目標資訊。 3. 嚴格保護資料「真實性」的SoT功能與辦公室文件的高階解析 用戶專