## 实证在与外部网络隔离的环境中生成式AI与RAG应用的有效性 Scuti株式会社利用日本慧与科技(以下简称HPE)的最新服务器机箱「HPE ProLiant DL380 Gen11」,在与外部网络完全隔离的地端环境中,进行了生成式AI(GAI)及检索增强生成(RAG)系统的验证。我们于今日宣布,已发布总结该验证过程与成果的技术白皮书。 近年来,虽然许多企业都在推进生成式AI的导入,但为了避免机密信息或个人数据外泄的风险,不得不限制云端型AI使用的情况也不在少数。本次验证针对需要高度安全性的经营、人事及数字转型(DX)推动部门所面临的课题,阐明了如何在完全脱机的环境中实现高精准度的AI应用。 下载白皮书 ## 验证背景:消除安全性与便利性之间的权衡 为了让生成式AI真正发挥提升业务效率的作用,创建让AI学习并参照公司内部独有知识(如手册、规定、过往会议纪录等)的「RAG(检索增强生成)」是不可或缺的。然而,这些信息对企业而言是最重要的机密,将其上传至云端环境存在着极高的心理与法规门槛。 为了决解这项课题,本公司利用HPE强大的硬件基础架构,针对完全不进行任何外部通信的「地端版安全GAI」进行了验证。 ## 采用强固的基础架构「HPE ProLiant DL380 Gen11」 本次验证设备采用了具备卓越处理能力与可靠性的「HPE ProLiant DL380 Gen11」。 - 高运算能力:确认了其足以承受RAG系统中的矢量搜索以及大型语言模型(LLM)本地运行的性能。 - 强固的安全性:通过使用具备硅芯片信任根(Silicon Root of Trust)等硬件层级安全功能的HPE产品,确保了从基础架构层到应用程序层的一致安全性。 通过本次验证,我们证实了即使在与外部隔离的环境下,也能实现媲美云端型AI的回应速度,并根据组织特有的专业知识生成准确的回答。