伊藤忠科技解决方案株式会社(代表取缔役社长:新宫达史,以下简称 CTC)与 Ricoh 株式会社(社长运行役员:大山晃)以协助客户在业务中运用 AI 为目的,共同开发了一套将小型桌边 AI 服务器与 Ricoh 自制 LLM(大型语言模型)结合,能在地端环境中安全且便捷地使用生成式 AI 的解决方案。本方案不受安装地点限制,可建构 AI 环境,支持从模型验证到以业务单位为基础的应用。即日起通过 Ricoh Japan 株式会社(社长运行役员:笠井彻)开始提供。 近年,企业对生成式 AI 的运用已从 PoC(概念验证)阶段迅速转移至业务现场的实际运营。然而,机密数据的处理、模型精度的验证以及环境建置所带来的负担等问题日益凸显,市场迫切需要能兼顾安全性与速度的导入方式。 本方案的 AI 服务器最大特点是采用超小型机箱设计,可放置于桌边,在地端环境中具备高机动性与运算能力,足以运行大规模参数的 LLM。搭配 Ricoh 自制 LLM——虽仅有 270 亿参数(决定 AI 性能的学习要素规模)的相对紧凑架构,却实现了高性能表现——使得无论在何处都能在安全环境中灵活运用 AI。 CTC 负责完成本服务器上 Ricoh 自制 LLM 及生成式 AI 开发平台 Dify 的预装,以及 AI 应用环境的设置,再由 Ricoh Japan 以套装方案的形式提供。如此一来,客户无需进行特别设置,即可轻松开始运用 AI。 除了因顾及处理机密信息风险而需要在地端环境使用 AI 的客户外,本方案也适合用于 AI 功能验证、面向全公司导入的测试部署,以及依业务单位或负责人单位进行的导入。 Ricoh 与 Ricoh Japan 贴近客户需求,依行业与业务提供「能用、能活用的 AI」,支持办公室及现场的数字转型(DX)。以「RICOH 地端 LLM 入门套件」为首,提供涵盖在地端环境中安全运用 AI 所需的环境建置、导入到运营支持的一站式套装解决方案,并依客户使用规模及用途提供完整产品阵容。本次解决方案的推出进一步扩充了产品阵容。 CTC 以多年系统集成(SI)实绩与基础架构建置所累积的专业知识为基础,协助优化本方案的导入流程。同时发挥与厂商的合作伙伴关系,将导入前置时间缩至最短。此外,从各项设置表单及操作手册的整备、出货前的功能验证,到出货与物流管理,全程一手包办,大幅减轻现场作业负担。 今后将持续降低企业导入 AI 的门槛,进一步强化朝 AI 深度应用迈进的附加价值提供。