伊藤忠技术解决方案股份有限公司(代表取缔役社长:新宫达史,以下简称CTC)与理光股份有限公司(社长运行役员:大山晃)为支持客户在业务中活用AI,共同开发了将小型桌边AI用服务器与理光自制LLM(大型语言模型)结合,能在地端环境中安全且便捷使用生成式AI的解决方案。本解决方案不受安装场所限制,可建构AI环境,支持从模型验证到业务单位的实际应用。即日起通过理光日本股份有限公司(社长运行役员:笠井彻)开始提供。 近年来,企业运用生成式AI的进程正从概念验证(PoC)阶段迅速转移至业务现场的实际运用。然而,机密数据的处理、模型精度的验证以及环境建置的负担等问题日益浮现,市场亟需能同时兼顾安全性与导入速度的方案。 本解决方案的AI用服务器具备可放置于桌边的超小型机体,在地端环境中拥有运行大规模参数LLM所需的高机动性与运算能力。搭配理光自制LLM——虽仅有270亿参数(决定AI性能的学习要素规模)的相对精简架构,却实现了高性能表现——使客户能在不受场所限制的安全环境中活用AI。 CTC负责在本服务器上预先安装理光自制LLM及生成式AI开发平台Dify,并完成AI活用环境的设置;理光日本则以套装形式提供给客户。如此一来,客户无需进行任何特殊设置,即可轻松开始使用AI。 本解决方案不仅适合因顾虑机密信息外泄风险而需要在地端环境使用AI的客户,也适用于AI动作验证、全公司导入前的测试部署,以及按业务单位或负责人单位导入的场景。 理光与理光日本将贴近客户需求,依据不同业种与业务提供「能用、会用的AI」,支持办公室及现场的数字转型(DX)。从「RICOH 地端LLM入门套件」开始,提供涵盖在地端环境安全活用AI所需的环境建置、导入至运用支持的一站式套装解决方案,并依客户使用规模与用途备有完整产品线。本次新解决方案的上市,使产品阵容进一步扩充。 CTC将凭借长年的系统集成实绩与基础架构建置所累积的专业知识,支持本解决方案的导入流程优化。同时借助与厂商的伙伴关系,将导入所需的前置时间缩至最短。此外,从各类设置文档与操作手册的整备、出货前的动作验证,到出货与运输管理,均由CTC统一处理,大幅减轻现场作业负担。未来将持续降低企业导入AI的门槛,进一步强化朝向AI高度活用所提供的附加价值。