Konnect-linK株式会社正式推出支持封闭・本地环境的LLM/AI代理建构解决方案

Q: 此解决方案适用于哪些类型的公司？

适用于金融、制造、医疗、政府机构等需要高信息安全标准并处理机密或个人信息的公司。

Q: 什么是「影子AI」？

影子AI是指员工未经公司批准，自行使用的云端AI工具，可能导致信息泄露风险。

Q: 本地LLM有什么好处？

本地LLM允许公司在不将敏感数据传输到内部网络外部的情况下利用生成式AI，从而显著降低信息泄露风险并创建严格的AI治理。

Konnect-linK株式会社正式推出支持封闭・本地环境的LLM/AI代理建构解决方案 随着企业生成式AI应用范围的扩大，AI治理和应对安全风险的重要性日益提高，Konnect-linK株式会社（总部：东京都千代田区，代表董事：荐田贤人，以下简称「本公司」）已 正式推出支持封闭・本地环境的LLM（大型语言模型）/AI代理建构解决方案 。 本解决方案是本公司 一年多以来在内部进行研究开发 ，并向包括 主板上市企业在内的客户提供 的封闭・本地环境下LLM/AI代理建构的知识和技术的系统化成果。它能够在不将机密数据传输到公司网络外部的情况下，建构生成式AI应用环境，并提供从AI策略制定、基础设施设计与建构、业务实施到营运改进的 一站式支持 。借此，我们将为 金融、制造、医疗等对信息安全标准要求严格的行业企业提供一个可以安心推进AI应用的环境。 随着LLM的兴起，回归本地部署 1. 背景：生成式AI信息泄露风险的显现 生成式AI在大幅提升企业生产力的同时，近年来其应用所伴随的 信息泄露风险已成为严峻的经营课题。 (1) AI治理缺失导致的「影子AI」风险 许多企业在生成式AI的业务应用方面， 缺乏明确的规则和治理体系 ，导致员工或业务委托人员等业务运行者 根据个人判断使用云端AI工具 的情况屡见不鲜。 根据IBM的「2025年数据泄露成本报告」， 未经企业批准使用的「影子AI」导致的数据泄露在所有受访企业中占20% ※1。 (2) 云端AI应用带来的结构性风险 云端生成式AI服务在用户输入数据传输到外部服务器时，可能产生 各种安全风险（如机密信息被用于训练数据/信息泄露风险等）。 事实上，Assured公司对1000名以上员工的大型企业信息系统部门的300名员工进行的调查显示， 超过一半（58.5%）使用SaaS的企业曾经历过由AI或应用AI的SaaS引起的信息泄露等安全事件 ※2。 此外，Gartner Japan的调查预测，2026年以后，企业 所有安全事故中有一半将由搭载AI的应用程序引起 ※3。 (3) 随着AI代理应用进展带来的权限管理风险 许多企业认识到LLM的实用性，近年来，为了实现更高级的业务效率化和自动化， AI代理的导入和评估也在推进中。 相较于回应用户明确指令的传统LLM应用，AI代理预计将在 连接多个工具、业务系统和内部数据的同时，自主或半自主地处理任务 ，因此在提高便利性的同时，也伴随着 更容易被赋予广泛权限的结构性风险 。 结果，如果发生设置不当、权限设计不合理或通过外部数据混入非预期指令等情况，对 机密信息、内部数据和内核系统的影响可能比单独使用传统LLM时更大。 因此，在应用AI代理时，比LLM更需要面对更强大的AI治理，包括严格的权限管理、审计和批准流程。 (4) 监管强化导致各行业加速本地化 在这些风险显现的背景下，特别是 处理高度机密信息的金融、制造、医疗行业 ， 将数据保留在公司内部环境中应用AI的本地LLM正在迅速普及。 本公司基于这种市场环境的变化， 正式推出支持封闭・本地环境的LLM建构解决方案。 2. 解决方案概述：本地LLM/AI代理建构解决方案 本公司的本地LLM/AI代理建构解决方案，将 一站式支持企业在封闭环境下应用生成式AI所需的所有阶段 ，从 AI策略制定到基础设施建构、业务实施、营运与改进。 ※本服务已于一年多前开始研究开发，并已向包括金融机构在内的主板上市企业提供服务。 〇主要服务项目 ●AI策略・构想制定：业务课题整理、AI应用路线图制定、投资效益估算、支持高层AI策略制定 ●AI治理设计：AI应用政策制定、影子AI对策、风险评估框架建构、防护栏设计（输出验证・提示词注入对策等）、AI代理应用时的权限管理・统制设计 ●本地LLM基础设施建构：封闭・本地环境下的GPU服务器设计・建构、LLM模型选择・导入、通过量化进行模型优化、RAG（检索增强生成）环境建构、API设计・业务系统集成 ●业务实施（社会实施）：AI集成到业务流程、用户导线设计、业务稳定化支持、应用MCP（Model Context Protocol）・A2A（Agent-to-Agent Protocol）等实现下一代AI集成 ●营运・改进：模型精度的持续监控、评估设计（基准・验证进程）标准化、微调支持、营运成本优化 ●安全・安全性验证：漏洞诊断、数据访问控制设计、提示词注入耐性测试、合规性验证、AI代理应用时的访问控制・外部链接风险验证 实施模型范例（以公开模型为中心的部分范例） ・Qwen3-Next-80B-A3B-Thinking ・gpt-oss-120b ・Llama-3.1-Nemotron-Ultra-253B-v1 ※以上为范例，实际将根据客户需求、使用环境、授权条件等选择最佳模型。 3

常見問題