关于NEDO项目「确保AI安全相关研究开发・验证等推进事业／AI安全强化相关研究开发」成果报告

Q: 本指南的主要目的是什么？

提供一个集成生成式AI品质、安全性和治理的框架与实务知识，引导企业进入生产环境运行。

Q: 哪些企业是本指南的目标受众？

所有正在考虑或已经部署生成式AI但面临风险管理挑战的企业。

Q: 本指南与现有AI相关指南有何不同？

现有指南阐述了「应有的面貌」，而本指南则提供了「如何实现」的方法论，两者相辅相成。

Citadel AI股份有限公司（代表董事：小林裕宜，以下简称「Citadel AI」）受国立研究开发法人新能源・产业技术综合开发机构（NEDO）委托，自2025财年起致力于「确保AI安全相关研究开发・验证等推进事业／AI安全强化相关研究开发」。 本事业旨在推进AI安全相关的研究开发与验证，其目的在于集成性地进行AI安全标准的制定与普及，以及AI安全评估与管理技术的开发，这些对于适切地管理与利用生成式AI至关重要。 我们在此报告其中一项成果：「生成式AI实践指南与企业案例集 ～集成品质・安全性・治理以引导至实际运营的框架～」已汇编完成。 通过对20多家企业进行访谈调查，我们在既有理念和框架的基础上，以符合实务的方式系统化了生成式AI利用及其治理相关的课题与对策。本书将其作为企业实施指南，可供其他组织拷贝参考，并穿插了具体案例。 ## 1. 背景 生成式AI已成为一项普及的技术，AI代理在实际商业中应用的案例也日益增多。然而，幻觉现象（Hallucination）和信息泄露等与安全及声誉相关的风险也日益显现。 许多组织目前正以摸索的方式推进工作，面临着诸如「不知从何下手」、「考虑到风险，难以决定投入生产」、「指南虽然存在，但不知道如何具体应用于自家服务」等课题。 企业为了负责任地提供服务，不可或缺的「品质保证和风险管理具体方法」尚未创建，这成为全面导入的一大障碍，许多情况下难以从概念验证（PoC）阶段推进到实际运营。 ## 2. 成果概要 本报告书《生成式AI实践指南与企业案例集 ～集成品质・安全性・治理以引导至实际运营的框架～》旨在通过分享各企业在现场面临的课题及其具体解决方案和运营方法，为组织的AI应用提供指导方针。 关于利用包含AI代理在内的生成式AI的措施，我们根据对20多家实际开发和运营AI代理的企业访谈结果，从「技术」、「流程」和「组织文化」等角度整理了所获得的具体知识和实践经验，并将其系统化为框架，反映在本报告书中。 Citadel AI本身也致力于AI代理的开发，从设置解决课题、技术选型、收集所需数据、识别预期风险到系统评估，全程贯彻运行，验证了该框架的有效性。 附录中收录了被访谈企业使用AI代理的目的、面临的课题以及采取的对策等多个案例。同时，也分享了Citadel AI实际实施「针对外籍人士支持的聊天机器人」并验证框架有效性时的考量事项。 本报告书的详细内容，请点击此处下载。 ## 3. 本报告书的使用方法 本报告书《生成式AI实践指南与企业案例集 ～集成品质・安全性・治理以引导至实际运营的框架～》旨在将利用生成式AI的措施以及平衡AI安全与AI治理的方法论系统化并加以介绍，以作为各组织推进AI应用的参考数据。 本书并非旨在提供必须遵守的规则或指导方针，也不是一份详尽列出应运行措施的检查清单。它仅仅是针对「AI事业者指南」等现有指南所揭示的「理想状态」，提出「如何具体实现」的「方法论」，两者之间是相互补充的关系。 AI治理是经营层面的课题。经营层认识到AI治理的意义，发挥领导作用，有组织地推进工作，同时倡导促进AI应用，这极为重要。我们希望本报告书能对企业、组织或企业内团队在面对商业状况时引入和利用AI有所帮助。 致谢 此成果来自于国立研究开发法人新能源・产业技术综合开发机构（NEDO）的委托业务。 【关于Citadel AI股份有限公司】 Citadel AI是一家源自日本的全球新创公司，致力于实现「值得信赖的AI」的社会应用。 由来自Google美国总部的工程师等国际化团队引领开发。我们提供独特的「AI治理工具」，支持生成式AI的整个生命周期，从导入阶段的风险评估到运营阶段的防护措施。已被国际标准行业的代表性机构如BSI等采用，并在国内外市场获得高度评价。 公司名称：Citadel AI股份有限公司 所在地：东京都文京区向丘 2-3-10 东大前HiRAKU GATE 3-1 代表者：代表董事 小林裕宜 公司设立：2020年12月10日 网址：https://citadel-ai.com/ja/ X(Twitter)：https://twitter.com/CitadelAI

常見問題