提供AI治理工具以强化生成式AI时代经营能力的株式会社Citadel AI(代表取缔役:小林 裕宜,以下简称「Citadel AI」)宣布,小野药品工业株式会社(总部:大阪市中央区,代表取缔役社长:泷野 十一,以下简称「小野药品」)为了提升内部业务使用生成式AI的安全性与可靠性,已全面采用Citadel AI的AI治理工具「Citadel Lens」。 向制药业拓展的背景 企业对AI的导入,如今正从第一线扩展至经营管理层等各个部门。在积极活用AI的同时,如何防御其安全风险与声誉风险的「攻与守」平衡变得极为重要。 Citadel AI提供AI治理工具Citadel Lens,以实现安全、安心的「可信赖AI」,并促进AI的活用。Citadel Lens是一款独特的产品,从生成式AI的导入阶段风险评估,到营运阶段的即时护栏,以All-in-One方式支持生成式AI的完整生命周期。 特别是在与生命息息相关的制药业中,所处理信息的机密性与正确性极为重要。在导入生成式AI时,对AI生成回答的错误(幻觉)、偏见以及信息安全等风险管理,成为了一大挑战。 近年来,创造创新药物与新药研发所需之技术开发的竞争及速度化日益加剧。为了让制药企业能在全球舞台上通过药品创新持续贡献社会,推动通过数字转型(DX)的业务改革,以及制定促进生成式AI使用的指南等环境整备工作刻不容缓。小野药品是制药业中推动先进DX举措的企业之一,此次对Citadel Lens在AI治理领域的功能给予高度评价,进而促成了系统的全面导入。 未来展望 Citadel Lens是一款能适当侦测并控制生成式AI应用程序输入与输出风险(回答品质风险、安全风险)的工具。 通过在小野药品导入Citadel Lens,Citadel将对小野药品全公司使用的生成式AI(业务聊天机器人等)提供持续的品质验证流程。这不仅能维持并提升生成式AI的回答精准度,还能及早发现与处理预期外风险,协助创建让员工能安心活用AI的环境。展望未来,我们也考虑将AI治理应用于包括新药研发与药品开发流程等更高端的领域,目标是强化AI治理,作为支撑「攻守兼备之DX」的平台。 小野药品工业株式会社 数字科技本部 IT I&O部长 井关 顺义 本公司将生成式AI等数字技术的活用,定位为强化竞争力的重要关键。身为从事医疗与制药的企业,我们认为确保数字技术的安全性与可靠性至关重要。通过导入Citadel Lens,我们期待能将以往需要耗费大量时间与人力进行的AI风险评估自动化,从而创建起能以速度感推动创新的体制。