AI安全研究所（AISI，所长：村上明子）的业务实证工作小组之一的医疗保健次工作小组（以下简称 SWG），为加速生成式AI技术在医疗领域的安全社会化应用，制定了「医疗领域中的AI安全评估观点指南」（以下简称本指南）。 本指南参考 AISI 所制定的 AI 安全相关评估观点指南，并反映医疗与健康照护特有的机敏性与风险，为实务工作者提供了具体的评估方法。 ※IPA 承担了部分 AI 安全研究所的秘书处功能。 [详细信息请点此]（IPA 官方网站） ## ■背景与目的 近年来，生成式AI为医疗领域带来了重大创新，例如提升医师的业务效率及支持病患沟通等。但另一方面，也堆积了许多医疗领域特有的课题，包含因幻觉（生成错误信息）导致的健康损害风险，以及高度的隐私保护与资安确保等。 2025年12月内阁会议通过的人工智能基本计划中，明确指出促进医疗与健康照护领域中AI的开发、实证、导入及社会化应用为具体措施。此外，如同2026年1月举办的「Hiroshima Global Forum for Trustworthy AI」所讨论，实现「可信赖AI（Trustworthy AI）」在国际社会中亦成为重要课题。 近期，医疗保健 SWG 致力于打造一个让业者能从开发与设计阶段便确保安全性，并能兼顾商业价值与安全安心的环境，进而制定了本指南。 ## ■指南的主要特色 本指南具备以下特色，即使是缺乏专家的企业也能轻松运用。 ### 1. 遵循 AI 生命周期中 5 个阶段的评估重点 遵循 AI 的生命周期，统整了在产品设计、模型选择、产品实作、产品验证、产品导入与维运这 5 个阶段中，各别需要评估的重点。 ### 2. 10 项多角化的评估观点与具体的风险假设 从 AI 安全的评估观点指南中，具体列出了将其应用于医疗领域时所需的 10 项观点。同时也枚举了若忽略这些观点的评估可能面临的风险，例如「提供有关医疗与健康的错误或危险信息，可能对病患的生命或健康造成直接损害」等。这些不仅涵盖普遍性风险，也包含医疗领域特有的风险，对运用AI时的风险管理相当有帮助。 此外，未来也预计公开包含具体范例（提示词、代理技能等）的实践指南，以便能根据本指南的评估观点实施 AI 安全评估。 ## SWG 参与组织 Ubie 株式会社（SWG 领导者）、株式会社 Awarefy、味之素株式会社、SB Intuitions 株式会社 CMIC HOLDINGS 株式会社、SherLOCK 株式会社 日本数字医疗联盟（JaDHA）、株式会社 MICIN、公益财团法人 东京财团 株式会社三菱总合研究所（SWG 秘书处） ## 未来展望 医疗保健 SWG