SherLOCK株式会社（总部：东京都港区，代表董事CEO：筑地 Teresa，以下简称「SherLOCK」），作为AI安全研究所（以下简称「AISI」）业务实证工作小组（业务实证WG）下属的医疗保健子工作小组（SWG）成员，为医疗保健领域的「AI安全评估观点指南」的制定提供了技术支持。 SherLOCK发挥其作为AI资安新创公司的专业知识，特别是从安全性和数据品质的角度，为第一线人员提供具体评估方法的系统化做出了贡献。 【AISI：新闻稿】 https://www.ipa.go.jp/pressrelease/2026/press20260403.html ■ 背景与目的 尽管生成式AI有望为医疗保健领域带来重大创新，但也面临着如幻觉（产生错误信息）、高度隐私保护以及确保安全性等特有挑战。正如2026年1月「Hiroshima Global Forum for Trustworthy AI」所讨论的，实现「可信赖的AI（Trustworthy AI）」是一项国际性的重要课题。为了帮助企业创建一个能从开发阶段确保安全性，并兼顾商业价值与安全安心的环境，SherLOCK参与了该SWG并提供了技术知识。 ■ SherLOCK提供的主要支持内容 在制定本指南的过程中，SherLOCK特别针对以下内容，为第一线人员能够立即使用的具体AI安全评估方法的系统化做出了贡献。 通过AI红队测试，提供有关资安及数据品质观点的评估项目和要点的专业知识。 SherLOCK提出了针对恶意提示词（Prompt）故意引导至错误信息，或诱发信息外泄等风险进行测试的评估项目和要点。为了创建能防范医疗现场重大事件发生的评估流程，提供了技术上的见解。 定义了用于RAG（检索增强生成）等技术的数据品质可能损害整体产品可靠性的风险，并整理和明确了确保医疗与健康相关信息准确性的评估要点。 关于通过第三方评估进行客观AI安全评估的建议。 针对AI安全与AI资安，SherLOCK从实务角度提供了建议与案例，说明由具备专业知识的第三方进行的AI红队测试，能如何帮助企业确保可靠性。 ■ 本指南的特点 本指南具备以下特点，即使是缺乏专家的企业也能轻松运用。 符合AI生命周期的5阶段评估 明确指出在产品设计、模型选择、实作、验证、导入与营运的各个阶段中应评估的要点。 10项多角化安全评估观点 从普遍的AI安全评估观点涵盖到医疗保健特有风险。并明示若疏于评估将带来的具体风险（例如：对患者生命与健康的直接危害）。 直接与实务接轨的风险管理支持 整理了具体的风险情境与对策，现场负责人可立即应用。