AI安全新創公司SherLOCK為AISI醫療保健領域的「AI安全評估觀點指南」制定提供技術支援

常見問題

Q: AI安全新創公司SherLOCK為哪個機構的醫療保健領域『AI安全評估觀點指南』提供了技術支援？

A: AI安全新創公司SherLOCK為AI安全研究所（AISI）業務實證工作小組下屬的醫療保健子工作小組（SWG）所制定的『AI安全評估觀點指南』提供了技術支援，協助系統化建立具體的AI安全評估方法。

Q: SherLOCK股份有限公司的總部位於何處，且其代表董事CEO是誰？

A: SherLOCK股份有限公司的總部位於東京都港區，其代表董事CEO為築地 Teresa，該公司以AI資安新創企業身份參與醫療保健領域AI安全指南的技術支援工作。

Q: 在『AI安全評估觀點指南』中，SherLOCK針對哪些具體風險提出了AI紅隊測試的評估項目與要點？

A: SherLOCK針對惡意提示詞（Prompt）可能導致錯誤資訊產生或誘發醫療資料外洩等風險，提出了AI紅隊測試的評估項目與要點，以建立防範醫療現場重大事件的技術流程。

Q: 該指南為確保醫療相關資訊準確性，針對RAG等技術提出了什麼樣的數據品質風險評估重點？

A: 指南中明確指出，若用於RAG（檢索增強生成）技術的數據品質不佳，將可能損害整體產品可靠性，因此整理出確保醫療與健康資訊準確性的具體評估要點以供實務應用。

Q: 『AI安全評估觀點指南』包含幾個評估階段與多少項安全評估觀點，並強調哪些實際應用特點？

A: 該指南依據AI生命週期劃分為5個階段（設計、模型選擇、實作、驗證、導入與營運），並涵蓋10項多角化安全評估觀點，強調即使缺乏AI專家的企業也能直接於現場應用風險管理對策。