KnowBe4 Japan 調查：揭示員工對 AI 代理的安全意識

常見問題

Q: 什麼是 AI 代理？

A: AI 代理是指能夠自主執行任務的 AI。這包括無需人類指示即可執行資訊收集、日程管理、數據分析等任務的 AI。

Q: 本次調查中發現的與 AI 代理相關的主要安全風險是什麼？

A: 主要風險包括機密資訊洩漏、著作權侵害等，以及幻覺（生成錯誤資訊）。這些風險主要源於 AI 使用和管理過程中人類的判斷失誤或操作，屬於「人類風險」。

Q: 員工對 AI 代理風險的理解程度如何？

A: 回答「員工理解」使用 AI 代理時安全風險的比例僅為 30%。與去年的生成式 AI 調查相比，這一比例幾乎沒有變化。

Q: 對於 AI 代理使用中的安全責任歸屬有何看法？

A: 認為 AI 代理使用中的安全責任屬於「所有人」的受訪者僅佔 25%。這表明存在責任歸屬不明確的「治理真空」現象。

Q: 對 AI 濫用網路攻擊的威脅認知是否正在提高？

A: 是的，表示「感到威脅」的受訪者比例達到 83%，較去年的 74% 有所上升。特別是對 AI 強化網路釣魚郵件、勒索軟體和商業電子郵件詐騙等社交工程攻擊的警惕感正在增強。

Q: 為降低 AI 代理使用風險，哪些措施被優先考慮？

A: 最多人選擇的措施是「實施安全教育/素養教育」，其次是「制定並周知使用規定（政策）」和「加強代理的存取控制」。重點不僅在於技術措施，也強調以人為本的方法。