开发AI代理连接安全平台的Another Star LLC(总部:东京都港区,代表社员:安田直也,以下简称「本公司」)宣布,在由日本新能源产业技术综合开发机构(NEDO)主办的「NEDO奖金型计划 GENIAC-PRIZE」领域03「确保生成式AI安全的风险探索与风险降低技术开发」中,荣获特别奖「未来愿景奖」(奖金1,000万日圆)。未来愿景奖是评估提案的新颖性和未来潜力的特别奖,包括本公司在内,仅有三家公司获奖。 GENIAC-PRIZE是作为经济产业省和NEDO推动的生成式AI社会实践支持计划「GENIAC」的一部分而设立的奖金型研发竞赛。这是一个广泛征集旨在通过生成式AI服务解决社会问题的应用程序,并根据成果颁发奖金(总额约8亿日圆)的计划。颁奖典礼于2026年3月24日在神田明神展演厅(东京都千代田区)举行。 获奖背景与过程 AI代理正从独立的AI迅速演变为能够与多个外部AI自主协作运行任务的实体。随着Google倡导的A2A协议(代理对代理协议)标准化的推进,AI代理无需人类确认即可直接通信的时代正逐渐成为现实。 根据Grand View Research的预测,AI代理的网络安全市场预计将以34.4%的复合年增长率成长,从2024年的约226亿美元(约3.4兆日圆)成长到2033年的约3,224亿美元(约48.4兆日圆)。然而,在这个快速成长的市场中,大多数现有的安全解决方案都针对端点或网络层防御,而确保AI代理间通信本身可靠性的「协议级安全基础」在国内外都尚未充分创建。 随着这种结构性变化,出现了传统安全无法处理的新风险。着眼于这一空白领域,本公司确定了两个风险:①外部AI代理的真实性和可靠性的不确定性;②通过间接提示注入(恶意数据被作为指令运行)劫持AI代理。基于这些,我们提出了「AI代理相互通信时代所需的信任层」的概念。 在审查过程中,我们关于自我改进循环的构想从新颖性和未来潜力的角度获得了高度评价。该循环不仅监控AI代理间的通信以检测和阻止异常,还将检测到的异常反馈到代理商店的信任评分中,持续提高代理协作的安全性。此外,通过使用样本代理的验证和现场演示,确认了从异常检测、阻挡到反映在信任评分中的一系列操作。 开发的平台:「国产OSS安全AI代理连接平台」 本公司开发的平台是国内外前所未有的基础设施,为AI代理之间的连接提供信任层。它由以「代理商店」和「中介代理」这两个内核组件为主的多层防御结构组成。