2026年9月12日下午，由中国计算机学会（CCF）主办、CCF YOCSEF西安分论坛组织的“智能体入场，安全如何接招？——智能体走向真实世界的安全边界、技术路线与协同治理”技术论坛在西安交通大学兴庆校区举行。本次论坛由CCF YOCSEF西安AC委员张佳龙（西安交通大学教授）、叶贵鑫（西北大学副教授）共同担任执行主席。陕西省委网信办领导出席并致辞。论坛邀请西安交通大学软件学院院长王伟教授、火山引擎飞连产品负责人余敏文、西安电子科技大学教授马卓、京东集团安全架构师Stefan担任引导嘉宾。特邀嘉宾包括中国联通西部创新研究院总监罗杰、四叶草安全副总裁童小敏，省委网信办领导等政府、高校及产业界专家。此外，CCF YOCSEF西安老主席马小博、许鹏飞，广州分论坛现任主席姜思羽及来自高校、科研院所和企业的多位专家学者也参加了本次论坛。
【观点速递】
- 边界层： 智能体安全不存在一套覆盖所有场景的“万能底座”，但身份认证、权限控制、运行监测和安全评测等能力具有较强共性；通用的是安全能力，动态变化的是任务、权限与场景边界。
- 技术层：智能体安全正从“外围防护”走向“内生安全”。面对多组件耦合、长链执行和自主调用，需要将安全能力嵌入智能体架构与运行过程，并结合运行时治理和执行轨迹监测与评估，实现从“内容安全”向“执行全过程可信”演进。
- 生态层： 政府、高校和企业需形成长期协同机制，政府完善规则、标准与监管，高校加强基础研究和人才培养，企业提供真实场景和数据并推动工程化落地，共同构建智能体安全生态。
【引导发言】
火山引擎飞连产品负责人余敏文介绍了企业AI办公安全实践。他指出，随着AI工具、Agent、大模型API及插件广泛应用，企业安全治理需要从“工具管控”升级为“人 + Agent + 数据”的全链路治理，构建覆盖AI资产治理、数据保护和Agent运行安全的体系，实现企业AI应用可见、可管、可控。
西安交通大学软件学院院长王伟分享了多模态智能体安全的实践与思考。他指出，随着模型、记忆、工具、环境及多智能体协作深度耦合，安全对象正从“单一模型安全”升级为“智能体系统安全”，需要构建覆盖风险建模、红队测试、安全评测和防护验证的持续演进体系，形成“攻、防、评、验”一体化安全能力。
西安电子科技大学教授马卓以“智能体安全是‘新瓶旧酒’，还是‘重启新航’？”为切入点，介绍了团队在智能体安全评估方面的研究。他指出，智能体安全评估需从单步输入输出延伸到长时序记忆、任务链执行和持续行为，重点识别记忆扰动、任务链注入等风险，并通过任务基线、执行轨迹监测和安全开销评估，提升智能体全过程安全保障能力。
京东集团安全架构师Stefan介绍了京东在智能体安全方面的实践。他指出，AI规模化应用带来安全暴露面扩张和攻防提速，风险也从代码漏洞利用延伸到语义操控与意图欺骗。面向“用户—Agent—MCP/工具—数据”多层调用链，需要建立任务基线与授权边界，并通过持续监测、分级干预及MCP网关、供应链检测等能力强化安全治理。
【思辨交锋】
思辨点一：智能体安全底座的通用能力与场景边界在哪里？
围绕“什么是安全底座、是否存在通用底座”，与会嘉宾展开讨论。王伟首先提出，应先厘清安全底座的定义以及是否存在真正通用的安全底座。陈威认为，不同场景的智能体能力和安全边界差异明显，难以形成一套覆盖所有场景的统一底座；马卓指出，传统安全技术仍具有通用性，但需要面向智能体环境进行重构；童小敏提出可从身份认证、管控和审计等基础能力切入。讨论逐渐形成“基础能力具有共性，安全边界需结合场景确定”的共识。
思辨点二：智能体安全底座应采用怎样的技术路线？
陈威提出，传统安全更多采用外挂式防护，而智能体场景下安全应走向内生，在业务设计之初就将安全纳入体系，而非事后叠加。Stefan指出，仅依赖外挂式机制进行行为和意图识别，可能面临难以准确评估的问题。罗杰认为，内生安全建设需要较长周期，但外挂式防护难以解决根本问题。王伟则提出，应围绕智能体组件耦合和长链执行两个本质属性构建安全框架和基础规约，在基础安全框架之上逐层叠加能力。
思辨点三：政府、高校与企业应如何协同建设智能体安全能力？
陕西省委网信办有关负责人以“管得住、看得见、放得活”概括政府角色，强调规则制定、监管执法、标准建设和产业引导；高校聚焦前沿基础研究和安全人才培养；企业重点推进工程化和真实场景落地。Stefan和余敏文认为，实习等方式是打通高校与企业场景、数据壁垒的有效路径。围绕智能体安全底座由谁牵头建设，现场也存在不同观点：Stefan认为原生安全更适合由大模型企业主导，陈威则认为不同场景应由不同主体牵头。
【论坛总结】
YOCSEF西安老主席马小博在论坛总结中表示，本次论坛围绕智能体安全的问题边界、技术路线与协同机制展开充分思辨，进一步增强了高校与企业在问题认知、技术路径和实际需求上的共识。他认为，智能体安全的关键在于应对复杂需求带来的“意图失真”，并明确“人工智能、只能人工、智能+人工”的安全边界，推动政府、高校和企业协同促进智能体安全、可靠落地。
京公网安备 11010802032778号