【承担社会责任 提升成员能力】

2025年11月8日，CCF YOCSEF合肥分论坛在联想科技创新园顺利举办主题为“具身智能人机交互安全范式，路在何方？”的观点论坛。作为 AI 与物理世界深度融合的新阶段，具身智能已被纳入国家未来产业发展规划，在自动驾驶、养老助老、家庭服务等关键人机共存场景的应用持续深化，其安全与社会信任问题成为产业健康发展的核心议题。本次论坛立足产业爆发前夜，以 “安全前置、筑牢根基” 为核心目标，汇聚国内知名高校、科研院所及产业界三十余位专家学者与企业代表，共同探讨具身智能人机交互安全的核心挑战与发展路径。

【开场环节】

本次论坛由 CCF YOCSEF 合肥 AC、学术秘书、联宝科技李颖洁，及 CCF YOCSEF 合肥委员、合肥综合性国家科学中心人工智能研究院张露共同担任执行主席。论坛伊始，李颖洁详细解读了论坛主题的时代背景与现实意义，对与会嘉宾的到来表示热烈欢迎，并系统介绍CCF YOCSEF的组织由来、“人人平等、直呼其名” 的核心价值观及思辨规则，为论坛高效开展奠定良好基础。

【引导发言环节】

引导发言环节，三位行业专家分别从垂直领域应用、跨域安全机理、全流程风险对策三个维度发表主题报告，为后续思辨提供了重要学术与实践支撑。

安徽大学焦林以《大模型赋能的农作物病虫害识别及农业机器人安全性问题探讨》为题，剖析了农作物病虫害识别面临的微小尺度、密集堆叠及长尾分布等技术挑战，展示了多模态病虫害垂直大模型在图像识别与植保知识问答中的应用成果，并重点探讨了农业机器人在人身物理伤害、数据隐私保护及伦理安全等方面的核心风险。

浙江大学程雨诗在《具身智能跨域交互安全》报告中，首次明确具身智能 “大脑-肉身” 深度耦合的系统特性，指出其安全问题已从传统 AI 安全延伸至特有的 “跨域安全” 范畴。她深入阐释了物理信息跨域交互中的 “带外脆弱性” 机理，即物理域信号（如声波、光束）可能诱发传感器与执行器非预期共振或错误映射，导致系统 “精神致幻” 或 “肉身失控”，并对带外脆弱性检测工具箱及量化评估标准的构建提出前瞻性展望。

联宝科技智能实验室机器人专家孙吴强在《具身智能安全风险与对策探讨》报告中，梳理了从阿西莫夫三大定律到L1-L5具身智能安全分级体系的演进脉络，系统分析了具身智能在环境感知、指令理解、行为规划及物理交互全工作流中的具体风险，如麦克风指令注入、视觉对抗攻击及强化学习泛化性不足导致的误操作，并提出构建大模型 “监督智能体”、多模态传感器融合、机械臂柔性控制等系统性安全解决方案。

三位引导嘉宾的报告发言引出了具身智能系统安全问题类型、范畴，重点突出传统AI安全到大模型安全到具身智能安全，内涵和外延有本质变化，为后续议题思辨提供重要启发。

【思辨环节】

本次论坛以 “人机交互安全” 为核心主轴，构建 “问题具象化→成因深度化→范式进化化” 的三层思辨框架，三个议题层层递进、环环相扣，既聚焦当下实践痛点，又展望未来发展路径，引发嘉宾热烈讨论并形成多项共识。

议题1：从“功能可用”到“安全可信”：人机交互面临的安全问题是什么？

与会嘉宾通过探讨达成共识，人机交互安全的本质是 “以人为本”，人的生命、健康与尊严是最高价值准则。从 “功能可用” 到 “安全可信” 的跨越中，具身智能面临的安全问题可归纳为递进式的三大类：物理安全作为准入底线，需防范智能体动作偏差、力控失控等导致的人身与环境伤害；数据安全作为信任基石，要杜绝交互过程中隐私数据的泄露、篡改与滥用；伦理安全作为最高准则，需规避算法歧视、权限滥用等引发的社会信任危机。

议题2：从“问题表象”到“根源探究”：人机交互安全问题的成因和挑战是什么？”

与会嘉宾指出，具身智能安全问题的成因并非单点爆发，而是技术、人因与社会多维度因素交织形成的 “风险网”。技术层面，算法不可解释性、传感器物理脆弱性及软硬件耦合复杂性是核心诱因；人因与社会层面，用户对机器能力的过度信任、非结构化环境的不可预测性及相关法律法规与标准体系的滞后，进一步放大了安全风险。破解之道需构建技术防御、标准规范与法律监管协同发力的多维度治理体系。

议题3从“规则公路”到“无序家居”：人机交互安全范式如何演变和升级？

讨论明确，自动驾驶领域的安全范式建立在 “规则明确、边界清晰” 的场景基础上，追求工程化的极致安全；而家居、养老、医疗等民生场景具有高度非结构化、个性化特征，且与弱势群体紧密耦合，风险类型更趋碎片化。嘉宾们一致认为，具身智能安全范式不能简单照搬自动驾驶的刚性逻辑，而应构建 “柔性、交互、以人为中心” 的新型安全体系，既需要物理层面的柔性控制与安全冗余设计，更需赋予系统情境感知与共情能力，在动态交互中持续构建和维护人类信任。

【论坛总结】

安徽省已明确将智能机器人产业作为发展重点，在最新出台的《安徽省智能机器人产业发展行动方案（2025—2027年）》中明确提出，到2027年要形成全产业链规模达千亿元的“十百千”发展格局，并在养老、文旅、医疗等民生领域大力拓展应用场景。作为人工智能技术的集大成者，具身智能的安全与可信发展，是支撑这一宏伟产业蓝图、保障“机器人+”真正融入社会生活的基石。本次论坛为具身智能人机交互安全领域搭建了学术与产业深度对话的桥梁，形成的多项共识性成果将进一步梳理并正式发布，为产业健康发展与安全标准制定提供重要参考。

以此为契机，CCF YOCSEF合肥分论坛将持续关注并紧密连接安徽省及全国的具身智能产业发展动态与安全治理实践。我们计划围绕该主题举办系列论坛活动，深入探讨技术攻关、标准制定与产业落地中的核心议题。在此，我们诚挚欢迎更多学术界与产业界的专家、同仁加入我们的讨论，共同为推动具身智能产业的长远、安全和健康发展贡献智慧与力量。