【承担社会责任 提升成员能力】

2025年11月22日，CCF YOCSEF合肥顺利举办了“破解医疗人工智能信任危机-大小模型协同中的可信性验证与责任追溯”技术论坛。本次论坛紧扣医疗人工智能领域核心痛点，以大小模型协同模式为核心研讨载体，汇聚高校、科研院所、医疗机构及企业界 70 余位专家学者与YOCSEF委员，共同为医疗AI的可信性验证与责任追溯发展建言献策。

【开场环节】

本次论坛由YOCSEF合肥AC委员、安徽医科大学张冬，以及YOCSEF合肥AC副主席、安徽医科大学何云飞共同担任执行主席。会议开始，执行主席张冬首先介绍了论坛主题，并对与会嘉宾表示热烈欢迎。随后，张冬介绍了YOCSEF的由来、思辨规则以及其“人人平等，直呼其名”的价值观。

【引导发言环节】

哈尔滨工业大学（深圳）陈科海做了题为《大模型可信推理》的引导报告。他首先从大模型推理在当前高风险应用领域中面临的核心挑战出发，系统梳理了大模型推理可信性研究的发展脉络，指出幻觉、推理链条错误、对抗脆弱性与不可解释性已经成为制约大模型可靠落地的关键瓶颈。随后，他围绕结构知识对齐、图理解与推理、翻译中的推理偏好缓解、知识增强推理、可解释推理、行为规划推理等方向，重点介绍大模型可信推理方面的最新进展，包括提升图工具调用的知识库增强图推理方法、缓解多语言翻译幻觉的注意力重分配机制等。他进一步从模型安全的视角延伸，围绕大模型安全对齐、安全与效能平衡及对抗攻击等问题展开探讨。最后，陈科海从结构理解、可解释推理、偏差与鲁棒性优化以及安全对齐的角度总结了大模型可信推理体系的未来方向。

讯飞医疗科技股份有限公司的科研部主任程美做了题为《医学大模型全栈工具链的构建与创新实践》 的引导报告。她首先从语音交互、语音识别、图文识别等医疗AI基础能力的发展脉络出发，回顾了从深度学习时代到多模态大模型时代的技术演进，并指出技术从“可用”走向“好用”的关键趋势。随后，她重点阐述了医学大模型专业能力构建的三大核心挑战：医学专业性不足、医疗场景个性化能力弱、全栈AI能力缺失，并结合讯飞星火医疗大模型的技术路径，系统介绍了围绕医疗认知、影像、多模态、因果推理、知识增强与个性化档案建模等方向的系列技术突破。在此基础上，程美从工程视角深入讲解了医学大模型全栈工具链的设计理念与架构。她指出，全栈工具链是实现医疗AI规模化落地的必要条件，也是持续提升模型可信性、可解释性与可控性的关键抓手。

安徽大学王逍做了题为《医学大模型新机遇：大小模型协同带来的变革》的引导报告。他首先回顾了医学人工智能在过去十年从“识别病灶”迈向“生成诊断”的技术跃迁脉络，指出从CNN到Transformer，再到多模态LLM的发展，使医学AI逐渐具有理解影像、生成结构化诊断报告的能力，但真实临床应用仍面临数据稀缺、算力不足、逻辑幻觉与部署困难等瓶颈。随后，他重点阐述了大小模型协同技术的关键模式与最新研究进展，并通过放射报告生成任务展示了“小模型负责病灶发现、大模型负责诊断整合”的协同机制。此外，王逍对当前大小模型协作中仍存在的难题进行了深入分析，如缺乏链式思维、信息交互单向、模型分工粗糙、训练难以对齐与医学知识幻觉等。他强调未来的医学 AI 需要更精细化的模型协同设计与更可靠的知识整合机制，以真正让大小模型协同成为临床可信诊断的关键支撑技术。

【思辨环节】

本次论坛共设置三个彼此关联的思辨议题，旨在探索医疗大模型与专用小模型协同模式在临床落地过程中的可信性挑战与未来发展路径。三个议题形成了“从降低大模型幻觉率这一基础性问题出发，逐步深入到大小模型协同下的责任边界，最终落脚于医生在智能诊疗体系中的裁决权定位”的讨论脉络，为与会嘉宾搭建了层层递进的交流框架。

议题一：如何消除大模型的幻觉率，突破性实现临床可接受的极低容错率，需要哪些技术创新与验证方法？

该议题邀请到了安徽医科大学杨飞、合肥工业大学程乐超作为特邀嘉宾，由他们为议题一做引导发言。杨飞指出大模型幻觉的原因体现在于模型架构与数据两大维度，并建议通过构建高质量数据集，建立医学数据标准化规则，来缓解幻觉问题。程乐超指出大模型本质是生成式的，存在误差累积问题，必然会产生输出错误。他建议设计专业的提示模版，优化使用者与大模型间的交互过程。鄢兴雨基于程乐超的观点，认为通用大模型与医学大模型产生幻觉的本质是一样的，并进一步强调大模型推理时利用的上下文信息的重要性，在提示设计的时候避免使用不合理的上下文信息。吴昊，李礼以从数据出发，指出一定要确保数据的正确性，才能降低幻觉率。岳国庆则强调医学问题的推理应该基于思维链模式。陈芋文与郑炜豪就医学大模型推理过程是否要符合循证医学展开辩论，并最终形成一致观点并引出“循证信息医学”的概念，他们认为大模型在临床问题推理时，应该符合循证医学，但由于相关医学指南中的信息（知识）更新滞后，则需要注重新信息（知识）的注入，提高大模型的准确率。陈敏、李想和史文彬从医疗机构与企业的角度强调，医学大模型不能只做到部署，一定要真正地使用起来。漆舒汉则强调医学大模型的使用时机与特定临床场景，他认为并不是所有任务都需要大模型来给出答案，应该配合专用医学小模型来完成智能诊断任务和优化临床诊疗流程。

议题二：在大小模型深度协同下，如何构建精准、技术可支撑的误诊责任追溯机制？

该议题思辨过程由执行主席何云飞主持。该议题邀请到了南京信息工程大学王向学作为特邀嘉宾，由他为议题一做引导发言。王向学指出医学大模型的错误不是单点问题，而是数据噪声、模型设计、缺乏解释性等多因素共同作用的结果。未来应通过更先进的学习机制、多模型协同、因果推理与逻辑链构建，让医学 AI 从黑箱概率输出走向透明可解释决策。医生候中光认为，临床的诊断其实也是一种模糊的决策，难以做到100%的正确。张陆钊随后提出当临床上出现误诊时，应该如何追责呢？鄢兴雨从“医疗大模型落地中的误诊源头”出发，提出一个从工程视角出发的系统性分析框架，指出误诊可能来源于三大类问题：指南知识库的固有不确定性被放大、工程实践路径设计不符合医学逻辑、以及模型自身推理能力不足或训练数据存在偏差。鄢兴雨建议只有从工程全流程视角，重塑知识库结构与推理链条，才能真正减少医疗大模型的误诊风险。漆舒汉认为医疗大模型落地必须是多技术协同的工程体系，例如大小模型协同模式。此外，即便医疗大模型幻觉率降低也无法替代医生。对于如何追溯模型误诊的源头，漆舒汉认为核心在于建立一个嵌入医疗工作流的轻量级反馈体系，使大模型的错误能够被持续记录、追溯并用于改进模型质量。医生张淼认为医学诊断本身就在高度不确定性与信息不完全的环境中进行，误诊不可避免。大模型不必追求极致的临床完美，只要能稳定超过大多数普通医生，就已经具有巨大的使用价值。医疗AI的未来极其光明，只要它的整体准确率超过普通医生，并且通过时间验证，它一定会被临床广泛接受。易芬从大模型协同调度的视角指出，高风险行业的 AI 落地必须依赖制度化的容错机制、责任兜底机制与模型自查机制，而不能把风险压在一线执行者身上。

议题三：在大模型、大小模型协同辅助诊断模式下，如何界定医生在临床决策中的最终裁决权介入时机？

该议题邀请到了合肥千手医疗科技有限公司陈佩红作为特邀嘉宾，由他为议题一做引导发言。陈佩红从政策的角度强调，尽管目前有一些智能诊断产品获得了医疗器械三类证，但其得到的预测结果依然需要医生介入，确保结果的正确性。此外，陈佩红指出临床流程中一些重复性、机械性的工作可以由大模型来完成，但医生也需要去做最后的把关兜底。艾兵和吴伶认为医疗机构在部署或使用大模型应该考虑风险级别，将临床任务划分为低、中、高风险级别。科海从训练大模型的角度入手，强调大模型是基于海量数据训练的，即具备了全面知识，拥有了知识管理的能力。固科海认为临床流程中涉及管理的过程是适合大模型的。胡珂立认为医生的介入时间应该和大模型在临床各个流程阶段体现的能力等级相关的，例如大模型能力很强的节点其实可以放心的交给大模型去做。此外，陈科海，陈芋文和唐晓岚都强调只要临床用大模型产生了输出或决策，医生就应该立即去介入。胡珂立还认为医生介入的时机应该要提前，而不是在使用模型的时候才介入。吴伶根据自己的研究经验，特别地指出目前很多医疗机构数据中心建设不健全，则导致部署大模型过程中存在严重的数据预处理问题。最后，汪卫国强调训练医学大模型的病例数据一定要按照国家标准去设计，并且要在算法专家，大模型专家，临床业务专家共同合作下，才能实现行业推广。

论坛最后，执行主席张冬对本次技术论坛进行了总结。与会嘉宾经过充分交流和思辨，在医学大模型可信推理、大小模型协同分工与误诊责任追溯等关键议题方面形成了重要技术共识。本次论坛由中国计算机学会（CCF）主办，YOCSEF合肥学术委员会组织。