中国计算机学会青年计算机科技论坛

CCF Young Computer Scientists & Engineers Forum

CCF YOCSEF长春

时间：2023年12月16日（星期六）13:30-17:30

CCF YOCSEF长春举办观点论坛—算力受限的AI产学研如何破局？

以ChatGPT为代表的AI大模型产生了颠覆性的成果，在学术界和产业界受到广泛关注，然而AI大模型的开发与训练需要巨量的算力资源，比如参数量为176B的Bloom需要在384块NViDIA A100显卡上训练3.5个月；参数量为130B的GLM需要96块A100显卡上训练2个月；参数量为175B的ChatGPT3需要在1024块A100显卡上训练一个月；65B的LLaMa需要在2048块显卡上训练21天。这使得AI大模型有着较高的算力门槛，同时考虑到当前国际环境下，国外高端芯片在国内应用较为困难，这进一步加剧了算力建设的挑战性。特别是部分欠发达地区算力建设滞后，如吉林省算力规模占全国比例较小。面对AI大模型的算力需求，算力欠发达地区在大模型领域应如何开展产学研，以在AI方面形成有竞争力的发展态势?为此，CCF YOCSEF长春分论坛邀请了来自省内外多所高校和企业界人士，共同就算力受限地区的算力建设以及产学研用问题等开启思辨探讨。

本论坛于2023年12月16日在吉林省长春市吉林大学王湘浩楼A515会议室举行，由CCF YOCSEF长春AC王兴旺和陈晨担任执行主席，CCF YOCSEF长春AC委员闫飞担任线上主席。参与本次论坛的包括长春人工智能计算中心副经理王笑、新华三数字中国研究院研究员杨光、华为中国区HPC全行业解决方案专家杨少波、浪潮东北区高性能产品总监王飞、紫光产教融合业务经理张凯锋、长春算力中心运营总监滕飞、CCF YOCSEF长春分论坛现任主席吉林大学白天、CCF YOCSEF长春老主席吉林农业大学温长吉、CCF YOCSEF长春老主席吉林大学叶育鑫以及多位现任AC委员、委员、企业界人士、高校专家等共20余人。

会议首先由执行主席王兴旺和陈晨介绍了论坛背景和参会嘉宾，随后由CCF YOCSEF长春现任主席白天对各位企业界人士和高校专家表示欢迎和感谢，同时对CCF YOCSEF长春分论坛职能和责任进行介绍和宣传。

论坛执行主席王兴旺和陈晨作论坛背景介绍

CCF YOCSEF长春现任主席白天作YOCSEF介绍

随后，王笑经理作为第一位引导嘉宾作了主题为“长春算力中心算力运营及思考”的报告，他表示在全球大算力背景下，人才是重要的建设动力，长春算力中心建设了产教协同育人基地，聚焦高校人才的培养，同时举办了多项科研竞赛，取得了重大成果。

长春人工智能计算中心副经理王笑作报告

接下来，杨光研究员带来了“当前背景下国内智算中心建设趋势与分析”的主题报告，他表示生成式AI浪潮下，生成式AI重构人工智能范式，未来大多数政府企业都将使用大模型，未来大模型一定是自主化，同时大模型的训练需要强大的算力支撑。算力目前面临芯片级、设备级、集群级、地域级挑战。由于英伟达具有算力、内存等优势以及国外的限制，国内出现英伟达一卡难求，在此背景下，国产卡开始出现加速发展的现象。大语言模型的未来将为全自动化、国产化、自主化的趋势。

新华三数字中国研究院杨光研究员作报告

论坛第三位引导嘉宾杨少波的引导发言主题是“多样性算力打造校级HPC科研平台”。他表示在数字经济时代带动算力爆炸式增长背景下，HPC超算算力应用广泛，包含生物、能源、建设等领域，HPC超算已经迈向E级时代，多种架构百花齐放，未来HPC将往多样化、国产化、智能化发展。目前ARM具有并发性能，同时具有较低能耗，从而被广泛的使用，对于智能化，面向HPC与AI融合的架构将是未来趋势。华为具有自主研发与独立演算的能力，为高校可以提供底层算力支持，同时鲲鹏生态也能够满足高校的大部分要求，未来将组建产教融合的创新赋能平台。

华为中国区HPC全行业解决方案专家杨少波作报告

每位嘉宾做引导报告后，分别由CCF YOCSEF长春现任主席白天、CCF YOCSEF长春老主席温长吉和CCF YOCSEF长春老主席叶育鑫为他们分别发放了感谢牌，感谢他们助力本次论坛和提供的企业界角度的思考观点。

为嘉宾颁发感谢牌

      在引导报告后，进入本论坛的合影留念环节。

与会嘉宾合影

在合影留念与茶歇后，进入本论坛的思辨环节，共包括三个思辨议题和一个拓展议题：

议题一: 算力受限地区的企业应如何应用AI大模型以提升竞争力?

议题二: 从产学研的角度，如何协作突破区域的算力限制，形成良性发展?

议题三: 非算力枢纽节点地区应如何建设算力基础设施以满足当地的产学研需求?

拓展议题：在当前国际环境与产业发展背景下，算力基础设施的建设应如何推进?算例欠发达地区应如何面对该挑战?

针对上述议题，企业界人士和高校专家进行了激烈讨论，思辨嘉宾围绕主题各抒己见，现场讨论氛围热烈而紧张，时而观点频出，时而陷入沉思，迸发出许多有价值的观点和结论。

针对议题1，首先由滕飞阐述观点，他指出表示需要看应用场景，目前大模型已经可以满足大多数的应用，而且现在算力基本可以满足，主要是数据是否可以拿到。浪潮集团有限公司王飞表示应与实际情况相结合，用户应该进行轻量级的选择，结合本地能力选择更轻量的模型，然后根据实际进行调整参数。随后，吉林大学计算机学院叶育鑫表示算力受限的情况下，考虑如何把模型变小，进而优化模型。同时考虑很多实际应用场景不去应用大模型，去做算力不受限的应用。新华三杨光表示基于推理算力，国产可以补偿，同时很多应用场景不需要大模型，所以可能算力不是大的问题，问题在于应用的扩展问题。此外，长春人工智能计算中心王笑表示企业要评估自己的产品，通过评估逐步提升，高校可以主动和企业联合项目，从而在算力有限的情况下，达到最大的效果提升。长春理工大学计算机学院张昕表示很多企业尚不知道这个具体是什么，因此希望进行知识普及，使得能够了解相关内容，与高校结合，结合本地特色，进而提高整体性能。同时，海诚科技有限公司王福德表示算力为稀缺资源，算力受限地方，我们应该考虑算力一体化，不再自己建设算力，而是去使用已经建设好的算力。长春人工智能计算中心王笑表示模型训练数据量大，存在数据集节点传输问题，在推理上，异地具有很大问题。长春工业大学计算机学院刘铭表示在应用上研究大模型，对于一般的小应用，本省算力够用。同时，大企业可以进行支持。吉林大学计算机学院白天表示大公司提供算力支持，用户只需要提供数据，很多企业可以采用大企业的算力替代。吉林大学计算机学院叶育鑫表示在技术上进行蒸馏，从而可以达到大模型效果，与大模型结合，应用大模型，利用联邦学习等进行算力转移，从而与大模型结合应用。

针对议题2，华为中国区HPC全行业解决方案专家杨少波表示很多企业大量应用到AI手段，通过数据集进行训练从而进行应用，产学研合作阶段，我们可以结合不同问题，不同情景，做出更有成果的应用，华为更能作为两个角色，当企业遇到问题时可以通过高校业界进行解决，我们还是方案提供商，为企业高校进行问题解决。海诚科技有限公司王福德认为我们应该前瞻性，更高层次高校培养解决头部问题的人才，不能步入人才定位不清，高校发展不明确问题。长春工业大学计算机学院刘铭表示算力限制或许是突破口，发展算力，算力提升，构建产学研平台，同时通过做竞赛池，进而解决实际问题。随后长春大学计算机学院匡哲君表示数据非常重要，需要大模型进行训练，但是会出现资源浪费，训练好的模型后期无法产生价值，应该合理分配资源，生成良好生态圈，使得算力分配更加合理。同时，华为张旺表示若想良性发展，企业能够产生实际价值，必须在产学研下，进行高校企业合作。浪潮集团有限公司王飞表示从企业来讲会做大模型，更多企业为使用者，很多大企业的大模型已经开放，作为使用者更看重共享，同时人才培养和产业建设。长春人工智能计算中心王笑表示数据是企业头疼问题，政府完善知识产权界定，并出台某些相关政策，鼓励各个国企、高校、企业共享数据集。长春算力中心滕飞表示企业与高校作为闭环，企业提供算力，高校提供人才，算力成本与人才成本需要平衡。最后，华为杨少波表示首先指定标准的流程，然后基于社区指定标准解决方案，最后利用政府、高校与企业共同努力，利用产学研解决卡脖子问题。

针对议题3，海诚科技有限公司王福德表示长春属于非算力中心节点，我们还在建立算力中心，但是没用起来，我们要全面分析问题。华为张旺表示算力中心是政府与华为共建的，算力中心的目的是提供孵化平台，吸引人才与厂商。新华三杨光表示客户需要什么，我们就制造什么，一切围绕产业，希望一个多元式的发展，把本地企业发展起来。。长春算力中心滕飞表示算力如同电力，让算力带动经济发展，地方政府建算力的目的更多是留住人才发展经济，推动AI等领域发展。浪潮集团有限公司王飞表示我们要关注人才引进，然后是服务模式创新，进行多元化建设，同时需要政府支持，然后高校企业拉动更多项目，按需建设，更好地服务本地。长春人工智能计算中心王笑表示企业如果异地使用成本会很高，建立本地算力可以提高企业竞争力，所以保证建设的设施先进性，注重可持续性的生态，完善算力服务模式。

针对拓展议题，华为张延表示政府可以实现大多数场景与领域的国产化，华为除了做芯片还在做实验室。华为杨少波表示目前算力建设百花齐放，通过市场竞争，收融到两三个情况。新华三杨光表示目前通用算力严重过剩，我们理应吸取经验，理性发展，百花齐放，通过市场竞争来选择，路线要多元化，围绕能源合理布局。长春工业大学计算机学院刘铭表示考虑多路径发展，政府是否可以采用补贴形式，同时发展产学研，形成稳定的产学研闭环，带动算力的快速发展。海诚科技有限公司王福德表示在应用上，很多非计算机人士不会环境搭建，算力中心提供了环境的搭建，同时还能够后续的环境利用，技术上能不能进行融合，研究其共存性。

与会嘉宾激烈讨论

本次论坛最后，由CCF YOCSEF长春现任主席白天做总结发言，肯定了本次论坛阐述的鲜明观点，并提出了企业和高校合作的可行方向。