CCF YOCSEF太原成功举办“国产化人工智能算力基础设施的发展路径”技术论坛 - 论坛

当前，人工智能算力基础设施是衡量一个国家最前沿计算能力的重要指标之一。根据《2021-2022全球计算力指数评估报告》的评估结果，在计算能力方面，中国人工智能计算发展处于先进水平。2020年我国提出加快以人工智能、云计算、区块链等为代表的新技术基础设施，以数据中心、智能计算中心为代表的算力基础设施建设。根据统计，我国在近年的人工智能算力建设中发挥了重要的推动作用，过去五年主流算力国家的人工智能算力支出的增长有近60%来自于我国。这主要得益于我国在政策方面的引导以及在包括基础理论、计算芯片/系统、算法模型/编程框架、行业赋能解决方案等层面取得的长足进步。模型和场景复杂度的计算需求催生了算力基础设施的快速发展。近年来“算力”逐渐成为学术界、产业界、公众的热词，算力、算力网络、算力指数、算力经济、东数西算、东数西存、东数西训等新名词不断涌现。现阶段主要的算力类型可以划分为基础算力、智能算力（即人工智能算力）、超算算力、终端算力和边缘计算算力等。其中，基础通用算力主要基于 CPU 芯片的服务器所提供的计算能力；智能算力主要是基于 GPU、 FPGA、 ASIC 等芯片的加速计算平台提供人工智能训练和推理的计算能力；超算算力主要是基于超级计算机等高性能计算集群所提供的计算能力；个人桌面、终端及边缘等算力属于非集约化规模化算力。算力的基础设施属性被不断强化。随着SDN/NFV、确定性网络等网络技术的发展，网络的智能测调能力越来越强，自然地，算力与网络在基础设施层面的融合被提出，也就是大家现在熟知的“算力互联网”。

目前，人工智能(artificial intelligence，AI)热度不断攀升，从计算生态和系统应用角度看, 人工智能基础设施的发展均呈现出由分离向融合、由节点向网络、由引进向自主、由单域向多域发展的趋势。在此背景下，2022年11月12日，由中国计算机学会主办，中国计算机学会青年科技论坛太原委员会和太原分部联合承办的“国产化人工智能算力基础设施的发展路径”技术论坛在太原举办。本论坛由CCF YOCSEF太原AC委员胡欣宇和学术秘书张陆钊担任执行主席，学术秘书徐双和委员田景全担任线上主席。会议邀请了澎峰科技创始人兼CEO张先轶、西安电子科技大学副教授朱虎明、百度飞桨教育生态高校运营负责人赵斌担任引导嘉宾。邀请到国家超级计算天津中心总工程师冯景华、阳泉市科技局党组书记兼局长董增寿、太原科技大学教授郭银章、山西省科技厅首席科技项目专员高育新、南京小视科技副总裁王忠林、百信信息技术有限公司高级副总裁魏建英、中北大学教授秦品乐、太原市大数据应用局高级主管闫国光、华为山西代表处煤炭行业解决方案总监贾灏然担任特邀嘉宾。

引导发言

第一位引导发言嘉宾是澎峰科技创始人张先轶，讲演题目为《异构计算软件栈的国产自主与国际化愿景》。首先，他简述了澎峰科技的发展史；其次，指出公司致力于算力基础软件栈技术的研发，聚焦HPC，AI，RISC-V三大领域，领导OpenBLAS开源项目，是计算领域重要计算库之一；再次，进行了高性能计算的软硬件体系概述和已有计算领域软件生态的介绍。同时提出参与开源，共建生态，立足国内，走向国际的目标；而后，分享了RISC-V计算软件生态与AI推理领域/深度学习模型部署两个案例；最后，总结到异构计算软件栈是算力基础软件，发挥桥梁作用。RISC-V计算软件栈可弥补软件生态差距，实现未来发展愿景。

澎峰科技创始人张先轶

第二个引导嘉宾是西安电子科技大学副教授朱虎明，演讲题目为《高性能计算产学合作实践与探索》。首先，他对全球计算力指数评估体系、人工智能典型应用以及GPU计算软硬件生态进行了介绍；其次，对AI算法近期发展与计算特性以及其训练和推理面临的计算挑战等向大家做了详细交流；最后，展示了一些产学研的成果，特别是面向人工智能方向的高性能计算课程产学研合作经验。他希望在发展人工智能软硬件产业的同时，要协同发展相关的产学研人才培养。

西安电子科技大学副教授朱虎明

第三个引导嘉宾是百度飞桨教育生态高校运营负责人赵斌博士，演讲题目为《深度学习开源开放平台加速产业智能化升级》的引导发言。她首先从国家政策层面和行业发展说明了数字化转型为人工智能的快速发展提供了更好的基础，同时也提到深度学习技术发展和大规模产业化面临的难题。而后，介绍了自主深度学习框架飞桨发展历程、全景图、核心优势；最后，提出基于飞桨平台产学研用协同共建生态，与高校、企业等合作伙伴共建硬件生态以及人工智能产业赋能中心助力区域发展等。

百度飞桨教育生态高校运营负责人赵斌

思辨环节

思辨点一：“随着‘端、边、云一体’计算范式的继续渗透，国产化人工智能在边缘端针对自适应学习任务的‘新技术路径’是什么？”

国家超级计算天津中心总工程师冯景华认为，从现在的发展模式看，围绕场景展开对端侧设备支持需求大。边-云-超架构下高性能的安全网络传输对于端到云法人传输非常重要。端侧设备多种多样，端侧需要适应不同的平台，未来平台设计应注重简化端侧的适应需求。太原科技大学教授郭银章认为：算法、数据和算力是人工智能的核心，人工智能的发展对数据传输和算法具有极强的依赖性。云计算以其强大的算力和数据交互为人工智能提供了强大的基础平台，但数据传输延迟与交互成本给基于云计算的人工智能发展带来较大的挑战，因此提出边缘计算，试图解决人工智能在设备终端的数据处理及时性、数据传输低延迟、数据分析智能化的问题。云-边-端的计算范式在边缘AI设计中得到重视。边缘AI芯片设计仍在处理能力、实时性仍面临挑战。边缘AI芯片设计需要关注以下五个问题：1）边缘端数据处理能力问题，2）边缘端高性能功耗比问题，3）边缘端定制化开发成本问题，4）边缘端轻量化设计问题，5）SOC专用处理器的灵活、可重构架构问题。山西省科技厅首席科技项目专员高育新认为目前国家已在国产化人工智能、工业互联网的基础设施方面有了基础规划，山西高校在学术方面也有很多先进的成果经验。作为工业大省，本省高校、企业、研究院所应在产学研模式下，可以探索更多的发展机会，更多关注在产业端的实践应用，为工业互联网在山西发展以及产业数据化，数据产业化提供支撑。阳泉市科技局党组书记董增寿认为山西有大量的人工智能应用场景。AI算力需求平稳有效，供给侧希望在满足用户需求的情况下提高效益。组网侧迫切需要快速捕捉用户需求，按需快速组网。应该从用户和场景的角度出发，提高计算速度和安全性的支持，构建高效稳定的AI智能芯片。南京小视科技副总裁王忠林认为人工智能的自适应学习在实际应用中，需要至少从以下三方面入手：1）让边缘计算设备具备场景感知能力；2）建立对智能推理效果的反馈闭环机制；3）构建云边兼容的推理计算模型体系。百信信息技术有限公司高级副总裁魏建英认为一方面在硬件层面，已基本具备云、边、端的国产人工智能基础设施，同时在软件平台层面支持高性能、自定义的算子和模型开发；其次可以实现边学、边用、边训的云边协调机制，再通过两种生态能够有效促进国产化AI的产业落地。

太原科技大学教授郭银章

山西省科技厅首席科技项目专员高育新

阳泉市科技局党组书记董增寿

思辨点二：“国产化人工智能专用加速处理器的‘新硬件架构’是什么？”

中北大学教授秦品乐认为边缘的协同计算和协同存储问题以及模型的轻量化问题是未来AI芯片发展需要重点关注的点。边缘端AI芯片未来的发展更加注重面向应用的方向发展。如何构建端-边-云简单、灵活的架构也是值得用户关注的。南京小视科技副总裁王忠林认为当前国产化人工智能加速处理器处于百家争鸣的阶段，在技术理论上各有千秋。但无论从硬件架构和处理器的选择上都应重点关注以下几个点：1）稳定性的重要基础；2）算力密度与性价比；3）主流深度计算框架的支持；4）工具链的完整性与易用性；5）处理器的单位功耗、迭代兼容性等等。百信信息技术有限公司高级副总裁魏建英认为国产化AI芯片在硬件架构、功能方面已逐步构建自己的根技术，基于根技术构建根产业，才能真正推动国产化人工智能产业的落地。未来3-5年将迎来国产化人工智能产业的快速发展。阳泉市科技局党组书记董增寿认为目前国内已经有一批AI加速芯片出现，多功能集成的架构具有重大需求，可支持大量数据。但长远角度来看，从因果性出发降低算力等开销需求的模型是一个重要的发展方向。山西省超算中心裴向东认为，目前Intel和AMD近年来都在部署新的人工智能加速器架构，我们在由引进向自主的发展过程中，应该更多关注基于FPGA、DSP等技术的轻量化、深层次、开源化架构。太原科技大学教授郭银章认为边缘AI架构的核心问题需要关注芯片对模型的轻量化设计，以及训练数据集的行业化背景。

中北大学教授秦品乐

南京小视科技副总裁王忠林

思辨点三：“各家国产人工智能芯片公司都在主推自己的软件生态和部署工具，这对开发人员产生一定的学习成本，是否可以采取开源共建的模式？”

澎峰科技创始人兼CEO张先轶认为芯片的训练卡、部署卡等各家公司在形成技术壁垒的同时也进行大量重复开发，同时为用户的使用学习带来较大的成本，未来国产化基于开源、跨平台的开源模式能够降低用户的开发成本。阳泉市科技局党组书记董增寿认为从开发者角度，国产化人工智能发展的新模式，首要应该关注产业化应用能力，快速的推广其应用。南京小视科技副总裁王忠林认为开源共建对研发者来讲具有重要意义，但从当前国产人工智能芯片的行业分布来说，仍存在一下几个难点：1）芯片的架构不同，由于设计理念和方法不同，最终形成很大的差异。2）基于ARM架构的不同的人工之智能芯片，其架构也有所不同，造成编译器、开发工具等存在较大不同。3）与芯片公司的核心竞争力紧密耦合。AI芯片企业可以在做好保持芯片持续竞争力的核心技术的同时，致力于做好1）工具链的开发与支持；2）硬件生态的建设，对生态合作伙伴的多方面支持；3）完善产品兼容设计，后向兼容、系列兼容等非常关键。太原科技大学教授郭银章认为可重构、可重组的架构技术对实现不同场景下边缘端的支持是未来的一个重要发展方向。YOCSEF太原主席魏巍认为不同架构间的壁垒和差异问题在国内外均存在，需要通过市场自主竞争发展或者国家统一规划逐渐形成统一的标准，推动行业健康发展。在统一标准的基础上，通过细分市场会逐渐形成各企业的个性化技术及优势。

YOCSEF太原主席魏巍

论坛持续了4个小时，通过3位嘉宾的引导发言和3个话题的思辨讨论，对人工智能算力基础设施进行了全方位的交流。后续YOCSEF太原将联合百度飞桨进一步推动深度学习、异构学习及产学合作发展，持续关注和推动人工智能算力基础设施及相关产业发展。目前国际上还没有公认的针对AI超算的性能测试软件，我们国家的团队正在着手研发，并基本做成了第1版测试软件，并已评测了10多台机器。当前人工智能的研究十分火热，很多国家和公司也都在建设AI运算基础设施，因此，我们特别需要一个测试程序来评比各个AI超算的性能。

CCF YOCSEF 新闻动态CCF Young Computer Scientists & Engineers Forum