CCF YOCSEF哈尔滨 走进高校活动之黑龙江大学站:CCF YOCSEF哈尔滨DeepSeek应用探索与分享
2025-03-18 阅读量:3 小字

DeepSeek的横空出世,在国内掀起了一股大语言模型应用的新热潮。得益于算力需求的降低和算法的开源特性,DeepSeek为用户在本地部署和使用大型模型提供了前所未有的可能性。目前,黑龙江大学已成功完成了DeepSeek模型的本地化部署,并正基于这一平台开发服务于本校教育需求的上层应用。在此背景之下,CCF YOCSEF哈尔滨于202538日在黑龙江大学信网中心举办了“CCF YOCSEF 哈尔滨走进高校活动之黑龙江大学站:DeepSeek 应用探索与分享” CLUB活动。论坛由CCF主办、CCF YOCSEF哈尔滨承办。CCF YOCSEF哈尔滨副主席张晓光担任主持人

图片1

1 执行主席张晓光进行论坛背景介绍

本次CLUB活动邀请了黑龙江大学信网中心主任张伟和信网中心副主任林峰介绍黑龙江大学在DeepSeek模型部署与使用方面的相关实践。本次CLUB活动还邀请了锐捷网络股份有限公司黑吉区域总经理孔勐、东北农业大学电气与信息学院博士张翼、东北农业大学现代教育技术中心高级工程师周长建、黑龙江大学计算机学院李志娟等来自企业与高校的相关专家参与本次CLUB活动。此外,YOCSEF哈尔滨副主席哈尔滨工程大学王勇、AC委员东北农业大学戴百生、AC委员通信软件赵佳音、AC委员杭州迪普科技冯兴宇、AC委员黑龙江科技大学武国庆、AC委员哈尔滨理工大学杨海陆、AC委员绿盟科技李冰娴、AC委员哈尔滨医科大学附属第四医院按路贝、候任AC委员黑龙江大学张薇、候任AC委员锐捷网络赵海洋、候任AC委员哈尔滨工业大学朱庆福、候任AC委员哈尔滨林业大学孙敬云等YOCSEF哈尔滨AC委员参加了本次CLUB活动。

在本次CLUB活动中,黑龙江大学信网中心主任张伟首先做了题为“黑龙江大学DeepSeek本地部署与应用情况”的引导发言。他详细阐述了高校DeepSeek大模型的部署方法,重点分析了高校在推进大模型应用过程中面临的实际困境和需求,为后续的讨论奠定了坚实的基础。强调高校应立足自身能力,积极寻求解决方案,推动大模型在高校中的广泛落地应用。

图片2

2 张伟作引导发言

随后,在张伟主任的带领下,与会嘉宾对黑大智算中心机房进行了实地参观,近距离感受了DeepSeek在实际应用中的魅力。在实地参观期间,张伟和林峰就智算中心机房的投资情况、算力规模、机房制冷技术、机房设备监控与管理技术向活动参与嘉宾做了详尽介绍,并与嘉宾进行了深入的讨论。此外,张伟还在现场向大家详细介绍了DeepSeek部署后在学校对俄项目信息整理与汇总分析方面的应用情况。实地参观现场气氛热烈,嘉宾与信网中心负责人员互动频繁。

图片3

3 张伟带领嘉宾参观黑大智算中心

实地参观后,活动进入思辨环节。思辨环节,来自学校的来宾和来自企业的嘉宾分别向信网中心的负责人员提出了模型应用方向、学校对厂商的要求、学校对研究者的要求三方面问题。张伟对相关问题一一作答,并与嘉宾进行了热烈讨论。通过思辨讨论,本次CLUB在高校DeepSeek大模型部署方法、部署技术难点、应用领域、高校对厂商与科研人员的要求四个方面形成了以下观点输出:

1.部署模型的参数规模由显卡资源情况和应用需求决定。

2.在部署过程中,需要通过测试方法渐进式确定需要部署模型的参数。

3.部署尽量采用多一体机方式,以解决服务器带宽不足的问题。

4.部署大模型采用的基础环境需要考虑兼容性问题和安全性问题。

5.高校需要尽量立足自身能力解决问题。

6.显存资源不足、难于获取、网络带宽不足是部署的重大技术障碍。

7.部署环境的安全性与适配性无法兼得是部署的重大技术障碍。

8.系统并发能力不足是模型使用的重大技术障碍。

9.大语言模型的优势之一在于数据的汇总与推理归纳。因此,数据的汇总和推理归纳是大语言模型在教育行业的首选应用。

10.能够由多Agent通过问答实现的应用是大语言模型在高校应用的方向。

11.高校希望厂商能够提供显卡的硬件现货。

12.高校希望厂商明确告硬件设备在实际使用中的关键技术能力和供具有一定持续性的深度技术支持。

13.高校希望研究人员能够分享更多的提示词构建经验。

图片4

4 思辨发言

论坛接近尾声时,YOCSEF哈尔滨副主席王勇对各位嘉宾表示了衷心的感谢,并对当天的论坛进行了总结与展望。他指出,此次CCF YOCSEF哈尔滨DeepSeek应用探索与分享CLUB活动取得了圆满成功。通过深入探讨和交流,与会者们不仅增进了对DeepSeek大模型在高校中应用与部署的认识和理解,也为未来的合作与发展奠定了坚实基础。他相信,在不久的将来,通过学术界与产业界的共同努力,DeepSeek大模型将在高校中发挥更大的作用,为教育事业的发展贡献更多的力量。

图片5

5 论坛总结

图片6

6 合影留念


热门动态
2023-04-20
大规模预训练模型的快速发展,特别是ChatGPT的横空问世...
CCF聚焦