超算与智算融合是未来必然趋势！超算赋能大模型发展应用论坛成功举办

在信息技术突飞猛进的大背景下,数据已经成为继土地、资本、技术和劳动力之外的又一新生产要素,推动社会生产力进入更高的层面。而要让数据真正发挥出经济要素的价值,算力是必不可少的基础。近年来,数据中心的建设在中国大地上如火如荼地开展着,既有新数据中心拔地而起,也有旧数据中心的升级改造。算力已成为衡量中国建设奇迹的又一指标进入大众的视野。

论坛现场

近日,世界三大超算盛会之一,中国高性能计算领域具有高度影响力的中国计算机学会全国高性能计算学术年会(CCF HPC China 2023),在青岛·红岛国际会议展览中心闭幕。在25日大会主题分论坛-超算赋能大模型发展应用论坛上,来自国家超级计算深圳中心、西安电子科技大学、中国海洋大学、北京超级云计算中心、北京智象未来、透彻未来等超级计算、智能计算企业及科研机构的专家学者、行业精英齐聚一堂,分享交流中国超级计算及大模型的发展现状与未来趋势。

中国科学院计算机网络信息中心总工程师迟学斌

在论坛致辞环节中,中国科学院计算机网络信息中心总工程师迟学斌表示:“超算和智算融合发展是未来的必然趋势,超算的发展将为智算带来更多可能。”

国家超级计算深圳中心主任冯圣中

国家超级计算深圳中心主任冯圣中引用伟人名篇《红旗到底能打多久》作为报告的主题,但他指出,相比于井冈山当年的星星之火孤星照耀中国革命的未来,如今中国的超级计算事业发展已远远不是星星之火,而已成燎原之势在大地上蔓延。对于决策者来说,他们最需要思考的问题两点,一是在本地区需要建立多大规模的超算中心。二是应该选择发展智算还是超算。

随着人工智能技术和应用的成熟,社会各个行业对算力需求都呈现出爆炸式增长,未来多大的算力才能满足地区发展的需要是很难估量的问题,即使是置身业内的专业人事,其估算也往往保守。应该说这个问题没有一个确切的答案,而需要决策者随时关注行业整体,定相对弹性的建设方案,能够根据不同时期的发展进行调整。同时,在人工智能应用的推动下,算力建设也有了智能的需求,从总的趋势来看,未来的算力一定是越来越智能化。

西安电子科技大学朱虎明

西安电子科技大学朱虎明教授则分析了GPU的发展历程,尤其是分析了为何英伟达能够在当前的人工智能大潮当中脱颖而出。他总结数据、算法和大算力是AI时代的三大要素,而英伟达的成功得益于其很早开始投入通用软件的研发,并建立起了一个庞大的生态。这是让其从昔日与英特尔、AMD在GPU市场三分天下最终变成一家独大的关键原因。同时,他介绍了世界上一些著名超算中心其架构,如Aurora超级计算机,这是英特尔和美国能源部阿拉贡国家实验室最近合作的一个超算中心,就是采用了英特尔的CPU和英特尔的Xe GPU架构。而国内的神威E系统、国防科大E系统等架构各不相同,这些系统未来能否长期坚持,开拓出自己的丰富生态,是中国超算能否破局质变的关键。

北京超级云计算中心CTO甄亚楠

北京超级云计算中心CTO甄亚楠表示,随着去年年底ChatGPT的流行带动,算力已成为大模型训练的重要基础设施,国内外纷纷建设由高端芯片组成的大规模算力集群。大模型训练与推理为超算带来了巨大机遇,根据OpenAI的估算,目前大模型训练对算力的需求大约每3至4月翻一倍,远超摩尔定律18至24个月翻倍的速度。北京超级云计算中心自2014年投入运营以来,以基于高性能RDMA网络,将多个服务器进行全线速互联,提供高带宽、低时延的通信能力,能充分满足大模型训练对算力基础设施日益增长的需求,事实证明,基于超算架构的算力更适用于大模型的训练与推理。

北京智象未来联合创始人兼首席运营官王科

北京智象未来联合创始人兼首席运营官王科系统梳理了深度学习发展历程,特别介绍了多模态的基本理论和在中的应用。他做出一个精辟的总结,认为人与人之间的各种交流形式,无论是通过声音还是光影图像,本质上也是以一种多模态的形式进行。因此,对多模态的研究和应用将会创造出一个类似我们现实的新世界,触发人类新的交流、创造形式,进而改变世界未来,解放创造了,提高生产力。

透彻未来联合创始人兼首席技术官王书浩

中国海洋大学仲国强

另外,透彻未来联合创始人兼首席技术官王书浩和中国海洋大学仲国强也分别结合企业业务和个人研究领域,介绍了超算、人工智能在海洋环境监测与病理检测方面的应用技术、案例。

高峰对话:大模型算力,荒?

在圆桌讨论会上,针对如何应对大模型发展中的算力瓶颈,与会专家指出:可通过推进供需对接,加速算力网络变革,实现算力的集中管理和高效利用;优化算法和架构,通过分布式计算充分利用计算资源,提高计算速度和效率;另外专家们呼吁各方力量一起推动国产芯片技术的创新研发及应用生态的建设。

CCF HPC China 2023作为我国高性能计算领域的盛会,在行业中起到了“放大器”作用, 通过前沿学术成果交流,创新应用技术展示,促进超算技术应用生态与科研、产业数字化升级转型,彰显了在国家政策大力推动和行业应用强力拉动之下,我国在超算领域的全新魅力。北京超级云计算中心作为北京市人民政府主导、院市共建的“北京超级云计算和国家重要信息化基础平台”,成立十余载,致力于以超算中心的市场化运营,助力国家科技创新与数字经济发展。透过这场论坛,我们可以清晰地看到我国各行各业在面对AI时代来临所展现的勃勃生机,我们正在为数字中国、科技强国的建设铺路筑基。