国产算力路在何方?2024 WAIC 行业观察

科技 2024-07-08 10:25 阅读:4

2024年7月4日~6日,2024世界人工智能大会暨人工智能全球治理高级别会议在上海圆满召开。当今全球生成式人工智能发展热潮正加大对“算力”的需求,这也成为本届大会的重要议题之一。

国产算力路在何方?2024 WAIC 行业观察 第1张

作为AI生态基础设施的重要组成部分,包括华为、浪潮信息、中兴通讯、壁仞科技、摩尔线程、燧原科技、国科微、无问芯穹、天数智芯、联想、中科曙光在内的中国GPU芯片与设备公司,以及中国电信、中国联通、中国移动等头部算力企业,均在WAIC 2024大会精彩亮相,展示一系列助力我国AI算力发展“破局”的成果。

算力步入万卡时代,多种难关亟待攻克

2022年ChatGPT-3.5大模型横空出世,引发全世界生成式AI浪潮,彼时这一大模型规模约为1750亿个参数,然而2023年推出的ChatGPT-4,参数迅速膨胀至1万亿个。如此体量的大模型,建设超过1万张GPU加速卡的算力集群必不可少。

在7月6日WAIC举办的中兴通讯AI创新生态论坛,中国工程院院士郑纬民指出,“人工智能发展有三驾马车,其中一驾就是算力。”步入万卡集群时代,数据中心将面临一系列全新挑战需要攻克。郑纬民表示,万卡时代GPU之间的互联是大问题,如何实现高带宽、低时延连接?将是提高计算效率的重点。此外作为万卡规模的数据中心,可能2~3小时就会发生一次故障,如何应对故障率增加的问题同样是一大挑战。

郑纬民指出,尽管目前英伟达占据AI GPU龙头位置,性能领先,但是目前基于国产AI芯片的系统,最关键的差距并不在算力方面,而是生态。他表示,之前许多企业并不愿意使用国产AI芯片方案,最核心的问题在于国产AI芯片的软件生态不好,易用性方面与英伟达相比有明显差距。为此,郑纬民提出国产软件生态需解决的重点,包括编程框架、并行加速、容错系统等。

目前,我国算力基础设施规模位居全球第二,截至2023年底,我国在用数据中心机架总规模超过810万架,算力总规模达到230EFlops;以闪存技术为代表的先进“存力”不断提高,在部分行业占比超过25%。郑纬民认为,尽管目前我国算力行业面临国外算力获取难、国产算力使用难/效率低、国产算力种类多等痛点,但只要解决关键问题,一定可以构建开放解耦、互联互通的国产算力新生态。

助力生成式AI,国内算力企业深度赋能

为解决当前算力提升瓶颈难题,助力我国生成式AI进一步发展,本届WAIC各大厂商带来一系列解决方案,涵盖“云、边、端”各个应用场景。以下为集微网对本届大会亮相的重点国内算力企业进行盘点:

壁仞科技:三个维度解决算力瓶颈

壁仞科技创立于2019年,致力于研发原创性的通用计算体系,建立高效的软硬件平台,同时在智能计算领域提供一体化的解决方案。在7月5日举办的“智启新章·算引未来”AI基础设施论坛,壁仞科技副总裁兼AI软件首席架构师丁云帆表示:“解决算力瓶颈问题需要从三个维度考虑:硬件集群算力、软件有效算力、异构聚合算力。”

丁云帆称,在硬件集群算力维度,壁仞科技在行业中相对领先,2020年设计的第一代产品里面就做了chiplet的架构,兼具DSA和通用GPU两个优势,是当前行业主流能够突破摩尔定律的解决方案。壁仞科技同样注重互联能力,支持单节点8卡全互连,目前已推出千卡集群建设方案,并可扩展至万卡规模。在软件效率方面,通过优先级、资源配额、弹性训练等多种手段来提升集群的调度效率,真正发挥硬件算力优势。此外,壁仞科技同样开发了异构聚合算力技术,支持壁仞GPU与英伟达A100 GPU协同训练,效率超过90%。

国产算力路在何方?2024 WAIC 行业观察 第2张

如何解决郑纬民院士提出的“高故障率”“并行难”问题?在7月6日举行的“中兴通讯AI创新生态论坛”,丁云帆介绍,与中兴通讯合作开发大型计算集群的3D并行、弹性训练技术,能够自动进行故障迁移,灵活应对故障;创新的网络拓扑,也能够减少网络拥塞风险。

对于AI芯片企业来说,在不断攻克技术难点的同时,需提前进行算力建设规划。7月4日,壁仞科技联合创始人兼COO张凌岚在圆桌会议表示,AI算力芯片的迭代周期通常为两年至三年,远远慢于应用侧的迭代速度。今年壁仞科技将重点发展两部分:一是进一步完善软件平台,让现有产品尽快适配全新的应用需求;二是在下一代产品中前瞻性地预见市场趋势带来的技术需求,并提前在设计中布局。

摩尔线程:AI旗舰产品夸娥升级

国产算力路在何方?2024 WAIC 行业观察 第3张

摩尔线程此次参与WAIC 2024,宣布其AI旗舰产品夸娥智算集群解决方案升级,在GPU显存和传输带宽方面,夸娥万卡集群具备PB级显存总容量、每秒PB级超高速卡间互联总带宽和节点间互联总带宽,全面提升集群计算性能。

摩尔线程称,希望能够建设一个规模超万卡、场景够通用、生态兼容好的加速计算平台,并优先解决大模型训练的难题。此外,该公司同时推出夸娥集群管理平台以及夸娥大模型服务平台,旨在以一体化交付的方式解决大规模GPU算力的建设和运营管理问题。

燧原科技:智算中心在多地落地

燧原科技在WAIC现场展示了展示了智算中心落地案例和里程碑系列产品,还为与会者带来了基于燧原算力的AIGC交互体验站,展示其最新商业落地成果及规模化应用。

在生成式人工智能应用方面,燧原科技现场展示编程助手、AI视频生成、3D生成等交互技术。由燧原和智谱AI合作的大模型编程助手一体机,基于云燧i20推理加速卡,能为软件开发企业提供代码生成、代码翻译、代码注释、代码补全、智能问答等多种服务。

无问芯穹:千卡规模异构芯片混训平台

国产算力路在何方?2024 WAIC 行业观察 第4张

无问芯穹联合创始人兼CEO夏立雪,在7月4日WAIC现场发布了千卡规模异构芯片混训平台,称这一训练集群算力利用率最高达到了 97.6%。夏立雪宣布,无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性。

无问芯穹同样展示其Infini-AI大模型开发与服务云平台,并表示7月起,通过试训申请的用户,已可在Infini-AI上一键发起700亿参数规模的大模型训练。

天数智芯:自研通用GPU产品矩阵

天数智芯连续4年参加WAIC大会,该公司表示,联合合作伙伴推出的大模型推理16卡服务器,搭载16张自主研发的智铠100推理卡,性能和性价比达到国际一流水平。天数智芯宣布,与爱特云翔合作建设千卡GPU算力集群,可支持千亿以上参数大模型的全量预训练,支持客户进行微调、参数高效微调等服务,解决了大模型训练高端算力紧缺的瓶颈问题,从算力底层支持国产大模型创新发展。

国产算力路在何方?2024 WAIC 行业观察 第5张

协力共创,打造中国AI生态

我国人工智能的发展,效率、生态是一大瓶颈。为齐心协力推动我国AI算力及应用建设,多家企业拿出了开放包容的态度,携手打造中国AI生态。

壁仞科技联席CEO李新荣强调,人工智能是一个庞大的系统工程,人工智能产业形成的三大要素包括:数据、算力、算法。融合三大要素的AI生态集成、生态建设,需以软硬件整合的方式实现。

壁仞科技丁云帆介绍,壁仞科技构建了开放的BIRENSUPA软件生态系统,携手合作伙伴和客户共同推进大模型产业生态的发展,为国产GPU在千卡集群规模上实现商用落地提供了有力支持。这一平台包含编译器、多种工具链,支持主流深度学习框架和自研推理加速引擎,并配备针对不同场景的应用SDK等,能够助力开发者实现软硬件协同,探索未来的无限可能。目前壁仞科技《BIRENSUPA编程模型白皮书》现已正式公开。

国产算力路在何方?2024 WAIC 行业观察 第6张

在WAIC大会期间,壁仞科技对外宣布,搭载壁砺系列通用GPU算力产品的中国移动智算中心,近日成功上线运营。据了解,中国移动智算中心属于全国型N节点万卡训练场,单体算力6.7EFLOPS。采用万卡高速互联、软硬全链路监控等高新技术为AI业务保驾护航,同时通过液冷机柜、闭式冷却塔、智能小母线等绿色节能技术,实现设计PUE值平均为1.15。今年5月,壁仞科技正式获颁中国电信“云网基础设施安全国家工程研究中心云计算合作伙伴”;在WAIC大会期间,中国电信发布了四大AI联创基地,壁仞科技作为中国电信的算力合作伙伴参与其中,共同为人工智能大模型场景应用助力赋能。

摩尔线程表示,万卡集群的建设需要产业界的齐心协力,为实现大模型创新应用的快速落地,让国产算力“为用而建”。发布会现场,摩尔线程携手中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团、中国能源建设股份有限公司总承包公司、桂林华崛大数据科技有限公司,分别就青海零碳产业园万卡集群项目、青海高原夸娥万卡集群项目、广西东盟万卡集群项目进行了战略签约。

本届WAIC,燧原科技表示正在推进“燎原”生态合作计划,以全国算力一体化布局的智算中心算力网络为根基,在燧原自主技术体系的基础上,发展云服务、大模型、垂直模型、AIDC集成部署运营运维等战略生态伙伴,打造从算力建设到应用的完整落地闭环。目前,燧原科技已在四川成都、湖北宜昌和甘肃庆阳展开了智算中心的建设及合作。其中,宜昌点军智算中心仅用1年时间完成了300P国产算力建设和交付,并实现了上线全消纳。

无问芯穹在4个月前,宣布其Infini-AI大模型开发与服务云平台宣布首次公测,已有智谱AI、月之暗面、生数科技等大模型公司客户在Infini-AI上稳定使用异构算力,还有20余家AI Native应用创业公司在Infini-AI上持续调用各种预置模型API,使用无问芯穹提供的工具链开发自身业务模型。此举将打通异构新品生态,持续降低大模型应用落地成本。

天数智芯表示,天数智芯通用GPU产品适配主流CPU芯片/服务器厂商,能够支持国内外主流AI生态和各种深度学习框架,通过标准化的软硬件生态接口为行业解决产品使用难、开发平台迁移成本大等痛点,大幅缩短适配验证周期,实现业务系统的无缝使用,可以灵活支持各种算法模型,便于客户自定义开发。

集微网了解到,本届WAIC 2024,中国电信领衔承办主题论坛,聚焦中国电信智算及大模型能力规划;中国联通在“AI+赋能,智算未来”论坛上启动“上海联通新一代智算中心”,加快国产算力布局;中国移动举办以“AI赋能,创见未来”为主题的生态论坛,并正式启动五个“100”人工智能生态计划。

其它厂商方面,在“2024昇腾人工智能产业高峰论坛”中,华为携手生态伙伴首发昇腾AI新品,展现AI算力领域的技术与商业合作新样本;中兴通讯展示端到端的全栈全场景开放解耦的智算解决方案,覆盖智算、通算、存储全场景组网;算能科技携算力处理器、RISC-V融合服务器智算集群、多样大模型体验区、云边端全场景智能生态产品等亮相展区;商汤科技带来国内训练大模型的先进基础设施,SenseCore商汤大装置总算力规模高达12000PFLOPS,可支撑超过20个千亿超大模型同时训练。

随着AI大模型引发全球新一轮科技浪潮,我国算力产业在压力之下正在蓬勃发展,各项创新技术不断涌现。除了技术领域,目前我国同样注重AI产业安全与风险,已建立了一套涵盖产业应用、算法、算力、数据等方面的治理规则。

壁仞科技张凌岚强调,壁仞科技对未来AI算力芯片的市场前景和技术落地充满信心。未来,随着国产AI算力芯片陆续落地,我国多产业的数字化转型有望进一步加深。李新荣表示,希望早日实现自主可控的国产供应链,同时搭建一个覆盖全产业的软件生态合作平台。壁仞科技不只是国产大模型训练的支持者,同时也希望能够积极支持并且利用自有的资源来推动产业协作。

国产算力路在何方?2024 WAIC 行业观察 第7张

本届WAIC 2024大会,吸引来自50多个国家和地区的嘉宾、观众前来,汇聚1300位全球领军人物,9位图灵奖、菲尔兹奖、诺贝尔奖得主,以及88位国内外顶级院士,线下参观人数突破30万人次。

如今万卡计算时代正逐步到来,AI基础设施提供的强大算力,正为生成式AI、大模型前沿创新提供充足的想象空间。本届WAIC 2024汇聚全球AI领域前沿技术与成果,促成产学研各界的深度对话。通过不断创新的架构和开源开放的生态系统,未来中国算力产业必将持续取得突破性进步,紧紧跟随世界前沿。从长远看,人工智能必将成为推动产业经济发展的关键,随着各类应用逐步落地,AI将深入赋能千行百业,成为我国创新与发展的得力助手。