联想算力炸场！20家巨头站台，问天超节点让AI训练快成闪电

智东西于6月24日进行报道, 在今天下午的时候, 联想集团在自家的算力生态大会之上, 正式发布了联想问天超节点解决方案, 联想万全异构智算方案升级到了5.0大版本, 它重点凭借集群训推加速、芯模编译优化这两个关键技术的升级, 提升了方案的场景自适应能力, 还提升了训推效能。

在生态层面, 有件值得一提的事, 于联想问天品牌换新升级启动仪式上, 国内外将近20位算力生态的合作伙伴亲临现场站台, 其中包含AMD, 还有英伟达, 以及英特尔, 壁仞科技也在其中, 寒武纪同样前来, 燧原科技也来到现场, 中科海光也在现场, 天数智芯也出席, 昆仑芯也在, 兆芯到访, 摩尔线程也来了, 沐曦也到了, 飞腾也现身, 中科曙光也在现场。

身为联想集团副总裁, 同时也是中国基础设施业务群总经理的陈振宽, 登上台去做了演讲以及发布, 在他回顾联想问天品牌发展三年之际表示, 当下联想于x86服务器市场当中已位居全球第二, 专利数量与研发规模增长至3倍, 产品数量以及整体业务规模达成了4倍的提升。

此次, 陈振宽公布了联想问天下一阶段的业务目标, 该目标为2027年达成百亿营收, 此营收规模相比于2022年将呈现出十倍的增长态势。

回到, 今日发布的, 主要产品, 以及技术, 联想万全异构计算方案5.0, 推出了, 两项, 差异化, 核心技术。

·集群训推加速, 借助分层解耦这一核心技术, 通过PD分离架构, 运用KV Cache共享缓存优化, 达成算力集群“算、存、网”效率的倍数提升。

·芯模进行编译优化, 针对国内多元模型、多元芯片所具有的独特生态, 运用不同模型的计算图自适应匹配技术, 以及算法自动生成技术, 以此构建GPU与模型的最佳组合, 从而显著提升效率。

剑指计算瓶颈打破, 面向万亿参数大模型时代, 联想发布了一套新方案, 为联想问天超节点解决方案, 此乃第二个重磅发布。

以算力而言, 它在单节点的情况下, 最高能够支持40张GPU, 其FP8算力是超过了28FLOPS的, HBM显存突破了5.76TB, 如此这般便可以满足万亿参数模型的训练以及推理需求。

连接低延迟维度, 其存取带宽多得令人超越80兆千节每秒, 拥有纳秒级幅度的点对点连接, 片式关联总带宽多得超乎16兆千节每秒, 能够显著削减诸多卡片协同之时的通信等待时长。

对于灵活扩展这一方面, 它具备支持Scale-out扩展至更大集群的能力, 而且能够向下兼容32卡, 进而满足各种规模的训练需求, 以及各种规模的推理需求, 还有各种规模的开发测试需求。

它对标准19英寸机箱予以支持,运用了无线缆正交直插的设计, 把部署周期从几个月大幅度地缩减到了几个小时。

在我们所能看到的范畴内, 从进行计算这一行为, 到存储相关内容, 再到运载方面, 联想所面向AI时代的算力生态体系已然是越发走向成熟的状态了, 陈振宽提及, 联想问天将会持续地跟来自本土的以及全球范围内的生态合作伙伴一同前进, 促使中国AI算力从具备可用性朝着好用的方向发展。

猜你喜欢