浪潮信息发布"元脑SD200"超节点,面向万亿参数大模型创新设计
北京2025年8月8日 /美通社/ -- 8月7日,浪潮浪潮信息发布面向万亿参数大模型的信息向万超节点AI服务器"元脑SD200"。该产品基于浪潮信息创新研发的发布多主机低延迟内存语义通信架构,以开放系统设计向上扩展支持64路本土GPU芯片。元脑亿参元脑SD200可实现单机内运行超万亿参数大模型,超节创新并支持多个领先大模型机内同时运行及多智能体实时协作与按需调用,点面目前已率先实现商用。数大设计在实际评测中,模型元脑SD200运行DeepSeek R1和Kimi K2等全参模型的浪潮64卡整机推理性能实现超线性扩展。
当前,混合专家模型(MoE)的发布高效架构正在驱动大模型参数规模持续扩展,国内外前沿大模型的元脑亿参参数量快速突破万亿规模,这给算力系统架构提出新的超节创新挑战。一方面,点面模型参数量增加和序列长度增加带来的数大设计键值缓存(KV cache)激增,需要智能计算系统具有超大显存空间承载,依靠单芯片或节点的性能提升已难以为继;且其推理过程作为通信敏感型计算,对分布式计算通信延时要求极高,需要构建更大向上扩展(Scale up)高速互连域。另一方面,智能体AI开启多模型协作的新范式,其推理过程需要生成比传统模型多近百倍的数据词元(token),导致计算量激增。
元脑SD200超节点AI服务器是浪潮信息面向万亿参数大模型AI时代而设计,创新研发多主机低延迟内存语义通信架构,基于开放总线交换技术构建,在单机内实现了64路GPU芯片的高速统一互连,成功解决万亿大模型对超大显存空间和超低通信延时的核心需求。在开放架构之上,元脑SD200通过智能总线管理和开放的预填充-解码(Prefill-Decoder)分离推理框架实现软硬件深度协同,智能化管理复杂AI计算任务。
- 在架构层面,元脑SD200基于自主研发的开放总线交换技术首创多主机三维网格系统架构,实现64路本土GPU芯片高速互连;通过创新远端GPU虚拟映射技术,突破多主机交换域统一编址难题,实现显存统一地址空间扩增8倍,单机可以提供最大4TB显存和64TB内存,为万亿参数、超长序列大模型提供充足键值缓存空间。同时,依托百纳秒级超低延迟链路,构建64卡大高速互连域统一原生内存语义通信,实测结果表明,在推理过程常见的小数据包通信场景中,全规约(All Reduce)性能表现优异,显著提升计算与通信效率。
- 在系统层面,根据万亿参数大模型计算、通信需求特征,浪潮信息开发智能总线管理系统,实现超节点64卡全局最优路由的自动创建,支持不同拓扑切换,资源按需切分。对于全规约、全聚集(All Gather)等典型通信算子,开展不同数据量大小的细粒度通信策略设计,如多层级通信机制等,实现通信延时进一步降低。同时依托开放的PD分离框架,支持异步KV Cache高效传输与差异化并行策略,在提升业务服务级别目标的同时保持对多元算力的兼容性,实现计算与通信架构的深度协同优化。
元脑SD200超节点AI服务器通过软硬协同系统创新,成功向上扩展突破芯片性能边界,在大模型场景中展示出优异的性能表现。结合优化的PD分离框架,SD200超节点满机运行DeepSeek R1全参模型推理性能超线性提升比为3.7倍,满机运行Kimi K2全参模型推理性能超线性提升比为1.7倍。
当前,开源模型的飞跃式进步正在加速智能时代的到来,推动研发范式从封闭走向开放协作。同时,随着大模型参数量的持续提升,对算力基础设施的建设提出了更高要求。浪潮信息通过开放系统架构创新,为开源大模型的规模化落地和应用创新提供关键支撑。
- ·2023年全国新高考Ⅱ卷高考英语作文题目
- ·全新视角启航!《海贼王》女性主角外传小说动画化决定!
- ·广东队顾兵陕西全运会盛装舞步个人夺金 兰超和张红钊分获二三名
- ·2025年西城小升初非京籍在京实际居住证明审核标准
- ·传明年不止一家推出10000mAh手机 充电宝要淡出
- ·NCT WISH携《COLOR》9月1日回归 8月12日公开先行曲
- ·夫妻摆“急救地摊”8年 教会10余万人“救命术”
- ·统编义务教育中小学语文统编教材解读
- ·山东好汉喝酒的喝法
- ·公牛4年8000万报价吉迪 双方在金额上分歧巨大
- ·郝素云:助人为乐书写最美“夕阳红”
- ·2021玉龙国际赛马公开赛第18赛马日:70万奖金赛事冠军花落“北方雅典娜”
- ·特斯拉与火山引擎达成合作,全新Model Y L车型接入豆包大模型
- ·全球首个女团机器人被拍卖:成交价超万元
- ·青马课堂:丘吉尔说:
- ·格力电器董明珠健康家服务号更名?知情人士:为商城上线做准备
- ·生而非凡 攀登不止
- ·存款取款单笔超5万元,还要不要说明“来源”和“用途”?央行、证监会等三部门发文,口径有变
- ·广东男团晋级!十五运会群众比赛乒乓球项目男女团体八强产生
- ·故宫博物院景德镇考古基地揭牌
- ·Browns rookie Shedeur Sanders calls out ESPN reporter after stellar debut
- ·非遗短剧《傩戏》上线Stardust TV,助力中华文化破圈出海
- ·社团工作总结(经典21篇)
- ·时隔10年全胜出线,中国男篮收获了什么?
- ·《星空》开发者:部分星球空旷是刻意设计 并不无聊
- ·吃20斤橘险丧命竟是因为不吐籽 什么水果籽不能吃