资讯

  • 资讯
  • 产品
  • 公司
  • 技术
  • 视频
  • 展会
  • 样本
首页 智造展 直播 网课 资讯 技术 产品 公司 展会 商城 会员服务
您现在的位置：智能制造网>物联网>资讯列表>DeepSeek第二炸：开源首个用于MoE模型训练通信库

DeepSeek第二炸：开源首个用于MoE模型训练通信库

2025年02月25日 11:59:40 人气: 20677 来源: 快科技
　　2月25日消息，今天是DeepSeek开源周第二日，一早，DeepSeek如约就放出了开源代码库DeepEP王炸。
 
　　据了解，DeepEP是首个用于 MoE 模型训练和推理的开源EP通信库，它填补了MoE模型专用通信工具的空白，为大规模分布式AI训练和实时推理场景提供了更高效的底层支持。
 
　　在这里，简单介绍一下DeepEP的技术性能特点：
 
　　1、高效通信架构
 
　　支持优化的全对全通信模式，实现节点内和节点间的NVLink与RDMA互联，提升数据传输效率。
 
　　2、多精度与调度优化
 
　　原生支持FP8低精度运算调度，降低计算资源消耗。
 
　　3、重性能内核
 
　　据介绍，高吞吐量内核可适用于训练和推理预填充场景，最大化数据处理能力。
 
　　4、低延迟内核
 
　　它针对推理解码场景设计，采用纯RDMA通信和自适应路由技术，减少延迟。
 
　　5、资源控制与重叠机制
 
　　通过灵活的GPU资源控制策略，实现计算与通信过程的高效重叠，避免资源闲置。
 
　　6、深度优化场景
 
　　针对NVLink到RDMA的非对称带宽转发场景进行专项优化，提升异构网络下的传输性能。
 
　　此外，它还支持SM（Streaming Multiprocessors）数量动态控制，平衡不同任务(如训练与推理)的吞吐量需求。
关键词： DeepSeek,MoE模型训练通信库
全年征稿/资讯合作 联系邮箱：1271141964@qq.com
版权与免责声明
1、凡本网注明"来源：智能制造网"的所有作品，版权均属于智能制造网，转载请必须注明智能制造网，https://www.gkzhan.com。违反者本网将追究相关法律责任。
2、企业发布的公司新闻、技术文章、资料下载等内容，如涉及侵权、违规遭投诉的，一律由发布企业自行承担责任，本网有权删除内容并追溯责任。
3、本网转载并注明自其它来源的作品，目的在于传递更多信息，并不代表本网赞同其观点或证实其内容的真实性，不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时，必须保留本网注明的作品来源，并自负版权等法律责任。
4、如涉及作品内容、版权等问题，请在作品发表之日起一周内与本网联系，否则视为放弃相关权利。

企业推荐

更多

产品推荐

更多

企业新闻

更多

关于我们 企业建站 本站服务 会员服务 旗下网站 友情链接 兴旺通 意见反馈 分类导航

销售热线：0571-87759904    客服热线：0571-87756395    采购热线：0571-87759926

服务咨询：网站客服：媒体合作：采购咨询：
Copyright gkzhan.com    All Rights Reserved    法律顾问：浙江天册律师事务所 贾熙明律师    ICP备案号：浙B2-20100369     浙公网安备 33010602000006号