巨人天成
产经 科技 企业 数据 峰会 快讯 商业

DeepSeek连发大招:开源优化策略,英伟达R1模型推理速度飙升25倍

2025-02-27来源:证券时报e公司编辑:瑞雪

近期,人工智能领域迎来了一系列重要进展,其中DeepSeek公司的动作尤为引人注目。该公司宣布了一项重大决定——将其优化并行策略(Optimized Parallelism Strategies)进行开源,这一策略旨在提升计算效率,减少资源浪费,并最大化系统性能。

据DeepSeek介绍,该优化并行策略是一套精心设计的并行计算方案,适用于多核、分布式或异构系统。它通过合理分配任务、协调资源利用以及减少通信开销,实现了高效并行执行,为人工智能模型的训练和推理提供了强有力的支持。

不仅如此,DeepSeek还宣布了其另一项重要成果——与英伟达合作,在Blackwell架构上优化的DeepSeek-R1模型。这一新模型在推理速度上实现了25倍的提升,同时每token成本降低了20倍,标志着英伟达在人工智能领域的又一次重大突破。

DeepSeek的开源行动并未止步于此。在此之前,该公司已经将DeepEP向公众开放,这一Expert Parallelism通信基础专为MoE模型的训练和推理而设计。DeepEP能够实现高效优化的全到全通信,支持低精度计算,并对非对称带宽转发场景进行了深度优化,从而在训练和推理任务中展现出卓越的性能。

为了进一步提升用户体验,DeepSeek还推出了错峰优惠活动。在北京时间每日00:30至08:30的夜间空闲时段,DeepSeek开放平台的API调用价格大幅下调,DeepSeek-V3降至原价的50%,DeepSeek-R1更是降至25%。DeepSeek鼓励用户充分利用这一时段,享受更经济、更流畅的服务。

此次优惠活动正值DeepSeek的“开源周”。在这一周内,DeepSeek连续开源了多个重要代码库。首个开源的是针对Hopper GPU优化的FlashMLA,随后是用于MoE模型训练和推理的开源EP通信库DeepEP,以及一个支持密集和MoE GEMM的FP8 GEMM库,为V3/R1的训练和推理提供了有力支持。

英伟达也在这一领域取得了显著进展。通过应用TensorRT DeepSeek优化,英伟达在Blackwell架构上实现了具有FP4生产级精度的模型,该模型在MMLU通用智能基准测试中达到了FP8模型性能的99.8%。目前,英伟达基于FP4优化的DeepSeek-R1检查点已经在Hugging Face上开源,用户可以通过相关链接访问这一模型。

在后训练量化方面,DeepSeek也取得了重要突破。该模型将Transformer模块内的线性算子的权重和激活量化到了FP4,适用于TensorRT-LLM推理。这一优化不仅减少了每个参数的位数,从8位降低到4位,还使得磁碟空间和GPU显存的需求减少了约1.6倍,为人工智能模型的部署和应用提供了更加经济、高效的选择。

企业禁用无线网卡攻略:三种方法详解,第二种助企业高效管控风险
对于中大型企业或对数据安全要求高的单位,域智盾终端安全管理系统提供了更智能、更彻底、更可追溯的无线网卡管控方案。在Windows专业版或企业环境中,IT人员可以用系统自带的组策略(Group Policy…

2025-11-15

蓝牙耳机被他人连接别慌!三招轻松夺回“控制权”
当发现耳机被别人连接时,最直接的解决方法是重置连接。操作很简单:先打开你的手机蓝牙设置,找到已配对的耳机名称,选择“忽略此设备”或“取消配对”。最后,在手机蓝牙列表中找到你的耳机并重新点击连接即可。这个操作…

2025-11-15

工业通信新选择:环网交换机如何以冗余设计保障现场数据稳定传输
每个交换机上有两个用于组环的端口(网口),交换机之间通过手拉手形式构成了环形的网络拓扑。我们设计的千兆工业交换机整体设计采用“凹陷”网口设计,外观上和普通交换机大有差别,将网线水晶头能够有力的支撑保护住。 …

2025-11-14

安科瑞ASCB3-80m智能微断:全参量监测+远程操控,筑牢低压配电安全防线
智能微型断路器配合智能网关使用,对用电线路的关键电气参数,如电压、电流、功率、温度、漏电、能耗等进行实时监测,具有远程操控、异常预警、事故跳闸告警、电能计量统计、故障定位等功能。ASCB3-80m 系列智能…

2025-11-14

谷歌AI新动作与苹果不谋而合,隐私赛道上苹果技术路线获印证
过去几个月里,我得出一个结论:苹果在AI方面的困境真正令人失望的地方,并不仅仅是人们普遍认为它在当前AI趋势中"落后"了。 A:苹果确实错过了ChatGPT发布引发的AI变革浪潮,在大语言模型产品方面相比其…

2025-11-13

物联网+AI赋能制造业边坡:构建“工业大脑”实现安全与效率双提升
物联网 + AI 构建的 “工业大脑”,通过全维度感知、智能化分析、精准化决策,让边坡管理实现了从 “事后补救” 到 “预测性维护” 的根本性转变,不仅破解了安全与效率、投入与效益的平衡难题,更重塑了制造业…

2025-11-13

广电卡适配指南:哪些手机能用?这些旗舰机型可能不兼容!
华为P50系列是个特例,即便是4G版,也能通过软件方案支持广电5G。中国广电表示,近六年主流手机型号均已升级适配广电网络,98%以上的新入网5G手机支持700MHz频段。 判断你的手机是否适配广电卡,不仅…

2025-11-13

星闪智联引领未来:无线短距通信开启智能社会新篇章
为统一目标、保证质量,在国际星闪联盟组织与号召下,联盟领导、行业协会及合作伙伴的11位代表上台发起了《消费电子新短距产业共建倡议》,明确提出要“共建星闪技术新标准、共创智能连接新应用、共赢消费电子新未来”。 …

2025-11-13

Kernelcom“智能键盘”来袭:12.5英寸超宽屏,AMD/Intel双版本可选
快科技11月12日消息,近日一款名为Kernelcom的设备正在Kickstarter上众筹,虽然其本质上是一款功能完备的笔记本电脑,但制造商还是将其宣传为“智能键盘”。 这款设备最大的特点是其12.5英寸超…

2025-11-13