巨人天成
产经 科技 企业 数据 峰会 快讯 商业

昇腾如何助力DeepSeek,解锁大模型商用新篇章?

2025-03-17来源:ITBEAR编辑:瑞雪

在人工智能领域,一场由DeepSeek引领的大模型商用风潮正如火如荼地展开。然而,当这股热情涌入实践环节,企业们却纷纷遭遇了算力与效率之间的棘手问题。

某企业在引入DeepSeek后,发现其算力集群的推理速度远低于预期,而算力消耗却异常高昂。企业试图通过增加硬件来解决问题,但结果却适得其反。推理吞吐量并未显著提升,反而因计算任务分配不均,导致部分计算卡过载,而另一部分则闲置。更糟糕的是,卡间通信成为了新的瓶颈,频繁的数据交换使得系统时延大幅上升。

这一困境并非个例,而是大模型商业化落地过程中普遍面临的挑战。DeepSeek采用的MoE(混合专家)架构,虽然让AI变得更加智能,但要实现高效运行,却需要解决计算负载均衡和卡间通信两大难题。

面对这一困境,DeepSeek与华为昇腾的携手合作,为市场带来了一线曙光。这一组合,或许正是解决当前问题的关键。

人工智能的发展路径,大致可以分为技术摸高与工程创新两大方向。前者以OpenAI等头部企业为代表,追求极致的智力突破,但代价高昂,难以在推理应用端实现规模化。而后者,则以DeepSeek为代表,致力于让大模型计算更高效、推理更快、成本更低,从而推动产业落地。

DeepSeek采用的MoE架构,正是对传统深度学习架构的一种优化。它将大模型拆分为多个专家,每个专家专注于处理特定任务。当输入信息进入模型时,门控网络会分析任务特性,选择合适的专家进行计算。这种“分工协同”的机制,既减少了计算量,又提高了推理速度。

然而,MoE架构的落地并非一帆风顺。在大规模专家并行(大EP)的场景下,负载均衡和卡间通信成为了两大拦路虎。负载均衡问题导致计算资源无法充分利用,而卡间通信问题则限制了推理速度的提升。

针对这些问题,华为昇腾进行了深度优化。在MoE负载均衡方面,昇腾通过动态专家调度,实现了自动寻优、自动配比、自动预测等功能,确保了计算资源的充分利用。而在卡间通信方面,昇腾采用了自适应PD分离部署、双流/多维混合并行、MLAPO融合算子等技术,降低了数据传输的延迟和开销。

这些优化措施的实施,使得昇腾在支持DeepSeek等国产大模型时,能够提供稳定的吞吐率和高效的算力支撑。同时,这些优化也推动了国产AI生态的繁荣发展。

在昇腾的助力下,DeepSeek等国产大模型正在加速进入实际应用场景。在金融领域,智能风控、量化交易、自动化客户服务等应用正在帮助银行提高运营效率;在政务服务领域,政务智能问答、法律咨询、文档自动化处理等应用正在提升政务服务的智能化水平;在医疗健康领域,医学辅助诊断、药物研发、精准医疗分析等应用正在助力医生提高诊断效率,加速新药研发进程。

昇腾的优化还使得DeepSeek等国产大模型能够适配更多国产算力方案,从而避免了对国外硬件的依赖。这一转变,不仅降低了企业的算力成本,还提升了国家的信息安全水平。

随着DeepSeek等国产大模型的兴起和昇腾等国产算力方案的突破,一个全新的AI产业链正在加速形成。在这个产业链中,底层算力、中间层模型、上层应用等各个环节都在紧密协作,共同推动AI技术的创新和应用。

如今,AI技术已经不再停留在概念验证阶段,而是进入了规模化应用阶段。从昇腾的硬件突破,到DeepSeek的算法优化,再到行业落地,一个全新的AI时代已经到来。

在这个时代里,AI正在深刻改变着我们的生活和工作方式。从金融到政务,从医疗到制造,AI技术正在各个领域发挥着巨大的作用。而这一切的背后,都离不开昇腾等国产算力方案的支撑和DeepSeek等国产大模型的推动。

随着AI技术的不断发展和应用领域的不断拓展,我们有理由相信,一个更加智能、更加高效、更加安全的AI时代即将到来。

Valve推出Steam Frame新VR头显 正式宣告上一代Index头显停产
用户可通过无线适配器,将 PC 或 Steam Machine 上的平面屏(flatscreen)及 VR 游戏串流至 SteamFrame;与此同时,Steam Frame 本身也是一款独立设备,搭载高通…

2025-11-14

虚拟化与超融合:从架构到应用,一文读懂如何选择适合的IT方案
超融合平台通常基于成熟的虚拟化技术,例如它可能内置虚拟机管理功能,但更强调整体资源的统一管理。性能上,虚拟化可能因资源竞争而出现波动,而超融合的分布式存储设计可以提供更一致的I/O性能,特别是在高并发场景下,…

2025-11-14

杭州上城第三批50个“人工智能+”场景发布 涵盖多领域促发展
11月13日,杭州市上城区第三批“人工智能+”机会场景发布会暨场景供需对接会活动举行,推出50个高价值场景,涵盖社会治理、金融服务、民生服务、城市管理、智能建造、文化旅游、时尚消费等多个热门领域。如,由上城…

2025-11-14

中关村房山园科技对接会:昆虫机器人等“硬核”成果亮相,助力新质生产力
11月12日,中关村“火花”活动之北京理工大学专场对接会暨中关村房山园新质生产力发布厅科技成果转化对接活动在中关村新兴产业前沿技术研究院举行,极限搜救昆虫机器人、通信感知超宽带收发芯片等一批来自北京理工大学、…

2025-11-14

浪潮KaiwuDB V3.0发布:多模融合AI赋能,引领物联网数智化新篇章
KaiwuDB V3.0关系引擎新增大型对象支持,无论是传感器产生的二进制数据还是文本信息,都能实现高效管理;同时,支持高效跨模连接算子与时序算子并行处理,相较于2.2版本跨模查询性能提升5-10倍,打破了…

2025-11-13

2025年手机卡选卡指南:精准匹配需求,绕开合约套路与流量陷阱
•在运营商APP中查看过去三个月的平均流量使用量•检查你的通话时长记录•分析你最常用的APP类型(这会影响你对通用流量和定向流量的需求)有了这些数据,你就能更准确地判断自己需要什么样规模的套餐了。 •典型代…

2025-11-13

照片压缩至5M内超全指南!七大实用方法助你轻松搞定分享难题
具体的执行步骤是:将它们直接开启,随后去挑选照片,该应用会自动给出推荐的压缩级别,你能去预览最终结果,还能够对某些设置予以调整,比如把分辨率调低或者转换格式,借此令文件大小小于5MB,这对即时分享至社交媒体来…

2025-11-12

企业宽带选不对,带宽再大也白费!这些关键因素决定实际网速
• 网速(用户感知):即实际访问体验,取决于 3 个核心因素 —— 带宽只是基础,更重要的是网络质量、路由优化和并发处理能力。 真正专业的服务商,会从企业实际业务场景出发提供解决方案,而非一味推销高带宽产品…

2025-11-12

Marantz与B&W组合:以多元功能承载家庭温情,让音乐共鸣融入日常
我在活动上最常遇到来宾,不管是男的,还是女的,他(她)问我:我手机上这些音乐能不能通过蓝牙,或Apple Airplay传到音响播放。 用高级音响回归音乐本身你会发现原来美好的东西就在身边最近我在电脑里找到了…

2025-11-12

Viwoods发布AiPaper Reader电纸书:6.13英寸墨水屏搭载AI阅读互动功能
IT之家 11 月 11 日消息,据科技媒体 NoteBook Check 今天报道,Viwoods 现已推出 AiPaper Reader电纸书,运行 Android 16 操作系统,机身配备专用 AI …

2025-11-12