巨人天成
产经 科技 企业 数据 峰会 快讯 商业

得一微AI-MemoryX技术革新显存扩展,DeepSeek训推一体机性能大飞跃!

2025-02-28来源:ITBEAR编辑:瑞雪

在人工智能领域的一次重大突破中,得一微电子(YEESTOR)近日隆重推出了其革命性的AI-MemoryX显存扩展解决方案。该方案凭借公司自主研发的存储控制芯片与创新的AI存储系统技术,成功打破了单机显存容量限制,使得DeepSeek系列的大模型,如32B、70B、110B乃至671B等,均能在单机环境下实现微调训练。这一创新为AI大模型的训练提供了既高效又经济的全新路径。

得一微电子及其合作伙伴将共同提供一套完整的微调训练解决方案,旨在助力各行各业拓展智能应用的边界,从而在激烈的市场竞争中抢占先机。AI-MemoryX方案的推出,标志着AI大模型训练进入了一个全新的时代。

长久以来,显存不足一直是制约单机微调训练大规模模型的关键因素。训练和推理对GPU显存的需求差异巨大,训练所需显存往往是推理的数十倍。目前市场上的训推一体机在支持大模型微调训练时,普遍面临显存容量不足的挑战,仅能支持7B、14B等相对较小模型的微调训练,难以满足更大模型的训练需求。

得一微电子推出的AI-MemoryX显存扩展卡,则成功打破了这一瓶颈。该扩展卡不仅使训推一体机能够支持超大尺寸大模型的微调训练,还能帮助客户承担高达110B甚至671B规模的训练任务。更为重要的是,AI-MemoryX技术将原本需要耗费数百上千万的硬件扩充成本,大幅降低至数万元级别,从而显著降低了超大模型训练的门槛,使得更多企业和个人能够以有限的资源高效开展大规模模型的训练与微调。

显存不足一直是单机微调训练大规模模型的最大障碍。受限于GPU技术和商业模式,单张GPU的显存容量极为有限,通常仅在48GB到64GB之间。以DeepSeek 70B模型为例,微调训练所需的显存高达1TB到2TB,这意味着需要动用30多张显卡。而对于DeepSeek 671B模型,更是需要高达10TB到20TB的显存,对应300多张显卡。如此庞大的硬件需求,不仅成本高昂,部署也极为复杂,严重阻碍了大模型单机微调的普及。

得一微电子的AI-MemoryX技术通过创新的显存扩展方案,成功将单机显存容量从传统显卡的几十GB提升至10TB级别,从而大幅降低了微调训练对GPU数量的需求。得益于此,DeepSeek系列不同尺寸的大模型仅需1到16张显卡,配合显存扩展技术,即可高效完成单机训练微调。这一技术突破为大模型在各行业的应用推广提供了强有力的支持。

得一微电子推出的AI-MemoryX解决方案是一个完整的微调训练方案,涵盖了大模型训练框架、显存扩展卡软件栈以及显存扩展卡X200系列。该方案为大模型微调训练提供了全方位的技术支持与赋能,使得更多企业和个人能够轻松应对大规模模型的训练需求。

得一微电子的AI-MemoryX技术还具有独特的监督微调、思维链微调和强化学习微调等特色功能。这些功能不仅发掘了微调的潜力和价值,还使得模型能够在小样本条件下实现高效推理,注入行业思维提升推理深度,以及在规则框架下实现自我进化。这些创新技术的应用,将进一步提升AI大模型的性能和实用性。

得一微电子始终致力于存储控制、存算一体、存算互联领域的技术创新,立志成为行业领先的芯片设计公司。公司面向企业级、车规级、工业级、消费级等全场景应用,提供量身定制的解决方案与服务。此次AI-MemoryX显存扩展解决方案的推出,再次彰显了得一微电子在人工智能领域的领先地位和技术实力。

Valve推出Steam Frame新VR头显 正式宣告上一代Index头显停产
用户可通过无线适配器,将 PC 或 Steam Machine 上的平面屏(flatscreen)及 VR 游戏串流至 SteamFrame;与此同时,Steam Frame 本身也是一款独立设备,搭载高通…

2025-11-14

虚拟化与超融合:从架构到应用,一文读懂如何选择适合的IT方案
超融合平台通常基于成熟的虚拟化技术,例如它可能内置虚拟机管理功能,但更强调整体资源的统一管理。性能上,虚拟化可能因资源竞争而出现波动,而超融合的分布式存储设计可以提供更一致的I/O性能,特别是在高并发场景下,…

2025-11-14

杭州上城第三批50个“人工智能+”场景发布 涵盖多领域促发展
11月13日,杭州市上城区第三批“人工智能+”机会场景发布会暨场景供需对接会活动举行,推出50个高价值场景,涵盖社会治理、金融服务、民生服务、城市管理、智能建造、文化旅游、时尚消费等多个热门领域。如,由上城…

2025-11-14

中关村房山园科技对接会:昆虫机器人等“硬核”成果亮相,助力新质生产力
11月12日,中关村“火花”活动之北京理工大学专场对接会暨中关村房山园新质生产力发布厅科技成果转化对接活动在中关村新兴产业前沿技术研究院举行,极限搜救昆虫机器人、通信感知超宽带收发芯片等一批来自北京理工大学、…

2025-11-14

浪潮KaiwuDB V3.0发布:多模融合AI赋能,引领物联网数智化新篇章
KaiwuDB V3.0关系引擎新增大型对象支持,无论是传感器产生的二进制数据还是文本信息,都能实现高效管理;同时,支持高效跨模连接算子与时序算子并行处理,相较于2.2版本跨模查询性能提升5-10倍,打破了…

2025-11-13

2025年手机卡选卡指南:精准匹配需求,绕开合约套路与流量陷阱
•在运营商APP中查看过去三个月的平均流量使用量•检查你的通话时长记录•分析你最常用的APP类型(这会影响你对通用流量和定向流量的需求)有了这些数据,你就能更准确地判断自己需要什么样规模的套餐了。 •典型代…

2025-11-13

照片压缩至5M内超全指南!七大实用方法助你轻松搞定分享难题
具体的执行步骤是:将它们直接开启,随后去挑选照片,该应用会自动给出推荐的压缩级别,你能去预览最终结果,还能够对某些设置予以调整,比如把分辨率调低或者转换格式,借此令文件大小小于5MB,这对即时分享至社交媒体来…

2025-11-12

企业宽带选不对,带宽再大也白费!这些关键因素决定实际网速
• 网速(用户感知):即实际访问体验,取决于 3 个核心因素 —— 带宽只是基础,更重要的是网络质量、路由优化和并发处理能力。 真正专业的服务商,会从企业实际业务场景出发提供解决方案,而非一味推销高带宽产品…

2025-11-12

Marantz与B&W组合:以多元功能承载家庭温情,让音乐共鸣融入日常
我在活动上最常遇到来宾,不管是男的,还是女的,他(她)问我:我手机上这些音乐能不能通过蓝牙,或Apple Airplay传到音响播放。 用高级音响回归音乐本身你会发现原来美好的东西就在身边最近我在电脑里找到了…

2025-11-12

Viwoods发布AiPaper Reader电纸书:6.13英寸墨水屏搭载AI阅读互动功能
IT之家 11 月 11 日消息,据科技媒体 NoteBook Check 今天报道,Viwoods 现已推出 AiPaper Reader电纸书,运行 Android 16 操作系统,机身配备专用 AI …

2025-11-12