巨人天成
产经 科技 企业 数据 峰会 快讯 商业

DeepSeek开源高性能文件系统3FS,数据访问性能再创新高

2025-02-28来源:ITBEAR编辑:瑞雪

DeepSeek在开源周的精彩收尾之际,正式推出了其创新的3FS(Fire-Flyer File System)。这一文件系统专为现代SSD和RDMA网络设计,旨在最大化利用这些先进技术的带宽优势。3FS的问世,为深度学习等数据密集型应用带来了前所未有的数据访问性能提升。

想要深入了解3FS的开发者们,可以访问其开源地址:https://github.com/deepseek-ai/3FS。同时,DeepSeek还开源了基于3FS的数据处理框架Smallpond,详情可见:https://github.com/deepseek-ai/smallpond。

3FS的性能表现令人瞩目。在一个180节点的集群测试中,其聚合读取吞吐量高达6.6 TiB/s,充分展现了其集群高吞吐的能力。而在25节点集群的GraySort基准测试中,3FS更是达到了每分钟3.66 TiB的吞吐量,这一成绩无疑证明了其基准测试的优异表现。每个客户端节点的KVCache查找峰值吞吐量也超过了40 GiB/s,进一步凸显了3FS的单节点高性能。

在架构设计上,3FS采用了去中心化的结构,同时保证了强一致性语义,这使得它在处理分布式数据时更加高效和可靠。这种先进的架构为AI训练和推理工作负载提供了强大的支持,简化了分布式应用程序的开发过程。

3FS的应用场景广泛,主要针对AI训练和推理过程中的各种挑战。它利用现代SSD和RDMA网络构建共享存储层,有效支持了数据准备、数据加载、检查点设置和推理缓存等环节。无论是训练数据预处理、数据集加载,还是检查点保存/重新加载,甚至是嵌入向量搜索和推理过程中的KVCache查找,3FS都能提供出色的性能。

DeepSeek的V3/R1版本已经广泛应用了3FS。这一文件系统在关键环节中发挥了重要作用,为DeepSeek的AI工作负载提供了强有力的支持。同时,基于3FS构建的数据处理框架Smallpond也备受瞩目。Smallpond是一款轻量级的数据处理框架,它结合了DuckDB和3FS的优势,具备高性能数据处理能力,可扩展至PB级数据集。更重要的是,Smallpond操作简便,无需长期运行的服务,为用户提供了极大的便利。

WebRTC技术赋能物联网卡:解锁工业医疗驾驶毫秒级低时延通信新路径
WebRTC(网页实时通信)技术与物联网卡的深度融合,正通过 “协议优化 + 硬件适配 + 网络升级”,破解毫秒级响应难题。本文基于行业实践,解析 WebRTC 技术原理、物联网卡协同路径及场景落地效果,为…

2025-11-13

智慧公安大数据云平台:以科技赋能警务,构建城市安全治理新生态
通过公安云平台,各类警务数据得以高效整合与流转,实现了从“人海战术”向“数据驱动”的转变。一键式可视化报警设备的引入,进一步拓宽了公众参与治安治理的渠道,实现接警员与报警人视频对讲、现场信息实时推送,为快速处…

2025-11-13

昕锐CL系列激光测距模块:定制化驱动低空经济场景变革新引擎
结语:定制化,是技术普惠的终极路径当测距模块从“标准化商品”进化为“场景化服务”,昕锐CL系列不仅解决了无人机与吊舱的“精准降本”难题,更重新定义了技术与需求的关系:技术突破的价值,不在于参数的堆砌,而在于…

2025-11-13

企业展厅多媒体设备保养指南:从日护到年检的分层维护策略
企业展厅多媒体设备保养频率需按“基础养护+定期检查+深度维护”分层设定,核心频率为每日、每周、每月、每季度,部分设备需年度专业维保。检查设备开机状态,测试核心功能(显示、音响、互动响应)是否正常。 请专业人…

2025-11-13

2025网购流量卡选购指南:不同场景实测教你选到网速稳的好卡
所以,简单概括一下:一张正规的网购流量卡,其网速表现与同运营商的线下套餐并无本质差异。 在流量卡领域,我认为“便宜”不一定直接等于“网速差”。•警惕“物联卡”冒充手机流量卡

2025-11-13

苹果设备与电信流量卡全攻略:从兼容到技巧,助你畅享无忧网络
•运营商网络覆盖差异•手机版本支持频段不同•套餐类型与设备性能不匹配最新的iPhone 14系列甚至已经支持电信的5GSA组网,网速体验绝对令人惊艳!

2025-11-12

2025金砖大赛大数据分析赛项落幕 多元力量共促数智化人才培养新篇章
新道科技助理总裁唐梦彬在致辞中表示,大赛把企业数智化转型过程中的业务模式、典型场景与大数据分析技术相结合,体现行业和企业对人员技能的最新标准,让师生深入了解当前数智化企业的运营和管理模式,提升大数据分析的理…

2025-11-12

量子安全网络新突破:CV-QKD可插拔模块开启高效规模化部署新篇
CUbIQ Technologies:开发了 CV-QKD 收发模块和量子安全架构HPE Juniper网络:将模块集成到其路由平台中,实现量子安全 MACsec 加密Coherent 高意:提供 400…

2025-11-12