巨人天成
产经 科技 企业 数据 峰会 快讯 商业

数据架构新选择:Data Fabric与Data Mesh,企业如何抉择?

2025-01-07来源:ITBEAR编辑:瑞雪

在当今这个数据驱动的时代,数据作为一种新兴的生产要素,其价值愈发凸显。企业纷纷将数据视为宝贵的资产,并致力于将其转化为有价值的产品,以便在整个企业中轻松访问和使用。这一转变的终极目标,是向数据使用者提供预构建的数据产品,从而加速数据的共享、访问和利用,充分激发数据的潜能。

数据产品,如控制面板、报告、API、数据可视化以及机器学习模型等,不仅具有可衡量的价值,而且可重用性强。它们旨在提供可信数据,以解决业务中的实际问题。面对现代数据环境的复杂性,企业开始寻求新的架构方法,如数据编织(Data Fabric)和数据网格(Data Mesh),以释放数据资产的全部潜力。

Data Fabric的核心价值在于整合数据资源,简化数据访问流程,实现数据的自动化处理,并确保数据的安全合规。而Data Mesh则采用分布式数据架构,将数据所有权分配给跨职能的领域团队,由这些团队负责向最终用户提供数据产品。这两种架构方法正逐渐成为企业构建数据空间、实现数据价值的重要路径。

Gartner将“数据编织Data Fabric”列为“2021年十大数据和分析技术趋势”之一,并预测到2024年,将有25%的数据管理供应商为数据编织提供完整的框架。Data Fabric在当今的多云和混合云行业中发挥着重要作用,它能够帮助企业解决数据孤岛、数据多样性和复杂性等挑战。随着企业上云趋势的加剧,在混合数据环境中跨平台、跨环境进行数据的收集、访问、管理和共享变得极为困难,Data Fabric应运而生,为企业提供了一种端到端的统一架构。

Data Fabric是一种数据架构思想,它并非特定的工具集,而是旨在以统一的方法管理异构数据工具链。它利用AI和机器学习等技术,通过高级功能增强数据管理流程的自动化和优化,从而在系统和平台上创建统一、一致和集成的数据环境。这种统一的架构能够有效地消除数据孤岛,培养敏捷性,并通过自动化元数据管理和AI驱动的洞察动态生成数据产品。

要实现数据编织,需要具备以下五个关键能力:数据源连接能力、灵活数据目录能力、基于知识图谱的智能设计与推荐能力、动态集成与自动编排能力,以及面向消费者的自助能力。这些能力共同构成了Data Fabric的核心,使其能够连接丰富多样的数据源,自动识别元数据,构建知识图谱,实现数据的智能推荐和动态集成,最终为各类数据用户提供便捷的服务。

然而,在拥有了Data Fabric之后,为何还要推出Data Mesh呢?这主要是因为传统的数据仓库和数据湖在应对新一代系统时存在潜在的可用性差距。数据仓库主要存储结构化数据,用于回溯SQL分析;而数据湖则主要存储非结构化数据,用于构建预测性机器学习模型。新一代系统以实时数据流和对云服务的接受为标志,但并未解决数据仓库和数据湖之间的这一差距。

Data Mesh通过一种新架构来解决这一问题。它是一种去中心化的数据管理架构,将数据视为产品,并由组织内的去中心化团队或领域(如营销、销售和客户服务)进行管理。Data Mesh鼓励特定领域的团队拥有其数据的所有权,并在设计API时考虑到主要数据使用者的利益。这种域驱动的方法不仅提高了数据质量,还符合治理标准,并有助于消除数据孤岛。

Data Mesh为企业带来了多项好处。首先,它实现了去中心化的数据所有权,有助于民主化数据决策,加快创新速度,并与业务目标保持一致。其次,它改进了数据访问和可扩展性,提高了使用数据的团队的体验和效率。Data Mesh还有利于提高数据质量和推进数据治理,便于进行人工智能和机器学习等。

目前,众多企业已经推出了Data Mesh商业化解决方案。例如,Atlan在企业数据目录领域被评为领导者,其提供的解决方案能够为所有业务和技术角色提供自动化AI/ML元数据、GenAI辅助发现、端到端沿袭、实时处理和个性化体验等功能。Snowflake则利用其云原生平台实现了域驱动的所有权、无缝数据集成和联合治理,为组织提供了从整体式架构过渡到分散、可扩展的数据生态系统的能力。

在数据存储方面,Data Mesh采用分散式存储,数据分散存储在公司内部的域中;而Data Fabric则通过高速服务器集群进行集中存储,以实现网络和高性能资源共享。在构建方式上,Data Mesh旨在取代数据湖成为数据和分析领域的主导架构,引入了独立于特定技术的组织视角;而Data Fabric则利用元数据来推动推荐,并与技术、业务和运营数据配合使用。

在数据访问方面,Data Mesh通过受控数据集提供数据,而Data Fabric则通过基于目标的API提供数据。Data Mesh是混合云网络的理想选择,而Data Fabric则支持单点数据访问,解决数据质量和存储问题,并处理安全威胁。

对于数据成熟度相对较高且具有数据驱动型文化的组织来说,Data Mesh可能是一个可行的选择;而对于数据治理仍在发展的组织来说,Data Fabric可能是最佳选择。无论选择哪种架构,元数据管理都是关键要素。拥有准确、一致和情境化的数据对于实现数据信任至关重要,而强大的数据完整性基础和明确的元数据管理策略则是成功实施这两种架构的保障。

Valve推出Steam Frame新VR头显 正式宣告上一代Index头显停产
用户可通过无线适配器,将 PC 或 Steam Machine 上的平面屏(flatscreen)及 VR 游戏串流至 SteamFrame;与此同时,Steam Frame 本身也是一款独立设备,搭载高通…

2025-11-14

虚拟化与超融合:从架构到应用,一文读懂如何选择适合的IT方案
超融合平台通常基于成熟的虚拟化技术,例如它可能内置虚拟机管理功能,但更强调整体资源的统一管理。性能上,虚拟化可能因资源竞争而出现波动,而超融合的分布式存储设计可以提供更一致的I/O性能,特别是在高并发场景下,…

2025-11-14

杭州上城第三批50个“人工智能+”场景发布 涵盖多领域促发展
11月13日,杭州市上城区第三批“人工智能+”机会场景发布会暨场景供需对接会活动举行,推出50个高价值场景,涵盖社会治理、金融服务、民生服务、城市管理、智能建造、文化旅游、时尚消费等多个热门领域。如,由上城…

2025-11-14

中关村房山园科技对接会:昆虫机器人等“硬核”成果亮相,助力新质生产力
11月12日,中关村“火花”活动之北京理工大学专场对接会暨中关村房山园新质生产力发布厅科技成果转化对接活动在中关村新兴产业前沿技术研究院举行,极限搜救昆虫机器人、通信感知超宽带收发芯片等一批来自北京理工大学、…

2025-11-14

浪潮KaiwuDB V3.0发布:多模融合AI赋能,引领物联网数智化新篇章
KaiwuDB V3.0关系引擎新增大型对象支持,无论是传感器产生的二进制数据还是文本信息,都能实现高效管理;同时,支持高效跨模连接算子与时序算子并行处理,相较于2.2版本跨模查询性能提升5-10倍,打破了…

2025-11-13

2025年手机卡选卡指南:精准匹配需求,绕开合约套路与流量陷阱
•在运营商APP中查看过去三个月的平均流量使用量•检查你的通话时长记录•分析你最常用的APP类型(这会影响你对通用流量和定向流量的需求)有了这些数据,你就能更准确地判断自己需要什么样规模的套餐了。 •典型代…

2025-11-13

照片压缩至5M内超全指南!七大实用方法助你轻松搞定分享难题
具体的执行步骤是:将它们直接开启,随后去挑选照片,该应用会自动给出推荐的压缩级别,你能去预览最终结果,还能够对某些设置予以调整,比如把分辨率调低或者转换格式,借此令文件大小小于5MB,这对即时分享至社交媒体来…

2025-11-12

企业宽带选不对,带宽再大也白费!这些关键因素决定实际网速
• 网速(用户感知):即实际访问体验,取决于 3 个核心因素 —— 带宽只是基础,更重要的是网络质量、路由优化和并发处理能力。 真正专业的服务商,会从企业实际业务场景出发提供解决方案,而非一味推销高带宽产品…

2025-11-12

Marantz与B&W组合:以多元功能承载家庭温情,让音乐共鸣融入日常
我在活动上最常遇到来宾,不管是男的,还是女的,他(她)问我:我手机上这些音乐能不能通过蓝牙,或Apple Airplay传到音响播放。 用高级音响回归音乐本身你会发现原来美好的东西就在身边最近我在电脑里找到了…

2025-11-12

Viwoods发布AiPaper Reader电纸书:6.13英寸墨水屏搭载AI阅读互动功能
IT之家 11 月 11 日消息,据科技媒体 NoteBook Check 今天报道,Viwoods 现已推出 AiPaper Reader电纸书,运行 Android 16 操作系统,机身配备专用 AI …

2025-11-12