近期，新华三集团，紫光股份旗下的一员大将，携手NVIDIA，共同揭晓了一项革新性的技术集成方案。该方案基于NVIDIA AI数据平台参考设计，旨在构建一个更加智能化、灵活且安全的大数据处理架构，为AI推理场景带来前所未有的效能提升。
在AI技术日新月异的今天，用户对AI服务的即时响应需求愈发迫切。同时，AI推理若未能基于最新数据，便可能导致信息失真、逻辑混乱，极大影响其可信度和实用性。新华三此次推出的AI数据平台解决方案，成功跨越了“算力”与“存力”之间的鸿沟，实现了从硬件底层到AI应用上层的全链路数据加速流通。这一突破不仅极大提升了AI推理的实时性、相关性和精确度，还显著优化了整体运行效率，为真实场景中的大模型应用带来了更快的响应速度和更佳的用户体验。
新华三的AI数据平台解决方案，是软硬件深度协同的典范。它融合了新华三与NVIDIA的顶尖技术，打造了一个存算网高度集成的智能数据平台。通过上层软件平台的协同优化，为AI基础设施注入了强大的动力，使得AI大模型的推理能力得到了显著提升。
该方案集成了NVIDIA Spectrum-X AI以太网网络平台，包括高性能以太网交换机、BlueField-3 DPU数据处理器以及ConnectX SuperNIC，将普通以太网的带宽利用率大幅提升至97%以上，有效应对流量高峰，确保存储与计算节点间的高速连接。BlueField-3 DPU与新华三的Polaris X20000存储系统完美融合，支持多项先进技术，如NVMe over Fabrics和NVIDIA GPU-Direct Storage，实现了存储的卸载与加速，进一步提升了存储性能并降低了能耗。
新华三的Polaris X20000系列存储系统，专为AI智算场景设计，搭载了全新自研存储引擎，能够满足AI/HPC场景下海量数据处理的高性能需求。其单节点即可实现120GB/s带宽和200万IOPS，集群性能更是近线性增长，完美契合AI大模型训练中海量小文件高并发和百TB级带宽的需求。同时，该系统将多种存储协议集成于统一平台，实现了数据采集、模型训练到分发全流程的数据零迁移。其卓越的可靠性，如毫秒级故障上报与秒级切换，确保了训练任务的不中断，为企业提供了稳定、高效的存储支持。
在软件层面，该方案同样表现出色。在AI-Q NVIDIA Blueprint的加持下，代理式系统能够无缝连接至Polaris X20000高性能数据存储平台。AI-Q利用NVIDIA NeMo Retriever加速数据的提取与检索，这款软件能够高效处理海量结构化、半结构化及非结构化数据，如文本、PDF、图像、视频等，从而显著提升了RAG（检索增强生成）应用的响应速度。同时，NVIDIA NeMo Guardrails确保了推理问答交互的安全性、准确性和主题相关性。而新华三自主研发的灵犀使能平台（LinSeer Hub）则作为上层管理平台，提供了强大的AI智能体和推理引擎功能。
通过软硬件的深度整合，新华三的AI数据平台解决方案在提升大模型推理性能与Token处理速度方面取得了显著成效。这一方案为企业提供了实时的数据洞察能力，助力其业务场景的智能化升级。随着AI大模型的蓬勃发展，数据已成为AI生产力的核心。新华三作为存储领域的佼佼者，凭借Polaris X20000系列的卓越性能和灵活性，进一步增强了AI数据平台的能力。而NVIDIA则通过其硬件加速和软件能力，充分释放了Polaris存储硬件的潜力，帮助新华三实现了从“数据仓库”到“智能数据平台”的华丽转身，构建了完整的AI数据闭环和高效AI基础设施。
