在2025年初，云轴科技ZStack宣布了一项重要进展，其AI Infra平台ZStack智塔现已全面支持企业私有化部署DeepSeek的V3、R1及Janus Pro三种模型。这一举措旨在应对当前AI推理需求的快速增长以及企业级AI应用私有化部署（Private AI）的迫切需求。
据悉，随着DeepSeek在2024年12月成功上线并开源V3、R1及Janus Pro模型，全球多家公有云平台，如AWS、Azure和华为云，纷纷宣布了对DeepSeek R1或R1/V3的支持。ZStack智塔作为企业级私有化AI Infra平台的佼佼者，充分利用DeepSeek开源模型的优势，以低成本高性能的特点，进一步推动了AI在企业级商用领域的进程。
ZStack智塔在模型层提供了全面的支持，涵盖了模型开发和应用所需的各种基础工具和组件。该平台首发即支持DeepSeek的V3、R1和Janus Pro模型。其中，V3适用于通用型自然语言处理任务，R1专注于复杂推理任务，而Janus Pro则擅长多模态理解与生成。这些模型能够满足企业在不同AI场景下的多样化需求。
在算力层，ZStack智塔同样表现出色。它提供了计算、存储、网络、安全等基础资源和服务，并支持DeepSeek在海光、昇腾、英伟达、英特尔等多种国内外CPU/GPU算力资源上进行私有化部署。这种灵活性使得ZStack智塔能够适配企业数据中心的多样化算力资源。
ZStack智塔还配备了智能异构调度引擎，能够自动匹配硬件特性，并支持CUDA、ROCm、CANN等体系架构。该平台还提供了无GPU测试方案，通过CPU部署DeepSeek-R1-7B轻量化模型，在16核云主机上实现了9.26 tokens/s的可用级表现。
为了满足企业级用户对AI应用的多样化需求，ZStack智塔提供了灵活性与定制化服务。它允许企业在私有云或混合云环境中部署DeepSeek模型，从而确保数据的安全性和隐私保护。同时，该平台还支持裸金属、虚拟机和容器计算资源的弹性扩展，以及与多种硬件和软件的集成。这使得企业能够轻松地将AI能力整合到现有系统中。
在资源利用方面，ZStack智塔同样表现出众。它采用了多卡并发推理技术，通过多张GPU联合推理，提升了小显存GPU的可用性，减少了闲置资源。同时，该平台还采用了显卡切分技术，通过对单张GPU进行算力、显存切分，提高了大显存GPU的资源利用率。ZStack智塔还支持模型量化技术，通过对模型进行量化，配合DeepSeek的低成本高性能特点，大幅提升了AI效率。
AI Infra平台被视为企业加速释放AI生产力的关键引擎。它专注于企业级AI应用的私有化部署场景，为人工智能应用的开发、部署、运行和管理提供了一系列基础工具和软件平台。赛迪顾问指出，2025年是中国AI Infra平台应用的元年。随着AI推理算力需求的激增，企业级智算资源管理的新需求应运而生。同时，AI应用正加速向企业级场景渗透，模型工具链和运营管理组件的引入降低了AI应用的门槛。数据隐私和安全性的考虑也推动了AI应用的私有化部署。
根据赛迪顾问发布的《2025中国AI Infra平台市场发展研究报告》，AI Infra平台市场在2024年达到了19.4亿元，预计2025年将增长至36.1亿元，同比增长将超过86%。这一数据进一步证明了AI Infra平台在企业级应用领域的广阔前景。
