巨人天成
产经 科技 企业 数据 峰会 快讯 商业

训推一体机非AI Infra未来?清程极智CEO汤雄超这样说

2024-10-16来源:ITBEAR编辑:瑞雪

清华大学高性能计算研究中心的背景为清程极智的创立奠定了坚实的基础。这支来自清华大学计算机系的团队,凭借其在超大规模算力集群方面的丰富经验,决定投身AI Infra赛道,致力于解决AI算力系统的核心问题。清程极智由汤雄超博士担任CEO,翟季冬教授作为首席科学家,自去年年底成立以来,已经在商业化方面取得了显著进展,与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了合作。

清程极智的核心技术壁垒在于其超大规模集群的调优能力,这使得他们在国产算力生态中具有显著的优势。据汤雄超介绍,目前国内AI Infra赛道中,只有他们的团队具备十万台服务器规模的国产算力集群使用和调优经验。这种能力对于智算中心来说至关重要,尤其是在面临大规模算力需求时。他认为,未来的智算中心可能会回归同一型号GPU的架构,以获得更高的效率,而AI大模型训练的核心仍然在于大规模算力系统本身。

除了AI训练面临的挑战,清程极智也看到了推理侧的机会。他们认为,训推一体机很难满足未来的AI业务全部需求,因为训练和推理两种业务对算力系统的需求区别较大。因此,清程极智选择为推理业务量身定制相应的软硬一体化算力系统,并通过云端算力提供MaaS大模型推理服务。

在商业化方面,清程极智已经与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了合作。云厂商也是他们的合作对象之一。汤雄超认为,云厂商过去解决的问题与现在需要解决的问题并不完全相同,他们在分布式资源合并方面的经验市场上还较为稀缺,而这恰好是清程极智团队的优势所在。

对于国内芯片厂商的差异化,汤雄超也有深刻的体会。他认为,随着国产芯片市场的发展,未来国产芯片市场会有一定程度的收敛,但不会完全集中到一家,并且国产芯片的性价比超越海外产品也只是时间问题。

清程极智的MaaS平台提供了文本对话和文生图等多种大模型服务能力,并且支持国产算力平台,成本控制较低。他们相信,大模型应用一定会起量,并且在一个足够大的市场里,同一个细分市场可以容得下好几家厂商。因此,他们并不担心与通用大模型公司的竞争,而是专注于提供高性能的推理加速能力和多样化的产品交付形式。

在谈到国产芯片厂商和异构混训时,汤雄超表示,他们也在做异构混训的工作,但认为同构集群可能是更高效的解决方案。他认为,随着国产芯片产能的提升,智算中心最终会回归到同构的基础架构里。对于国内GPU芯片厂商的未来,他认为可能会出现一定程度的集中和收敛,但不太可能出现一家独大的情况。

在谈到算力硬件的最优解时,汤雄超认为,从目前的大模型形态来看,GPU或类GPU架构是较好的选择。然而,他也指出,如果上层应用发生巨变的话,底层的算力也会受到影响。对于国内而言,他认为专用芯片与通用芯片并存是一个可能的发展趋势。

最后,对于如何找到国产算力的护城河,汤雄超认为,应该从上层应用的需求出发,有针对性地进行补全和提升。他相信,国产算力系统在未来会有一些突破机会,而不需要完全复制CUDA生态。

总的来说,清程极智凭借其在超大规模集群调优方面的技术优势,以及在推理侧业务的定制化解决方案,已经在AI Infra赛道上取得了显著的进展。他们相信,随着国产算力生态的发展和完善,未来会有更多的机会和挑战等待着他们。

未来十年科技新图景:智能硬件跃迁、AI赋能与网络无感化变革
本文将从智能硬件、AI 算法、未来网络、数字经济、安全体系等多个维度,分析科技浪潮下的核心趋势。 设备变得更聪明网络变得无形AI 成为能力底座数字经济成为主引擎安全体系成为关键支撑科技不是未来,而是现在正在发…

2025-11-15

避开苹果锋芒,聚焦外卖小哥:打造专属他们的超实用蓝牙耳机
试着聚焦一个特定人群,比如外卖小哥。电量要非常足,最好能用一整天。麦克风要特别好,因为外卖小哥大部分时间都在路上,环境嘈杂,麦克风不好的话,对方根本听不清。如果能将耳机固定在头盔上,那就更好了,不怕掉。如果…

2025-11-13

2025微信数据保护全攻略:误删聊天记录别急,多场景恢复方案来了
提前备份是数据安全的核心,2025年微信已支持电脑、云服务、外部存储等多种备份方式,恢复时只需简单操作即可找回记录。苹果和安卓厂商的云服务早已支持微信数据备份,关键是确认误删前有有效备份记录。 2. 选择…

2025-11-13

SK海力士VFO工艺打造HBS技术,为移动设备AI性能提升带来新突破
据闪德资讯获悉,SK海力士正在研发结合移动DRAM和NAND的高带宽存储(HBS)技术,可提高智能手机和平板电脑等移动设备的AI性能。 相比HBM使用的硅通孔(TSV)技术,VFO无需穿孔,成本更低、良率更高…

2025-11-12

等保2.0成企业必答题!网络合规差距与优化路径全解析
实践中发现,许多企业在宽带层面存在共性差距,亟需从专业角度优化改进。在网络核心节点部署流量探针,实现全量网络流量采集;建议搭建专用日志审计平台,统一存储日志并支持多维度分析,确保日志完整性与可追溯性。 1.…

2025-11-12

开放式蓝牙耳机怎么选?2025十款热门开放式耳机深度测评来助力
推荐理由:在百元价位中音质体验非常出色,可媲美千元级别耳机通常选择耳夹式耳机的消费者都有骑行和户外运动的爱好,难以避免遇到下雨天气和大量出汗的情况,因此耳机的防水级别也成了筛选的指标,建议选择防水等级在IP…

2025-11-11

立讯精密液冷方案:从前瞻布局迈入规模化商用新阶段
证券之星消息,立讯精密(002475)11月11日在投资者关系平台上答复投资者关心的问题。投资者提问:公司的液冷散热解决方案在AI服务器中的应用情况如何?是否已获得头部云服务提供商或AI企业的认可? 谢谢!…

2025-11-11

爱立信完成上行L4S技术测试,为5G时延敏感业务提供网络支撑
(全球TMT2025年11月11日讯)近日,在IMT-2020(5G)推进组的组织下,爱立信成功完成了上行L4S技术测试,验证了L4S在提升上行实时交互业务体验方面的显著效果。测试结果表明,L4S技术能够有效…

2025-11-11

上海贝尔发布《2025年AI-ICT赋能与重构白皮书》:剖析趋势、需求与战略方向
《2025年AI-ICT赋能与重构白皮书》由上海贝尔发布,系统剖析了AI与ICT产业融合的核心趋势、技术需求及战略方向,展现了全球AI发展浪潮下ICT基础设施的变革路径与机遇。实施路径上,需夯实数据与模型基础…

2025-11-11

2025年AI智能鼠标深度体验:星火大模型赋能,它能替代哪些办公工具?
AI智能鼠标2025深度测评:星火大模型加持,AI问答、AI绘图能替代哪些工具?当一款鼠标,内嵌了如科大讯飞星火这般强大的认知大模型时,它所带来的,远不止是光标移动的流畅,更是一场关于效率与创造力的革命。我们…

2025-11-10