巨人天成
产经 科技 企业 数据 峰会 快讯 商业

训推一体机非AI Infra未来?清程极智CEO汤雄超这样说

2024-10-16来源:ITBEAR编辑:瑞雪

清华大学高性能计算研究中心的背景为清程极智的创立奠定了坚实的基础。这支来自清华大学计算机系的团队,凭借其在超大规模算力集群方面的丰富经验,决定投身AI Infra赛道,致力于解决AI算力系统的核心问题。清程极智由汤雄超博士担任CEO,翟季冬教授作为首席科学家,自去年年底成立以来,已经在商业化方面取得了显著进展,与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了合作。

清程极智的核心技术壁垒在于其超大规模集群的调优能力,这使得他们在国产算力生态中具有显著的优势。据汤雄超介绍,目前国内AI Infra赛道中,只有他们的团队具备十万台服务器规模的国产算力集群使用和调优经验。这种能力对于智算中心来说至关重要,尤其是在面临大规模算力需求时。他认为,未来的智算中心可能会回归同一型号GPU的架构,以获得更高的效率,而AI大模型训练的核心仍然在于大规模算力系统本身。

除了AI训练面临的挑战,清程极智也看到了推理侧的机会。他们认为,训推一体机很难满足未来的AI业务全部需求,因为训练和推理两种业务对算力系统的需求区别较大。因此,清程极智选择为推理业务量身定制相应的软硬一体化算力系统,并通过云端算力提供MaaS大模型推理服务。

在商业化方面,清程极智已经与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了合作。云厂商也是他们的合作对象之一。汤雄超认为,云厂商过去解决的问题与现在需要解决的问题并不完全相同,他们在分布式资源合并方面的经验市场上还较为稀缺,而这恰好是清程极智团队的优势所在。

对于国内芯片厂商的差异化,汤雄超也有深刻的体会。他认为,随着国产芯片市场的发展,未来国产芯片市场会有一定程度的收敛,但不会完全集中到一家,并且国产芯片的性价比超越海外产品也只是时间问题。

清程极智的MaaS平台提供了文本对话和文生图等多种大模型服务能力,并且支持国产算力平台,成本控制较低。他们相信,大模型应用一定会起量,并且在一个足够大的市场里,同一个细分市场可以容得下好几家厂商。因此,他们并不担心与通用大模型公司的竞争,而是专注于提供高性能的推理加速能力和多样化的产品交付形式。

在谈到国产芯片厂商和异构混训时,汤雄超表示,他们也在做异构混训的工作,但认为同构集群可能是更高效的解决方案。他认为,随着国产芯片产能的提升,智算中心最终会回归到同构的基础架构里。对于国内GPU芯片厂商的未来,他认为可能会出现一定程度的集中和收敛,但不太可能出现一家独大的情况。

在谈到算力硬件的最优解时,汤雄超认为,从目前的大模型形态来看,GPU或类GPU架构是较好的选择。然而,他也指出,如果上层应用发生巨变的话,底层的算力也会受到影响。对于国内而言,他认为专用芯片与通用芯片并存是一个可能的发展趋势。

最后,对于如何找到国产算力的护城河,汤雄超认为,应该从上层应用的需求出发,有针对性地进行补全和提升。他相信,国产算力系统在未来会有一些突破机会,而不需要完全复制CUDA生态。

总的来说,清程极智凭借其在超大规模集群调优方面的技术优势,以及在推理侧业务的定制化解决方案,已经在AI Infra赛道上取得了显著的进展。他们相信,随着国产算力生态的发展和完善,未来会有更多的机会和挑战等待着他们。

LHDC-RAW重磅登场,以零压缩技术还原声音本真魅力
该等级蓝牙音频编解码支持24bit/96kH的高解析音频传输,可提供无压缩的Bit-Perfect串流,让发烧级玩家可以听到最原始、最纯净的好声音。 根据不同应用场景的音频传输需求,盛微先进将LHDC标准分级…

2025-10-23

在线式、全自动、可调式及锂电池充电机:功能特性与应用场景全解析
适用范围广:适用于需要持续供电的场景,如发电机、通信系统、电力系统、铁路系统、UPS不间断电源等。适用范围广:适用于多种类型和规格的蓄电池,如铅酸电池、锂电池等。智能监测:实时监测充电过程中的各项参数,如电压…

2025-10-22

OpenAI发布ChatGPT Atlas浏览器:以AI对话重塑网络浏览新体验
(AI云资讯消息)当地时间10月21日,OpenAI正式发布全AI驱动的网页浏览器ChatGPTAtlas,将对话模型置于用户网络浏览体验的核心。ChatGPT Atlas浏览器不再依赖传统输入搜索和重复…

2025-10-22

甘肃电气工大舞台:借5G物联云服务之力 绘就远程运维转型新画卷
近日,甘肃省工业和信息化厅正式公布2025年度制造业数字化转型典型案例名单,甘肃电气集团工大舞台公司凭借“以远程运维管理平台为核心的产品服务升级突破性实践”成功入选,成为甘肃省装备制造行业数字化转型的标杆企…

2025-10-22

硅碳负极电池赋能智能穿戴:续航突破,开启全天候健康监测新篇章
从市场前景看,硅碳负极电池技术已经在智能穿戴设备领域的应用正引发全球范围内的关注与布局,已经有不少相关品牌已经推出了搭载硅碳负极电池的产品。 以华为、荣耀、为首的品牌们,已经率先将硅碳负极电池技术应用于其最…

2025-10-21

牌面拉满!比亚迪成为多国元首的选择
近年来,我国新能源汽车产业在科技创新驱动下实现跨越式发展,比亚迪作为行业领军企业,技术领先全球瞩目,凭借过硬的技术实力与产品品质,赢得多国元首青睐,成为“中国制造”向“中国智造”转型升级的典型代表,更

2025-10-21

抖音电商持续治理虚假宣传保健功效,清退违规达人4.3万名,违规商家793家
10月20日,抖音电商安全与信任中心发布治理虚假宣传保健功效的进展,公告称多平台反复出现以“健康焦虑”为卖点的功效虚假宣传现象,已成为食品行业的顽疾。据了解,部分不良商家、达人将普通食品包装为“保健品”或

2025-10-21

Agilent E5061B网络分析仪3L5选件:多领域适配,高频精密测量利器
是德科技E5061B网络分析仪是一款支持5Hz至3GHz频段的测试设备,为5G通信组件、射频器件等高频精密测量而设计,具备多维校准技术与矢量信号分析能力。1动态矢量追踪:支持同时测量12个S参数,在8GHz…

2025-10-21

马斯克:以汽车储能、火箭运输、星链网络铺就人类火星移民之路
都说马斯克是“科技狂人”,可扒开他的业务版图才发现,人家干的每件事都围着同一个目标转——让人类登陆火星并在那好好生活。从造电动汽车到研究火箭回收,从铺卫星网络到规划火星城市,每一步都冲着同一个目标去。所以说,…

2025-10-21

二次元美学邂逅硬核科技,努比亚Z80 Ultra洛天依限定版燃动年末市场
更贴心的是,屏幕通过了 SGS 低蓝光护眼认证,搭载 2592Hz 高频 PWM 调光和 AI 暮光智能调节功能,配合与高通联合调校的超清视觉引擎,在兼顾观感的同时减少眼部疲劳,长时间使用也更安心。对于消费者…

2025-10-21