巨人天成
产经 科技 企业 数据 峰会 快讯 商业

训推一体机非AI Infra未来?清程极智CEO汤雄超这样说

2024-10-16来源:ITBEAR编辑:瑞雪

清华大学高性能计算研究中心的背景为清程极智的创立奠定了坚实的基础。这支来自清华大学计算机系的团队,凭借其在超大规模算力集群方面的丰富经验,决定投身AI Infra赛道,致力于解决AI算力系统的核心问题。清程极智由汤雄超博士担任CEO,翟季冬教授作为首席科学家,自去年年底成立以来,已经在商业化方面取得了显著进展,与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了合作。

清程极智的核心技术壁垒在于其超大规模集群的调优能力,这使得他们在国产算力生态中具有显著的优势。据汤雄超介绍,目前国内AI Infra赛道中,只有他们的团队具备十万台服务器规模的国产算力集群使用和调优经验。这种能力对于智算中心来说至关重要,尤其是在面临大规模算力需求时。他认为,未来的智算中心可能会回归同一型号GPU的架构,以获得更高的效率,而AI大模型训练的核心仍然在于大规模算力系统本身。

除了AI训练面临的挑战,清程极智也看到了推理侧的机会。他们认为,训推一体机很难满足未来的AI业务全部需求,因为训练和推理两种业务对算力系统的需求区别较大。因此,清程极智选择为推理业务量身定制相应的软硬一体化算力系统,并通过云端算力提供MaaS大模型推理服务。

在商业化方面,清程极智已经与多家芯片厂商、算力中心、AI应用开发商以及基础模型预训练厂商达成了合作。云厂商也是他们的合作对象之一。汤雄超认为,云厂商过去解决的问题与现在需要解决的问题并不完全相同,他们在分布式资源合并方面的经验市场上还较为稀缺,而这恰好是清程极智团队的优势所在。

对于国内芯片厂商的差异化,汤雄超也有深刻的体会。他认为,随着国产芯片市场的发展,未来国产芯片市场会有一定程度的收敛,但不会完全集中到一家,并且国产芯片的性价比超越海外产品也只是时间问题。

清程极智的MaaS平台提供了文本对话和文生图等多种大模型服务能力,并且支持国产算力平台,成本控制较低。他们相信,大模型应用一定会起量,并且在一个足够大的市场里,同一个细分市场可以容得下好几家厂商。因此,他们并不担心与通用大模型公司的竞争,而是专注于提供高性能的推理加速能力和多样化的产品交付形式。

在谈到国产芯片厂商和异构混训时,汤雄超表示,他们也在做异构混训的工作,但认为同构集群可能是更高效的解决方案。他认为,随着国产芯片产能的提升,智算中心最终会回归到同构的基础架构里。对于国内GPU芯片厂商的未来,他认为可能会出现一定程度的集中和收敛,但不太可能出现一家独大的情况。

在谈到算力硬件的最优解时,汤雄超认为,从目前的大模型形态来看,GPU或类GPU架构是较好的选择。然而,他也指出,如果上层应用发生巨变的话,底层的算力也会受到影响。对于国内而言,他认为专用芯片与通用芯片并存是一个可能的发展趋势。

最后,对于如何找到国产算力的护城河,汤雄超认为,应该从上层应用的需求出发,有针对性地进行补全和提升。他相信,国产算力系统在未来会有一些突破机会,而不需要完全复制CUDA生态。

总的来说,清程极智凭借其在超大规模集群调优方面的技术优势,以及在推理侧业务的定制化解决方案,已经在AI Infra赛道上取得了显著的进展。他们相信,随着国产算力生态的发展和完善,未来会有更多的机会和挑战等待着他们。

企业禁用无线网卡攻略:三种方法详解,第二种助企业高效管控风险
对于中大型企业或对数据安全要求高的单位,域智盾终端安全管理系统提供了更智能、更彻底、更可追溯的无线网卡管控方案。在Windows专业版或企业环境中,IT人员可以用系统自带的组策略(Group Policy…

2025-11-15

蓝牙耳机被他人连接别慌!三招轻松夺回“控制权”
当发现耳机被别人连接时,最直接的解决方法是重置连接。操作很简单:先打开你的手机蓝牙设置,找到已配对的耳机名称,选择“忽略此设备”或“取消配对”。最后,在手机蓝牙列表中找到你的耳机并重新点击连接即可。这个操作…

2025-11-15

工业通信新选择:环网交换机如何以冗余设计保障现场数据稳定传输
每个交换机上有两个用于组环的端口(网口),交换机之间通过手拉手形式构成了环形的网络拓扑。我们设计的千兆工业交换机整体设计采用“凹陷”网口设计,外观上和普通交换机大有差别,将网线水晶头能够有力的支撑保护住。 …

2025-11-14

安科瑞ASCB3-80m智能微断:全参量监测+远程操控,筑牢低压配电安全防线
智能微型断路器配合智能网关使用,对用电线路的关键电气参数,如电压、电流、功率、温度、漏电、能耗等进行实时监测,具有远程操控、异常预警、事故跳闸告警、电能计量统计、故障定位等功能。ASCB3-80m 系列智能…

2025-11-14

谷歌AI新动作与苹果不谋而合,隐私赛道上苹果技术路线获印证
过去几个月里,我得出一个结论:苹果在AI方面的困境真正令人失望的地方,并不仅仅是人们普遍认为它在当前AI趋势中"落后"了。 A:苹果确实错过了ChatGPT发布引发的AI变革浪潮,在大语言模型产品方面相比其…

2025-11-13

物联网+AI赋能制造业边坡:构建“工业大脑”实现安全与效率双提升
物联网 + AI 构建的 “工业大脑”,通过全维度感知、智能化分析、精准化决策,让边坡管理实现了从 “事后补救” 到 “预测性维护” 的根本性转变,不仅破解了安全与效率、投入与效益的平衡难题,更重塑了制造业…

2025-11-13

广电卡适配指南:哪些手机能用?这些旗舰机型可能不兼容!
华为P50系列是个特例,即便是4G版,也能通过软件方案支持广电5G。中国广电表示,近六年主流手机型号均已升级适配广电网络,98%以上的新入网5G手机支持700MHz频段。 判断你的手机是否适配广电卡,不仅…

2025-11-13

星闪智联引领未来:无线短距通信开启智能社会新篇章
为统一目标、保证质量,在国际星闪联盟组织与号召下,联盟领导、行业协会及合作伙伴的11位代表上台发起了《消费电子新短距产业共建倡议》,明确提出要“共建星闪技术新标准、共创智能连接新应用、共赢消费电子新未来”。 …

2025-11-13

Kernelcom“智能键盘”来袭:12.5英寸超宽屏,AMD/Intel双版本可选
快科技11月12日消息,近日一款名为Kernelcom的设备正在Kickstarter上众筹,虽然其本质上是一款功能完备的笔记本电脑,但制造商还是将其宣传为“智能键盘”。 这款设备最大的特点是其12.5英寸超…

2025-11-13