在人工智能领域的激烈竞争中，一个关于英伟达霸权地位能否被撼动的疑问悄然浮现。尽管英伟达在行业内如日中天，但2025年，AI算力市场的风向似乎正在悄然转变。
随着AI技术的深入发展，行业重心逐渐从模型训练转向模型推理。这一转变意味着，推理基础设施的需求将迎来爆发式增长。无论是OpenAI的o1和o3模型，还是Google的Gemini 2.0 Flash Thinking，都在通过强化推理策略来提升训练后的结果质量。同时，训练好的大模型需要通过推理才能在实际场景中应用，随着各行各业对AI的广泛采纳，AI工作负载格局也将发生深刻变化。
以Open AI的Sora为例，其创建过程代表AI训练，而用户让Sora生成一段视频则是一个推理工作负载。简而言之，大规模训练是研发阶段，推理则是商业化阶段。想要在AI领域赚钱，就必须扩大推理工作负载。据巴克莱研报显示，AI推理计算需求将快速增长，预计占通用人工智能总计算需求的70%以上，甚至可能超过训练计算需求，达到后者的4.5倍。
这一转变给那些专注于推理的“小”芯片公司带来了发展机遇。Groq、SambaNova、Positron AI等初创公司纷纷向英伟达发起了挑战。它们致力于优化推理过程中的时间成本和资金成本，以期在市场中建立自己的护城河。
Groq由前谷歌TPU核心团队的成员创办，其实力不容小觑。其AI推理引擎LPU号称做到了“世界最快推理”，不仅速度快，而且token成本远低于GPU。Groq还推出了一款名为“猛兽”（Beast）的高性能计算芯片，据称在AI推理任务中的性能超越英伟达的某些主流GPU。然而，尽管Groq宣称其LPU速度和效率远超英伟达GPU，但一些专家对其成本和能耗提出了质疑。
SambaNova则是另一家值得关注的初创公司。其RDU架构既有GPU 10倍以上的片上分布SRAM，也有适用于快速数据传输的大规模计算任务的HBM，使得RDU对GPU有了2-4倍的性能优势。SambaNova不仅出售芯片，还出售其定制的技术堆栈，从芯片到服务器系统，甚至包括部署大模型。其联创Rodrigo Liang认为，大模型与生成式AI商业化的下一个战场是企业的私有数据，SambaNova的架构在能耗和效率上具有显著优势。
Positron AI虽然成立时间较短，但同样值得关注。它推出了一款声称可以执行与英伟达H100相同计算但成本仅为五分之一的推理芯片。Positron的CEO Thomas Sohmers表示，AI计算开支的重心已经转向推理，并预计这一趋势将继续扩大。Positron的愿景是让人人负担得起AI推理，其新年愿望是鼓励更多人使用这些新工具来提高生活和工作效率。
面对这些挑战者，英伟达似乎并未放松警惕。它推出了专为推理大模型打造的B300系列芯片，相比B200在FLOPS上提高了50%，显存也从192GB提升到288GB。B300将有效提升大模型的推理性能，降低推理成本，提高模型能力。然而，英伟达所面临的挑战远不止于此，随着AI技术的不断发展和市场的不断变化，它必须不断创新和适应才能保持领先地位。
在这个充满机遇和挑战的时代，英伟达能否继续保持其霸主地位？这些专注于推理的初创公司能否在市场中脱颖而出？一切都还是未知数。但可以确定的是，AI算力市场的竞争将更加激烈和精彩。
