近期，Epoch AI这一非营利性人工智能研究机构发布了一份引人深思的报告，揭示了AI企业在推理模型领域面临的新挑战。据该报告预测，推理模型性能的显著提升可能在未来一年内逐渐放缓。
这份报告深入分析了公开数据和多种假设，指出计算资源的有限性以及研究成本的激增是当前AI领域面临的主要问题。长久以来，AI行业依赖推理模型不断刷新基准测试成绩，但这种模式正遭遇前所未有的阻碍。
Epoch AI的分析师Josh You指出，推理模型的崛起得益于其在特定任务上的卓越表现。例如，OpenAI的o3模型在近期内显著提升了数学与编程能力。然而，这些模型通过增加计算资源来提升性能，处理复杂任务时需要更多的计算量，导致耗时增加。
推理模型的训练过程通常包括两个阶段：首先基于海量数据进行常规训练，然后应用强化学习技术进行微调。强化学习为模型提供“反馈”，帮助其优化解决方案，从而推动AI的快速迭代。然而，这种方法也暴露出了潜在的瓶颈。
据报告，前沿AI实验室如OpenAI正加大对强化学习的投入。在训练o3模型时，OpenAI使用了约10倍于前代o1的计算资源，其中大部分用于强化学习阶段。OpenAI的研究者Dan Roberts透露，未来计划将进一步优先强化学习，并投入更多计算资源，甚至超过初始模型训练时的水平。
尽管这种策略加速了模型的改进，但Epoch AI的分析也提醒我们，这种改进并非没有边界。计算资源的增加将不可避免地遇到物理和经济上的限制。Josh You在报告中详细阐述了性能增长的差异，指出标准AI模型训练的性能每年翻倍，而强化学习的性能则在每3-5个月内增长十倍。这种快速增长的趋势可能将在2026年左右与整体AI前沿进展趋于一致。
Josh You还强调，推理模型的规模化不仅面临计算资源的问题，还包括高昂的研究成本。如果研究持续需要高投入，推理模型可能无法达到预期的规模，这将进一步制约AI行业的发展。
