ChatGPT面世两年多以来，AI的主战场正在转向，从训练端转向一个规模更大、竞争更为激烈的领域：推理。推理被视作AI大模型的“下半场”，在上半场中，竞争聚焦于快速预训练响应，而如今，AI推理时代正在渐渐迫近，更多目光开始投向了慢速深度推理。
“AI预训练时代无疑将终结。”在温哥华NeurIPS大会上，OpenAI联合开创人兼前首席科学家伊利亚·苏茨克维尔（Ilya Sutskever）直言。
今年5月离开OpenAI之后，Ilya Sutskever建立了自己的AI实验室Safe Superintelligence，之后他鲜少公开露面，直至这一次亮相。
Ilya Sutskever在这场演讲中将数据比作化石燃料，而燃料终将耗尽。“算力在增长，但数据却没有增长，因为我们只有一个互联网……我们已经达到了数据峰值，不会再有更多数据了，我们务必处理好现有的数据。”
现有数据仍可推动AI进一步发展，业内也正在竭力挖掘新数据进行训练，这种情景最终将强逼行业改变当前的AI模型训练方式。
其预计，下一代AI模型将是真实的AI Agent，且具备推理能力——当前的AI主要根据大模型之前学习过的内容进行匹配，而将来的AI则能以更接近思考的形式来一步步处理问题。“它们能根据有限的数据理解事物，也不会感觉困惑。”他补充，AI推理得越多，就越难以预测。
一定水平而言，Ilya Sutskever的说法与OpenAI不久前的表态与最新动向不约 而合——用推理弥补数据瓶颈。
在11月末的一场路边谈话中，OpenAI顶级研究副总裁Mark Chen否认了“Scaling Law撞墙”。他表示，“我们准确地掌握了需要处理的技术挑战”，OpenAI已经有o系列和GPT系列两个模型，来让模型继续保持Scaling。
其中，OpenAI近日发布的o1模型就是推理模型。其最突出的地方便在于“会推理”：在给出回答之前，o1会思考，通过发生一个很长的内部思维链（CoT），逐步推理，模仿人类思考复杂问题的过程。
这个过程也与Ilya Sutskever所说的“以更接近思考的形式来一步步处理问题”更加贴合。
或许对于一般用户而言，o1模型的这种转变不容易发觉，但The Atlantic指出，科研人员已认识到，与GPT等旧模型相比，o1模型不只是一次容易的升级，而是标志着一个“完全不一样的游戏规则”和“真实的进步”。
▌AI推理时代来了？
预训练时代或许行将落幕，而在AI算力“跷跷板”的另一头，推理正在崛起。
近几日多家券商研报都指出，随着端侧AI放量，豆包、ChatGPT等AI应用快速发展，算力需求会加速从预训练向推理侧倾斜，推理有望接力训练，成为下一阶段算力需求的主要驱动力。
进一步而言，随着大规模AI模型普及，推理需求不断扩大并趋于多样化，定制化芯片的切实需求也有望扩大。
巴克莱的另一份报告预计，AI推理计算需求将快速提升，预计其将占通用 人工智能 总计算需求的70%以上，推理计算的切实需求甚至可以超过训练计算需求，达到后者的4.5倍。英伟达GPU目前在推理市场中市占率约80%，但随着大型科技公司定制化ASIC芯片不断涌现，这一比例有望在2028年降低至50%左右。
博通上周发布的财报也已证明了ASIC的切实需求之旺盛：2024财年公司的 人工智能 收入增长220%，达到122亿美元；其预计AI产品收入将在2025财年第壹财季同比增长65%。博通还透露，目前正在与三个非常大型的顾客开发 AI芯片 ，预计明年公司 AI芯片 的市场规模为150亿-200亿美元。
随着谷歌、AWS等科技巨头纷纷加大对定制化 AI芯片 的研发投入，以强化在 人工智能 领域的技术优势和供应链控制力， 国金证券 今日研报指出，这一趋势不仅助力企业应对日益复杂的 AI 需求，还推动了整个自研芯片赛道的高景气度和持续创新。未来，自研芯片将在 AI 推理和训练领域饰演关键角色，成为降本增效和提升算力的重要手段。