①ai科学家和初创公司认为，仅通过增加数据和算力来改进ai模型的方法已接近极限，openai等公司正寻求新的训练技术； ②openai联合创始人ilya sutskever指出，扩大预训练的成果已达平稳期，对提升模型性能帮助有限，主张转向新方法。
很多人工智能(ai)科学家和初创公司认为，通过增加更多数据和算力来扩大当前模型，以持续改进ai模型的方法正在走到尽头。因此，像openai这样的ai公司正在寻求通过开发新的训练技术来克服当前面临的挑战，这些技术更像人类的思考方式。
自风靡全球的聊天机器人chatgpt发布以来，科技公司都是通过增加更多数据和算力来扩大并改善ai模型。但现在，一些最杰出的ai科学家正在指出这种“越大越好”的局限性。
人工智能实验室safe superintelligence和openai的联合创始人ilya sutskever近日表示，扩大预训练(训练ai模型的阶段，该模型使用大量未标记的数据来理解语言模式和结构)所取得的成果已经达到了一个平稳期，对提升模型性能的帮助有限。
sutskever早期主张通过在预训练中使用更多数据和算力来实现生成式ai的巨大飞跃，这最终创造了chatgpt。他今年早些时候离开openai，创立了safe superintelligence。
sutskever表示：“以前是规模扩张的时代，现在我们又回到了奇迹和发现的时代。每个人都在寻找下一个东西，这比以往任何时候都更重要。”
此外，sutskever还承认他的公司正在研究一种扩大预训练规模的替代方法，但未透露更多细节。
新技术竞赛
大模型的所谓“训练”需要同时运行数百个芯片，成本可能高达数千万美元。考虑到系统的复杂性，它们更有可能出现硬件导致的故障；在测试结束之前，研究人员可能无法知道这些模型的最终性能，这可能需要几个月的时间。
另一个问题是，大语言模型吞噬了大量数据，而ai模型已经耗尽了世界上所有容易获取的数据。电力短缺也阻碍了训练运行，因为这个过程需要大量的能源。
为了克服这些挑战，研究人员正在探索测试时计算(test-time compute)，这是一种在所谓的推理阶段或使用模型时增强现有ai模型的技术。例如，模型可以实时生成和评估多种可能性，最终选择最佳前进路径，而不是立即选择一个答案。
这种方法使模型能够将更多的处理能力投入到具有挑战性的任务中，比如数学或编码问题或需要类似人类的推理和决策的复杂操作。
openai研究员noam brown此前表示：“事实证明，让一个机器人在一盘扑克牌中思考20秒，与将模型放大10万倍、训练时间延长10万倍的效果相同。”
openai 在其新发布的模型“o1”中采用了这项技术，与此同时，来自anthropic、xai和deepmind等其他顶尖ai实验室的研究人员也在致力于开发自己的技术版本。
openai首席产品kevin weil表示：“我们看到了很多低垂的果实，摘下来让这些模型变得更好。等到人们迎头赶上的时候，我们会努力开发新的技术。”
多位科学家、研究人员和投资者认为，这种新技术可能会重塑ai军备竞赛，并对ai公司所需求的各类资源产生影响。
