通用人工智能的真实挑战：我们究竟在“规模化”什么？

当前AI领域对通用人工智能（AGI）的期待与现实之间存在显著张力。本文深入探讨了强化学习、大语言模型与持续学习的局限性，分析了为何模型尚未实现人类般的泛化与经济价值，并展望了未来AI发展的关键突破点。

强化学习与预训练：现有范式的局限

近年来，主流AI实验室在大语言模型（LLM）基础上积极扩展强化学习（RL），希望通过“人类反馈强化学习”等方式提升模型能力。然而，视频作者指出，如果我们真的接近人类级学习者，那么基于可验证结果的训练路径可能注定失败。当前，许多公司正投入巨资开发RL环境，试图让模型学会操作浏览器、Excel等工具，但这种“预烘焙”技能的方式与人类学习方式截然不同。正如Baron Millig所言：“我们看到前沿模型在各类基准测试上的进步，不仅是规模和算法创新，更是数十亿美元投入专家编写问题和答案的结果。”在机器人领域，这种差距尤为明显——人类无需反复练习即可掌握新硬件，而AI则需在成千上万个环境中反复训练。

泛化与“在岗学习”：AGI的核心难题

真正的通用人工智能应具备像人类一样的泛化和在岗学习能力。视频中举例：生物实验室中的微观任务，如识别特定细胞类型，虽然看似是标准的深度学习问题，但实际工作中每个实验室的流程和标准都不同，无法通过一次性预训练解决。作者强调：“人类工人之所以有价值，正是因为他们无需为每个细微任务定制训练流程。”AI要实现真正的自动化，必须能够通过语义反馈或自主经验学习，并具备强大的情境判断和适应能力。当前模型在这些方面仍有很大差距，导致无法像人类一样灵活应对日常工作中的多变任务。

经济价值与技术扩散：AGI距离真正落地有多远？

尽管AI模型在某些领域已展现出强大能力，但距离全面替代人类知识工作者仍有不小差距。作者指出，如果AI模型真的具备人类级智能，企业将毫不犹豫地投入数万亿美元购买其服务，“知识工作者每年创造的经济价值高达数十万亿美元，而模型公司目前的收入远未达到这一水平。”有人认为技术扩散需要时间，但作者认为这只是对现有模型能力不足的掩饰。如果AI能像人类员工一样快速学习和适应，其部署速度会远超人类招聘流程。当前模型的局限，正是经济价值未能爆发的根本原因。

持续学习与未来突破：AI进化的关键路径

持续学习（Continual Learning）被认为是推动AGI进一步发展的核心。作者引用Baron Miller和Andrej Karpathy的观点，设想未来AI代理将像人类一样在不同岗位积累经验，并将知识回馈至“蜂巢模型”，实现知识共享和快速迭代。虽然GPT-3已展示了强大的“上下文学习”能力，但距离人类级的持续学习仍有数年甚至十年的技术瓶颈。作者预测，未来几年实验室会陆续发布“持续学习”相关突破，但真正实现人类级在岗学习还需时间。竞争激烈的AI行业也将加速技术扩散，避免单一实验室垄断突破。

我们究竟在“规模化”什么？对AI发展路径的反思

视频最后，作者反思了AI领域的“规模化”逻辑。预训练阶段的性能提升呈现出几乎物理规律般的可预测性，但强化学习等后续阶段却缺乏类似的增长趋势。Toby Board的研究甚至认为，要让RL带来与GPT级别相当的能力提升，可能需要百万倍的算力扩展。作者认为，未来AI进步的主要驱动力将是持续学习和经验积累，而不仅仅是算力和数据的规模化。正如他所说：“人类变得更强，主要靠的是相关领域的经验。”这为AI行业提供了新的思考方向：如何让模型真正学会“学习”，而不仅仅是“记忆”。

总结

通用人工智能的实现不仅依赖于算力和数据规模，更需要突破模型的泛化、持续学习和在岗适应能力。当前AI模型虽已在多个维度取得显著进展，但距离真正的“人类级智能”仍有关键技术瓶颈。未来，持续学习和经验驱动的模型进化将成为推动AGI落地的核心路径。只有解决了这些深层次问题，AI才能真正释放其巨大的经济和社会价值。

关键词： 通用人工智能， 强化学习， 持续学习， 大语言模型， 模型训练