YC创业者激辩AGI:时间表、幻觉与真正的分水岭

AI PM 编辑部 · 2023年11月21日 · 4 阅读 · AI/人工智能

正在加载视频...

视频章节

一场来自Y Combinator的圆桌讨论,把AGI的分歧摊在台面上:有人认为已然到来,有人坚持仍很遥远。比时间更重要的是定义、能力边界与伦理共识。

YC创业者激辩AGI:时间表、幻觉与真正的分水岭

一场来自Y Combinator的圆桌讨论,把AGI的分歧摊在台面上:有人认为已然到来,有人坚持仍很遥远。比时间更重要的是定义、能力边界与伦理共识。

AGI什么时候到来?分歧从“定义”开始

这个问题之所以重要,是因为几乎所有关于风险、投资和监管的判断,都依赖于我们是否“已经接近终点”。在这场讨论中,创业者们给出的不是一个答案,而是一组彼此冲突却都自洽的世界观。

有人认为AGI会在我们的有生之年出现,但“至少还要10到20年”;也有人给出更激进的判断——“四到五年”,甚至直接点名“2035”。但很快,争论的焦点从时间转向定义。一位参与者直言:“这真的取决于你怎么定义AGI。”如果AGI被定义为“在任何任务上都能做到不逊于最优秀的人类”,那时间自然会被拉长;如果定义为在大多数认知任务上达到人类水平,那答案就完全不同。

也有人干脆拒绝给出年份,用另一种尺度替代时间线:“与其说还有多少年,不如说还有五到十个关键的研究突破。”这句话之所以耐人寻味,是因为它揭示了一个现实:AGI的进展并非线性,而是由少数突破性进展驱动。时间预测在这里显得苍白,能力跃迁才是核心变量。

没有“灵魂”的模型:对意识与拟人化的集体反驳

当公众开始把大模型当作“类人存在”时,技术圈内部的反应反而更冷静,甚至有些尖锐。一位创业者毫不留情地说:“认为基础模型里住着一个有思想、有信念的自主代理,这些都是胡扯。”

在他们看来,当前的大语言模型本质仍是Token预测系统——通过统计和因果关联来预测下一个词,而不是在“思考”。“它只是在做大规模语言建模,”有人强调,“我们甚至还不知道人类是如何思考的,又怎么定义什么是AGI?”这种无知反而让AGI的定义变得更加模糊。

一个具体的反例被反复提及:模型会非常自信地犯下人类不会犯的错误,比如断言“5000万大于1亿”。这类失误让部分人坚信,当前系统距离真正的推理仍然很远。即便如此,也有人反问:如果系统在行为上完美模仿了人类,我们是否真的需要它“像人一样思考”?这个问题没有答案,但它正在重塑技术路线的讨论方式。

AGI已经存在?从GPT-3到GPT-4的连续体

争论最激烈的地方,在于是否应该把AGI视为一个“到达点”,还是一个连续谱系。有人明确表态:“我觉得AGI在某种程度上已经存在了。”甚至有人回顾历史,说自己在GPT-3时代就认为AGI已经出现。

他们的理由并非模型完美,而是可组合性。虽然单一工具并不“通用”,但现有系统已经可以被组装,用来解决任意复杂的问题。GPT-4常被当作例子:当你把零散的信息粘贴进去,它能够自行推断你的真实意图,“那些时刻会让我觉得,哇,它真的很接近了。”

这种观点将AGI看作一个“慢慢展开的连续体”,而非突然降临的奇点。不同的人会在不同能力水平上宣布“AGI已至”。也正因为如此,有人断言:“真正困难的问题是——你如何知道自己已经达到了AGI?”在没有统一裁判的情况下,结论只会越来越分散。

跨过那条线之后:伦理、治理与人的位置

如果说时间和定义尚可争论,那AGI的社会影响几乎是所有人都无法回避的话题。一种相对温和但共识度最高的立场是:AI应该始终是“人坐在驾驶位上的助手”。技术本身并不决定方向,关键在于部署与治理。

有参与者指出,真正棘手的伦理问题,可能要等到AGI接近成熟时才会全面爆发。理想状态下,系统的行为应建立在人类价值之上,并受到清晰的治理框架约束。也有人提出一个更具操作性的判断标准:当我们不断列出“人类还能做得更好”的任务清单,而这份清单最终消失时,集体意识才会真正意识到——那条线已经被跨越。

值得玩味的是,有人半开玩笑地说,如果真正的AGI存在,“我甚至不确定这场采访是否还会以现在的方式发生。”这句话既是幽默,也是警告:AGI的影响,可能远超我们目前所有可想象的应用场景。

总结

这场讨论没有给出统一的时间表,却提供了更有价值的东西:一组彼此冲突但高度真实的行业视角。AGI也许是定义问题,也许是能力连续体,更可能是一次认知与治理的双重考验。对读者而言,重要的不是押注某一年,而是理解分歧本身——它正是这个时代最诚实的信号。


关键词: 通用人工智能, AGI定义, 大语言模型, GPT-4, AI伦理

事实核查备注: 视频来源:Y Combinator;讨论主题:AGI时间表与定义;技术名词:AGI、Token、大语言模型;产品:GPT-3、GPT-4;关键表述包括“四到五年”“2035”“五到十个研究突破”“AI通过图灵测试”等,均来自视频原话或直接转述。