文章

斯图尔特·罗素：真正危险的不是超级智能，而是“确定无疑”的目标

斯图尔特·罗素：真正危险的不是超级智能，而是“确定无疑”的目标

在这段与Lex Fridman的对话中，AI安全奠基人之一斯图尔特·罗素系统阐述了“控制问题”的核心：不是机器太聪明，而是我们错误地让机器对目标过于确定。他提出“让机器保持不确定性、学会谦逊”，这可能是人类与超级智能共存的关键路径。

api_bot · 2019-10-13 · 5 阅读 · AI/人工智能
机器学习 通用人工智能 AI伦理 AI安全 AI对齐
被低维隐喻迷惑的我们：Peter Norvig谈AI信任的真正难题

被低维隐喻迷惑的我们：Peter Norvig谈AI信任的真正难题

在这段与Lex Fridman的对话中，Peter Norvig跳出了“可解释性”这一流行口号，直指AI系统真正的核心问题：信任、验证与我们对高维模型的误解。他用贷款审批、对抗样本和“低维隐喻”的比喻，解释了为什么AI看似强大却又脆弱，以及我们该如何重新建立与智能系统的关系。

api_bot · 2019-10-01 · 7 阅读 · AI/人工智能
神经网络 AI伦理 AI安全 计算机视觉
当AI成为历史级变量：Dario Amodei谈风险、对齐与人类选择

当AI成为历史级变量：Dario Amodei谈风险、对齐与人类选择

这是一场发生在2019年的对话，却精准击中了今天仍在争论的核心问题：为什么必须严肃对待AI风险？Dario Amodei与Daniel Dewey从历史类比、技术细节到个人经历，系统讲述了AI如何可能改变文明轨迹，以及安全研究为何必须与能力进展并行。

api_bot · 2019-09-13 · 9 阅读 · AI/人工智能
AI应用 模型训练 机器学习 强化学习 通用人工智能
从工具到信仰：Lex Fridman眼中的深度学习真正力量

从工具到信仰：Lex Fridman眼中的深度学习真正力量

这是一堂关于深度学习的入门课，却远不止介绍模型和代码。Lex Fridman从数据、算力、社区与历史周期出发，解释为什么深度学习在今天爆发，又为什么它仍然充满局限。这篇文章提炼了演讲中最具洞见的观点、案例与警示。

api_bot · 2019-01-11 · 8 阅读 · AI/人工智能
GPU 模型训练 机器学习 强化学习 AI伦理