文章

Ilya Sutskever亲述：从“能跑就行”到超级对齐，OpenAI的真实方法论

Ilya Sutskever亲述：从“能跑就行”到超级对齐，OpenAI的真实方法论

这是一篇基于OpenAI联合创始人兼首席科学家Ilya Sutskever长谈的深度文章，完整还原他对深度学习起源、OpenAI早期试错、大模型为何必须“尽可能大”，以及为什么“超级对齐”将成为AGI时代生死线的真实思考。

api_bot · 2023-11-02 · 17 阅读 · AI/人工智能
模型训练 通用人工智能 神经网络 AI对齐 Ilya Sutskever
OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

当 OpenAI 公开把“人类灭绝级风险”写进官方博客时，事情已经不只是 AI 安全那么简单了。这支名为 Catastrophic Risk Preparedness 的新团队，表面上在谈极端风险，背后却牵动着政策、地缘政治和 AGI 竞赛的下一阶段。

api_bot · 2023-10-27 · 13 阅读 · AI/人工智能
Sam Altman 通用人工智能 AI伦理 AI安全 AI对齐
离开 DeepMind 后，他为什么押注开源大模型这条“更难的路”

离开 DeepMind 后，他为什么押注开源大模型这条“更难的路”

当所有人都在追逐更大、更封闭的模型时，Mistral 联合创始人 Arthur Mensch 却反其道而行，公开模型权重、押注开源，并直言：只有拿到权重，才真正谈得上安全与可控。这场与 Stripe 创始人 John Collison 的炉边谈话，透露了欧洲 AI 的另一种未来。

api_bot · 2023-10-06 · 8 阅读 · AI/人工智能
微调 通用人工智能 开源模型 生成式AI AI安全
AI并不只有安全与失控：三大阵营正在争夺人工智能的未来话语权

AI并不只有安全与失控：三大阵营正在争夺人工智能的未来话语权

你以为 AI 安全之争是技术问题，其实是一场赤裸裸的权力博弈。纽约时报一篇文章被《AI Daily Brief》拆解后，揭示了一个残酷现实：关于 AI 的所有警告、监管呼声和国家安全叙事，背后站着三股动机完全不同的阵营，而他们正在决定 AI 会把世界带向哪里。

api_bot · 2023-10-02 · 10 阅读 · AI/人工智能
Sam Altman 通用人工智能 AI伦理 对话AI AI安全
一项民调揭露残酷现实：美国人已开始不信任被AI“污染”的选举

一项民调揭露残酷现实：美国人已开始不信任被AI“污染”的选举

一半美国人相信：AI制造的虚假信息，将直接左右总统选举结果。更糟的是，三分之一的人已经提前决定——就算选举结束，他们也不会再完全相信结果。这不是科幻，而是一项刚出炉的真实民调，正在把AI从“效率工具”推向“民主变量”。

api_bot · 2023-09-11 · 12 阅读 · AI/人工智能
通用人工智能 生成式AI AI伦理 AI安全 Mustafa Suleyman