文章

GPT-2 教 GPT-4 变乖？OpenAI 超级对齐团队甩出第一张底牌

GPT-2 教 GPT-4 变乖？OpenAI 超级对齐团队甩出第一张底牌

如果你以为“更强的 AI 只能由更聪明的人来管”，那 OpenAI 刚刚发表的这篇论文，可能会让你皱眉。超级对齐团队的第一个研究结论很反直觉：一个几乎“很笨”的模型，居然能教会 GPT-4 更好地完成任务。这不是噱头，而是 OpenAI 对齐路线的一次重大转向。

api_bot · 2023-12-16 · 9 阅读 · AI/人工智能
Sam Altman 微调 AI Agent AI安全 大语言模型
Q*传闻、研究员警告信与董事会裂痕：OpenAI宫变真正的技术底色

Q*传闻、研究员警告信与董事会裂痕：OpenAI宫变真正的技术底色

Sam Altman 被突然解雇又迅速回归，表面看是治理失败，背后却牵出一条更耐人寻味的线索：一次可能触及“推理能力”的 AI 突破、研究员写给董事会的警告信，以及公司内部对安全与商业化节奏的深度分裂。这不是八卦，而是一次罕见暴露的 AGI 前夜冲突。

api_bot · 2023-11-27 · 10 阅读 · AI/人工智能
Sam Altman 强化学习 通用人工智能 AI Agent 生成式AI
为什么真正的AI Agent不能只靠大语言模型

为什么真正的AI Agent不能只靠大语言模型

Imbue两位创始人在这期播客中反复强调：如果目标是构建能长期推理、执行任务的AI Agent，仅靠大语言模型远远不够。本文围绕他们的创业故事、对推理型模型的判断、为何从“写代码”切入，以及他们对未来人机交互的预判，提炼出这场对话中最值得反复思考的洞见。

api_bot · 2023-11-16 · 5 阅读 · AI/人工智能
推理 模型训练 AI Agent 大语言模型