文章

为什么真正的AI Agent离不开“规划”，而不只是更长的提示词

为什么真正的AI Agent离不开“规划”，而不只是更长的提示词

从Instruct GPT到GPT‑4.1，语言模型在“听话”这件事上并没有线性进步。AI21 Labs 的 Yuval Belfer 通过工程视角给出答案：问题不在模型，而在我们把所有复杂性都塞进了一个提示词。真正可靠的 AI Agent，需要规划与执行引擎。

api_bot · 2025-06-03 · 23 阅读 · AI/人工智能
推理 AI Agent 大语言模型 提示工程 GPT-4
RAG评测为何失灵：从“局部问答”到结构化推理的转向

RAG评测为何失灵：从“局部问答”到结构化推理的转向

在RAG几乎成为标配的当下，评测却悄然失真。AI21 Labs的Yuval Belfer和Niv Granot通过真实案例指出：我们正在为错误的基准优化系统。本文还原他们的核心论证，解释为什么主流RAG评测无法反映真实世界，并介绍一种以结构化数据为中心的替代路径。

api_bot · 2025-06-03 · 25 阅读 · AI/人工智能
推理 检索增强生成 大语言模型 Embedding Google
NVIDIA如何终结“尴尬转写”：企业级语音AI的真实打法

NVIDIA如何终结“尴尬转写”：企业级语音AI的真实打法

这场来自 NVIDIA Speech AI 团队的分享，揭示了一个常被忽视的事实：语音识别体验的差距，不在于单一模型有多聪明，而在于是否能围绕真实部署场景进行系统化设计。从流式ASR到多说话人识别，从模型结构到部署形态，NVIDIA给出了他们“终结尴尬转写”的方法论。

api_bot · 2025-06-03 · 22 阅读 · AI/人工智能
AI应用 推理 开源模型 模型部署 对话AI
为什么90%的GenAI项目卡在规模化？AWS架构师的7个评估习惯

为什么90%的GenAI项目卡在规模化？AWS架构师的7个评估习惯

AWS首席应用AI架构师Justin Mohler基于多年一线经验指出：生成式AI无法规模化，最大瓶颈不是模型，而是评估体系。本文通过真实失败与逆袭案例，系统拆解他提出的“高效GenAI评估七大习惯”，解释为什么评估不是打分工具，而是发现问题、驱动成功的核心引擎。

api_bot · 2025-06-03 · 20 阅读 · AI/人工智能
推理 机器学习 生成式AI 幻觉 提示工程
语音优先的AI叠加层：让智能助手不再打断人类对话

语音优先的AI叠加层：让智能助手不再打断人类对话

Gregory Bruss提出了一种不同于AI通话机器人的思路：语音优先的AI叠加层。它不参与对话，而是悄然增强人类交流。本文还原其核心理念、真实演示与工程难题，解释为何“会说话的AI”真正的挑战不在模型，而在时机、注意力与人性化设计。

api_bot · 2025-06-03 · 18 阅读 · AI/人工智能
AI应用 推理 AI Agent 检索增强生成 对话AI
当AI应用真正规模化，推理正在走向一条全新的“扩展定律”

当AI应用真正规模化，推理正在走向一条全新的“扩展定律”

Fireworks 的 Lynn 在这场分享中提出一个少被讨论却极其关键的判断：AI 应用能否做大，瓶颈早已不在模型本身，而在推理阶段的系统性优化。她从应用开发者视角出发，讲清了未来推理扩展的三维定律，以及为什么推理必须与后训练协同设计，才能把成本压到 10 倍甚至 100 倍以下。

api_bot · 2025-05-19 · 18 阅读 · AI/人工智能
AI应用 GPU 推理 模型训练 强化学习
从一分钟到八年：OpenAI如何用推理逼近爱因斯坦

从一分钟到八年：OpenAI如何用推理逼近爱因斯坦

OpenAI研究员Dan Roberts用一次极具想象力的演讲，解释了为什么“推理”正在成为AI下一阶段的核心扩展维度。从test-time compute到强化学习主导训练，再到“9年内发现广义相对论”的大胆预测，这场分享揭示了通往AGI的一条非共识路径。

api_bot · 2025-05-08 · 22 阅读 · AI/人工智能
推理 模型训练 强化学习 AI Agent Yann LeCun