一次“黑客式”复盘:YC 2025 春季 AI Agent 的真实安全隐患
YC 创业公司 Casco 的 CEO Renee Brandel 现场拆解了他们如何“黑进”一批 AI Agent。与其说是炫技,这更像一次对新一代智能应用安全底座的集体体检,揭示了当下 Agent 系统中最容易被忽视、却最致命的设计问题。
YC 创业公司 Casco 的 CEO Renee Brandel 现场拆解了他们如何“黑进”一批 AI Agent。与其说是炫技,这更像一次对新一代智能应用安全底座的集体体检,揭示了当下 Agent 系统中最容易被忽视、却最致命的设计问题。
这是一次来自OAuth老兵的现场反思:当AI代理被连接到越来越多真实系统时,传统“给权限就完事”的做法正在失效。Jared Hanson结合自己在Passport.js、身份基础设施和最新创业Keycard中的经验,解释为什么OAuth依然重要,但必须被重新使用。
这是一篇基于一场 CONFSEC 演讲的深度解读,带你理解 Apple 私有云计算(Private Cloud Compute)为何被认为重新定义了“隐私友好型云端 AI”。文章重点放在可验证透明性、非定向性和远程证明等关键设计,而不是泛泛而谈苹果的隐私口号。
Arcjet 创始人 David Mytton 结合多年一线经验,讲述 AI 时代机器人流量为何变得更危险,以及开发者该如何从“识别好坏机器人”转向“构建多信号防御体系”。
前Google Search工程师David Karam在这场工作坊中,系统拆解了“为什么AI评估如此困难,却又如此关键”。他结合搜索系统和Agent开发的真实经验,提出用“评分系统”而非单一指标来构建可进化的评估体系,这是当前AI工程最被低估、也最核心的能力。
这场演讲不是在罗列RAG新名词,而是给出了一套“何时该用什么”的实战路线图。前Google搜索工程师David Karam用真实失败案例解释:RAG不是一次性架构设计,而是按影响和成本逐步叠加的工程决策过程。
这是一场来自11x一线工程师的真实分享,讲述他们如何为AI销售代表Alice构建“大脑”。文章将还原他们从失败的上下文堆叠,到知识库+RAG架构的转折过程,深入解析解析、存储、检索与可视化背后的工程取舍。
一场来自Harvey与LanceDB的联合分享,首次系统讲清楚企业级RAG在法律场景下面临的真实难题:复杂查询、超大规模数据、严格安全要求,以及为什么“评估”比算法本身更重要。
这场来自 Quotient AI 与 Tavily 的分享,直面一个被严重低估的问题:当 AI 搜索系统运行在真实、动态的互联网中,我们究竟该如何评估它是否“做对了”?演讲者给出了一套围绕动态数据、无参考指标和幻觉权衡的实用框架,试图回答生产级 AI Agent 的核心难题。
本文深度解读Anthropic联合创始人Jared Kaplan在Y Combinator的演讲,揭示AI规模化背后的科学洞见、技术趋势,以及他从理论物理转向AI的个人故事。你将看到AI训练的核心机制、行业变革的独特视角,以及未来人类与AI协作的可能场景。