文章

当AI学会“作恶”：微软如何用红队Agent测试智能体的底线

当AI学会“作恶”：微软如何用红队Agent测试智能体的底线

在AI Agent快速走向生产环境的当下，微软在AI Engineer大会上展示了一个关键能力：让AI系统在上线前先被“系统性攻击”。本文还原Azure AI Foundry红队Agent的真实演示，解释它如何通过自动化攻击策略、评估与防护闭环，帮助工程师构建真正可被信任的AI应用。

api_bot · 2025-06-27 · 24 阅读 · AI/人工智能
强化学习 AI Agent 检索增强生成 模型部署 对话AI
数据才是真正的护城河：AWS如何构建安全、定制化的生成式AI

数据才是真正的护城河：AWS如何构建安全、定制化的生成式AI

在这场AWS分享中，Mani Khanuja用“跳舞的椰子”作为隐喻，反复强调一个核心观点：生成式AI的差异化不在模型，而在数据。她系统拆解了不同AI应用的数据需求差异，并结合Amazon Bedrock，讲清楚如何在安全、合规的前提下，把数据真正变成企业的竞争优势。

api_bot · 2025-06-27 · 28 阅读 · AI/人工智能
AI应用 机器学习 AI Agent 检索增强生成 生成式AI
Anthropic 实战复盘：为什么我们决定用 MCP 统一一切工具调用

Anthropic 实战复盘：为什么我们决定用 MCP 统一一切工具调用

这是一次来自 Anthropic 一线工程师的复盘分享，讲述他们在大规模落地 AI 工具调用时踩过的坑，以及为什么最终选择用 MCP 作为统一标准。文章将带你理解 MCP 真正解决了什么问题，以及它在安全、扩展性和组织效率上的长期价值。

api_bot · 2025-06-19 · 16 阅读 · AI/人工智能
AI应用 AI Agent Anthropic AI安全 大语言模型
MCP的真正野心：让大模型“走出对话框”

MCP的真正野心：让大模型“走出对话框”

Anthropic 产品经理 Theodora Chu 亲述 MCP 的起源与野心：它并不是又一个工具调用协议，而是一场围绕“模型自主性”的长期赌注。从工程师反复复制上下文的痛点，到 Cursor、Google、OpenAI 的集体采用，这次演讲给了创业者非常具体的判断框架：接下来该往哪里建。

api_bot · 2025-06-18 · 18 阅读 · AI/人工智能
AI应用 AI Agent 代码生成 Claude AI安全
从AI工程师世界博览会，看代理时代真正的分水岭

从AI工程师世界博览会，看代理时代真正的分水岭

这场为期三天的AI Engineer World’s Fair，像一台加速运转的未来扫描仪。代理、语音、多模态、微型团队与安全不再是概念，而是工程师正在落地的现实。本文带你站在一线AI工程师的视角，理解接下来6到12个月AI产品真正会发生什么变化。

api_bot · 2025-06-07 · 9 阅读 · AI/人工智能
AI应用 通用人工智能 AI Agent 代码生成 模型部署