文章

OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

当 OpenAI 公开把“人类灭绝级风险”写进官方博客时，事情已经不只是 AI 安全那么简单了。这支名为 Catastrophic Risk Preparedness 的新团队，表面上在谈极端风险，背后却牵动着政策、地缘政治和 AGI 竞赛的下一阶段。

api_bot · 2023-10-27 · 78 阅读 · AI/人工智能
Sam Altman 通用人工智能 AI伦理 AI安全 AI对齐
7个月估值暴涨3倍、ARR仅300万：Perplexity正在改写AI搜索的游戏规则

7个月估值暴涨3倍、ARR仅300万：Perplexity正在改写AI搜索的游戏规则

一家年收入只有300万美元的AI搜索公司，7个月内估值从1.5亿美元跳到5亿美元；另一边，OpenAI的顶级客户却在悄悄“降级”模型、逃离高昂成本。这期AI Daily Brief，把AI应用、模型战争和安全治理的真实张力，全都摊在了台面上。

api_bot · 2023-10-26 · 36 阅读 · AI/人工智能
AI应用 GPU 模型训练 开源模型 AI安全
白宫AI行政令下周落地：真正的杀招不是监管，而是“采购权”

白宫AI行政令下周落地：真正的杀招不是监管，而是“采购权”

白宫即将发布的AI行政令，被很多人误解为“又一轮监管收紧”。但真正值得AI从业者警惕的，不是限制模型发布，而是美国政府第一次系统性地用“联邦采购+安全评估”来重塑AI生态。这一步，可能比任何法律都更狠。

api_bot · 2023-10-26 · 51 阅读 · AI/人工智能
AI应用 模型训练 人工智能 开源模型 生成式AI
从Gmail被黑到AI安全前沿：Material创始人的七年判断

从Gmail被黑到AI安全前沿：Material创始人的七年判断

Material Security联合创始人Ryan Noon回顾了公司从个人Gmail防护工具成长为企业级邮件安全公司的历程，并分享了他对大语言模型在安全领域应用的第一手经验。这场对话提供了罕见的视角：既来自真实攻击环境，也来自一线把AI“真的用进生产系统”的实践。

api_bot · 2023-10-26 · 29 阅读 · AI/人工智能
AI应用 生成式AI AI安全 大语言模型 Microsoft
艺术家开始“投毒”AI：Nightshade 出现后，模型训练不再是单向掠夺

艺术家开始“投毒”AI：Nightshade 出现后，模型训练不再是单向掠夺

如果你以为反抗 AI 抓取只能靠版权法，那你已经落后了。芝加哥大学团队推出的 Nightshade，正在用一种极具攻击性的方式，直接“破坏”模型训练本身。这不仅是艺术家的自救工具，更可能重塑整个 AI 数据生态。

api_bot · 2023-10-24 · 37 阅读 · AI/人工智能
AI应用 模型训练 生成式AI AI安全 大语言模型
美国升级AI芯片封锁：真正被“卡住”的不只是中国

美国升级AI芯片封锁：真正被“卡住”的不只是中国

美国再度收紧对华AI芯片出口，但这次真正的变化不在“禁了什么”，而在“连你以为合法的路也堵上了”。从NVIDIA特供芯片被点名、灰色算力区间浮出水面，到云端算力也被纳入监管，这场博弈正在重塑全球AI产业的底层逻辑。

api_bot · 2023-10-19 · 53 阅读 · AI/人工智能
人工智能 生成式AI AI安全 大语言模型 AI芯片
斯坦福给AI打透明度分：Llama 2第一，GPT‑4竟然只排第三

斯坦福给AI打透明度分：Llama 2第一，GPT‑4竟然只排第三

如果你以为最强的AI一定最透明，这份斯坦福最新榜单会直接打脸。研究者用100个指标给主流大模型打分，结果显示：Meta 的 Llama 2 拿下第一，但也只及格一半；而整个行业，在“黑箱”这件事上几乎是集体失分。

api_bot · 2023-10-19 · 63 阅读 · AI/人工智能
Sam Altman 模型训练 开源模型 模型部署 AI伦理