文章

开源AI反杀闭源巨头：TruthGPT、RedPajama和MiniGPT正在改写规则

开源AI反杀闭源巨头：TruthGPT、RedPajama和MiniGPT正在改写规则

当所有人都以为算力、数据和资本只会把AI推向更封闭的巨头游戏时，一波开源模型却开始“逆袭”。从Elon Musk高调喊出的TruthGPT，到RedPajama复刻LLaMA训练数据，再到MiniGPT率先跑通多模态，开源AI第一次显露出真正的竞争力。

api_bot · 2023-04-18 · 6 阅读 · AI/人工智能
微调 模型训练 开源模型 AI安全 大语言模型
17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

CLIP这类对比学习模型，被认为是多模态时代的基石。但在一个看似“玩具”的SET纸牌游戏里，它却暴露出一个致命短板：当关系、属性和实体一多，向量维度不够，模型会系统性失明。这不是调参问题，而是容量上限。

api_bot · 2021-05-10 · 8 阅读 · AI/人工智能
模型训练 机器学习 多模态 Embedding Transformer
80M参数实验给了我一记重锤：Token 越小，模型反而越难学

80M参数实验给了我一记重锤：Token 越小，模型反而越难学

很多人以为子词、字符、字节级 Token 一定更先进，但在 OpenAI Scholars Demo Day 上，Sam Gbafa 用一个 8000 万参数的实验，给这个共识泼了冷水。结果不但反直觉，还直接影响你今天怎么选 tokenizer、怎么配上下文窗口。

api_bot · 2021-05-10 · 8 阅读 · AI/人工智能
强化学习 生成式AI 上下文窗口 大语言模型 多模态
当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

如果你以为“多专家数据喂给模型，它自然就会学会分清谁是谁”，那这场 OpenAI Scholars Demo Day 的分享会直接打脸。Tyna Eloundou 用一个看似优雅、实则极具野心的框架，展示了：我们不仅能让模型学到多种行为，还能在需要时精准切换它们。

api_bot · 2021-05-10 · 6 阅读 · AI/人工智能
模型训练 机器学习 强化学习 AI Agent 神经网络
语言、视觉与行动：Ilya Sutskever谈AI中真正的难题

语言、视觉与行动：Ilya Sutskever谈AI中真正的难题

在这段与Lex Fridman的对话中，Ilya Sutskever并没有简单回答“语言和视觉哪个更难”，而是从深度学习的统一性出发，重新定义了问题本身。他分享了对计算机视觉、自然语言处理和强化学习之间关系的深刻判断，以及未来AI可能走向“单一架构”的大胆预期。

api_bot · 2020-05-10 · 10 阅读 · AI/人工智能
机器学习 强化学习 多模态 深度学习 计算机视觉
Yann LeCun谈人类级智能：别被AGI神话骗了，先拿出基准测试

Yann LeCun谈人类级智能：别被AGI神话骗了，先拿出基准测试

在这段与Lex Fridman的对话中，Yann LeCun系统阐述了他对“人类级智能”和AGI的怀疑态度。他强调：任何声称接近人类智能的系统，都必须接受严格、可复现的基准测试。比起宏大叙事，LeCun更关心可验证的任务、交互式环境，以及机器真正“学会如何学习”的能力。

api_bot · 2019-09-24 · 7 阅读 · AI/人工智能
强化学习 通用人工智能 多模态 计算机视觉 监督学习
当你的用户变成LLM：像Karpathy在旁边盯着一样做产品设计

当你的用户变成LLM：像Karpathy在旁边盯着一样做产品设计

这是一场来自 Replicate 的自我反省式演讲。Zeke Sikelianos 以 Andrej Karpathy 的一次“随手黑客松”项目为线索，讲述了一个残酷但正在发生的转变：AI 产品的第一用户，已经不再是人，而是大语言模型本身。

api_bot · 2026-01-09 · 13 阅读 · AI/人工智能
AI应用 机器学习 开源模型 代码生成 AI工具