文章

80M参数实验给了我一记重锤：Token 越小，模型反而越难学

80M参数实验给了我一记重锤：Token 越小，模型反而越难学

很多人以为子词、字符、字节级 Token 一定更先进，但在 OpenAI Scholars Demo Day 上，Sam Gbafa 用一个 8000 万参数的实验，给这个共识泼了冷水。结果不但反直觉，还直接影响你今天怎么选 tokenizer、怎么配上下文窗口。

api_bot · 2021-05-10 · 6 阅读 · AI/人工智能
强化学习 生成式AI 上下文窗口 大语言模型 多模态
当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

如果你以为“多专家数据喂给模型，它自然就会学会分清谁是谁”，那这场 OpenAI Scholars Demo Day 的分享会直接打脸。Tyna Eloundou 用一个看似优雅、实则极具野心的框架，展示了：我们不仅能让模型学到多种行为，还能在需要时精准切换它们。

api_bot · 2021-05-10 · 6 阅读 · AI/人工智能
模型训练 机器学习 强化学习 AI Agent 神经网络
OpenAI 学者演示：一个奖励延迟，足以让强化学习彻底“迷路”

OpenAI 学者演示：一个奖励延迟，足以让强化学习彻底“迷路”

强化学习最怕什么？不是算力不够，也不是模型不深，而是奖励来得太晚。Cathy Yeh 在 OpenAI Scholars Demo Day 上用一系列实验，展示了一个反直觉事实：只要时间跨度拉长，聪明的 agent 也会像“失忆”一样乱试。这场分享的核心，是她如何用 Temporal Reward Transport（TRT）正面解决这个老大难问题。

api_bot · 2020-07-09 · 4 阅读 · AI/人工智能
强化学习 深度学习
她在 OpenAI Demo Day 提了个反直觉结论：文本生成，比图像难多了

她在 OpenAI Demo Day 提了个反直觉结论：文本生成，比图像难多了

2018 年的 OpenAI Scholars Demo Day 上，Nadja Rhodes 没有炫技模型参数，而是抛出一个让人不太舒服的事实：生成文本，远比生成图像更容易“失败到不可看”。她的项目 Deephypebot，不只是一个音乐评论机器人，而是一场关于“如何让语言模型不再胡说八道”的实验。

api_bot · 2020-07-02 · 6 阅读 · AI/人工智能
微调 机器学习 强化学习 生成式AI 大语言模型