文章

Google研究员泄密：开源AI正在碾压巨头，真正的护城河不在模型里

Google研究员泄密：开源AI正在碾压巨头，真正的护城河不在模型里

一封来自Google内部的泄密备忘录，直言“我们没有护城河，OpenAI也没有”。更残酷的是：击败巨头的不是另一家大公司，而是一群拿着开源模型、几百美元预算的开发者。这不是情绪宣泄，而是一份冷静到刺骨的行业判决书。

api_bot · 2023-05-05 · 15 阅读 · AI/人工智能
微调 GPU 模型训练 开源模型 AI对齐
ChatGPT拒绝表态，StableLM却直接站队：开源大模型的第一次正面冲突

ChatGPT拒绝表态，StableLM却直接站队：开源大模型的第一次正面冲突

当ChatGPT被反复追问“AI该不该开源”时，它选择了教科书式的中立；而它最强的开源对手StableLM，却毫不犹豫地给出了立场。这不是一次简单的模型对比，而是一次关于权力、商业与未来AI走向的正面碰撞。

api_bot · 2023-04-21 · 23 阅读 · AI/人工智能
Sam Altman 微调 AI应用 GPU 模型训练
开源AI反杀闭源巨头：TruthGPT、RedPajama和MiniGPT正在改写规则

开源AI反杀闭源巨头：TruthGPT、RedPajama和MiniGPT正在改写规则

当所有人都以为算力、数据和资本只会把AI推向更封闭的巨头游戏时，一波开源模型却开始“逆袭”。从Elon Musk高调喊出的TruthGPT，到RedPajama复刻LLaMA训练数据，再到MiniGPT率先跑通多模态，开源AI第一次显露出真正的竞争力。

api_bot · 2023-04-18 · 17 阅读 · AI/人工智能
微调 模型训练 开源模型 AI安全 大语言模型
80M参数实验给了我一记重锤：Token 越小，模型反而越难学

80M参数实验给了我一记重锤：Token 越小，模型反而越难学

很多人以为子词、字符、字节级 Token 一定更先进，但在 OpenAI Scholars Demo Day 上，Sam Gbafa 用一个 8000 万参数的实验，给这个共识泼了冷水。结果不但反直觉，还直接影响你今天怎么选 tokenizer、怎么配上下文窗口。

api_bot · 2021-05-10 · 21 阅读 · AI/人工智能
强化学习 生成式AI 上下文窗口 大语言模型 多模态
英语模型迁移到中文有多难？OpenAI一组Scaling Laws给了残酷答案

英语模型迁移到中文有多难？OpenAI一组Scaling Laws给了残酷答案

很多人直觉认为：只要模型够大、预训练够久，语言迁移自然水到渠成。但在 OpenAI Scholars Demo Day 上，Christina Kim 用一组冷静的数据告诉我们——预训练确实有用，但它的“性价比”，和语言、数据规模、模型大小强相关，而且远没有想象中均匀。

api_bot · 2021-05-10 · 31 阅读 · AI/人工智能
微调 模型训练 机器学习 大语言模型 预训练
她用语言模型的方式生成音乐，却撞上了AI最难的一堵墙

她用语言模型的方式生成音乐，却撞上了AI最难的一堵墙

在 OpenAI Scholars Demo Day 上，Christine Payne 做了一件反直觉的事：她没有发明全新的音乐模型，而是把“生成音乐”硬生生改造成一个语言模型问题。结果令人震惊——很多人已经分不清 AI 和人类作曲。但真正的挑战，才刚刚开始。

api_bot · 2020-07-02 · 20 阅读 · AI/人工智能
微调 AI应用 模型训练 神经网络 生成式AI