Rocket Lu http://rocketlu.cn/ AIGC+ART+DATAVIS Fri, 06 Mar 2026 06:18:00 GMT https://validator.w3.org/feed/docs/rss2.html https://github.com/jpmonette/feed zh-CN All rights reserved 2026, Rocketlu <![CDATA[Kyutai STT 一种专为实时应用优化的语音转文字模型]]> http://rocketlu.cn/article/Kyutai STT http://rocketlu.cn/article/Kyutai STT Fri, 04 Jul 2025 00:00:00 GMT

Kyutai STT

一种专为实时应用优化的语音转文字（Speech-to-Text）模型。
👉 你可以在 unmute.sh 上试用
👉 查看代码：GitHub
 
Kyutai STT 是一种流式语音转文字模型架构，在延迟和准确性之间取得了出色的平衡，非常适合交互式应用。它支持批处理（batching），因此只需一块 GPU 就能同时处理数百个对话。
 
我们发布了两个模型：
  • kyutai/stt-1b-en_fr：低延迟模型，支持英文和法文，内置语义语音活动检测（VAD）。
  • kyutai/stt-2.6b-en：更大的英文专用模型，追求极致准确性。
 

1.实时且准确

字错误率（WER）图表
notion image
字错误率越低越好。
 
Kyutai STT 是一种“流式”模型，意味着它会一边接收音频一边实时转录，而不是等到整段音频输入完成后再开始处理。因此非常适用于实时应用，比如 Unmute。
它能输出格式规范、带有标点的转录结果，还支持逐词时间戳。
在准确率方面，它的表现与目前最先进的非流式模型相当，后者通常需要整段音频数据。

2.语义语音活动检测（Semantic VAD）

对于像 Unmute 这样需要语音对话的应用，我们需要判断用户是否已经说完话，以便系统可以开始回应。
常见的方法是使用一个单独的语音活动检测模型，判断用户是否正在说话，然后在检测到用户停止说话后等待一段固定时间。
但这种方法有缺陷——人们说话时经常会暂停，固定等待时间很难适配所有情况，容易误判。
 
Kyutai STT 的解决方案是：不仅预测文本，还预测用户是否已经说完。系统会根据说话内容和语调，智能调整等待时间。
你可以在上面的演示中体验这一功能，注意提示“End of speech detected”。
目前，语义 VAD 只在 Rust 版本的服务器中提供，其他实现尚未支持。

3.超低延迟

  • kyutai/stt-1b-en_fr 模型的延迟为 500 毫秒，即说出一个词后，大约 0.5 秒内就能转录出来。
  • kyutai/stt-2.6b-en 的延迟为 2.5 秒，换取更高的准确率。
在 Unmute 中，我们使用一种叫做 “flush trick” 的技术进一步降低响应延迟：
当语音活动检测器判断用户说完后，虽然还要等 500ms（模型的延迟），但我们会让 STT 服务器尽快处理已有音频。
服务器的处理速度约为 4 倍实时速率，因此只需 125ms（500ms ÷ 4）即可处理完现有音频。通过这种方式，我们“加速了时间”，只需等 125ms 就能确保转录完成。

4.高并发能力

Kyutai STT 非常适合生产环境：
在一块 H100 GPU 上，它可以同时处理 400 条实时音频流。
notion image
这得益于我们独创的 延迟流建模架构（delayed streams modeling），让模型本身就能高效地批量处理数据，无需额外代码支持流式处理。

5.单通道语音转文字

相比之下，将 OpenAI 的 Whisper 模型变为流式（Whisper-Streaming）则需要单独的研究项目。这种方法是反复处理最后几秒音频，并拼接结果。
虽然技术上很强大，但 Whisper-Streaming 不支持批处理，因此吞吐量远低于 Kyutai STT。如果你希望延迟更低，它还需要更频繁地重新处理音频，进一步降低效率。

6.多种实现方式

根据你的需求，我们提供不同的实现版本，详细说明见 GitHub：
  • PyTorch 版：适合研究和实验。如果你想在 Python 中调用模型，可选此版本。
  • Rust 版：适合生产环境部署。Unmute 就是使用这个版本。
    • 我们的 Rust 服务支持通过 websocket 进行流式访问。
    • 在 L40S GPU 上，可以以 3 倍实时速率服务 64 个并发连接。
  • MLX 版：适用于在 iPhone 和 Mac 上进行设备端推理。
    • MLX 是 Apple 的机器学习框架，支持 Apple Silicon 上的硬件加速。

7.延迟流建模（Delayed Streams Modeling）

Kyutai STT 的核心创新，是我们在 Kyutai 首创的一项技术，称为“延迟流建模”，最初在 Moshi 项目中提出。
notion image
传统的语音转文字方法，是把完整音频输入模型，然后逐步生成文本（如 Whisper 采用的编码器-解码器结构）。
notion image
而 Kyutai STT 则将音频与文本建模为“时间对齐”的两个流：音频流和文字流是并列的，而不是线性先后关系。我们会延迟文本流几个时间帧，让模型有“前瞻”能力。
notion image
训练时：模型学会同时建模音频和文字两个流。
推理时：我们实时输入音频，模型根据音频预测文本。
这种方式还有个好处是对称性：我们只要将延迟从文本流切换到音频流，再把文字作为输入固定，就可以变成一个文字转语音模型。我们只需在模型中加一点技巧，让它预测空白 token 来对齐时间轴。
notion image
我们稍后将开源文字转语音（TTS）模型，并发布论文介绍这两种模型的细节。

了解更多：

致谢

Kyutai STT、TTS 和 Unmute 项目由以下成员创建：
Alexandre Défossez、Edouard Grave、Eugene Kharitonov、Laurent Mazare、Gabriel de Marmiesse、Emmanuel Orsini、Patrick Perez、Václav Volhejn 和 Neil Zeghidour，以及 Kyutai 团队的其他支持者。
 
💡
对这个话题感兴趣的小伙伴，欢迎加我一起探索交流~
 
notion image
 
]]> <![CDATA[AIDaily 079/100 苹果与阿里巴巴合作、Perplexity发布Sonar模型、OpenAI自研芯片、苹果AI台灯、马斯克收购OpenAI被拒、Anthropic融资、巴黎AI峰会…]]> http://rocketlu.cn/article/Daily79 http://rocketlu.cn/article/Daily79 Wed, 12 Feb 2025 00:00:00 GMT

AIDaily 079/100

🖼️
每天都能接收到无数条与AI、科技、艺术、经济相关的信息。 但是感觉自己就像那只掰玉米的熊，掰了一路，最后出来发现只剩下手里的两根玉米🌽。 今年希望能够以Newsletter的形式，给自己掰下来的玉米们找个背篓。 人们会被自己热爱的事物改变，而没有人因为给予而贫穷。

Vol.078

by Rocket
探索·AI产品

🍎 苹果与阿里巴巴合作，将Apple Intelligence引入中国市场

苹果计划将Apple Intelligence引入中国市场，此前曾与百度、字节跳动等公司探讨合作，但最终选择了阿里巴巴。
  • 选择原因：阿里巴巴拥有海量的用户购物和支付数据，能够为苹果提供更个性化和本地化的AI服务。此外，阿里巴巴的AI基础设施被认为更适合苹果的需求。
  • 合作进展：苹果与阿里巴巴已共同开发了一系列AI功能，并提交给中国网信办审批。
  • 市场影响：苹果在中国市场的iPhone销量因缺乏AI功能而下滑，此次合作有望提升其市场竞争力。
  • 未来展望：苹果计划在3月25日的中国开发者大会上正式推出这些AI功能，但具体发布时间仍需等待监管审批。
 

💨 Perplexity发布新一代Sonar模型，性能大幅提升

Perplexity推出了基于Llama 3.3 70B训练的新版Sonar搜索模型，运行在Cerebras的推理基础设施上，Token解码速度达到每秒1200个，是Gemini 2.0 Flash的8.5倍。
  • 性能优势：Sonar在用户满意度、事实性和可读性方面表现卓越，超越了GPT-4o mini、Claude 3.5 Haiku等模型，甚至与Claude 3.5 Sonnet相当。
  • 用户体验：Sonar能够提供更快速、准确和可读性强的回答，支持Markdown格式，优化了用户搜索体验。
  • 市场布局：新版Sonar已向Perplexity Pro用户开放，并将以API形式提供服务，未来有望进一步扩大市场份额。
  • 行业影响：Sonar的推出标志着AI搜索领域的新突破，可能推动传统搜索提供商重新思考其硬件策略。

🚀 OpenAI今年将完成第一代自研AI芯片设计，并计划与台积电合作制造

OpenAI的第一代自研AI芯片设计即将完成，目标是优化AI模型的计算效率。
  • 制造合作：OpenAI计划与台积电合作，利用其先进的3nm工艺进行芯片制造。
  • 战略意义：此举旨在减少对英伟达等现有芯片供应商的依赖，提升OpenAI在硬件领域的自主性。
  • 未来展望：自研芯片有望为OpenAI的AI模型提供更强大的计算支持，推动AI技术的进一步发展。
 
探索·AI硬件

💡 苹果工程师打造“皮克斯风”AI台灯，或为智能家居设备铺路

苹果机器学习研究团队开发了一款AI台灯机器人，灵感来源于皮克斯的经典角色Luxo Jr.（小台灯）。该台灯不仅具备照明功能，还能通过语音、手势和摄像头与用户交互。
  • 情感表达：台灯能够通过流畅、精细的动作传达情感，如委屈、点头哈腰等，增强了人机互动的自然感。
  • 实用性与娱乐性：除了情感表达，台灯还能完成实用任务，如提醒喝水、显示天气、辅助学习等。
  • 技术框架：苹果开发了名为“ELEGNT”的框架，让非人形机器人兼具表现力和功能性，提升用户的好感度。
  • 未来展望：这款台灯可能是苹果未来智能家居设备的雏形，有传言称苹果的智能家居设备可能配备机器人手臂。
 
探索·AI投融资

📝 马斯克出价974亿美元收购OpenAI，遭奥特曼拒绝

埃隆·马斯克（Elon Musk）领导的投资财团提出以974亿美元收购OpenAI的非营利组织。马斯克与OpenAI CEO山姆·奥特曼（Sam Altman）均为OpenAI的联合创始人，但马斯克于2018年离开。
  • 收购动机：马斯克指责OpenAI背离了其非营利使命，隐藏源代码，并试图阻止其完全商业化。此次收购旨在将OpenAI重新定位为开源、以安全为导向的非营利研究机构。
  • 奥特曼回应：奥特曼在马斯克的X平台上拒绝了该提议，表示“不，谢谢，但如果你愿意，我们可以以97.4亿美元的价格收购Twitter”。
  • 董事会态度：OpenAI的董事会尚未正式收到该收购提案，但奥特曼和董事会主席布雷特·泰勒（Bret Taylor）均表示公司“不待出售”，并认为马斯克的举动是对公司使命的干扰。
  • 潜在影响：此次收购提议可能会对OpenAI正在进行的400亿美元融资以及5000亿美元的Stargate项目产生影响。
  • 法律与财务问题：由于OpenAI的非营利性质，任何资产转移都需要确保公平市场价值，并且需要经过严格的法律程序。

💰 Anthropic新一轮融资超20亿美元

Anthropic预计在下一轮融资中筹集超过20亿美元，吸引风险投资公司General Catalyst和MGX等争夺投资份额。
  • Brookfield投资：加拿大投资公司Brookfield计划在法国投资207亿美元建设新的AI数据中心。
  • 法国AI计划：这是法国政府吸引AI初创企业的更大计划的一部分，总投资额达1125亿美元，旨在推动AI产业发展。
 
探索·AI大事件

🌐 巴黎AI行动峰会落幕，美英拒绝签署多边宣言，欧洲宣布巨额投资计划

2月11日，巴黎AI行动峰会结束，包括中国、法国、德国、印度在内的60个国家签署了《巴黎人工智能宣言》，旨在确保AI技术是“安全、可靠和值得信任的”，并承诺以“开放”“包容”和“道德”的方式开发AI。
  • 美英立场：美国和英国拒绝签署该宣言，理由是国家安全问题和对治理的分歧。美国副总统JD Vance警告欧洲不要过度监管AI，称这可能会扼杀行业发展。
  • 欧洲计划：欧盟委员会主席冯·德莱恩宣布了一项2000亿欧元的AI投资计划，旨在将欧洲定位为美国AI开发的开源替代品。加拿大投资公司Brookfield也计划在法国投资207亿美元建设AI数据中心。
  • 行业反应：Anthropic CEO Dario Amodei称峰会是“错失的机会”，强调需要加快AI治理进程，以应对技术快速发展的挑战。
 
【🚀 精选内容】
我用OpenGlass做了一个AI眼镜【上篇】
Flux 完整的 Lora 设置和数据集指南 - 两周学习的事后分析[译文]
Midjourney上线人物一致功能 我拥有了一个IP宇宙
❤ 如果对你有帮助，欢迎分享或者Buy Me A Coffee ❤
 
💡
对这个话题感兴趣的小伙伴，欢迎加我一起探索交流~
 
notion image
 
 
 
 
 
 
]]> <![CDATA[AIDaily 078/100 OpenAI超级碗首秀，字节发布Goku广告模型、艺术家抵制佳士得AI拍卖、Anthropic经济指数发布…]]> http://rocketlu.cn/article/Daily78 http://rocketlu.cn/article/Daily78 Tue, 11 Feb 2025 00:00:00 GMT

AIDaily 078/100

🖼️
每天都能接收到无数条与AI、科技、艺术、经济相关的信息。 但是感觉自己就像那只掰玉米的熊，掰了一路，最后出来发现只剩下手里的两根玉米🌽。 今年希望能够以Newsletter的形式，给自己掰下来的玉米们找个背篓。 人们会被自己热爱的事物改变，而没有人因为给予而贫穷。

Vol.078

by Rocket
探索·AI产品

飞书多维表格接入DeepSeek R1模型，功能强大且实用

飞书多维表格已正式接入DeepSeek R1模型，这一集成极大地提升了其在数据处理与分析上的智能化水平。用户现在可以在多维表格的AI字段捷径中直接调用DeepSeek R1模型，实现以下功能：
  1. 论文解读与扩展：用户可以上传PDF文件，DeepSeek R1能够自动分析论文的关键信息，包括优点和不足，并生成社交媒体的发布文案。
  1. 虚拟数字人视频生成：支持直接生成虚拟数字人视频，适用于广告视频生成。
  1. 产品展示视频生成：可以从产品图片生成人物互动视频，保持产品样式。
  1. 批量处理任务：用户可以在多维表格中一次性输入多个提示词，实现批量处理任务，无需逐个调用API。
 

Google DeepMind推出AlphaGeometry2：在IMO几何问题上超越金牌得主

Google DeepMind的AlphaGeometry2在解决国际数学奥林匹克竞赛（IMO）几何问题方面取得了重大突破，其表现超过了平均金牌得主。
  • 性能提升：AlphaGeometry2解决了过去25年IMO中84%的几何问题，显著高于其前身AlphaGeometry1的54%解题率。
  • 技术细节：该系统结合了谷歌Gemini系列的语言模型和符号引擎，通过神经符号混合方法解决复杂的几何问题。
  • 训练数据：为了解决几何问题，DeepMind为AlphaGeometry2生成了超过3亿个不同复杂度的合成定理和证明。
 

Perplexity AI推出“百万美元问题”抽奖活动

Perplexity AI宣布将在2025年2月9日超级碗期间举办“百万美元问题”抽奖活动。参与者需要在比赛期间通过Perplexity应用程序向AI提问，以获得抽奖资格。具体参与条件包括：
  • 必须是18岁及以上的美国居民。
  • 需要下载Perplexity移动应用，并在比赛期间（太平洋时间下午3点至晚上7点半）至少向AI提问5个问题。
  • 每人最多可获得5次抽奖机会。活动结束后，将在比赛结束后约1小时内随机抽取获奖者。
 

🏈 OpenAI超级碗首秀：用动画点讲述人类发明史

OpenAI在2025年超级碗上发布了首条电视广告，这是其首次大规模的付费广告活动，该广告时长为60秒，投放成本约为1400万美元。
  • 创意呈现：广告通过独特的点画风格动画，展示了人类技术的进化，从早期的火和轮子到现代的DNA测序和太空探索，最终聚焦于ChatGPT处理日常任务的能力，创意源自ChatGPT的光标点。
  • 聚焦应用：广告未过度宣传AI能力，而是聚焦于其实际应用，避免引发争议。
 
 
探索·AI开源

字节跳动发布Goku和Goku+视频生成模型

字节跳动与香港大学联合发布了名为Goku的视频生成模型，以及其广告视频生成的扩展版本Goku+。这些模型能够根据文本提示生成高质量的视频内容，支持多种生成任务，包括文本到视频、图像到视频、文本到图像等。

Goku模型特点

  • 高质量视频生成：Goku能够生成包括动画、自然风光、动物行为等多种场景的视频，效果生动真实。
  • 虚拟数字人视频：支持直接生成虚拟数字人视频，Goku+将文本转换为超现实的人类视频，具有稳定的手部动作和丰富的面部及身体动作。
  • 产品展示视频：可以从产品图片生成人物互动视频，保持产品样式，适用于广告视频生成。
  • 广告视频生成：Goku+专注于广告场景，能够根据文本描述生成高质量的广告视频，支持人物与产品的自然互动，显著降低制作成本。

技术细节

  • 数据集：Goku团队构建了包含3600万视频和1.6亿图像的数据集，通过多种技术严格筛选数据质量。
  • 架构：基于Rectified Flow Transformer框架，支持多模态训练，能够处理复杂的时空依赖关系。
  • 性能：在多个视频生成基准测试中表现优异，特别是在VBench测试中，Goku-T2V模型以84.85分获得第二名。

应用场景

  • 广告视频制作：Goku+能够根据文本描述生成高质量的广告视频，支持从文本直接生成视频、从产品图片生成人物互动视频，以及生成产品展示视频。
  • 虚拟数字人视频生成：Goku+可以将文本转换为超现实的人类视频，生成超过20秒的视频，具有稳定的手部动作和丰富的面部及身体动作。
  • 内容创作：Goku能生成多种场景的视频，为艺术创作者提供丰富的灵感和创作素材。
  • 教育与培训：可用于制作教育视频和培训课程，提高教育培训的效果和趣味性。
  • 娱乐产业：在电影、电视剧、动画等娱乐产业中，Goku可用于内容制作和特效生成。

项目资源

 

cursor-tools增强Cursor Agent的能力

cursor-tools是一个强大的扩展工具集，旨在显著增强Cursor Agent的能力。
notion image
  • 网页搜索功能：通过Perplexity AI，cursor-tools为Cursor提供了网页搜索功能，帮助开发者快速获取最新信息。
  • 大规模代码库分析：支持使用Gemini 2.0进行大规模代码库分析，提升代码理解和生成的效率。
  • 浏览器自动化：cursor-tools支持浏览器自动化操作，包括打开网页、执行操作、观察交互元素和提取数据等。
  • GitHub Issues和Pull Requests支持：cursor-tools允许AI编码助手直接从命令行访问和处理GitHub Issues和Pull Requests。
 
探索·AI版权

🎨 超过2000名艺术家联名抵制佳士得AI艺术拍卖

佳士得即将举办的“增强情报”AI艺术拍卖会引发了广泛争议：
  • 版权争议：艺术家指责AI模型在训练中使用了受版权保护的作品，未经艺术家授权。
  • 公开信：超过2800名艺术家签署公开信，要求佳士得取消此次拍卖。
  • 拍卖背景：此次拍卖会计划于2月20日开始，展出现场作画机器人等作品。
  • 佳士得回应：拍卖行表示，参与拍卖的艺术家作品使用AI是为了增强创作，且数据训练基于艺术家自身的输入。
  • 艺术家态度：部分艺术家对AI在艺术创作中的应用持开放态度，但许多传统艺术家担心其权益受损。
此次事件凸显了AI技术在艺术领域应用中的版权和伦理问题，引发了艺术界对AI创作与传统艺术创作之间界限的深刻思考。
 
探索·新研究

🌐 OpenAI高管在东京大学探讨AI未来

OpenAI首席执行官Sam Altman和首席产品官Kevin Weil在东京大学全球教育中心发表演讲，回答了关于AI未来、GPT-5等新模型以及Stargate项目等问题。
  • Stargate项目：Altman表示，价值5000亿美元的Stargate项目将使下一代模型能够开发出首批“科学知识的新位”。
  • 模型能力：OpenAI的内部模型目前是全球第50大程序员，预计到今年年底可能达到第1名。
  • 开源方向：Altman认为OpenAI将朝着开源方向发展，因为社会愿意接受开放模型带来的权衡。
  • AI能力提升：Altman将AI能力的提升比作“试图超越计算器”，认为AI将在每个通用领域超越人类。
 

📈 Anthropic发布“Anthropic经济指数”：AI使用模式深度分析

Anthropic通过分析Claude上的数百万条匿名聊天记录，发布了“Anthropic经济指数”，揭示了AI在不同职业中的使用模式：
  • 职业分布：在22个职业类别中，“计算机与数学”占比最高（37.2%），而“办公室与行政支持”在劳动力市场中占比最高（12.2%）。渔业、林业在两个维度中的占比都最低（0.3%与0.1%）。
  • 薪资与AI使用：AI使用集中在中等至中高收入群体，低收入和高收入职业的AI使用率较低。
  • 增强与自动化：AI使用更偏向“增强”（57%），即与人类协同完成任务，而非“自动化”（43%），即AI直接执行任务。
  • 使用深度：仅4%的职业在超过75%的任务中使用AI，但36%的职业在至少25%的任务中使用AI，说明中等程度的使用更为普遍。
Anthropic还开源了数据集，供研究人员进一步分析。
 

AI技术的快速进步：五年内基准测试的显著提升

Jason Wei发布的图表展示了过去五年AI技术在各种基准测试中的快速进步，直观地反映了AI能力的显著提升。
notion image
  • 基准测试（Benchmark）：
    • 定义：基准测试是评估AI能力的一种方法，通过让AI回答问题或完成任务并打分，类似于学校的考试。
    • 类型：
      • 常识问答：如TriviaQA，测试AI对琐事或常识性问题的回答能力。
      • 多科目知识：如MMLU，测试AI在不同科目上的知识水平。
      • 基础数学：如GSM8K，测试AI解决小学或基础数学问题的能力。
      • 高级理工科考试：如MATH、AIME、GPQA等，测试AI在更专业、难度更高的数学和理工科问题上的表现。
      • “人类的最终考试”：假设性的“终极测试”，代表AI面临的极具挑战性的重要考试。
  • 测试结果：图表中的每条彩色线代表一种特定的AI测试，展示了AI在这些测试中的表现随时间的快速提升。
  • 技术进步：AI技术在短短几年内不断更新升级，准确率不断提高，甚至超过人类平均水平或接近满分。
  • 行业影响：
    • 学习能力：AI的学习和推理能力正在以惊人的速度提升。
    • 复杂任务处理：AI在处理复杂任务方面的能力也在迅速增强。
    • 未来展望：AI的快速进步预示着未来可能在更多领域超越人类，带来深远的变革。
这张图表不仅展示了AI技术的快速进步，也提醒我们AI的发展速度可能远超我们的预期。未来，AI可能会在更多领域实现突破，带来更多的可能性和挑战。
 
探索·AI人员变动

Ilya Sutskever的Safe Superintelligence寻求200亿美元估值融资

Safe Superintelligence（SSI）由OpenAI前首席科学家Ilya Sutskever于2024年6月创立，目标是开发具有“超级智能”的AI模型，并防止有害输出。
  • 融资情况：SSI正在与投资者洽谈，计划以至少200亿美元的估值进行融资。这将是该公司继2024年9月以50亿美元估值完成10亿美元融资后的又一轮重大融资。
  • 技术方向：SSI专注于开发安全的超级智能AI模型，其技术路线与现有AI开发方法不同，旨在探索新的研究方向。
  • 团队构成：SSI的创始团队还包括前OpenAI研究员Daniel Levy和前Y Combinator合伙人Daniel Gross，后者曾领导苹果公司的AI开发工作。
 
 
【🚀 精选内容】
❤ 如果对你有帮助，欢迎分享或者Buy Me A Coffee ❤
 
💡
对这个话题感兴趣的小伙伴，欢迎加我一起探索交流~
 
notion image
 
 
 
 
 
 
]]> <![CDATA[AIDaily 077/100 ElevenLabs Studio开放使用、OpenAI Canvas开放共享、Pika Labs Pikadditions发布、OpenAI超级碗广告、Mistral Le Chat移动应用发布…]]> http://rocketlu.cn/article/Daily77 http://rocketlu.cn/article/Daily77 Mon, 10 Feb 2025 00:00:00 GMT

AIDaily 077/100

🖼️
每天都能接收到无数条与AI、科技、艺术、经济相关的信息。 但是感觉自己就像那只掰玉米的熊，掰了一路，最后出来发现只剩下手里的两根玉米🌽。 今年希望能够以Newsletter的形式，给自己掰下来的玉米们找个背篓。 人们会被自己热爱的事物改变，而没有人因为给予而贫穷。

Vol.077

by Rocket
探索·AI产品

ElevenLabs Studio工具开放使用 可制作长播客

ElevenLabs宣布其Studio工具现已向所有用户开放。Studio是一个长格式文本到音频的编辑器，专为创作者和讲故事的人设计，能够将有声读物、旁白、文章甚至播客等带入生活。用户可以利用其多角色、精细的声音定制、节奏控制等功能，将文字内容转化为生动的音频作品。
此次更新包括以下亮点：
  • 节奏控制：用户现在可以通过菜单栏添加持续时间为0.1秒至3秒的停顿。
  • 自动角色声音分配：当导入包含多个角色的有声读物或剧本时，系统会自动为每个角色分配不同的声音。
  • GenFM功能：用户可以轻松创建播客风格的讨论，通过上传文档或从URL导入内容，选择主持人与嘉宾之间的对话形式或仅由主持人播报的形式。
此外，ElevenLabs Studio还支持多种文件格式，包括EPUB、TXT、PDF、HTML等，用户可以直接从URL初始化项目。该工具提供了一个全面的编辑器，用户可以添加多个章节，为不同部分分配独特的声音，重新生成并下载选定的短语，并锁定已完成的部分以便更好地组织内容。
ElevenLabs Studio的开放，为创作者和企业提供了更强大的工具，用于制作高质量的音频内容，无论是有声读物、播客还是其他长格式音频项目。
 

OpenAI Canvas及o1模型更新

OpenAI宣布用户现在可以与合作者共享Canvas工作区，方便团队协作和项目共享。
  • o1模型集成：Canvas现在集成了o1模型，支持更复杂的任务处理，如代码生成和文档编辑。
  • HTML与React支持：Canvas新增了对HTML和React代码的渲染支持，提升开发效率。
  • o3-mini模型更新：
    • 思维链更新：OpenAI更新了o3-mini模型的思维链展示方式，使其更透明、更详细，帮助用户理解模型的推理过程。
此次更新面向所有用户，包括免费和付费用户，付费用户还将体验到更高级的o3-mini-high版本。
 

Pika Labs推出Pikadditions：视频编辑新突破

  • 功能介绍：
    • 无缝集成：Pikadditions允许用户将任何人物或物体无缝融入现有视频中，同时保留原始视频和声音。
    • 操作简单：用户只需上传一张图片和一个视频，并输入简单的提示（Prompt），AI将自动完成合成。
  • 技术特点：
    • 现实与想象融合：通过先进的AI技术，Pikadditions在1080p高清分辨率下，实现虚拟元素与现实画面的完美融合。
    • 智能场景整合：系统会根据视频中的动作和场景上下文，自动调整添加元素的大小、位置和动作，确保自然和引人入胜的整合。
    • 专业级增强引擎：利用最新的2.1模型技术，Pikadditions提供工作室级别的效果，确保每个添加元素自然地融入视频。
  • 使用方法：
    • 上传视频和图片：用户需上传一个至少五秒长的视频和一张图片。
    • 输入提示：描述如何将添加的元素融入视频，考虑当前动作和场景上下文。
  • 免费体验：新用户注册可获得15次免费体验机会。
 

OpenAI将在超级碗期间首次投放广告

OpenAI将在2025年超级碗期间播出其首个电视广告，这是其首次大规模的付费广告活动。
该广告时长为60秒，投放成本约为1400万美元，预计观看人数将达到1.3亿。
  • 广告创意：广告通过独特的点画风格动画，展示了人类技术的进化，从早期的火和轮子到现代的DNA测序和太空探索，最终聚焦于ChatGPT处理日常任务的能力。
 

Mistral推出Le Chat移动应用及平台更新

法国AI创业公司Mistral AI发布了iOS和Android版的Le Chat移动应用，这是其聊天机器人Le Chat的手机版，具备网页搜索、多模态输入、图像生成和代码解释器等功能。
notion image
  • 核心功能：
    • 网页搜索：结合网页搜索、新闻、社交媒体平台及其他来源的新近资讯，确保回应的正确及时效性。
    • 多模态输入：支持视觉和文件理解，基于视觉和光学字符识别（OCR）模型，可准确读取PDF、试算表、log文件与复杂图片文件。
    • 代码解释器：内置Code interpreter功能，用户可在沙箱环境中运行程序、进行科学分析、执行虚拟化及模拟。
    • 图像生成：基于Black Forest Labs Flux Ultra模型，生成逼真的高品质图片。
  • 速度优势：Le Chat引入了“Flash Answers”功能，处理速度超过ChatGPT和Claude等竞争对手的10倍，1秒可输出1,000字。
  • 定价方案：
    • 免费版：提供最新模型、网页搜索、图像生成、文件上传、打开URL及Canvas功能。
    • Pro版：每月14.99美元，提供Mistral最高性能模型、无限消息、更高速率限制，并可选择不与Mistral共享数据。
    • Team版：每月每用户24.99美元，面向企业用户。
    • 企业版：提供本地部署、VPC或SaaS部署选项，支持自定义模型和工具集成，目前处于私密预览阶段。
      •  

GitHub Copilot全面整合智能体技术

GitHub Copilot引入了新的代理模式，能够自主迭代代码，自动识别并修复运行时错误，同时推断并执行额外任务，显著提升开发效率。
  • 视觉功能（Vision）：新增“视觉”功能，支持用户上传截图、照片或图表等非文本文件，并据此生成界面、代码及替代文本。
  • Copilot Edits功能：该功能现全面可用，支持在VS Code中通过自然语言指令进行多文件编辑，提供代码更改建议。
  • 下一步编辑建议（Next Step Editing Suggestions）：分析开发者最近的操作，预测其下一步需求，并提供智能编辑建议。
  • Project Padawan：预告了一个名为Project Padawan的自主编码代理，预计今年推出，能够处理GitHub问题并生成经过全面测试的拉取请求。
 
探索·AI数字人

AI生成的贾斯汀·比伯歌曲引发关注

2024年4月，一首据称由贾斯汀·比伯演唱的AI生成歌曲开始在社交媒体平台上广泛传播，尤其是在TikTok和YouTube上。假AI生成的贾斯汀·比伯（Justin Bieber）的歌曲在YouTube上有近200万次观看。
 
探索·新研究

Neuralink揭示其三名患者如何“在日常生活中使用心灵感应”

Neuralink的实验性脑接口技术取得了显著进展，其三名患者通过植入的脑机接口设备实现了“心灵感应”功能。
  • 患者体验：
    • 首位患者Noland Arbaugh：通过植入设备，Noland能够仅凭意念控制电脑，观看视频、阅读、下棋和玩游戏，甚至在飞机上使用该技术。
    • 第二位患者：成功植入了400个电极，设备运行良好，患者能够通过意念控制外部设备。
  • 技术细节：
    • 植入设备：Neuralink的设备通过植入大脑的电极捕捉神经信号，并将其转化为计算机可识别的指令。
    • 产品Telepathy：该产品旨在帮助神经元受损的人恢复身体功能，使他们能够通过意念控制设备。
  • 未来展望：
    • 更多植入手术：Neuralink计划在2025年完成至少8次植入手术，进一步验证技术的安全性和实用性。
    • 终极目标：马斯克表示，Neuralink的终极目标是让人类与AI建立共生关系，降低AI带来的风险。
 
 
【🚀 精选内容】
我用OpenGlass做了一个AI眼镜【上篇】
Flux 完整的 Lora 设置和数据集指南 - 两周学习的事后分析[译文]
Midjourney上线人物一致功能 我拥有了一个IP宇宙
❤ 如果对你有帮助，欢迎分享或者Buy Me A Coffee ❤
 
💡
对这个话题感兴趣的小伙伴，欢迎加我一起探索交流~
 
notion image
 
 
 
 
 
 
]]> <![CDATA[AIDaily 076/100 DeepSeek VL2-Small发布、阿里巴巴Qwen2.5-Max超越DeepSeek、Meta推出Apollo和Motivo、Google Gemini 2.0系列发布…]]> http://rocketlu.cn/article/Daily76 http://rocketlu.cn/article/Daily76 Fri, 07 Feb 2025 00:00:00 GMT

AIDaily 076/100

🖼️
每天都能接收到无数条与AI、科技、艺术、经济相关的信息。 但是感觉自己就像那只掰玉米的熊，掰了一路，最后出来发现只剩下手里的两根玉米🌽。 今年希望能够以Newsletter的形式，给自己掰下来的玉米们找个背篓。 人们会被自己热爱的事物改变，而没有人因为给予而贫穷。

Vol.076

by Rocket
探索·AI产品
Perplexity推出o3-mini：支持Web搜索的AI推理模型
Perplexity的o3-mini模型现在支持Web搜索功能，用户可以利用其推理能力获取最新答案，并提供相关网页链接。免费用户每天最多可以执行五次搜索。Pro用户每天可获得多达500次搜索。
  • 推理能力：o3-mini在数学、编程和科学等STEM领域表现优异，支持复杂任务的分解与多步决策。
  • 性能提升：与o1-mini相比，o3-mini的响应速度提升了24%，答案准确性也有所提高。
  • 成本效益：o3-mini的定价为每百万输入tokens 1.10美元，每百万输出tokens 4.40美元，相比o1-mini降低了63%。
 
DeepSeek R1引发的全球关注与争议
DeepSeek的R1模型发布后，美国科技股出现了大幅波动，纳斯达克综合指数下跌约3%，英伟达的股价下跌超过15%。这一现象表明市场对DeepSeek的低成本、高性能模型的出现感到不安，担心其可能对现有AI巨头构成威胁。
  • 技术细节与优势：
    • DeepSeek-R1采用了纯强化学习的方法，实现了接近OpenAI o1的性能，但训练成本仅为557万美元，研发周期不到两个月。
    • DeepSeek-R1的开发过程包含了两个强化学习阶段和两个监督微调阶段，这些阶段相辅相成，为模型的推理和非推理能力打下了基础。
  • 创新与竞争：
    • 创新激励：DeepSeek的R1模型可能激励美国AI公司加快创新速度，Y Combinator的Garry Tan表示，更便宜、更易获取的训练方法将加速AI应用的需求。
    • 开源合作的力量：Meta的首席AI科学家Yann LeCun强调，DeepSeek的成功得益于开源研究和合作，这表明开源模型在AI发展中的重要性。
  • 企业AI采用率：
    • 数百家公司，尤其是与政府相关的企业，已屏蔽了DeepSeek。Armis表示大约70%的客户已请求阻止访问DeepSeek，Netskope威胁实验室总监Ray Canzanese透露，52%的Netskope客户完全阻止了对DeepSeek网站的访问。
    • 微软、亚马逊、英伟达等科技巨头已将DeepSeek-R1集成到其产品和服务中。
  • 监管与市场考量：
    • 美国政府正在调查DeepSeek是否通过新加坡的第三方购买英伟达（NVIDIA）的先进半导体，以规避美国对中国用于AI任务的芯片销售限制。
    • 美国国会众议院首席行政事务官已向国会办公室发出通知，警告不要使用DeepSeek的服务。
    • 美国海军、国会、国防部以及NASA等机构已相继禁止在政府官方设备上使用DeepSeek。
    • 美国政府还在考虑发布新法案，下载DeepSeek将被定为犯罪，最高判处20年监禁。
      • 法案链接：https://www.hawley.senate.gov/wp-content/uploads/2025/01/Hawley-Decoupling-Americas-Artificial-Intelligence-Capabilities-from-China-Act.pdf
  • 国际社会的反应：
    • 意大利、爱尔兰等多国政府已开展封锁行动或计划对DeepSeek进行审查。
    • 比利时政府隐私监管机构确认收到有关DeepSeek的投诉，但未就是否已对DeepSeek启动调查作出评论。
DeepSeek R1的发布不仅在技术上取得了突破，也在AI行业内部掀起了关于成本效益、开源合作以及全球竞争格局的广泛讨论。
 
探索·AI大模型
DeepSeek VL2-Small：强大的视觉语言模型
  • 功能特点：
    • 视觉理解：DeepSeek-VL2-Small特别擅长分析文档和图像，能够处理视觉问答、光学字符识别、文档/表格/图表理解以及视觉定位等任务。
    • 多图像对话：可以分析多张图像之间的关联和差异，并整合内容进行简单推理，例如根据几张图像编写创意故事。
    • 视觉定位：能够识别图像中的物体位置，即使在不同场景下也能准确识别。
  • 技术优势：
    • 动态高分辨率视觉编码：采用动态平铺视觉编码策略，有效处理不同纵横比的高分辨率图像。
    • 多头潜在注意力机制：优化语言模型架构，减少计算开销，提高推理速度。
    • 混合专家（MoE）架构：在任务执行期间仅激活必要的参数子集，提高可扩展性和效率。
  • 模型变体：
    • DeepSeek-VL2-Tiny：1.0B激活参数，适合轻量级部署。
    • DeepSeek-VL2-Small：2.8B激活参数，适合中等计算需求。
    • DeepSeek-VL2：4.5B激活参数，适合资源密集型任务。
DeepSeek-VL2-Small的发布为视觉语言模型领域带来了新的突破，其强大的功能和高效的架构使其成为开发者和研究人员的有力工具。
 
阿里巴巴Qwen2.5-Max超越DeepSeek V3和Meta Llama 3.1
阿里巴巴的Qwen2.5-Max在多个基准测试中取得了优异成绩，超越了DeepSeek V3和Meta的Llama 3.1。
notion image
  • 测评结果：
    • 在数学和编程方面排名第一。
    • 在处理复杂任务的硬提示（hard prompts）方面排名第二。
    • 在总体排名中跻身第7，领先于DeepSeek V3、O1-Mini和Claude-3.5-Sonnet等顶级专有大语言模型。
  • 技术架构：Qwen2.5-Max采用了超大规模的专家混合（MoE）模型架构，预训练数据量超过20万亿个token，运用监督微调（SFT）和人类反馈强化学习（RLHF）技术进行优化。
 
Meta推出Apollo：专注于视频理解的全新Video-LMM系列
尽管多模态模型（LMMs）在文本和图像任务上取得了显著进展，但基于视频的模型仍面临挑战。视频结合了空间和时间维度，需要更多计算资源，且现有方法难以捕捉运动和时间模式。
  • Apollo模型：Meta AI和斯坦福大学的研究人员开发了Apollo，这是一系列专注于视频的LMMs，旨在突破视频理解的界限。
  • 主要创新：
    • 每秒帧采样（fps）：与均匀帧采样相比，fps采样保持一致的时间流，使Apollo能够更好地理解视频中的运动。
    • 双视觉编码器：结合SigLIP和InternVideo2，实现视频数据的平衡表示。
    • 标记重采样：通过感知器重采样器减少视频标记，处理长视频时无需过多计算开销。
    • 优化训练：采用三阶段训练流程，确保稳定有效的学习。
  • 性能优势：Apollo在多个基准测试中取得了优异成绩，超越了DeepSeek V3和Meta的Llama 3.1。
 
Meta Motivo：连接人类动作与人形机器人的新算法
Meta Motivo基于一种名为Forward-Backward Representations with Conditional Policy Regularization（FB-CPR）的特殊算法，通过分析大量未标记的动作数据来学习人类的运动。
  • 主要特点：
    • 适应性：能够适应不同条件，如重力变化或风等干扰，仍能执行类似人类的动作。
    • 无监督学习：不依赖于每个任务的具体指令，减少了为不同用途编程这些系统的工作量。
  • 应用场景：可用于创建逼真的视频游戏角色动画、辅助物理康复或控制人形机器人执行精确动作。
 
Google Gemini 2.0系列发布，推动AI技术普及化
  • Gemini 2.0 Flash Thinking Experimental：
    • Google发布了Gemini 2.0 Flash Thinking Experimental模型，该模型能够将复杂任务分解为一系列步骤，并展示其推理过程。这使得用户可以更清楚地了解模型为何以某种方式响应，其假设是什么，以及推理的逻辑路径。
    • 性能优势：该模型在LMArena的基准测试中被评为“世界上最好的模型”，并且对所有用户免费开放。
    • 应用场景：适用于需要深入研究、构建自己的AI代理以及部署编码项目的人群。
    • 对比 DeepSeek V3 （粗算），成本低 6 倍；输出速度快 60 倍；上下文长 16 倍；原生全模态支持；Google 亲生，算力管够
  • Gemini 2.0 Pro Experimental：
    • 功能特点：专为复杂任务设计，提供更好的事实性和更强的编程和数学提示性能。
    • 适用人群：目前仅对开发人员和Gemini高级用户开放。
  • Gemini 2.0 Flash-Lite：
    • 功能特点：性能优于其前身Gemini 1.5 Flash，但保持了相同的速度和成本。它是一个多模态模型，能够处理图像和文本输入，并生成文本输出。
    • 性能优势：在大部分基准测试中优于Gemini 1.5 Flash，能够为4万帧图片生成一行的文本图说，在AI Studio中花费不到1美元。
  • 行业影响：
    • AI技术普及化：Google的这一系列发布标志着AI技术向更广泛的用户群体开放，让任何人进行深入研究、建立自己的代理并免费部署编码项目。
    • 市场竞争：Google计划在2025年投入约750亿美元用于AI项目，显示出其在AI领域的持续投入和竞争决心。
Google预告将在未来几个月内逐步增加新的模态能力。随着AI技术的快速发展，预计OpenAI或Anthropic等竞争对手将很快推出更先进的模型。
 
探索·AI数字人
ByteDance推出OmniHuman-1：从单张照片生成逼真人像视频
ByteDance的OmniHuman-1模型能够通过单张照片生成逼真的全身人像视频，支持自然的说话、唱歌和动作。
  • 多模态输入：该模型支持多种输入方式，包括音频驱动的动画（生成同步的唇部动作和手势）、视频驱动的动画（复制参考视频中的动作），以及多模态融合（结合音频和视频信号，精确控制身体各部位）。
  • 技术架构：OmniHuman-1采用扩散变换器（Diffusion Transformer）架构，结合“全条件训练策略”（Omni-Conditions Training），能够处理多种输入条件，生成自然流畅的动作。
  • 性能优势：OmniHuman-1在多个基准测试中表现优异，包括唇部同步精度、手势表现力和手部关键点置信度等指标，均优于其他领先模型。
  • 应用场景：该模型适用于虚拟形象、数字故事创作、游戏开发和AI辅助电影制作等领域，能够根据不同的身体比例和宽高比生成视频。
  • 数据利用：OmniHuman-1利用了大量数据进行训练，包括18,700小时的人类动作数据，这使得模型能够生成更真实、更自然的动作。
OmniHuman-1的发布标志着AI视频生成技术的重大进步，其生成的视频在视觉上几乎与真实视频无法区分。
 
探索·新投融资
ElevenLabs完成2.5亿美元C轮融资
AI音频技术公司ElevenLabs完成了2.5亿美元的C轮融资，公司估值达到30亿至33亿美元。
  • 投资方：此轮融资由ICONIQ Growth领投，其他参与方包括a16z、NEA、World Innovation Lab等。
  • 技术特点：ElevenLabs专注于AI语音克隆和配音技术，其产品包括对话AI、语音设计、音效模型、多语言配音等。
  • 应用场景：ElevenLabs的技术被广泛应用于内容创作、客户支持、游戏、教育和无障碍等领域。
  • 未来计划：融资将用于继续开发音频工具和业务拓展
 
Cursor成为最快达到1亿美元年收入的AI编程助手
根据Sacra的估计，Cursor在2024年底达到了1亿美元的年收入，比2023年的100万美元增长了9900%。这一增长速度使其成为历史上从100万美元到1亿美元年收入增长最快的SaaS公司。
  • 用户基础：Cursor通过大约36万名主要为个人开发者的客户群体达到了这一里程碑，这些客户每月支付20-40美元，平均合同价值为276美元。
  • 市场表现：Cursor的AI代码编辑器在开发者中迅速被采用，拥有超过4万名付费客户，包括OpenAI、Midjourney、Perplexity和Shopify等知名科技公司的工程师。
  • 产品特点：Cursor基于VS Code构建，并扩展了AI功能。它通过智能代码补全、AI助手回答编程问题以及一系列工具来简化编码过程。
  • 公司背景：Cursor由Anysphere开发，该公司由几位麻省理工学院的学生于2022年创立。Anysphere在2024年12月完成了1.05亿美元的B轮融资，投后估值达到26亿美元。
  • 行业影响：Cursor的快速增长和市场表现表明，AI编程助手正在成为软件开发中不可或缺的工具。许多风险投资家预测，由于这些工具带来的效率提升，未来初创公司可能需要更少的软件开发人员。
Cursor的快速崛起不仅展示了AI技术在提高编程效率方面的潜力，也反映了市场对AI辅助开发工具的强烈需求。
 
探索·新合作
OpenAI与SoftBank成立新公司SB OpenAI Japan
OpenAI与SoftBank集团宣布成立一家名为SB OpenAI Japan的合资企业，旨在为日本企业提供定制化的人工智能服务。
  • 投资规模：SoftBank集团将每年支付高达30亿美元，以将OpenAI的最新模型整合到其企业产品中。
  • 技术目标：合资企业将专注于开发和推广名为“Cristal intelligence”的先进企业级AI解决方案，该方案能够安全地整合企业的系统和数据。
  • 市场定位：SB OpenAI Japan将独家向日本的主要公司销售Cristal intelligence，帮助企业实现任务自动化和业务转型。
  • 合作意义：此次合作不仅将推动SoftBank集团的运营变革，还将为日本乃至全球的企业工作方式带来革命性变化。
  • 技术基础：Arm公司将提供计算平台，支持从云端到边缘的AI代理的性能、效率和可扩展性。
  • 未来展望：通过在日本的合作经验，双方计划创建一个可在全球范围内复制的AI驱动转型模型。
这一合作标志着OpenAI和SoftBank集团在AI领域迈出了重要一步，旨在通过定制化的AI解决方案提升企业的运营效率和创新能力。
 
Retro Biosciences与OpenAI合作开发GPT-4b Micro
Retro Biosciences与OpenAI合作，开发了一种名为GPT-4b Micro的AI模型，旨在通过重新设计蛋白质来延长人类寿命。
  • 技术特点：GPT-4b Micro专注于Yamanaka因子，能够将成人皮肤细胞重新编程为多能干细胞，效率比传统方法提高了50倍以上。
  • 应用场景：该技术有望在器官再生和细胞替代疗法中取得突破，可能将人类寿命延长多达十年。
  • 项目进展：目前没有明确的完成时间表，但OpenAI和Retro Biosciences承诺将与科学界分享研究成果。
 
 
【🚀 精选内容】
❤ 如果对你有帮助，欢迎分享或者Buy Me A Coffee ❤
 
💡
对这个话题感兴趣的小伙伴，欢迎加我一起探索交流~
 
notion image
 
 
 
 
 
 
]]> <![CDATA[DeepSeek-R1 详解：如何打造推世界顶级推理大模型]]> http://rocketlu.cn/article/DeepSeekR1 http://rocketlu.cn/article/DeepSeekR1 Mon, 10 Feb 2025 00:00:00 GMT

引言

DeepSeek-R1 是 AI 发展的又一重要里程碑，尤其对机器学习（ML）和研究社区而言，它的发布具有以下几个关键意义：
  • 它是一个开源权重模型，并提供了更小、更精简的版本。
  • 它分享并探讨了一种训练方法，可用于复现类似 OpenAI O1 这样的推理型大模型。
本文将带您深入了解 DeepSeek-R1 的构建过程。

核心内容

  1. 回顾：大语言模型（LLM）是如何训练的
  1. DeepSeek-R1 训练方法
      • 长链推理 SFT 数据
      • 一个高质量的推理模型（但在非推理任务上表现较差）
      • 通过大规模强化学习（RL）打造推理模型
        • R1-Zero：大规模推理导向的强化学习
        • 用中间推理模型生成 SFT 推理数据
        • 通用 RL 训练阶段
  1. 模型架构
  1. 总结
 

回顾：大语言模型的训练方式

DeepSeek-R1 的生成方式与大多数 LLM 类似，每次预测一个 token（单词或字符片段）。但它在数学和推理任务上表现突出，因为它能够生成“思维 token”，即用于解释推理过程的额外内容，从而更深入地理解问题。
notion image
下图（摘自《Hands-On Large Language Models》第 12 章）展示了训练高质量 LLM 的三个关键步骤：
notion image
  1. 语言建模（Language Modeling）
      • 该步骤使用海量互联网数据训练模型，使其能够预测下一个单词。这一阶段的产物被称为基础模型（Base Model）。
  1. 监督微调（Supervised Fine-Tuning, SFT）
      • 通过人工标注数据进一步训练模型，使其更擅长回答问题和执行指令，从而得到指令微调模型（Instruction-Tuned Model），即 SFT 模型。
  1. 偏好调整（Preference Tuning）
      • 进一步优化模型，使其行为更符合人类偏好，最终形成用户在各种 AI 应用和交互界面中体验到的 LLM。

DeepSeek-R1 训练方法

DeepSeek-R1 遵循上述通用方法，但其细节有所不同。它的基础模型源自 DeepSeek-V3，但并未使用最终版本，而是基于最初的基础模型，然后经历 SFT 和偏好调整阶段。
在DeepSeek-R1 训练过程中有三个值得关注的关键点。
notion image

1. 长链推理 SFT 数据

notion image
DeepSeek-R1 训练了 60 万条 复杂的“思维链”推理示例（Chain-of-Thought, CoT），这些数据非常稀缺，并且人工标注成本极高。因此，如何创建这些数据成为一个关键问题。

2. 一个高质量的推理模型（但在非推理任务上表现较差）

DeepSeek-R1 训练数据部分来自一个“前置推理模型”（Interim Reasoning Model），它是 DeepSeek-R1 的一个兄弟版本，专门用于推理任务。
 
这个模型的灵感来自 R1-Zero（将在后面讨论）。虽然这个模型不适合作为通用 LLM，但它在极少人工标注数据的情况下，通过大规模强化学习，实现了卓越的推理能力。
 
然后，我们可以用这个推理专家模型的输出，训练一个更加通用的 LLM，使其既能处理推理任务，也能胜任非推理任务，以满足用户需求。
notion image

3. 通过大规模强化学习（RL）打造推理模型

这一过程包括两个关键步骤：
notion image

3.1 R1-Zero：大规模推理导向的强化学习

R1-Zero 是一个特殊的推理模型，它的独特之处在于：
  • 它没有使用 SFT 训练数据，而是直接从预训练的基础模型出发，通过强化学习（RL）训练。
  • 它的推理能力足以媲美 OpenAI O1 级别的模型。
notion image
这表明，现代基础模型已经达到了一定的质量和能力门槛（例如，DeepSeek-R1 的基础模型训练使用了 14.8 万亿个高质量 token）。此外，相比于通用聊天任务或写作请求，推理问题可以自动验证，从而减少对人工标注数据的依赖。
notion image

示例：自动验证推理任务

假设训练任务是：
编写一个 Python 代码，输入一个数字列表，返回排序后的结果，并在开头添加数字 42。
这种问题可以用多种方法自动验证，例如：
  • 语法检查：代码是否符合 Python 语法？
  • 可执行性检查：代码是否能正确运行？
  • 单元测试：自动化测试是否能验证代码行为？
  • 性能优化：是否能生成运行速度更快的代码？
 
我们可以在训练步骤中向模型提出这样的问题，并生成多种可能的解决方案。
notion image
我们可以自动检查（无需人工干预），发现第一个完成甚至不是代码。第二个是代码，但不是 python 代码。第三个是可能的解决方案，但无法通过单元测试，而第四个是正确的解决方案。
notion image
这些自动化检查信号可以用于强化学习，使模型在不断优化中提高推理能力。
notion image
正如本文图 2 所示，这些奖励信号和模型更新是模型在 RL 训练过程中不断改进任务的方式。
notion image
与此功能的提高相对应的是生成响应的长度，即模型生成更多的思考标记来处理问题。
notion image
这一过程非常有用，但 R1-Zero 模型尽管在这些推理问题上得分很高，却面临着其他问题，使其可用性低于预期。
尽管DeepSeek-R1-Zero表现出强大的推理能力，并能自主开发出意想不到的强大推理行为，但它也面临着一些问题。例如，DeepSeek-R1-Zero面临着可读性差和语言混杂等难题。
R1 的目的是成为一个更实用的模型。因此，它并不完全依赖于 RL 过程，而是在本节前面提到的两个地方使用：
  • 1 创建一个临时推理模型，以生成 SFT 数据点
  • 2 训练 R1 模型以改善推理和非推理问题（使用其他类型的验证器）
notion image
 

3.2 用中间推理模型生成 SFT 数据

为了使推理模型更加稳定，DeepSeek-R1 先进行少量 SFT 训练（大约 5000 条数据），然后利用该模型合成 60 万条 训练数据。
2.3.1. 冷启动 与DeepSeek-R1-Zero不同，为了防止从基础模型开始的RL训练出现早期不稳定的冷启动阶段，我们为DeepSeek-R1构建并收集了少量长CoT数据，以微调作为初始RL行为者的模型。 为了收集这些数据，我们探索了几种方法：以长 CoT 为例，使用少量提示；直接提示模型生成带有反思和验证的详细答案；以可读格式收集 DeepSeek-R1- Zero 输出；通过人工注释者的后期处理完善结果。
notion image
这一步被称为 冷启动（Cold Start）。初始数据来源包括：
  • 使用少样本提示（few-shot prompting）生成推理示例
  • 让模型生成详细答案并进行自我验证
  • 提取 DeepSeek-R1-Zero 生成的内容，并进行人工后处理
但是，等等，既然我们掌握了这些数据，为什么还要依赖 RL 流程呢？
这是因为数据的规模。尽管 5000 条 SFT 数据可手动标注，但 60 万条数据的规模则需要模型自动生成。 这个临时模型弥补了这一差距，并能综合生成极其宝贵的数据。
notion image
如果你对 “监督微调”（Supervised Fine-Tuning，SFT）的概念还不太了解，那么它就是以提示和正确完成的形式向模型提供训练示例的过程。
这张图展示了几个 SFT 训练示例：
notion image

3.3 通用 RL 训练阶段

最终，DeepSeek-R1 进入通用强化学习训练，使其不仅能处理推理任务，还能胜任其他非推理任务。例如：
  • 帮助性（Helpfulness）奖励模型
  • 安全性（Safety）奖励模型
这种方法类似于 Llama 模型的 RL 训练策略，使 DeepSeek-R1 既能推理，也能胜任更广泛的任务。
notion image

DeepSeek-R1 的模型架构

DeepSeek-R1 的底层结构依然是 Transformer 解码器（Decoder-Only Transformer），这一点与 GPT-2、GPT-3 以及其他 LLM 相似，由 61 层 Transformer 解码块 组成。其中：
  • 前三层是密集层（Dense Layers），即传统的 Transformer 层。
  • 其余部分采用专家混合（MoE）层，这意味着并非所有参数在每次计算时都被激活，而是仅启用特定的专家网络，以提高计算效率。
notion image

专家混合（MoE）结构的优势

这种 MoE 结构允许模型在不同任务上动态调度计算资源，提高效率。
  1. 计算资源优化：
      • 传统 Transformer 每一层都会激活所有参数，而 MoE 结构只激活部分专家层，从而降低计算开销，提高推理效率。
  1. 模型能力增强：
      • 通过 MoE，模型可以在不同任务上分配不同的专家，使其在推理、对话、代码生成等任务上表现更优。
notion image
更多技术细节可参考：
  • DeepSeekMoE：专家混合语言模型的终极优化 [查看报告]

总结

通过本篇文章，您应该对 DeepSeek-R1 的核心概念有所了解。
DeepSeek-R1 代表了推理型大模型训练的新范式，它通过强化学习、大规模推理数据合成以及专家混合架构，实现了卓越的推理能力和通用性。
 
💡
对这个话题感兴趣的小伙伴，欢迎加我一起探索交流~
 
notion image
 
 
]]>