「AI 来了，学习这件事会怎么变」

本期嘉宾是洋葱学园联合创始人和 CEO 杨临风，而他一直不怎么追风。

在哈佛读本科时，杨临风修的是计算机，而毕业后，他和朱若辰、李诺在 2013 年创立洋葱学园，做了教育科技，想让更多学生驾驭自主学习。

几年后在线教育融资汹涌，最火的形式是双师直播课、名师录播课等，而洋葱学园都没有做，他们不想做培训，继续用 5~8 分钟的动画内容吸引孩子课外自学。

今天我们聊 AI，临风也不怎么讲流行技术词汇，更多聊学习本身。

与其说洋葱是一家教育公司，它更像一家学习公司。他们一直在研究孩子可以如何自发、自主地学习。这在今天变得更重要了。也可以说，AI 正加速让学习回归本来面目。

本期节目由洋葱学园支持播出。

本期嘉宾： 
杨临风，洋葱学园联合创始人 &amp; CEO 
本期主播： 
程曼祺，晚点 LatePost 科技报道负责人

时间线跳转： 
-从公益到创业，追求实现“自主学习” 
02:32 哈佛支教、阳光书屋 
08:58 自主学习是意愿、能力和工具的协同 
16:04 为什么数学？为什么 5~8 分钟动画 
28:23 AI 能提升制作教育内容的效率，但提升有限

-在线教育最疯狂的那几年 
39:13 不做双师大班课，不追风口 
48:30 就算没有双减，双师大班也很难满足教育新需求

-AI 热潮之后 
52:51 洋葱、猿辅导、与爱为舞……AI 教育的不同思路 
01:05:45 AI 动摇应试教育，但学知识的过程依然必要，学校依然必要 
01:11:00 K12 最重要目标：学会自立 
01:15:52 各家大模型在教育场景的表现

-回归自主学习 
01:18:14 曾经受到的最大质疑：自主学习只适合少数人？ 
01:28:38 过去相信先赚钱再实现目标，后来发现不必如此 
01:33:55 创业不是开不开心的问题

连点成线

相关链接： 
108 期：<a href="https://podcast.latepost.com/108" target="_blank" rel="nofollow noopener">与马毅聊智能史:“DNA是最早的大模型”，智能的本质是减熵</a>

小红书@<a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;xsec_source=app_share&amp;xhsshare=CopyLink&amp;appuid=5dfa9e92000000000100626f&amp;apptime=1736682459&amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>即刻@<a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>

<img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt="">

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp; 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

<img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt="">

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

<img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt="">

<description>
 &lt;p&gt;&lt;strong&gt;「AI 来了，学习这件事会怎么变」&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;本期嘉宾是洋葱学园联合创始人和 CEO 杨临风，而他一直不怎么追风。&lt;/p&gt;

&lt;p&gt;在哈佛读本科时，杨临风修的是计算机，而毕业后，他和朱若辰、李诺在 2013 年创立洋葱学园，做了教育科技，想让更多学生驾驭自主学习。&lt;/p&gt;

&lt;p&gt;几年后在线教育融资汹涌，最火的形式是双师直播课、名师录播课等，而洋葱学园都没有做，他们不想做培训，继续用 5~8 分钟的动画内容吸引孩子课外自学。&lt;/p&gt;

&lt;p&gt;今天我们聊 AI，临风也不怎么讲流行技术词汇，更多聊学习本身。&lt;/p&gt;

&lt;p&gt;与其说洋葱是一家教育公司，它更像一家学习公司。他们一直在研究孩子可以如何自发、自主地学习。这在今天变得更重要了。也可以说，AI 正加速让学习回归本来面目。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;本期节目由洋葱学园支持播出。&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;本期嘉宾：&lt;/strong&gt;&lt;br&gt;
杨临风，洋葱学园联合创始人 &amp;amp; CEO&lt;br&gt;
&lt;strong&gt;本期主播：&lt;/strong&gt;&lt;br&gt;
程曼祺，晚点 LatePost 科技报道负责人&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;时间线跳转：&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;-从公益到创业，追求实现“自主学习”&lt;/strong&gt;&lt;br&gt;
02:32 哈佛支教、阳光书屋&lt;br&gt;
08:58 自主学习是意愿、能力和工具的协同&lt;br&gt;
16:04 为什么数学？为什么 5~8 分钟动画&lt;br&gt;
28:23 AI 能提升制作教育内容的效率，但提升有限&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;-在线教育最疯狂的那几年&lt;/strong&gt;&lt;br&gt;
39:13 不做双师大班课，不追风口&lt;br&gt;
48:30 就算没有双减，双师大班也很难满足教育新需求&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;-AI 热潮之后&lt;/strong&gt;&lt;br&gt;
52:51 洋葱、猿辅导、与爱为舞……AI 教育的不同思路&lt;br&gt;
01:05:45 AI 动摇应试教育，但学知识的过程依然必要，学校依然必要&lt;br&gt;
01:11:00 K12 最重要目标：学会自立&lt;br&gt;
01:15:52 各家大模型在教育场景的表现&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;-回归自主学习&lt;/strong&gt;&lt;br&gt;
01:18:14 曾经受到的最大质疑：自主学习只适合少数人？&lt;br&gt;
01:28:38 过去相信先赚钱再实现目标，后来发现不必如此&lt;br&gt;
01:33:55 创业不是开不开心的问题&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;连点成线&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;相关链接：&lt;/strong&gt;&lt;br&gt;
108 期：&lt;a href="https://podcast.latepost.com/108" target="_blank" rel="nofollow noopener"&gt;与马毅聊智能史:“DNA是最早的大模型”，智能的本质是减熵&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;小红书@&lt;a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;amp;xsec_source=app_share&amp;amp;xhsshare=CopyLink&amp;amp;appuid=5dfa9e92000000000100626f&amp;amp;apptime=1736682459&amp;amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;即刻@&lt;a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。&lt;br&gt;
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp;amp; 推荐嘉宾。&lt;/p&gt;

&lt;p&gt;请先添加「晚点」小助手的微信号，&lt;strong&gt;备注：“晚点聊”&lt;/strong&gt;，我们邀请您入群。&lt;/p&gt;

&lt;p&gt;&lt;img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt=""&gt;&lt;/p&gt;
 </description>

「AI 来了，学习这件事会怎么变」

167: 洋葱学园杨临风：用AI制造捷径，是在杀死真学习

「回到智能，进入家庭。」

从 2026 年 3 月开始，许华哲有了一个新身份：破壳机器人的创始人。之前的两年多里，许华哲是星海图的联创和首席科学家。

这次重新创业，许华哲想自己主导推动一个大梦想：通用机器人，第一步就是家庭机器人。

他也想跳出此前中国具身智能行业的一些路径依赖，更回归通用智能的探索：他说具身智能不是 robotics、不是自动驾驶，也不是“史前深度学习”。

这并不是现在最流行的叙事，他是怎么想的？破壳会怎么做？

本期节目的图文版也已经发布:<a href="https://mp.weixin.qq.com/s/-TG3ogPu4VUEW7uwYb5zhw" target="_blank" rel="nofollow noopener">对许华哲：具身智能不是机器人学，不是自动驾驶，是世界上的新物种</a>

<img src="https://tc-new.z.wiki/autoupload/n-L6s5C_cu5ZZHPwIYlQzY12_FRYNb81z6UPhMWD8iI/20260526/RpET/1920X1080/WechatIMG380.jpg/webp" alt="">

本期嘉宾：许华哲，破壳机器人创始人 &amp; CEO 
本期主播：程曼祺，晚点科技报道负责人

时间线跳转： 
-科学家创业，不好吗？ 
01:56 离开星海图，看到家庭机器人 
17:02 再次创业的信号与 concern 
26:27 “学习好”对创业前所未有地重要

-再次出发的 bet 
41:11 不是 Robotics，不是自动驾驶，也不是史前深度学习 
56:46 强化学习可能被低估了 
01:06:06 “不要小瞧投资人的梦想” 
01:10:14 18~24 个月后会？重资源竞争、大公司入场 
01:16:32 最好的会在中国发生，但别错过最大的西瓜

-技术之美：简单的、一致的 
01:29:18 从游戏到物理世界 
01:35:56 大多数科研是“噪音” 
01:51:49 技术之美：简单的、一致的 
01:57:26 具身智能的“时间检验奖”还没出现 
02:08:48 一场尽力的马拉松 
02:18:29 创业后，找回曾经的自己

02:23:55 连点成线

剪辑：宇亮、Nick

相关链接，《晚点聊》的往期具身智能创业者访谈： 
86 期：<a href="https://podcast.latepost.com/85" target="_blank" rel="nofollow noopener">国家从无到有，拢共分几步？｜工业化之路 01</a> 
161 期：<a href="https://podcast.latepost.com/161" target="_blank" rel="nofollow noopener">原力灵机唐文斌：中国最早的 AI 创业者和他的具身新旅程</a> 
155 期：<a href="https://podcast.latepost.com/155" target="_blank" rel="nofollow noopener">至简动力贾鹏：从英伟达到理想，具身智能的六边形战士</a> 
152 期：<a href="https://podcast.latepost.com/152" target="_blank" rel="nofollow noopener">访谈千寻创始人韩峰涛：20 亿新融资、具身模型淘汰赛、落地非共识</a> 
148 期：<a href="https://podcast.latepost.com/148" target="_blank" rel="nofollow noopener">它石智航陈亦伦：具身的三道曙光和第一道关卡</a> 
112 期：<a href="https://podcast.latepost.com/112" target="_blank" rel="nofollow noopener">与千寻高阳聊具身：一个像机器人的人，怎么做像人的机器人</a>

小红书@<a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;xsec_source=app_share&amp;xhsshare=CopyLink&amp;appuid=5dfa9e92000000000100626f&amp;apptime=1736682459&amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>即刻@<a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>

<img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt="">

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp; 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

<img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt="">

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

<img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt="">

<description>
 &lt;p&gt;&lt;strong&gt;「回到智能，进入家庭。」&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;从 2026 年 3 月开始，许华哲有了一个新身份：破壳机器人的创始人。之前的两年多里，许华哲是星海图的联创和首席科学家。&lt;/p&gt;

&lt;p&gt;这次重新创业，许华哲想自己主导推动一个大梦想：通用机器人，第一步就是家庭机器人。&lt;/p&gt;

&lt;p&gt;他也想跳出此前中国具身智能行业的一些路径依赖，更回归通用智能的探索：他说具身智能不是 robotics、不是自动驾驶，也不是“史前深度学习”。&lt;/p&gt;

&lt;p&gt;这并不是现在最流行的叙事，他是怎么想的？破壳会怎么做？&lt;/p&gt;

&lt;p&gt;本期节目的图文版也已经发布:&lt;a href="https://mp.weixin.qq.com/s/-TG3ogPu4VUEW7uwYb5zhw" target="_blank" rel="nofollow noopener"&gt;对许华哲：具身智能不是机器人学，不是自动驾驶，是世界上的新物种&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://tc-new.z.wiki/autoupload/n-L6s5C_cu5ZZHPwIYlQzY12_FRYNb81z6UPhMWD8iI/20260526/RpET/1920X1080/WechatIMG380.jpg/webp" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;本期嘉宾：&lt;/strong&gt;许华哲，破壳机器人创始人 &amp;amp; CEO&lt;br&gt;
&lt;strong&gt;本期主播：&lt;/strong&gt;程曼祺，晚点科技报道负责人&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;时间线跳转：&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;-科学家创业，不好吗？&lt;/strong&gt;&lt;br&gt;
01:56 离开星海图，看到家庭机器人&lt;br&gt;
17:02 再次创业的信号与 concern&lt;br&gt;
26:27 “学习好”对创业前所未有地重要&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;-再次出发的 bet&lt;/strong&gt;&lt;br&gt;
41:11 不是 Robotics，不是自动驾驶，也不是史前深度学习&lt;br&gt;
56:46 强化学习可能被低估了&lt;br&gt;
01:06:06 “不要小瞧投资人的梦想”&lt;br&gt;
01:10:14 18~24 个月后会？重资源竞争、大公司入场&lt;br&gt;
01:16:32 最好的会在中国发生，但别错过最大的西瓜&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;-技术之美：简单的、一致的&lt;/strong&gt;&lt;br&gt;
01:29:18 从游戏到物理世界&lt;br&gt;
01:35:56 大多数科研是“噪音”&lt;br&gt;
01:51:49 技术之美：简单的、一致的&lt;br&gt;
01:57:26 具身智能的“时间检验奖”还没出现&lt;br&gt;
02:08:48 一场尽力的马拉松&lt;br&gt;
02:18:29 创业后，找回曾经的自己&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;02:23:55 连点成线&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;剪辑：宇亮、Nick&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;相关链接，《晚点聊》的往期具身智能创业者访谈：&lt;/strong&gt;&lt;br&gt;
86 期：&lt;a href="https://podcast.latepost.com/85" target="_blank" rel="nofollow noopener"&gt;国家从无到有，拢共分几步？｜工业化之路 01&lt;/a&gt;&lt;br&gt;
161 期：&lt;a href="https://podcast.latepost.com/161" target="_blank" rel="nofollow noopener"&gt;原力灵机唐文斌：中国最早的 AI 创业者和他的具身新旅程&lt;/a&gt;&lt;br&gt;
155 期：&lt;a href="https://podcast.latepost.com/155" target="_blank" rel="nofollow noopener"&gt;至简动力贾鹏：从英伟达到理想，具身智能的六边形战士&lt;/a&gt;&lt;br&gt;
152 期：&lt;a href="https://podcast.latepost.com/152" target="_blank" rel="nofollow noopener"&gt;访谈千寻创始人韩峰涛：20 亿新融资、具身模型淘汰赛、落地非共识&lt;/a&gt;&lt;br&gt;
148 期：&lt;a href="https://podcast.latepost.com/148" target="_blank" rel="nofollow noopener"&gt;它石智航陈亦伦：具身的三道曙光和第一道关卡&lt;/a&gt;&lt;br&gt;
112 期：&lt;a href="https://podcast.latepost.com/112" target="_blank" rel="nofollow noopener"&gt;与千寻高阳聊具身：一个像机器人的人，怎么做像人的机器人&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;小红书@&lt;a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;amp;xsec_source=app_share&amp;amp;xhsshare=CopyLink&amp;amp;appuid=5dfa9e92000000000100626f&amp;amp;apptime=1736682459&amp;amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;即刻@&lt;a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。&lt;br&gt;
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp;amp; 推荐嘉宾。&lt;/p&gt;

&lt;p&gt;请先添加「晚点」小助手的微信号，&lt;strong&gt;备注：“晚点聊”&lt;/strong&gt;，我们邀请您入群。&lt;/p&gt;

&lt;p&gt;&lt;img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt=""&gt;&lt;/p&gt;
 </description>

「回到智能，进入家庭。」

166: 许华哲再次具身创业：不想错过最大的西瓜

本期《晚点聊》，我与刚从港科大博士毕业的一位年轻研究者高深远，他从去年开始在英伟达实习，接下来马上会正式加入英伟达的具身智能实验室 GEAR。

我们聊了深远 2024 年以来一直专注的方向：世界模型。

前 1 个多小时，我们展开了整个世界模型的大图景：它的分类？它是为了解决什么问题？它的现状、瓶颈和未来方向，以及各主要公司的思路。

很多人认为世界模型的说法太模糊、涵盖太多，这是一些早期技术的常见现象，这期正好厘清，目前有哪些做世界模型的方法和思路。

后一部分，我们聊了GearLab 在世界模型上的一些实践。尤其是去年底至今，他们陆续发布的世界模型 DreamDojo，（深远是这个工作的联合一作）以及被认为有可能会取代 VLA 的世界动作模型 DreamZero 的研发历程和具体创新点。也延展聊了世界模型可能的竞争局面。

深远描绘了他认为非常有前景的一种自进化循环——它由世界模型、策略模型（如 VLA、WAM 等）和连接二者的 Agent 构成。在英伟达，世界模型和策略模型有 DreamDojo-DreamZero 的组合，在 DeepMind 有 Genie-SIMA的组合。以下的图示更容易帮助理解播客里的讨论。

<img src="https://test.fukit.cn/autoupload/fr/vF9vElnh05iCqwr0xfm9iL4wP3sHaC7Y1psXYbgMe5eyl5f0KlZfm6UsKj-HyTuv/20260518/VBLk/1440X810/WechatIMG235.jpg/webp" alt=""> 
图注：图中大脑代表 agent，机器人代表 policy，地球代表世界模型，中间是数据集。世界模型的输出（对世界下一刻的预测）是 agent 的输入，供 agent 给预测打分，打分可用以优化 policy；同时世界模型的输出也是 policy 的输入，而 policy 的输出（动作）是世界模型的输入。同时，agent 也给 policy 做任务规划。 
世界模型到 agent 和 policy 是用视频/图像通信；policy 到世界模型是用 action 通信；agent 到 policy 是用文本通信；agent 优化 policy 可以是一个打分数值，也可以是由文本媒介转过来的一种分数信号。

本期节目的图文版也已经发布:<a href="https://mp.weixin.qq.com/s/5CI_EK9Dh1f5MPrnI83K_Q?scene=1&click_id=2" rel="nofollow">与英伟达 GEAR 高深远聊世界模型、自进化循环和 DreamDojo</a>

本期嘉宾：高深远，英伟达 GEAR 研究员 
本期主播：程曼祺，《晚点 LatePost》科技报道负责人

剪辑：Nick、甜食

时间线跳转： 
- 世界模型大图景 
02:19 世界模型是什么？ 施加动作，预测世界下一刻的状态 
05:35 多 Agent（车/机器人）互联的世界模型 
09:57 按世界状态的表征方式分类： 4 种世界模型 
15:33 最看好 video 世界模型， 因为数据够丰富 
19:36 世界模型为何热起来？ 数据增多 + 策略模型变强了

- 世界模型、策略模型和 Agent 的自进化循环 
21:42 策略是什么？和世界模型的关系 
23:39 WAM（DreamZero）相比 VLM 的变化 
28:26 世界模型的一大价值是服务策略： 测评、生成数据、突破物理限制的虚拟强化学习 
33:42 循环三要素： 世界模型、策略、Agent，它们如何彼此连接、优化

- 世界模型的未来 
43:07 当前最大瓶颈，突破泛化： 物理的泛化、动作的泛化 
51:49 世界模型难以横评， 难以直观看到不同模型的差别 
55:28 各团队的世界模型进展： DeepMind、Nvidia、OpenAI、General Intuition

- 从自动驾驶到具身，从 AI Lab 到 GEAR 
01:02:44 “在学界继续做自动驾驶世界模型没意思了” 
01:06:30 加入 GEAR，DreamDojo 和 DreamZero 的发起 
01:14:12 在英伟达构建最大规模 Human Center 数据 
01:21:05 跨本体的 Latent action，以后还需要吗？ 
01:28:41 DreamDojo 的评测： 自建 6 个 benchmark 的逻辑 
01:34:50 自己不掌握视频基模，能做出有竞争力的世界模型吗？

- 01:45:44 连点成线

相关链接： 
157 期：<a href="https://www.xiaoyuzhoufm.com/episode/69ce3bdcf6e591a7ac937701" rel="nofollow">【具身季报 26Q1】宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手</a> 
150 期：<a href="https://www.xiaoyuzhoufm.com/episode/698a6ac11ff460059c061b9b" rel="nofollow">【年末AI回顾】从模型到应用、从技术到商战，拽住洪流中的意义之线|Solo</a> 
148 期:<a href="https://www.xiaoyuzhoufm.com/episode/6969847b310d33356c70613a" rel="nofollow">它石智航陈亦伦：具身的三道曙光和第一道关卡</a>

附录：一些名词解释 
- 级联误差，Cascade Error：指在包含多个串联模块或阶段的系统中，前一阶段产生的误差未被纠正，直接传递给下一阶段，误差被放大。 
- Genie（Generative Interactive Environments）：DeepMind 团队发布的基础世界模型。它能通过一张图或一段文字描述生成一个动作可控的虚拟世界。目前发布到 Genie 3 
- SIMA（Scalable Instructable Multiworld Agent）：DeepMind团队开发的虚拟角色策略模型（DeepMind 称其为 Agent），能理解玩家用自然语言下达的指令（如“向左转”、“拿起斧头”），在 Genie 等各种虚拟环境中操控角色执行任务（产生动作）。 
-** Intuition**：一家希望打造空间智能的美国创业公司。

小红书@<a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&xsec_source=app_share&xhsshare=CopyLink&appuid=5dfa9e92000000000100626f&apptime=1736682459&share_id=331aecb9ca7941f498d81fb9c32ea810" rel="nofollow">曼祺_火柴Q</a>即刻@<a href="https://okjk.co/FBoH1Q" rel="nofollow">曼祺_火柴Q</a>

<img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt="">

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp; 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

<img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt="">

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

<img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt="">

<description>
 &lt;p&gt;本期《晚点聊》，我与刚从港科大博士毕业的一位年轻研究者高深远，他从去年开始在英伟达实习，接下来马上会正式加入英伟达的具身智能实验室 GEAR。&lt;/p&gt;

&lt;p&gt;我们聊了深远 2024 年以来一直专注的方向：世界模型。&lt;/p&gt;

&lt;p&gt;前 1 个多小时，我们展开了整个世界模型的大图景：它的分类？它是为了解决什么问题？它的现状、瓶颈和未来方向，以及各主要公司的思路。&lt;/p&gt;

&lt;p&gt;很多人认为世界模型的说法太模糊、涵盖太多，这是一些早期技术的常见现象，这期正好厘清，目前有哪些做世界模型的方法和思路。&lt;/p&gt;

&lt;p&gt;后一部分，我们聊了GearLab 在世界模型上的一些实践。尤其是去年底至今，他们陆续发布的世界模型 DreamDojo，（深远是这个工作的联合一作）以及被认为有可能会取代 VLA 的世界动作模型 DreamZero 的研发历程和具体创新点。也延展聊了世界模型可能的竞争局面。&lt;/p&gt;

&lt;p&gt;深远描绘了他认为非常有前景的一种自进化循环——它由世界模型、策略模型（如 VLA、WAM 等）和连接二者的 Agent 构成。在英伟达，世界模型和策略模型有 DreamDojo-DreamZero 的组合，在 DeepMind 有 Genie-SIMA的组合。以下的图示更容易帮助理解播客里的讨论。&lt;/p&gt;

&lt;p&gt;&lt;img src="https://test.fukit.cn/autoupload/fr/vF9vElnh05iCqwr0xfm9iL4wP3sHaC7Y1psXYbgMe5eyl5f0KlZfm6UsKj-HyTuv/20260518/VBLk/1440X810/WechatIMG235.jpg/webp" alt=""&gt;&lt;br&gt;
图注：&lt;em&gt;图中大脑代表 agent，机器人代表 policy，地球代表世界模型，中间是数据集。世界模型的输出（对世界下一刻的预测）是 agent 的输入，供 agent 给预测打分，打分可用以优化 policy；同时世界模型的输出也是 policy 的输入，而 policy 的输出（动作）是世界模型的输入。同时，agent 也给 policy 做任务规划。&lt;br&gt;
世界模型到 agent 和 policy 是用视频/图像通信；policy 到世界模型是用 action 通信；agent 到 policy 是用文本通信；agent 优化 policy 可以是一个打分数值，也可以是由文本媒介转过来的一种分数信号。&lt;/em&gt;&lt;/p&gt;

&lt;p&gt;本期节目的图文版也已经发布:&lt;a href="https://mp.weixin.qq.com/s/5CI_EK9Dh1f5MPrnI83K_Q?scene=1&amp;click_id=2" rel="nofollow"&gt;与英伟达 GEAR 高深远聊世界模型、自进化循环和 DreamDojo&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;本期嘉宾：高深远，英伟达 GEAR 研究员&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;本期主播：程曼祺，《晚点 LatePost》科技报道负责人&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;剪辑：Nick、甜食&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;时间线跳转：&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;- 世界模型大图景&lt;/strong&gt;&lt;br&gt;
02:19 世界模型是什么？ 施加动作，预测世界下一刻的状态&lt;br&gt;
05:35 多 Agent（车/机器人）互联的世界模型&lt;br&gt;
09:57 按世界状态的表征方式分类： 4 种世界模型&lt;br&gt;
15:33 最看好 video 世界模型， 因为数据够丰富&lt;br&gt;
19:36 世界模型为何热起来？ 数据增多 + 策略模型变强了&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- 世界模型、策略模型和 Agent 的自进化循环&lt;/strong&gt;&lt;br&gt;
21:42 策略是什么？和世界模型的关系&lt;br&gt;
23:39 WAM（DreamZero）相比 VLM 的变化&lt;br&gt;
28:26 世界模型的一大价值是服务策略： 测评、生成数据、突破物理限制的虚拟强化学习&lt;br&gt;
33:42 循环三要素： 世界模型、策略、Agent，它们如何彼此连接、优化&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- 世界模型的未来&lt;/strong&gt;&lt;br&gt;
43:07 当前最大瓶颈，突破泛化： 物理的泛化、动作的泛化&lt;br&gt;
51:49 世界模型难以横评， 难以直观看到不同模型的差别&lt;br&gt;
55:28 各团队的世界模型进展： DeepMind、Nvidia、OpenAI、General Intuition&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- 从自动驾驶到具身，从 AI Lab 到 GEAR&lt;/strong&gt;&lt;br&gt;
01:02:44 “在学界继续做自动驾驶世界模型没意思了”&lt;br&gt;
01:06:30 加入 GEAR，DreamDojo 和 DreamZero 的发起&lt;br&gt;
01:14:12 在英伟达构建最大规模 Human Center 数据&lt;br&gt;
01:21:05 跨本体的 Latent action，以后还需要吗？&lt;br&gt;
01:28:41 DreamDojo 的评测： 自建 6 个 benchmark 的逻辑&lt;br&gt;
01:34:50 自己不掌握视频基模，能做出有竞争力的世界模型吗？&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- 01:45:44 连点成线&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;相关链接：&lt;/strong&gt;&lt;br&gt;
157 期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/69ce3bdcf6e591a7ac937701" rel="nofollow"&gt;【具身季报 26Q1】宇树招股书、人形再思考、英伟达世界模型、高自由度灵巧手&lt;/a&gt;&lt;br&gt;
150 期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/698a6ac11ff460059c061b9b" rel="nofollow"&gt;【年末AI回顾】从模型到应用、从技术到商战，拽住洪流中的意义之线|Solo&lt;/a&gt;&lt;br&gt;
148 期:&lt;a href="https://www.xiaoyuzhoufm.com/episode/6969847b310d33356c70613a" rel="nofollow"&gt;它石智航陈亦伦：具身的三道曙光和第一道关卡&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;附录：一些名词解释&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;- 级联误差&lt;/strong&gt;，Cascade Error：指在包含多个串联模块或阶段的系统中，前一阶段产生的误差未被纠正，直接传递给下一阶段，误差被放大。&lt;br&gt;
&lt;strong&gt;- Genie&lt;/strong&gt;（Generative Interactive Environments）：DeepMind 团队发布的基础世界模型。它能通过一张图或一段文字描述生成一个动作可控的虚拟世界。目前发布到 Genie 3&lt;br&gt;
&lt;strong&gt;- SIMA&lt;/strong&gt;（Scalable Instructable Multiworld Agent）：DeepMind团队开发的虚拟角色策略模型（DeepMind 称其为 Agent），能理解玩家用自然语言下达的指令（如“向左转”、“拿起斧头”），在 Genie 等各种虚拟环境中操控角色执行任务（产生动作）。&lt;br&gt;
-** Intuition**：一家希望打造空间智能的美国创业公司。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;小红书@&lt;a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;xsec_source=app_share&amp;xhsshare=CopyLink&amp;appuid=5dfa9e92000000000100626f&amp;apptime=1736682459&amp;share_id=331aecb9ca7941f498d81fb9c32ea810" rel="nofollow"&gt;曼祺_火柴Q&lt;/a&gt;即刻@&lt;a href="https://okjk.co/FBoH1Q" rel="nofollow"&gt;曼祺_火柴Q&lt;/a&gt;&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。&lt;br&gt;
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp;amp; 推荐嘉宾。&lt;/p&gt;

&lt;p&gt;请先添加「晚点」小助手的微信号，&lt;strong&gt;备注：“晚点聊”&lt;/strong&gt;，我们邀请您入群。&lt;/p&gt;

&lt;p&gt;&lt;img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt=""&gt;&lt;/p&gt;
 </description>

「与 DreamDojo 一作拆解“世界模型”buzzword。」

165: 英伟达 GEAR 高深远：世界模型、自进化循环、DreamDojo

「闭源软件价值消失，从 token 和模型上赚钱。」

今天的嘉宾是明略科技创始人吴明辉。2004 年时，他就在北大计算机系做人工智能研究，硕士期间开始创业。

在这一轮大模型热潮前，明略曾在 2020 年尝试用 AI 做组织智能，大举扩张，包括收购了 Manus 创始人肖宏的上一家创业公司，夜莺科技。这一次 AI 尝试以失败告终。

这没有影响吴明辉现在对 AI 的热情。24 年以来，明略陆续发布了自己的行业模型，完成了上市。在 OpenClaw 引起个人 Agent 热潮后，他们也开始了一场更彻底的变革。

这一期我们聊了 AI 怎么影响 SaaS 和软件，明略做出的应对，他们即将开源发布的多 Agent 协同网络章鱼，以及一个存在已久的组织可以怎么被 AI 改变。

本期节目的图文版也已经发布:<a href="https://mp.weixin.qq.com/s/cx8RgMoQUJiHDydQy9D5PA" target="_blank" rel="nofollow noopener">对话明略吴明辉：AI 正在杀死 SaaS，但我找到了一条新路</a>

本期嘉宾 
吴明辉 明略科技创始人 
本期主播 
程曼祺 《晚点》科技报道负责人

时间线跳转： 
SaaS 已死，软件系统本身会走向开源 
01:42 Agent 正杀死 SaaS 已死，数据和上下文的价值更大了 
05:53 OpenClaw 开启的新可能：穷人版（不从基模入手的）持续学习 
11:53 明略的主业数据挖掘和分析，如何被 AI 改变 
19:51 新探索：Agentic Service。软件开源、自训模型赚 Token。

多 Agent 协同网络，“龙虾哲学” 
29:15 章鱼想构建集体学习网络， (eˣ)' = eˣ 的指数级增长要给自己造工具 
35:51 章鱼开发过程：小团队+AI，核心改造是：认人+权限+信任机制 + 品鉴信号 
46:23 龙虾的哲学：康德的义务论约束不了人，但可以约束龙虾 
56:30 vs 巨头：章鱼直接开源，“飞书做 AI 转型，也得开源” 
01:05:51 自研 GUI-VLA 模型，最大场景是软件自动测试 
01:14:35 vs 更小初创企业：1800 人的明略会变得更像“投资公司”

从 Scaling up 到 Scaling Out：站在"被AI欺负的人"那边 
01:20:33 scaling up 是追求单性能突破，scaling out 是横向扩展 agent 网络；后者对人的价值更友好 
01:26:37 专注行业小型模型，将开源web retriever数据集；Agent 网络可实现个性化持续学习 
01:34:19 验证标准：商业成功+ 科学发现能力；风险是“物理猝死”，大脑太活跃

5 年前做 EIP（企业智能平台）， 失败的教训 
01:37:47 技术判断太乐观，团队共识不够： 
01:45:29 1000 多人大团队，"八方神仙"做一个没人懂的产品 
01:55:23 从春风得意到减半裁员：看到人的存在；所以现在不裁员，给每个人 AI 船票 
01:58:58 希望本身产生力量，尤其是众人的希望 
02:03:29 新的 AI 投入何时表现在财务上？

AI 原生一代 
02:08:11 看女儿用 AI：AI 原生一代的观察与启发 
02:11:37 不再和孩子一起刷奥数题，识别 beautiful 的题才做 
02:15:14 没有危险的专业，而是只会 Think 是危险的 
02:18:43 工程师的新价值：在不断变化的应用环境里判断需求，这仍是 AI 无法做的 
02:24:29 Scaling Out一定会发生：小公司会先做出来

连点成线：Coding is eating the world，从软件重塑世界到代码重塑世界

剪辑：Nick

相关链接： 
156期：<a href="https://www.xiaoyuzhoufm.com/episode/69cb62f5302f387cfd881ff1" target="_blank" rel="nofollow noopener">AI季报26Q1：OpenClaw、OpenAI vs Anthropic的三重对阵、自进化</a> 
151期：<a href="https://www.xiaoyuzhoufm.com/episode/698d517c8e1bab265407b6e4" target="_blank" rel="nofollow noopener">MuleRun 陈宇森：Claude Code 带来 Agent 创作新范式、未来的软件是日抛式的</a>

小红书@<a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;xsec_source=app_share&amp;xhsshare=CopyLink&amp;appuid=5dfa9e92000000000100626f&amp;apptime=1736682459&amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>即刻@<a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>

<img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt="">

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp; 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

<img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt="">

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

<img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt="">

<description>
 &lt;p&gt;&lt;strong&gt;「闭源软件价值消失，从 token 和模型上赚钱。」&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;今天的嘉宾是明略科技创始人吴明辉。2004 年时，他就在北大计算机系做人工智能研究，硕士期间开始创业。&lt;/p&gt;

&lt;p&gt;在这一轮大模型热潮前，明略曾在 2020 年尝试用 AI 做组织智能，大举扩张，包括收购了 Manus 创始人肖宏的上一家创业公司，夜莺科技。这一次 AI 尝试以失败告终。&lt;/p&gt;

&lt;p&gt;这没有影响吴明辉现在对 AI 的热情。24 年以来，明略陆续发布了自己的行业模型，完成了上市。在 OpenClaw 引起个人 Agent 热潮后，他们也开始了一场更彻底的变革。&lt;/p&gt;

&lt;p&gt;这一期我们聊了 AI 怎么影响 SaaS 和软件，明略做出的应对，他们即将开源发布的多 Agent 协同网络章鱼，以及一个存在已久的组织可以怎么被 AI 改变。&lt;/p&gt;

&lt;p&gt;本期节目的图文版也已经发布:&lt;a href="https://mp.weixin.qq.com/s/cx8RgMoQUJiHDydQy9D5PA" target="_blank" rel="nofollow noopener"&gt;对话明略吴明辉：AI 正在杀死 SaaS，但我找到了一条新路&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;本期嘉宾&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;吴明辉&lt;/strong&gt; 明略科技创始人&lt;br&gt;
&lt;strong&gt;本期主播&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;程曼祺&lt;/strong&gt; 《晚点》科技报道负责人&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;时间线跳转：&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;SaaS 已死，软件系统本身会走向开源&lt;/strong&gt;&lt;br&gt;
01:42 Agent 正杀死 SaaS 已死，数据和上下文的价值更大了&lt;br&gt;
05:53 OpenClaw 开启的新可能：穷人版（不从基模入手的）持续学习&lt;br&gt;
11:53 明略的主业数据挖掘和分析，如何被 AI 改变&lt;br&gt;
19:51 新探索：Agentic Service。软件开源、自训模型赚 Token。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;多 Agent 协同网络，“龙虾哲学”&lt;/strong&gt;&lt;br&gt;
29:15 章鱼想构建集体学习网络， (eˣ)' = eˣ 的指数级增长要给自己造工具&lt;br&gt;
35:51 章鱼开发过程：小团队+AI，核心改造是：认人+权限+信任机制 + 品鉴信号&lt;br&gt;
46:23 龙虾的哲学：康德的义务论约束不了人，但可以约束龙虾&lt;br&gt;
56:30 vs 巨头：章鱼直接开源，“飞书做 AI 转型，也得开源”&lt;br&gt;
01:05:51 自研 GUI-VLA 模型，最大场景是软件自动测试 &lt;br&gt;
01:14:35 vs 更小初创企业：1800 人的明略会变得更像“投资公司”&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;从 Scaling up 到 Scaling Out：站在"被AI欺负的人"那边&lt;/strong&gt;&lt;br&gt;
01:20:33 scaling up 是追求单性能突破，scaling out 是横向扩展 agent 网络；后者对人的价值更友好&lt;br&gt;
01:26:37 专注行业小型模型，将开源web retriever数据集；Agent 网络可实现个性化持续学习&lt;br&gt;
01:34:19 验证标准：商业成功+ 科学发现能力；风险是“物理猝死”，大脑太活跃&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;5 年前做 EIP（企业智能平台）， 失败的教训&lt;/strong&gt;&lt;br&gt;
01:37:47 技术判断太乐观，团队共识不够：&lt;br&gt;
01:45:29 1000 多人大团队，"八方神仙"做一个没人懂的产品&lt;br&gt;
01:55:23 从春风得意到减半裁员：看到人的存在；所以现在不裁员，给每个人 AI 船票&lt;br&gt;
01:58:58 希望本身产生力量，尤其是众人的希望&lt;br&gt;
02:03:29 新的 AI 投入何时表现在财务上？&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;AI 原生一代&lt;/strong&gt;&lt;br&gt;
02:08:11 看女儿用 AI：AI 原生一代的观察与启发&lt;br&gt;
02:11:37 不再和孩子一起刷奥数题，识别 beautiful 的题才做&lt;br&gt;
02:15:14 没有危险的专业，而是只会 Think 是危险的&lt;br&gt;
02:18:43 工程师的新价值：在不断变化的应用环境里判断需求，这仍是 AI 无法做的&lt;br&gt;
02:24:29 Scaling Out一定会发生：小公司会先做出来&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;连点成线：Coding is eating the world&lt;/strong&gt;，从软件重塑世界到代码重塑世界&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;剪辑：Nick&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;相关链接：&lt;/strong&gt;&lt;br&gt;
156期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/69cb62f5302f387cfd881ff1" target="_blank" rel="nofollow noopener"&gt;AI季报26Q1：OpenClaw、OpenAI vs Anthropic的三重对阵、自进化&lt;/a&gt;&lt;br&gt;
151期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/698d517c8e1bab265407b6e4" target="_blank" rel="nofollow noopener"&gt;MuleRun 陈宇森：Claude Code 带来 Agent 创作新范式、未来的软件是日抛式的&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;小红书@&lt;a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;amp;xsec_source=app_share&amp;amp;xhsshare=CopyLink&amp;amp;appuid=5dfa9e92000000000100626f&amp;amp;apptime=1736682459&amp;amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;即刻@&lt;a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。&lt;br&gt;
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp;amp; 推荐嘉宾。&lt;/p&gt;

&lt;p&gt;请先添加「晚点」小助手的微信号，&lt;strong&gt;备注：“晚点聊”&lt;/strong&gt;，我们邀请您入群。&lt;/p&gt;

&lt;p&gt;&lt;img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt=""&gt;&lt;/p&gt;
 </description>

「闭源软件价值消失，从 token 和模型上赚钱。」

164: 当AI“杀死”SaaS，与明略吴明辉聊多Agent网络、软件业转型和 AI 新组织

「走进不同团队的成果，创新从来是连续的，不是跳跃的。」

上周五，DeepSeek V4 发布。我们邀请了两位一线 AI 从业者一起详解 DeepSeek V4 的技术实现和创新想法。

如果一句话概括：DeepSeek V4 并没有带来新的“范式变化”，它是继续在 R1 的“测试时扩展”范式下，用一系列组合创新和工程优化，让百万上下文从理论进入实用。

超长上下文上的稳定表现，正是 Agent 和多步复杂任务亟需的能力之一。

本期涉及的诸多技术术语见 Shownotes 末尾注释。

本期节目的图文版也已经发布:<a href="https://mp.weixin.qq.com/s/GBaPrVWMGpV7Z6bVuEXhSA" target="_blank" rel="nofollow noopener">详解 DeepSeek V4：Infra 巨鲸 “四连击”，百万上下文走进现实</a>

<img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260502/mALV/786X470/%25E5%25BE%25AE%25E4%25BF%25A1%25E5%259B%25BE%25E7%2589%2587_20260502195005_306_6.jpg" alt="">

本期嘉宾 
赵晨阳，RadixArk 工程师，SGLang 开源推理框架开发者 
刘益枫，UCLA 博士生 
本期主播 
程曼祺，晚点科技报道负责人

时间线： 
体感、对比、消失的成本、DeepSeek 的节奏 
03:01 编程能力与“御三家”有差距；不再采用 DeepSeek 自己提出的 MLA 
07:44 不再披露训练成本，“用模型能力说话” 
09:23 延期推测：四个耦合的新 feature （新注意力+Muon+mHC+FP4）一起上，难度爆炸 
12:36 不是范式创新，沿现有范式仍有巨大提升空间

性能与效率 
14:32 提出新的能力方向比刷单个 benchmark 重要 
16:41 坦诚的内部评测：9% DeepSeek 工程师不会把V4 Pro 作为编程首选 
23:03 单 token 推理的计算量和 KV cache 大幅优化，但解决同样问题的 token 消耗更多了

V4 具体进展 
28:32 整体思路：极致的稀疏

<img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260430/duVl/1284X418/ScreenShot_2026-04-30_125155_571.png" alt="">

33:45 混合稀疏注意力：放弃 MLA，SWA滑动窗口+CSA稀疏压缩+HCA稠密压缩，层间预定义分工 
39:37 Muon 优化器已成检验工程能力试金石 
48:52 mHC：从 Seed 提出 HC 到 mHC；Kimi 的 Attention Residuals 
54:24 Infra 两个关键词：TileLang &amp; FP4 
01:10:11 多专家训练+蒸馏的后训练 
01:13:20 评测危机：benchmark会过时饱和，evaluation是永恒追求，agent评估未共识

更多讨论 
01:19:25 近期模型共性：架构趋同（MOE+Muon），优化方向驱动（agent、coding） 
01:25:18 美国追新能力、高定价；中国追性价比、工程极限 
01:28:00 V4 最有可能被记住的思想：极致压缩+低激活比+低单token成本，成为后续开源模型起点

剪辑：Nick

相关链接： 
158期：<a href="https://www.xiaoyuzhoufm.com/episode/69d3d641f6e591a7ac00e043" target="_blank" rel="nofollow noopener">V4发布前的DeepSeek：人才竞争、组织特点和独特的AGI目标</a> 
143期：<a href="https://www.xiaoyuzhoufm.com/episode/692cd86fe4244f7e3d3ad135" target="_blank" rel="nofollow noopener">再聊 Attention：阿里、Kimi 都在用的 DeltaNet 和线性注意力新改进</a> 
104期：<a href="https://www.xiaoyuzhoufm.com/episode/67c63718e24b741ee8e2ee63" target="_blank" rel="nofollow noopener">我给线性注意力找“金主”，字节 say No，MiniMax say Yes</a> 
103期：<a href="https://www.xiaoyuzhoufm.com/episode/67bf356952a6af799c558399" target="_blank" rel="nofollow noopener">用Attention串起大模型优化史，详解DeepSeek、Kimi最新注意力机制改进</a> 
102期：<a href="https://www.xiaoyuzhoufm.com/episode/67bd286dfd2cbe6cd771675d" target="_blank" rel="nofollow noopener">DeepSeek 启动开源周，大模型开源到底在开什么？</a>

附录：术语、概念解释 
- 模型架构相关 
Token-wise（词元级）改进：优化模型处理单 token 的过程，通常用于提升注意力计算、上下文建模或推理效率。 
Layer-wise 的改进：优化模型不同网络层的结构或计算方式，通常用于提升训练稳定性、表达能力或整体计算效率。 
MoE：Mixture of Experts 混合专家网络，让不同“专家”子网络处理不同输入，降低单次计算成本。 
哈希路由：把 token、样本或请求分配到不同专家、节点或存储位置的方法。V4 在前几层 MoE 用了哈希路由，避免起始层路由塌缩。 
Engram：DeepSeek 之前提出的一种带 N-gram 编码器的辅助模块，通过额外编码连续 token 片段，帮助模型利用局部短语级信息。V4 未使用 Engram。

- 注意力相关 
MLA：Multi-head Latent Attention，多头潜在注意力，引入潜在表示压缩 KV 信息的注意力机制，能降低显存占用和计算开销。 
MQA：Multi-Query Attention，多查询注意力结构，共享 Key/Value，仅保留多头 Query，提升推理效率并减少 KV cache。 
线性注意力：通过核函数或近似方法将注意力复杂度从二次降低为线性（一维），是改进原初注意力随上下文长度增加，计算和显存爆炸的方向之一。 
稀疏注意力：仅计算部分 token 间的注意力（而非全连接），改进原初注意力问题的另一主流方向。 
滑动窗口注意力：限制注意力仅在局部窗口内计算的一种稀疏注意力。 
CSA：Compressed Sparse Attention，压缩稀疏注意力。用于长上下文建模的注意力机制。把序列分组压缩成更少的token，query再从中挑选出最相关的部分。V4中的压缩比是4:1。 
HCA：Heavily Compressed Attention，高度压缩注意力。同样用于长上下文建模。相比CSA压缩比例更高（128:1），query无需挑选token。 
NSA/DSA：V4发布之前，DeepSeek 在年初和 9 月先后提出的两种稀疏注意力方案。

- 优化器相关 
AdamW：一种改进的 Adam 优化器，通过解耦权重衰减（weight decay）提升训练稳定性和泛化能力。 
Muon：一种面向大模型训练的优化算法，通过改进梯度更新或内存效率来提升训练性能。 
Learning Rate：学习率，控制模型参数每次更新步长的超参数，对训练稳定性和收敛速度至关重要。 
牛顿-舒尔茨迭代：一种用于矩阵归一化或求逆的数值迭代方法。Muon 作者 Jordan 提到通常使用 5 次迭代，V4 中采用了 10 次迭代。

- 残差相关 
HC：Hidden/Highway Connection，一类改进残差连接的信息通路设计，用于增强信息传递或控制梯度流。 
mHC：Manifold-Constrained Hyper-Connections 流形约束超连。DeepSeek 在 HC 基础上的改造，解决了 HC 在大规模训练时的数值不稳定问题。mHC 使用了双随机矩阵，即每行和、每列和都等于 1 的矩阵，以约束信息流。 
Attention Residuals：注意力残差连接，将注意力模块输出与输入相加，用于稳定训练并保留原始信息。

- Infra 相关 
矩阵乘法：深度学习中最核心的基础计算操作（如向量与权重相乘）。 
Kernel：算子核，指在底层硬件（如 GPU）上执行的高效计算函数，是深度学习算子的实现基础。比如矩阵乘法就要写 Kernel 去实现。 
CUDA：英伟达开发的能使用 GPU 的一层软件系统，也指一套语言，本次访谈语境里指编写 GPU 算子 kernel 的语言。 
Triton：由 OpenAI 开源，是对 CUDA 的一层抽象，能更简单的写 Kernel。 
TileLang：一种面向 AI 高性能算子的 tile 级 DSL / 编译框架，把矩阵乘法、注意力等张量计算映射到 GPU 等硬件上执行，在 Triton 的易用性和 CUDA 的控制力之间取得了较好的平衡。 
FP8、FP4、INT4：低精度数值格式，分别用 8 位、4 位浮点和 4 位整数表示模型中的权重或中间数据，用于降低显存和带宽压力、提升训练或推理效率。 
FP4 比 FP8 更省显存和带宽，又比 INT4 更保留浮点动态范围，因此更适合复杂训练/采样链路，但收益取决于硬件、缩放策略和 kernel 实现。V4 在 1.6T 参数规模上实现 FP4 训练是个不小的挑战。

小红书@<a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;xsec_source=app_share&amp;xhsshare=CopyLink&amp;appuid=5dfa9e92000000000100626f&amp;apptime=1736682459&amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>即刻@<a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener">曼祺_火柴Q</a>

<img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt="">

☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆

欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。 
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp; 推荐嘉宾。

请先添加「晚点」小助手的微信号，备注：“晚点聊”，我们邀请您入群。

<img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt="">

关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：

<img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt="">

<description>
 &lt;p&gt;&lt;strong&gt;「走进不同团队的成果，创新从来是连续的，不是跳跃的。」&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;上周五，DeepSeek V4 发布。我们邀请了两位一线 AI 从业者一起详解 DeepSeek V4 的技术实现和创新想法。&lt;/p&gt;

&lt;p&gt;如果一句话概括：DeepSeek V4 并没有带来新的“范式变化”，它是继续在 R1 的“测试时扩展”范式下，用一系列组合创新和工程优化，让百万上下文从理论进入实用。&lt;/p&gt;

&lt;p&gt;超长上下文上的稳定表现，正是 Agent 和多步复杂任务亟需的能力之一。&lt;/p&gt;

&lt;p&gt;&lt;em&gt;本期涉及的诸多技术术语见 Shownotes 末尾注释。&lt;/em&gt;&lt;/p&gt;

&lt;p&gt;本期节目的图文版也已经发布:&lt;a href="https://mp.weixin.qq.com/s/GBaPrVWMGpV7Z6bVuEXhSA" target="_blank" rel="nofollow noopener"&gt;详解 DeepSeek V4：Infra 巨鲸 “四连击”，百万上下文走进现实&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260502/mALV/786X470/%25E5%25BE%25AE%25E4%25BF%25A1%25E5%259B%25BE%25E7%2589%2587_20260502195005_306_6.jpg" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;本期嘉宾&lt;/strong&gt;&lt;br&gt;
赵晨阳，RadixArk 工程师，SGLang 开源推理框架开发者&lt;br&gt;
刘益枫，UCLA 博士生&lt;br&gt;
&lt;strong&gt;本期主播&lt;/strong&gt;&lt;br&gt;
程曼祺，晚点科技报道负责人&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;时间线：&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;体感、对比、消失的成本、DeepSeek 的节奏&lt;/strong&gt;&lt;br&gt;
03:01 编程能力与“御三家”有差距；不再采用 DeepSeek 自己提出的 MLA&lt;br&gt;
07:44 不再披露训练成本，“用模型能力说话”&lt;br&gt;
09:23 延期推测：四个耦合的新 feature （新注意力+Muon+mHC+FP4）一起上，难度爆炸&lt;br&gt;
12:36 不是范式创新，沿现有范式仍有巨大提升空间&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;性能与效率&lt;/strong&gt;&lt;br&gt;
14:32 提出新的能力方向比刷单个 benchmark 重要&lt;br&gt;
16:41 坦诚的内部评测：9% DeepSeek 工程师不会把V4 Pro 作为编程首选&lt;br&gt;
23:03 单 token 推理的计算量和 KV cache 大幅优化，但解决同样问题的 token 消耗更多了&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;V4 具体进展&lt;/strong&gt;&lt;br&gt;
28:32 整体思路：极致的稀疏&lt;/p&gt;

&lt;p&gt;&lt;img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260430/duVl/1284X418/ScreenShot_2026-04-30_125155_571.png" alt=""&gt;&lt;/p&gt;

&lt;p&gt;33:45 混合稀疏注意力：放弃 MLA，SWA滑动窗口+CSA稀疏压缩+HCA稠密压缩，层间预定义分工&lt;br&gt;
39:37 Muon 优化器已成检验工程能力试金石&lt;br&gt;
48:52 mHC：从 Seed 提出 HC 到 mHC；Kimi 的 Attention Residuals&lt;br&gt;
54:24 Infra 两个关键词：TileLang &amp;amp; FP4&lt;br&gt;
01:10:11 多专家训练+蒸馏的后训练&lt;br&gt;
01:13:20 评测危机：benchmark会过时饱和，evaluation是永恒追求，agent评估未共识&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;更多讨论&lt;/strong&gt;&lt;br&gt;
01:19:25 近期模型共性：架构趋同（MOE+Muon），优化方向驱动（agent、coding）&lt;br&gt;
01:25:18 美国追新能力、高定价；中国追性价比、工程极限&lt;br&gt;
01:28:00 V4 最有可能被记住的思想：极致压缩+低激活比+低单token成本，成为后续开源模型起点&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;剪辑：Nick&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;相关链接：&lt;/strong&gt;&lt;br&gt;
158期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/69d3d641f6e591a7ac00e043" target="_blank" rel="nofollow noopener"&gt;V4发布前的DeepSeek：人才竞争、组织特点和独特的AGI目标&lt;/a&gt;&lt;br&gt;
143期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/692cd86fe4244f7e3d3ad135" target="_blank" rel="nofollow noopener"&gt;再聊 Attention：阿里、Kimi 都在用的 DeltaNet 和线性注意力新改进&lt;/a&gt;&lt;br&gt;
104期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/67c63718e24b741ee8e2ee63" target="_blank" rel="nofollow noopener"&gt;我给线性注意力找“金主”，字节 say No，MiniMax say Yes&lt;/a&gt;&lt;br&gt;
103期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/67bf356952a6af799c558399" target="_blank" rel="nofollow noopener"&gt;用Attention串起大模型优化史，详解DeepSeek、Kimi最新注意力机制改进&lt;/a&gt;&lt;br&gt;
102期：&lt;a href="https://www.xiaoyuzhoufm.com/episode/67bd286dfd2cbe6cd771675d" target="_blank" rel="nofollow noopener"&gt;DeepSeek 启动开源周，大模型开源到底在开什么？&lt;/a&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;附录：术语、概念解释&lt;/strong&gt;&lt;br&gt;
&lt;strong&gt;- 模型架构相关&lt;/strong&gt;&lt;br&gt;
Token-wise（词元级）改进：优化模型处理单 token 的过程，通常用于提升注意力计算、上下文建模或推理效率。&lt;br&gt;
Layer-wise 的改进：优化模型不同网络层的结构或计算方式，通常用于提升训练稳定性、表达能力或整体计算效率。&lt;br&gt;
MoE：Mixture of Experts 混合专家网络，让不同“专家”子网络处理不同输入，降低单次计算成本。&lt;br&gt;
哈希路由：把 token、样本或请求分配到不同专家、节点或存储位置的方法。V4 在前几层 MoE 用了哈希路由，避免起始层路由塌缩。&lt;br&gt;
Engram：DeepSeek 之前提出的一种带 N-gram 编码器的辅助模块，通过额外编码连续 token 片段，帮助模型利用局部短语级信息。V4 未使用 Engram。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- 注意力相关&lt;/strong&gt;&lt;br&gt;
MLA：Multi-head Latent Attention，多头潜在注意力，引入潜在表示压缩 KV 信息的注意力机制，能降低显存占用和计算开销。&lt;br&gt;
MQA：Multi-Query Attention，多查询注意力结构，共享 Key/Value，仅保留多头 Query，提升推理效率并减少 KV cache。&lt;br&gt;
线性注意力：通过核函数或近似方法将注意力复杂度从二次降低为线性（一维），是改进原初注意力随上下文长度增加，计算和显存爆炸的方向之一。&lt;br&gt;
稀疏注意力：仅计算部分 token 间的注意力（而非全连接），改进原初注意力问题的另一主流方向。&lt;br&gt;
滑动窗口注意力：限制注意力仅在局部窗口内计算的一种稀疏注意力。&lt;br&gt;
CSA：Compressed Sparse Attention，压缩稀疏注意力。用于长上下文建模的注意力机制。把序列分组压缩成更少的token，query再从中挑选出最相关的部分。V4中的压缩比是4:1。&lt;br&gt;
HCA：Heavily Compressed Attention，高度压缩注意力。同样用于长上下文建模。相比CSA压缩比例更高（128:1），query无需挑选token。&lt;br&gt;
NSA/DSA：V4发布之前，DeepSeek 在年初和 9 月先后提出的两种稀疏注意力方案。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- 优化器相关&lt;/strong&gt;&lt;br&gt;
AdamW：一种改进的 Adam 优化器，通过解耦权重衰减（weight decay）提升训练稳定性和泛化能力。&lt;br&gt;
Muon：一种面向大模型训练的优化算法，通过改进梯度更新或内存效率来提升训练性能。&lt;br&gt;
Learning Rate：学习率，控制模型参数每次更新步长的超参数，对训练稳定性和收敛速度至关重要。&lt;br&gt;
牛顿-舒尔茨迭代：一种用于矩阵归一化或求逆的数值迭代方法。Muon 作者 Jordan 提到通常使用 5 次迭代，V4 中采用了 10 次迭代。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- 残差相关&lt;/strong&gt;&lt;br&gt;
HC：Hidden/Highway Connection，一类改进残差连接的信息通路设计，用于增强信息传递或控制梯度流。&lt;br&gt;
mHC：Manifold-Constrained Hyper-Connections 流形约束超连。DeepSeek 在 HC 基础上的改造，解决了 HC 在大规模训练时的数值不稳定问题。mHC 使用了双随机矩阵，即每行和、每列和都等于 1 的矩阵，以约束信息流。&lt;br&gt;
Attention Residuals：注意力残差连接，将注意力模块输出与输入相加，用于稳定训练并保留原始信息。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;- Infra 相关&lt;/strong&gt;&lt;br&gt;
矩阵乘法：深度学习中最核心的基础计算操作（如向量与权重相乘）。&lt;br&gt;
Kernel：算子核，指在底层硬件（如 GPU）上执行的高效计算函数，是深度学习算子的实现基础。比如矩阵乘法就要写 Kernel 去实现。&lt;br&gt;
CUDA：英伟达开发的能使用 GPU 的一层软件系统，也指一套语言，本次访谈语境里指编写 GPU 算子 kernel 的语言。&lt;br&gt;
Triton：由 OpenAI 开源，是对 CUDA 的一层抽象，能更简单的写 Kernel。&lt;br&gt;
TileLang：一种面向 AI 高性能算子的 tile 级 DSL / 编译框架，把矩阵乘法、注意力等张量计算映射到 GPU 等硬件上执行，在 Triton 的易用性和 CUDA 的控制力之间取得了较好的平衡。&lt;br&gt;
FP8、FP4、INT4：低精度数值格式，分别用 8 位、4 位浮点和 4 位整数表示模型中的权重或中间数据，用于降低显存和带宽压力、提升训练或推理效率。&lt;br&gt;
FP4 比 FP8 更省显存和带宽，又比 INT4 更保留浮点动态范围，因此更适合复杂训练/采样链路，但收益取决于硬件、缩放策略和 kernel 实现。V4 在 1.6T 参数规模上实现 FP4 训练是个不小的挑战。&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;小红书@&lt;a href="https://www.xiaohongshu.com/user/profile/5dfa9e92000000000100626f?xsec_token=YBSKzbnOGWpnyJ5fxw_yafTdnAUIDw-EfCtqmFTkCIM2o=&amp;amp;xsec_source=app_share&amp;amp;xhsshare=CopyLink&amp;amp;appuid=5dfa9e92000000000100626f&amp;amp;apptime=1736682459&amp;amp;share_id=331aecb9ca7941f498d81fb9c32ea810" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;即刻@&lt;a href="https://okjk.co/FBoH1Q" target="_blank" rel="nofollow noopener"&gt;曼祺_火柴Q&lt;/a&gt;&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://cdn.z.wiki/autoupload/20250129/p96l/1428X298/%E6%92%AD%E5%AE%A2-%E7%BB%93%E5%B0%BE%E4%BD%9C%E8%80%85%E7%AD%BE%E5%90%8D.png" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;☆《晚点聊 LateTalk》建立「 播客听友群」啦！☆&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;欢迎关注科技、商业大公司动态和创业创新的小伙伴进群交流，第一时间收听新节目。&lt;br&gt;
这里有更多互动，更多话题讨论。欢迎贡献选题 &amp;amp; 推荐嘉宾。&lt;/p&gt;

&lt;p&gt;请先添加「晚点」小助手的微信号，&lt;strong&gt;备注：“晚点聊”&lt;/strong&gt;，我们邀请您入群。&lt;/p&gt;

&lt;p&gt;&lt;img src="https://pic9.fukit.cn/autoupload/7qt2TZ8aBx6Rbe7VtyeHlpmesdO83n0jJRcmVXjsIsc/20260211/lsS9/998X396/IMG_0409.jpg" alt=""&gt;&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;关注公众号《晚点 LatePost》和《晚点对话》，阅读更多商业、科技文章：&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;&lt;img src="https://hv.z.wiki/autoupload/20250129/DqTi/1452X514/%E6%92%AD%E5%AE%A2%E7%BB%93%E5%B0%BE%E6%88%AA%E5%9B%BE.png" alt=""&gt;&lt;/p&gt;
 </description>

「走进不同团队的成果，创新从来是连续的，不是跳跃的。」

163: 详解DeepSeekV4：Infra巨鲸、百万上下文走进现实、极致效率优化

《晚点聊 LateTalk》由《晚点 LatePost》出品。 最一手的科技访谈，最真实的从业者思考。

晚点聊 LateTalk

Details

Recent Episodes