Description
<p>如果你喜歡我的內容,歡迎加入會員支持我,讓我把內容做得更深、做得更好,一起把這個頻道做成我們都想看到的樣子!</p><p>👉 https://www.youtube.com/channel/UCJIPFjZSCWR15_jxBaK2fQQ/join</p><p><br></p><p>Andrej Karpathy 上禮拜正式宣布加入 Anthropic。他是 OpenAI 的 11 個創始成員之一,也是 vibe coding 跟 context engineering 這兩個詞的發明人,在矽谷 AI 圈算是現在最有影響力的研究員之一。</p><p><br></p><p>看到這則新聞我心裡冒出兩個問題:為什麼選現在加入 Anthropic,而不是 OpenAI、xAI 或 Gemini?以及他加入之後到底會做什麼事?這集會順著這則新聞回頭整理 Karpathy 從 Stanford 到 OpenAI、特斯拉、Eureka Labs 的這段路,看他過去一年陸陸續續端出來的 auto research、LLM Wiki 這些 pattern,然後分析他這次選 Anthropic 的幾個合理原因,其中一個原因會不會是他想用內部的 Mythos?</p><p><br></p><p>不過這集我自己覺得最值得拿出來講的,是一個比較少人注意到的細節:他加入的會是「預訓練」團隊。現在主流論述是強化學習才是新的預訓練,再加上 harness engineering 那一條路,預訓練本身被很多人覺得已經沒搞頭了。但 Karpathy 偏偏押注在這裡。我的猜想是他想做的事情,是把他自己提出的 auto research 接上 Anthropic 最強的模型,讓 AI 自己去找出預訓練還有什麼可以再優化的地方。如果這個猜想對,這條路線會直接接到「AI 自己造下一代 AI」這個 thesis。</p><p><br></p><p>中間也會聊到 Karpathy 兩次進出 OpenAI 的故事、他在 Lex Fridman 訪談裡怎麼評價跟 Elon Musk 工作、Ramp AI Index 顯示 Anthropic 在今年 4 月企業採用率首度超過 OpenAI,以及他作為最前沿的研究員,為什麼自己都說「從來沒有覺得這麼落後過」。</p><p><br></p><p>🔗 《矽谷輕鬆談》傳送門 👉 https://linktr.ee/jktech</p><p><br></p><p>(00:00) 開頭</p><p>(01:37) 阿森納睽違 22 年英超奪冠:作為球迷的感性時刻</p><p>(04:18) 2026 世界盃我預測會很慘:票價、擴編 48 隊、人工草皮</p><p>(06:20) Andrej Karpathy 正式加入 Anthropic</p><p>(06:44) Karpathy 是誰?vibe coding 跟 context engineering 都是他發明的</p><p>(07:46) auto research:把訓練 GPT 的步驟丟給 AI 自己去跑</p><p>(08:42) LLM Wiki:讓 AI 幫你把每天聊的內容變成第二大腦</p><p>(09:21) 從 80/20 到一行都不自己寫:Karpathy 自己的 coding 比例變化</p><p>(10:43) Stanford → OpenAI → 特斯拉 → 回鍋 OpenAI → Eureka Labs</p><p>(13:13) 連他都說「從來沒有覺得這麼落後過」:整個產業都在 FOMO</p><p>(15:07) 為什麼選 Anthropic,不選 OpenAI / xAI / Gemini?</p><p>(18:24) 他加入預訓練團隊:跟兩條主流路線相反</p><p>(19:53) 我的猜想:用 auto research 加上 Mythos 推預訓練的天花板</p><p>(21:54) GPT 3.5 到 GPT 4 西洋棋變強的故事:預訓練其實還有搞頭</p><p><br></p>