配套视频

2026年LLM技术栈:模型、推理、工具与权衡——配套视频

文章梳理了工程师在2026年实际需要面对的选择版图——前沿模型API、开放权重模型、推理服务器、网关、评估与可观测性工具——以及决定哪些组件可以替换、哪些不能替换的权衡。下面两场演讲从面对面的讲解中,为理解这些选择提供了最好的背景:第一场以较慢的节奏深入讲解你所比较的模型究竟如何构建;第二场则更精炼地说明这些模型会如何重塑围绕它们搭建的其余技术栈。

首选视频

3:31:24
深入解析ChatGPT等LLM

Andrej Karpathy

这是YouTube上对大语言模型本质最清晰的端到端讲解,涵盖预训练、token化、SFT、RLHF、推理强化学习、工具使用和幻觉,详细程度足以帮助工程师分析模型权衡。完整看过一遍后,文章中的“GPT级模型、开放权重模型与推理模型”之选就不再像品牌选择,而会成为训练方案的选择。

您应该从中获得什么: 充分理解现代大语言模型架构,能够分析token、训练、工具和故障。

先观看或了解: 工程背景会有所帮助;无须机器学习基础,但请为三个半小时的片长预留时间。

AI Expert 注释: 模型名称、价格和能力变化很快。请用本视频掌握决策模式,并在采用模型前核实现有模型的实际表现。

打开视频页面

也值得关注

39:32
Andrej Karpathy:软件正在再次改变

Y Combinator

Karpathy在AI Startup School的主题演讲中,将大语言模型描述为一种新型计算机——公用事业、晶圆厂和操作系统三者合一——并主张打造由人类掌控约束的“部分自主”产品。这是对文章所采用的架构层面思维模型最清晰的阐述:你是在为一种可编程基础载体选择推理供应商与工具,而不是在选择聊天机器人。

您应该从中获得什么: 评估部分自主的产品构想,让人类继续掌控高风险决策。

先观看或了解: 无——可以直接观看;在深入讲解视频打好训练方案基础后观看,效果更佳。

AI Expert 注释: 模型名称、价格和能力变化很快。请用本视频掌握决策模式,并在采用模型前核实现有模型的实际表现。

打开视频页面