模型与工具选择
在ChatGPT、Claude、Gemini、Copilot、推理模型以及托管或本地推理之间作出选择。
22 项内容 (9 篇文章 · 13 个视频)
从这里开始
浏览完整内容之前,先阅读几篇推荐文章。
6 分钟阅读ChatGPT、Claude、Gemini、Copilot——初学者应该选哪一个?
用通俗语言剖析四款主流AI助手。根据你已经在用的工具和真正希望AI带来的价值,选择第一款AI的非技术指南。
AI新手
7 分钟阅读为任务选择合适的模型:2026年决策速查表
按任务类型选择模型。涵盖GPT、Claude、Gemini、推理版本和开放权重选项,以2026年年中的示例和决策规则为依据,而不是给出永恒不变的排名。
初级
10 分钟阅读多模型编排:按成本、延迟和质量进行路由
把不同任务路由到不同模型可能降低成本或延迟,但只有针对实际工作负载的评估才能说明新增复杂性是否值得。本文介绍相关模式、测量方法和失败方式。
中级此主题下的更多内容
12 分钟阅读成本优化推理:提示缓存、路由与输出控制
基于追踪数据建立推理成本模型,优化实测成本中占比最大的部分,并证明每项改动都不会损害任务质量。
高级
13 分钟阅读2026 年的微调:以证据为先的 LoRA 和 QLoRA 实验
判断参数高效微调是否合理,治理数据,固定可复现实验,对比留出集与安全结果,并在部署前对服务性能做基准测试。
高级
6 分钟阅读免费版与付费版ChatGPT:升级究竟能得到什么
不讲术语,对比ChatGPT免费版、ChatGPT Plus和ChatGPT Pro——升级后有哪些变化,以及如何判断自己是否真的需要升级。
AI新手
10 分钟阅读选择推理模型并设计提示词
推理设置会影响质量、延迟、成本,有时也会改变提示方式。本文介绍如何依据评估而非经验之谈作出选择。
中级
12 分钟阅读如何在提示词、RAG与微调之间选择(以及何时组合)
提示词、RAG和微调是让LLM适应你的问题的三大手段。它们各有适用和不适用的问题。本文提供选择框架、各自的实际成本,以及组合使用时效果突出的生产模式。
高级
11 分钟阅读自托管与托管式推理:一个可审计的盈亏平衡模型
自托管要达到什么规模才会比 API 调用更划算?本文介绍实际计算、运维现实,以及区分哪些团队应该自托管、哪些团队应该继续为托管推理付费的模式。
高级
19 分钟RAG会就此终结吗?Anthropic的新提示缓存
Prompt Engineering. 视频将Anthropic的提示缓存与Gemini的上下文缓存进行比较,并针对长文档聊天、少样本和多轮对话等用例给出具体的延迟与成本降幅。对缓存写入附加费与缓存读取折扣的拆解,正是文章讨论缓存何时划算时所采用的基础。
高级
56 分钟Build Hour:提示缓存
OpenAI. 这是OpenAI官方关于提示缓存的Build Hour,内容包括1024-token阈值、前缀稳定性要求、实时音频缓存的大幅折扣(确切费率请查看当前定价页面),以及长输入对首token延迟的影响。当你评估需要投入多少工程工作,才能让生产提示稳定命中缓存时,本视频很有帮助。
高级
157 分钟LLM模型微调:生成式AI课程
freeCodeCamp.org. 课程以Llama 2和Gemma为例介绍量化、LoRA、QLoRA和PEFT。课程提供特定配置的VRAM用量示例。文章要求在所选模型和硬件上进行测量;这些示例不能证明每项适合的任务都不需要集群。
高级
59 分钟开发LLM:构建、训练与微调
Sebastian Raschka. Raschka的概览介绍微调在模型训练流程中的位置。文章将LoRA作为需通过实验证实价值的方法:在具体任务上测量相对基线的差距,核查资源,并在发布前评估适配器。
高级
15 分钟ChatGPT Plus值得订阅吗?我的2025年最新评估
Ryan Doser. Ryan逐一介绍了只有$20档位才提供的各项功能——使用上限、高级语音模式、图像和Sora限额、自定义GPT、推理模型档位——并与Claude、Gemini和Perplexity等当前的免费替代方案进行比较。由于主题范围较窄,观看次数相对较少,但这是目前最清晰、又不流于炒作的并排比较;因此,我们选择了它,而不是那些声势更大的“Plus改变了我的生活”类视频。
AI新手
19 分钟详解每一种AI模型
Tina Huang. 视频按层级清晰梳理当前的模型格局——旗舰模型、轻量模型、中档模型和专用模型——并通过具体选择说明各层级真正适合哪些任务。这对应文章中“先了解选项,再进行路由”的一半内容;Huang对成本与能力的分析方式也与文章一致,没有依赖基准测试炒作。
中级
9 分钟RouteLLM达到GPT4o质量的90%,成本还降低80%
Matthew Berman. 视频逐步讲解LMSYS的RouteLLM论文和代码:在强弱模型组合前放置一个小型分类器,由它决定调用哪个模型,最终仅用一小部分成本达到强模型约95%的质量。观看次数低于通常的100k门槛,但对于“展示真实模型路由,而不仅仅比较模型”这一具体需求,它是YouTube上最清晰的讲解,也与文章中的质量/成本权衡章节直接对应。
中级
9 分钟RAG与微调对比
IBM Technology. 视频更集中地比较团队最常混淆的两种技术,并深入讨论数据新鲜度、来源归因,以及微调在推理速度方面的优势。如果你正专门尝试说服团队不要开展不必要的微调项目,这段视频值得一看。
高级
13 分钟RAG、微调与提示工程:优化AI模型
IBM Technology. 视频通过清晰的白板讲解对比三种技术及各自的成本——检索延迟、训练算力与灾难性遗忘,以及仅靠提示的局限——并说明哪些组合在生产环境中真正合理。结尾以一套同时使用三种技术的法律AI系统为例,几乎完整对应文章中“何时组合”的论点。
高级
131 分钟我是如何使用LLM的
Andrej Karpathy. 把视频中的模型和套餐选择作为文章所述受控比较的背景。在自己的任务上测试符合条件的候选模型;产品名称和套餐应视为当时的例子。
初级
17 分钟全新最强AI:Claude 3——与Gemini 1.5和GPT-4实测对比
AI Explained. 这段视频早于文章(发布于2024年3月),但真正有用的是其中的方法:一位严谨的评估者让三个前沿模型并排完成相同的高难度任务——OCR、心智理论、指令遵循和数学——并准确展示每个模型在什么地方出错。模型名称已经过时,比较模型的框架却没有过时。
初级
32 分钟使用vLLM与PagedAttention实现高速LLM推理服务
Anyscale. 视频讲解GPU内存浪费60–80%的例子、PagedAttention和批处理。它为文章中质量相当的成本模型提供背景;请测量自己工作负载的容量和利用率。
高级
19 分钟所有AI模型详解
Tina Huang. 这份19分钟的模型系列概览为可核查任务上的比较提供背景。请检查所选工具当前的模型选项;文章并不要求坚持使用同一款产品一个月。
AI新手