Build Hour:提示缓存

56 分钟高级构建者OpenAI企业AI

OpenAI. 这是OpenAI官方关于提示缓存的Build Hour,内容包括1024-token阈值、前缀稳定性要求、实时音频缓存的大幅折扣(确切费率请查看当前定价页面),以及长输入对首token延迟的影响。当你评估需要投入多少工程工作,才能让生产提示稳定命中缓存时,本视频很有帮助。

AI Expert 注释

虽远低于我们的观看次数门槛,但这是官方深度讲解;1024-token阈值和前缀稳定性规则决定缓存能否真正生效,而当前费率应以定价页面为准。

您应该从中获得什么

仅在稳定前缀、延迟和成本特征符合工作负载时使用提示缓存。

先观看或了解

你应当已经在使用OpenAI API交付提示;本次课程讨论的是如何在生产中稳定命中缓存。

最后审核:2026年5月18日

继续观看

通过相同的视频学习路径,继续观看下一个精选配套视频。