像版本化代码那样版本化 Prompt
- William Jacob
- 工程 , Prompt
- 15 May, 2026
LLM 项目的生命周期是：有人写了一个能用的 prompt，另一个人把它复制进代码库，第三个人改了一 ...
保护用户的限流，不只是保护上游
- Sam Wilson
- 可靠性 , 限流
- 14 May, 2026
LLM 应用里的限流是一次解三个问题，多数实现只解一个。上游问题：模型 API 有配额，你不能超。成 ...
部署 LLM 应用：那些不是模型的部分
- William Jacob
- 部署 , 基础设施
- 12 May, 2026
部署 LLM 应用，多半不是部署模型。模型差不多就是一个托管 API 调用。你真正部署的是它周围的一 ...
测试 LLM 应用：当输出非确定性时
- Sam Wilson
- 测试 , 质量
- 11 May, 2026
用确定性代码库的测试范式去测 LLM 应用，结果是周末挂、周一过的 flaky 测试。同样的输入，模 ...