模型 API 配置

模型 API 是连接“想法”与“可运行产品”的管道。本页沉淀接入、限流与成本控制的配置实践，目标是让 API 使用稳定、可预算、可降级。

接入要点

• 多供应商抽象：统一接口屏蔽各厂商差异，便于切换与容灾。
• 鉴权与密钥：密钥与代码分离、按环境隔离、定期轮换。
• 超时与重试：区分可重试错误与不可重试错误，避免雪崩。

限流与降级

策略	适用场景
客户端令牌桶	单实例、低并发
网关层限流	多实例、需要全局视角
多模型降级链	主模型失败自动切换备选

成本控制

1. 按量计费项识别：输入/输出 token、缓存命中、长上下文溢价。
2. 预算告警：日预算 + 实际用量对比，超额自动熔断。
3. 缓存复用：相同请求结果缓存，降低重复调用。

关联

• 个人实验见 个人工具与产品实验。
• 工程化方法见 知识库 — AI 编程。