AI API可靠性工程核心模式：1.令牌桶限流（TokenBucket实现，根据API响应头动态调整速率）；2.指数退避重试（基础延迟×2^attempt，加入随机抖动避免雷群效应，最多5次）；3.多模型故障转移（优先级：GPT-4o→Claude→Gemini→GPT-mini，连续失败5次打开断路器）；4.断路器模式（失败阈值触发熔断，5分钟后自动重置）；5.SLO监控（Prometheus指标：可用性99.9%、P95延迟<10s、错误率<0.1%）；6.不可重试错误直接抛出（400/401/403/404），可重试错误（429/500-504）使用退避策略。