常见的 OpenRouter API 错误及修复方法

1. 忽略总成本中的 20% 开销

聚合器收取的费用高于基础提供商费率，对每个 token 征收隐形税。您支付提供商的原始价格加上服务费，通常约为 20%。这种加价适用于输入和输出 token。当您扩展到数千次请求时，这 20% 会累积成显著的浪费支出。您可能认为您每百万 token 支付 $0.10，但实际成本是 $0.12。如果您转售 API 访问权限，这会减少您的利润。它还会在开发期间减慢您的测试预算。许多开发者没有意识到他们正在为他们不需要的路由基础设施付费。直接提供商通常提供原始 token 定价，没有这层额外费用。通过消除中间商，您可以省钱。节省是即时且透明的。您确切知道每个 token 支付多少。没有隐藏的服务费扭曲成本。您的预算规划变得准确。您可以精确预测支出。这对于高容量应用至关重要。

2. 误解 Token 计数和上下文窗口

上下文窗口在您的输入和输出之间共享，而不是分开的存储桶。您必须计算单个请求中使用的总 token。如果上下文限制为 128k，您不能发送 100k 输入 token 并期望获得 128k 输出。剩余空间仅为 28k token。超出此限制会导致截断或错误。某些 API 会对被截断的 token 收费。其他 API 则对保留的整个窗口收费。请务必查阅文档以了解具体的定价模型。您应在发送请求前在本地计算 token。这可以防止意外费用。它还能确保您的数据符合限制。大文档需要谨慎的分块策略。您可以将文本拆分为较小的片段。分别处理每个片段。这使上下文窗口保持可控。它降低了延迟和成本。您保留了对数据流的控制。这种方法对于长时间运行的对话至关重要。历史积累会迅速消耗上下文。您必须修剪旧消息以保持在限制范围内。这确保了性能的一致性。它防止了突然的故障。

3. 忽视增值税和销售税的影响

税费因您的所在地和提供商的注册状态而异。聚合商通常会在其服务费之上加收销售税。这意味着您需为加价部分缴税。实际税率会显著增加。您可能会看到基础价格上 7% 的税。然后再加上 20% 的费用。税费适用于总金额。这会产生复利效应。您的最终账单会比预期更高。某些提供商在某些地区不收取税费。另一些则普遍收取。您需要知道提供商的注册地。这会影响您的会计和税务申报。您应计算包含税费的真实成本。这有助于您准确预算。您可以选择税务效率更高的提供商。直接提供商通常具有更简单的税务结构。您仅对服务缴税。不对加价缴税。这简化了您的财务跟踪。它减少了管理开销。您清楚自己确切应付的金额。

4. 假设速率限制是通用的

速率限制因提供商和模型而异。您不能假设一个限制适用于所有端点。某些模型允许每分钟 60 次请求。其他模型仅允许每分钟 10 次。限制可能因层级而异。您可能拥有具有严格限制的自由层级。付费层级提供更高的吞吐量。您应密切监控使用情况。超出限制会导致 429 错误。这些错误会中断您的应用流程。您必须实现带有指数退避的重试逻辑。这可以防止服务器过载。它确保平稳运行。您应在开发期间测试限制。了解您当前的速率限制。据此规划您的扩展策略。您可以将请求分发到多个密钥。这增加了您的总吞吐量。如果某个密钥被限速，它提供了冗余。您保持可靠性。这对生产系统至关重要。您避免停机。您让用户满意。

5. 使用错误的模型ID或端点

聚合器使用映射到各种提供商的复杂模型 ID。您必须使用正确的 ID 才能访问目标模型。端点结构可能略有不同。一些提供商使用 /v1/chat/completions。另一些使用 /v1/completions。您必须将端点与模型类型匹配。使用错误的端点会导致错误。您会在失败的请求中浪费令牌。您应该验证 API 文档。首先用小请求进行测试。这可以确认端点是否有效。然后您可以扩展您的使用量。您可以避免意外故障。您可以确保与客户端库的兼容性。您使用标准的 OpenAI SDK 格式。这使得更换提供商更容易。您只需更改基础 URL。代码的其余部分保持不变。这减少了开发时间。它简化了维护。如果需要，您可以轻松更换提供商。您保留了灵活性。这是标准 API 的关键优势。

6. 未能优雅地处理流式传输错误

流式响应可能会在传输过程中中断。网络问题会导致数据部分交付。您必须优雅地处理这些错误。不要丢弃部分数据块。如果可能，请存储它们。如有需要，请重试请求。这能确保数据完整性。您可以重建完整响应。您提供更好的用户体验。用户能立即看到内容。他们无需等待完整生成。这降低了感知延迟。您应正确处理 SSE 事件。随着每个数据块的到达进行解析。验证数据结构。这能防止解析错误。您确保响应有效。您可以记录错误以进行调试。这有助于您识别模式。您随时间推移提高可靠性。您构建健壮的应用程序。这对于实时功能至关重要。您保持连接存活。您高效管理资源。这降低了服务器负载。它在压力下具有更好的扩展性。

7. 未针对函数调用效率进行优化

函数调用增加了每次请求的开销。你发送函数模式和用户消息。模型解析模式。它生成函数调用。这消耗了额外的令牌。你应该最小化模式大小。删除不必要的字段。保持描述简洁。这减少了输入令牌数。它还加快了解析速度。你应该缓存函数模式。不要每次请求都重新发送它们。这节省了令牌和时间。你应该彻底测试函数调用。确保模型理解格式。使用示例来指导模型。这提高了准确性。你减少了函数执行中的错误。你获得了预期的输出。你可以为复杂任务链接函数调用。这需要仔细的状态管理。你跟踪对话历史。你传递正确的上下文。这确保了连续性。你构建了复杂的代理。这利用了 API 的全部功能。

8. 误解预付费与按量付费

预存额度将资金锁定直至使用。按量付费则在用量产生后计费。预付费通常附带奖励。充值金额越大，您获得的额外额度越多。这降低了您的有效成本。如果您经常使用 API，应选择预付费。您无需支付月度最低消费。您只为实际用量付费。在预付费系统中，错误请求免费。您无需为失败的请求付费。这能节省资金。您可以精确追踪支出。您随时了解余额。您掌控现金流。这非常适合初创企业。您可以严格控制预算。您可以根据需要随时充值。您永远不会失去额度。额度不会过期。这提供了灵活性。您可以按自己的节奏使用 API。这降低了财务风险。您只花费所需金额。