常見的 OpenRouter API 錯誤與修復

1. 忽略總成本中的 20% 額外開銷

匯總器收取的費用高於基礎供應商費率，對每個 token 徵收隱形稅。您支付供應商的原始價格加上服務費，通常約為 20%。這種加價適用於輸入和輸出 token。當您擴展到數千次請求時，這 20% 會累積成顯著的浪費支出。您可能會認為您每百萬 token 支付 $0.10，但實際成本是 $0.12。如果您轉售 API 訪問權限，這會減少您的利潤。它還會在開發期間減慢您的測試預算。許多開發者沒有意識到他們正在為他們不需要的路由基礎設施付費。直接供應商通常提供原始 token 定價，沒有這額外的一層。通過消除中間商，您可以節省資金。節省是即時且透明的。您清楚知道每個 token 的費用。沒有隱藏的服務費扭曲成本。您的預算規劃變得準確。您可以精確預測開支。這對於高容量應用至關重要。

2. 誤解 Token 計數與上下文視窗

上下文窗口由您的輸入與輸出共享，並非獨立的儲存區。您必須計算單一請求中使用的總 token 數。如果上下文限制為 128k，您不能發送 100k 輸入 token 並期望獲得 128k 輸出。剩餘空間僅有 28k token。超過此限制會導致截斷或錯誤。某些 API 會對被截斷的 token 收費，而其他 API 則會對保留的整個窗口收費。請務必查閱文件以了解特定的計費模式。您應在發送請求前在本地計算 token。這可防止意外費用，並確保您的資料符合限制。大型文件需要仔細的分塊策略。您可以將文字分割成較小的區段。分別處理每個區段。這可使上下文窗口保持可控。這可降低延遲與成本。您能掌控資料流程。此方法對於長期運行的對話至關重要。歷史累積會快速消耗上下文。您必須修剪舊訊息以保持在限制內。這可確保一致的效能。它可防止突然的故障。

3. 忽略增值稅與銷售稅的影響

稅率取決於您的所在地和提供商的註冊狀態。聚合商通常會在服務費之上額外收取銷售稅。這意味著您需為溢價部分繳稅。實際稅率會顯著增加。您可能會看到基礎價格上收取 7% 的稅，然後再額外收取 20% 的費用。稅款適用於總金額，這會產生複利效應，導致您的最終賬單高於預期。某些提供商在特定地區不收取稅款，而其他提供商則普遍收取。您需要了解提供商的註冊地，這會影響您的會計和稅務申報。您應計算包含稅費在內的真實成本，這有助於準確預算。您可以選擇稅務效率更高的提供商。直接提供商通常具有更簡單的稅務結構。您僅就服務本身繳稅，不對溢價部分繳稅。這簡化了您的財務追蹤，減少了行政負擔，讓您清楚知道應繳納的金額。

4. 假設速率限制是通用的

速率限制因供應商和模型而異。您不能假設一個限制適用於所有端點。某些模型允許每分鐘 60 次請求。其他模型僅允許 10 次。限制可能因層級而異。您可能擁有嚴格限制的免費層級。付費層級提供更高的吞吐量。您應密切監控使用情況。超出限制會導致 429 錯誤。這些錯誤會中斷應用程式流程。您必須實作指數退避的重試邏輯。這可防止伺服器過載。它確保運作順暢。您應在開發期間測試限制。了解當前的速率限制。據此規劃擴展策略。您可以將請求分發到多個金鑰。這增加了總吞吐量。如果某個金鑰被限速，它可提供冗餘。您維持可靠性。這對於生產系統至關重要。您避免停機。您讓使用者滿意。

5. 使用錯誤的模型 ID 或端點

聚合平台使用複雜的模型 ID 來映射各種供應商。您必須使用正確的 ID 來對應目標模型。端點結構可能略有不同。某些供應商使用 /v1/chat/completions。其他則使用 /v1/completions。您必須將端點與模型類型匹配。使用錯誤的端點會導致錯誤。您會因請求失敗而浪費 token。您應驗證 API 文件。先透過小型請求進行測試。這可確認端點運作正常。然後您便可擴展使用量。您可避免意外失敗。您確保與客戶端庫的相容性。您使用標準的 OpenAI SDK 格式。這使得切換供應商更為容易。您只需更改基礎 URL。程式碼的其餘部分保持不變。這減少了開發時間。它簡化了維護。如有需要，您可以輕鬆更換供應商。您保留了靈活性。這是標準 API 的關鍵優勢。

6. 未能優雅處理串流錯誤

串流回應可能會在中途中斷。網路問題會導致資料部分交付。您必須優雅地處理這些錯誤。不要丟棄部分資料區塊。如果可能，請儲存它們。如有需要，請重試請求。這能確保資料完整性。您可以重建完整的回應。您能提供更好的使用者體驗。使用者可以立即看到內容。他們不需要等待完整生成。這降低了感知延遲。您應正確處理 SSE 事件。隨著每個區塊到達進行解析。驗證資料結構。這能防止解析錯誤。您能確保回應有效。您可以記錄錯誤以供除錯。這有助於您識別模式。您能隨時間提升可靠性。您能建構出穩健的應用程式。這對於即時功能至關重要。您保持連線存活。您有效管理資源。這能減少伺服器負載。它在壓力下具有更好的擴展性。

7. Not Optimizing for Function Calling Efficiency

函式呼叫會增加每次請求的額外開銷。您傳送函式結構描述和使用者訊息。模型解析結構描述。它生成函式呼叫。這會消耗額外 Token。您應最小化結構描述的大小。移除不必要的欄位。保持描述簡潔。這能減少輸入 Token 數量。這也能加快解析速度。您應快取函式結構描述。不要每次請求都重新傳送它們。這能節省 Token 和時間。您應徹底測試函式呼叫。確保模型理解格式。使用範例來引導模型。這能提高準確性。您減少函式執行中的錯誤。您獲得預期的輸出。您可以鏈結函式呼叫以處理複雜任務。這需要仔細的狀態管理。您追蹤對話歷史。您傳遞正確的上下文。這確保了連續性。您建構複雜的代理。這利用了 API 的全部功能。

8. Misunderstanding Prepaid vs. Pay-as-you-go

預付額度會鎖定資金直到使用為止。隨用隨付模式則在使用後才計費。預付方案通常附帶獎勵金。存入較大金額可獲得額外額度。這降低了您的實際成本。如果您經常使用 API，應選擇預付方案。您無需支付每月最低消費額。您只需為實際使用的部分付費。在預付系統中，錯誤不計費。您無需為失敗的請求付費。這能節省資金。您可以精確追蹤支出。您隨時都知道餘額。您掌控現金流。這非常適合初創團隊。您可以緊密管理預算。您可以隨時按需充值。您不會損失任何額度。額度不會過期。這提供了靈活性。您可以按自己的節奏使用 API。這降低了財務風險。您只花費所需金額。