Proxy 的作用
Claude Code 代理伺服器是指你在 Anthropic 的程式碼 CLI 與負責回應的模型之間執行的任何伺服器。Claude Code 會讀取用於 API 位址的環境變數,並將請求發送至該處。如果該位址是代理伺服器,代理伺服器將決定實際發生的事:它可以記錄流量、新增規則,或將呼叫轉發至其他模型。
關鍵細節在於傳輸格式。Claude Code 使用 Anthropic 的 Messages 格式。https://api.claudecodeproxyapi.com/v1 的 API 使用 OpenAI Chat Completions 格式,模型 ID 為 uncensored。兩者在精神上相近但不可互換,因此你不能直接將我們的 URL 貼入 Claude Code。轉譯層必須重寫每個請求和回應,包括串流區塊和工具呼叫。
各元件的位置
| 部分 | 說話 | 任務 |
|---|---|---|
| Claude Code CLI | Anthropic Messages 格式 | 規劃編輯動作、呼叫工具、顯示差異 |
| 轉譯 Proxy(本地) | 兩種格式 | 轉換請求與串流輸出,並對應模型名稱 |
| 此 API | OpenAI Chat Completions | 運行開放權重模型,按 token 計費 |
社群專案處理中間層。LiteLLM 的代理伺服器與 claude-code-router 是兩個為此目的公開文件的專案。兩者皆為第三方軟體,因此在基於它們進行開發前,請先檢查其最新文件以確認支援的版本與旗標。若途中出現問題,代理伺服器疑難排解指南是起始之處,此網站也有單獨的分步設定文章。
設定前:對模型保持誠實
Claude Code 是圍繞 Anthropic 自己的模型所建構的。替換為其他模型會改變行為,且沒有任何代理伺服器能隱藏這一點。此處的模型是由獨立供應商執行的開放權重模型之一,並經過調整以在法律允許的成人使用情境下無內容審查地回應。它不是 Claude,也不是 Anthropic 或其他任何廠商的官方 API。
對於代理程式類型的工作,它能提供:
- 支援
tools、tool_choice與串流tool_calls,結果以role: "tool"訊息回傳。 - 100,000 token 的上下文視窗,包含提示詞和補全。
- 使用
response_format的 JSON 模式,以及透過 SSE 的串流輸出。
你應該自行驗證的事項:它遵循長時間的代理程式迴圈的表現、產生無效工具呼叫的頻率,以及處理你語言與框架的方式。在遷移整個工作流程之前,請從你的程式碼庫執行三到四個真實任務。註冊後點擊一次即可獲得的 $0.50 試用額度,足以完成這些驗證。
先測試上游 API
在接觸 Claude Code 之前,請確認 API 端點能透過普通請求運作,包括工具呼叫,因為代理程式依賴它:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the files in the src folder."}],
"tools": [{
"type": "function",
"function": {
"name": "list_files",
"description": "List files in a directory",
"parameters": {
"type": "object",
"properties": {"path": {"type": "string"}},
"required": ["path"]
}
}
}],
"tool_choice": "auto"
}'
良好的回應包含一個 tool_calls 條目,其中有 list_files 與 JSON 參數字串。如果你看到這個,表示上游已就緒,之後的任何問題屬於代理伺服器或 CLI 設定的範疇。
兩種路徑及選擇時機
路徑 1:用於 Claude Code 的轉譯 Proxy
如果你喜歡 Claude Code 的介面、權限提示與工作流程,並希望在後方使用不同的模型,請選擇此選項。你在本地端執行代理伺服器,將 CLI 指向它,並將 CLI 發送的模型名稱對應到 uncensored。確切的變數請參考 文件與設定文章。
路徑 2:已支援 OpenAI 的客戶端
幾個開源的程式碼助手和編輯器擴充功能(包括 Aider、Continue 和 Cline)可以直接使用任何 OpenAI 相容端點。你輸入 Base URL、金鑰和模型名稱即可,無需維護轉譯層。如果你沒有特別需要 Claude Code 的介面,這是更短的路徑,且較少出現故障的環節。
經驗法則:若要快速測試程式碼模型,請選擇路徑 2;如果你的團隊已經依賴 Claude Code 工作流程,則選擇路徑 1。
程式碼工作階段的成本
代理程式會重新發送大量上下文,因此輸入 token 佔據帳單的大部分。考慮一個包含 30 次請求的工作階段,每次請求輸入 20,000 token(檔案、歷史記錄、工具輸出)並輸出 800 token:
- 輸入:30 x 20,000 = 600,000 token,即 0.6 x $0.15 = $0.09
- 輸出:30 x 800 = 24,000 token,即 0.024 x $0.50 = $0.012
- 總計:$0.102
價格為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。帳單來自預付額度,無訂閱制,失敗或拒絕的請求不會計費,且額度永不過期。儲值金額從 $20 到 $500 不等,並享有 +5%($50 起)、+10%($100 起)和 +15%($200 起)的加贈額度。該網站接受加密貨幣(TRC20 上的 USDT、Base 上的 USDC)儲值。定價頁面 有完整表格,金鑰頁面 是你使用 Google 或電子郵件註冊的地方。
影響代理程式迴圈的限制
完整金鑰允許 8 個並行請求與每分鐘 300 個請求。試用金鑰允許 2 個並行請求與每分鐘 60 個請求。拆分子任務的代理程式可能會先達到並行限制。API 隨後會以程式碼 concurrency 回應 HTTP 429,而請求速率限制則返回 rate_limited。暫時過載也會返回 429,並帶有 Retry-After: 5。良好的代理伺服器會在延遲後重試 429,而串流請求會保留其槽位直到串流結束,因此卡住的串流會消耗你的配額。
請求主體最多可達 8 MB。如果你的工具將大型檔案貼入提示詞,請注意這一點,並將整個提示詞保持在 100,000 token 的視窗內。
本地 Proxy 的安全注意事項
代理伺服器會保留你的上游金鑰,因此請將其視為任何憑證。將其繫結至 localhost,而非所有網路介面,除非你真的需要其他機器能夠存取它。將金鑰儲存在環境變數或金鑰管理員中,而非儲存在會進入版本控制的檔案裡。如果你與團隊共用代理伺服器,請為它分配一個專屬的主金鑰,這樣你就可以輪替金鑰而不必更動上游金鑰。
也請記住代理程式會傳送什麼。編碼 CLI 會將檔案內容、指令輸出與你的提示詞轉發給模型。此處的提示詞不會用於訓練,但你仍應將私密金鑰與 .env 檔案等機密資訊,排除在代理程式可讀取的目錄之外。
評估模型在程式碼上的表現的公平方式
從真實的程式碼庫中挑選三個難度遞增的任務:一個單檔案修復、一個涉及三個檔案的變更,以及一個帶有測試的小型重構。使用相同的提示詞執行每個任務兩次,一次使用你目前的模型,一次使用 uncensored,並記錄四項內容:編輯是否順利套用、工具呼叫是否解析成功、需要多少重試次數,以及每次執行的成本。一小時的測試比任何排行榜都更有價值。
如果開放權重模型在最困難的任務上表現不佳,你仍可能發現它適合較便宜的任務,例如撰寫測試、撰寫提交訊息或解釋陌生的程式碼。由於計費方式為從預付額度按量付費,且無訂閱費用,因此僅用於這些任務不會有額外成本。
