繁中 ▾

首頁指南

Claude Code Proxy:使用 OpenAI 相容的 LLM API

Claude Code Proxy 是一個小型伺服器,位於 CLI 與模型 API 之間並負責轉譯請求。你需要它,因為 Claude Code 使用 Anthropic 格式,而此 API 使用 OpenAI 格式。

終端機與伺服器之間的轉譯方塊,顯示 Proxy 在兩種 API 格式之間轉換請求

重點摘要

  1. Claude Code 發送 Anthropic 格式的請求;此 API 接受 OpenAI 格式的請求
  2. LiteLLM 等轉譯 Proxy 位於中間並映射模型名稱
  3. 後端的模型是開放權重模型,並非 Claude,因此請在你自己的任務上進行測試
  4. 30 次請求的程式碼工作階段,每次輸入 20,000 token、輸出 800 token,費用約為 $0.10

Proxy 的作用

Claude Code 代理伺服器是指你在 Anthropic 的程式碼 CLI 與負責回應的模型之間執行的任何伺服器。Claude Code 會讀取用於 API 位址的環境變數,並將請求發送至該處。如果該位址是代理伺服器,代理伺服器將決定實際發生的事:它可以記錄流量、新增規則,或將呼叫轉發至其他模型。

關鍵細節在於傳輸格式。Claude Code 使用 Anthropic 的 Messages 格式。https://api.claudecodeproxyapi.com/v1 的 API 使用 OpenAI Chat Completions 格式,模型 ID 為 uncensored。兩者在精神上相近但不可互換,因此你不能直接將我們的 URL 貼入 Claude Code。轉譯層必須重寫每個請求和回應,包括串流區塊和工具呼叫。

各元件的位置

部分說話任務
Claude Code CLIAnthropic Messages 格式規劃編輯動作、呼叫工具、顯示差異
轉譯 Proxy(本地)兩種格式轉換請求與串流輸出,並對應模型名稱
此 APIOpenAI Chat Completions運行開放權重模型,按 token 計費

社群專案處理中間層。LiteLLM 的代理伺服器與 claude-code-router 是兩個為此目的公開文件的專案。兩者皆為第三方軟體,因此在基於它們進行開發前,請先檢查其最新文件以確認支援的版本與旗標。若途中出現問題,代理伺服器疑難排解指南是起始之處,此網站也有單獨的分步設定文章。

設定前:對模型保持誠實

Claude Code 是圍繞 Anthropic 自己的模型所建構的。替換為其他模型會改變行為,且沒有任何代理伺服器能隱藏這一點。此處的模型是由獨立供應商執行的開放權重模型之一,並經過調整以在法律允許的成人使用情境下無內容審查地回應。它不是 Claude,也不是 Anthropic 或其他任何廠商的官方 API。

對於代理程式類型的工作,它能提供:

  • 支援 tools、tool_choice 與串流 tool_calls,結果以 role: "tool" 訊息回傳。
  • 100,000 token 的上下文視窗,包含提示詞和補全。
  • 使用 response_format 的 JSON 模式,以及透過 SSE 的串流輸出。

你應該自行驗證的事項:它遵循長時間的代理程式迴圈的表現、產生無效工具呼叫的頻率,以及處理你語言與框架的方式。在遷移整個工作流程之前,請從你的程式碼庫執行三到四個真實任務。註冊後點擊一次即可獲得的 $0.50 試用額度,足以完成這些驗證。

先測試上游 API

在接觸 Claude Code 之前,請確認 API 端點能透過普通請求運作,包括工具呼叫,因為代理程式依賴它:

curl https://api.claudecodeproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the files in the src folder."}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "list_files",
        "description": "List files in a directory",
        "parameters": {
          "type": "object",
          "properties": {"path": {"type": "string"}},
          "required": ["path"]
        }
      }
    }],
    "tool_choice": "auto"
  }'

良好的回應包含一個 tool_calls 條目,其中有 list_files 與 JSON 參數字串。如果你看到這個,表示上游已就緒,之後的任何問題屬於代理伺服器或 CLI 設定的範疇。

兩種路徑及選擇時機

路徑 1:用於 Claude Code 的轉譯 Proxy

如果你喜歡 Claude Code 的介面、權限提示與工作流程,並希望在後方使用不同的模型,請選擇此選項。你在本地端執行代理伺服器,將 CLI 指向它,並將 CLI 發送的模型名稱對應到 uncensored。確切的變數請參考 文件與設定文章。

路徑 2:已支援 OpenAI 的客戶端

幾個開源的程式碼助手和編輯器擴充功能(包括 Aider、Continue 和 Cline)可以直接使用任何 OpenAI 相容端點。你輸入 Base URL、金鑰和模型名稱即可,無需維護轉譯層。如果你沒有特別需要 Claude Code 的介面,這是更短的路徑,且較少出現故障的環節。

經驗法則:若要快速測試程式碼模型,請選擇路徑 2;如果你的團隊已經依賴 Claude Code 工作流程,則選擇路徑 1。

程式碼工作階段的成本

代理程式會重新發送大量上下文,因此輸入 token 佔據帳單的大部分。考慮一個包含 30 次請求的工作階段,每次請求輸入 20,000 token(檔案、歷史記錄、工具輸出)並輸出 800 token:

  • 輸入:30 x 20,000 = 600,000 token,即 0.6 x $0.15 = $0.09
  • 輸出:30 x 800 = 24,000 token,即 0.024 x $0.50 = $0.012
  • 總計:$0.102

價格為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50。帳單來自預付額度,無訂閱制,失敗或拒絕的請求不會計費,且額度永不過期。儲值金額從 $20 到 $500 不等,並享有 +5%($50 起)、+10%($100 起)和 +15%($200 起)的加贈額度。該網站接受加密貨幣(TRC20 上的 USDT、Base 上的 USDC)儲值。定價頁面 有完整表格,金鑰頁面 是你使用 Google 或電子郵件註冊的地方。

影響代理程式迴圈的限制

完整金鑰允許 8 個並行請求與每分鐘 300 個請求。試用金鑰允許 2 個並行請求與每分鐘 60 個請求。拆分子任務的代理程式可能會先達到並行限制。API 隨後會以程式碼 concurrency 回應 HTTP 429,而請求速率限制則返回 rate_limited。暫時過載也會返回 429,並帶有 Retry-After: 5。良好的代理伺服器會在延遲後重試 429,而串流請求會保留其槽位直到串流結束,因此卡住的串流會消耗你的配額。

請求主體最多可達 8 MB。如果你的工具將大型檔案貼入提示詞,請注意這一點,並將整個提示詞保持在 100,000 token 的視窗內。

本地 Proxy 的安全注意事項

代理伺服器會保留你的上游金鑰,因此請將其視為任何憑證。將其繫結至 localhost,而非所有網路介面,除非你真的需要其他機器能夠存取它。將金鑰儲存在環境變數或金鑰管理員中,而非儲存在會進入版本控制的檔案裡。如果你與團隊共用代理伺服器,請為它分配一個專屬的主金鑰,這樣你就可以輪替金鑰而不必更動上游金鑰。

也請記住代理程式會傳送什麼。編碼 CLI 會將檔案內容、指令輸出與你的提示詞轉發給模型。此處的提示詞不會用於訓練,但你仍應將私密金鑰與 .env 檔案等機密資訊,排除在代理程式可讀取的目錄之外。

評估模型在程式碼上的表現的公平方式

從真實的程式碼庫中挑選三個難度遞增的任務:一個單檔案修復、一個涉及三個檔案的變更,以及一個帶有測試的小型重構。使用相同的提示詞執行每個任務兩次,一次使用你目前的模型,一次使用 uncensored,並記錄四項內容:編輯是否順利套用、工具呼叫是否解析成功、需要多少重試次數,以及每次執行的成本。一小時的測試比任何排行榜都更有價值。

如果開放權重模型在最困難的任務上表現不佳,你仍可能發現它適合較便宜的任務,例如撰寫測試、撰寫提交訊息或解釋陌生的程式碼。由於計費方式為從預付額度按量付費,且無訂閱費用,因此僅用於這些任務不會有額外成本。

問答

Claude Code 能否在不使用代理的情況下使用此 API?

不行。Claude Code 會傳送 Anthropic 格式的請求,而此 API 接受 OpenAI 格式的請求,因此需要在兩者之間加入轉譯層。

模型的行為會像 Claude 嗎?

不會。這是一個來自獨立供應商的開放權重模型。在依賴它之前,請先在你自己的任務上進行測試。

此 API 是否支援工具呼叫?

是的。它支援工具、tool_choice 和串流輸出的 tool_calls,你可以傳回 role 為 tool 的訊息作為結果。

是否有比代理伺服器更簡單的選項?

是的。接受 OpenAI 相容端點的程式碼助手,例如 Aider、Continue 或 Cline,可以直接連線至 base URL。

試用需要多少費用?

新用戶註冊後可一鍵領取 $0.50 的試用額度。有效期為 7 天,無需綁定信用卡。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。