HI ▾

होमगाइड

OpenAI-संगत API के साथ Claude Code Proxy सेटअप

यह Claude Code प्रॉक्सी सेटअप पांच चरणों में होता है: एक कुंजी प्राप्त करें, एक LiteLLM कॉन्फ़िग लिखें, प्रॉक्सी शुरू करें, दो एनवायरनमेंट वेरिएबल्स सेट करें और एक टेस्ट चलाएँ। इसमें लगभग दस मिनट लगते हैं।

एक टर्मिनल से एक सर्वर तक ले जाने वाले पांच चमकते कदम, जो एक चरण-दर-चरण प्रॉक्सी सेटअप दिखाते हैं

मुख्य बिंदु

  1. एक स्थानीय LiteLLM प्रॉक्सी चलाएं जो https://api.claudecodeproxyapi.com/v1 को आगे बढ़ाता है
  2. ANTHROPIC_BASE_URL और ANTHROPIC_AUTH_TOKEN के साथ Claude Code को प्रॉक्सी की ओर इंगित करें
  3. Claude Code द्वारा भेजे गए मॉडल नाम को अपस्ट्रीम मॉडल uncensored से मैप करें
  4. CLI शुरू करने से पहले curl के साथ प्रॉक्सी का परीक्षण करें

आपको क्या चाहिए

  • कुंजी पेज से एक API कुंजी। Google या ईमेल और पासवर्ड से साइन अप करें, फिर एक क्लिक के साथ $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें।
  • प्रॉक्सी इंस्टॉल करने के लिए Python 3.9 या नया संस्करण।
  • Claude Code आपकी मशीन पर इंस्टॉल और काम करने योग्य होना चाहिए।

प्रॉक्सी क्यों? Claude Code Anthropic के Messages फॉर्मेट का उपयोग करता है, और हमारा API uncensored मॉडल ID के साथ OpenAI के Chat Completions फॉर्मेट का उपयोग करता है। प्रॉक्सी उनके बीच अनुवाद करता है। यदि आपको पहले पृष्ठभूमि चाहिए, तो प्रॉक्सी त्रुटि निवारण गाइड पढ़ें। मॉडल एक ओपन-वेट मॉडल है, Claude नहीं, इसलिए कठिन मल्टी-स्टेप टास्क पर अलग व्यवहार की उम्मीद करें।

चरण 1: प्रॉक्सी इंस्टॉल करें

प्रॉक्सी के निर्भरताओं को अपने प्रोजेक्ट्स से अलग रखने के लिए एक वर्चुअल एनवायरनमेंट का उपयोग करें:

python3 -m venv ~/litellm-env
source ~/litellm-env/bin/activate
pip install 'litellm[proxy]'

LiteLLM एक थर्ड-पार्टी ओपन-सोर्स सॉफ़्टवेयर है। नीचे दिए गए कमांड्स और कॉन्फ़िग कुंजियाँ लेखन के समय इसके सार्वजनिक दस्तावेज़ों से मेल खाती हैं, लेकिन यदि कोई फ्लैग बदल गया हो तो वर्तमान दस्तावेज़ जाँचें।

चरण 2: कॉन्फ़िग लिखें

config.yaml बनाएँ। model_name वह नाम है जो क्लाइंट भेजता है। litellm_params ब्लॉक बताता है कि इसे कहाँ फॉरवर्ड करना है। openai/ प्रीफिक्स LiteLLM को एक OpenAI-अनुकूल सर्वर से बात करने के लिए कहता है।

cat > config.yaml <<'EOF'
model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/uncensored
      api_base: https://api.claudecodeproxyapi.com/v1
      api_key: os.environ/UPSTREAM_KEY
EOF

एलियास claude-sonnet एक उदाहरण है, आवश्यकता नहीं। Claude Code कई अलग-अलग मॉडल नाम भेज सकता है, उदाहरण के लिए एक मुख्य मॉडल और बैकग्राउंड टास्क के लिए एक छोटा मॉडल। प्रॉक्सी लॉग में दिखाए गए प्रत्येक नाम के लिए एक model_list एंट्री जोड़ें, सभी एक ही अपस्ट्रीम की ओर इशारा करें। हर एलियास को uncensored पर इशारा करना ठीक है, क्योंकि केवल एक मॉडल है।

कुंजी एक एनवायरनमेंट वेरिएबल से पढ़ी जाती है ताकि वह उस फ़ाइल में कभी न आए जिसे आप कमिट कर सकते हैं।

चरण 3: प्रॉक्सी शुरू करें

export UPSTREAM_KEY="YOUR_KEY"
litellm --config config.yaml --port 4000

इस टर्मिनल को खुला छोड़ें। आपको सर्वर पोर्ट 4000 पर सुनते हुए दिखना चाहिए। अब प्रॉक्सी की ओर से अपस्ट्रीम पाथ को Anthropic फॉर्मेट में एक टेस्ट अनुरोध के साथ जाँचें, जो Claude Code भेजेगा:

curl http://localhost:4000/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: sk-local-anything" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-sonnet",
    "max_tokens": 200,
    "messages": [{"role": "user", "content": "Reply with the word ready."}]
  }'

एक JSON जवाब जिसकी सामग्री में "ready" शब्द शामिल है, इसका मतलब है कि अनुवाद अंत तक काम कर रहा है: Anthropic फॉर्मेट इन, OpenAI फॉर्मेट को https://api.claudecodeproxyapi.com/v1, और वापस। यदि आप LiteLLM कॉन्फ़िगरेशन में एक मास्टर कुंजी सेट करते हैं, तो sk-local-anything की जगह इसका उपयोग करें।

चरण 4: Claude Code को प्रॉक्सी की ओर निर्देशित करें

Claude Code अपने API एड्रेस और टोकन को एनवायरनमेंट वेरिएबल्स से पढ़ता है। उन्हें उस शेल में सेट करें जहाँ आप CLI शुरू करते हैं:

export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_AUTH_TOKEN="sk-local-anything"
export ANTHROPIC_MODEL="claude-sonnet"
claude

यहाँ प्रॉक्सी के पते का उपयोग /v1 प्रत्यय के बिना करें, क्योंकि CLI अपना पथ जोड़ता है। टोकन को केवल प्रॉक्सी को संतुष्ट करने की आवश्यकता है, क्योंकि असली अपस्ट्रीम कुंजी वह है जिसे आपने UPSTREAM_KEY के रूप में एक्सपोर्ट किया था। यदि आप शेल की जगह एनवायरनमेंट वैल्यू के लिए CLI की सेटिंग्स फ़ाइल का उपयोग करते हैं, तो वही तीन नाम वहाँ डालें। Claude Code के लिए एनवायरनमेंट वेरिएबल के नाम रिलीज़ के बीच बदल सकते हैं, इसलिए यदि कुछ अनदेखा किया जाता है तो उन्हें वर्तमान Claude Code दस्तावेज़ों से सत्यापित करें।

चरण 5: पहली टास्क चलाएं और लॉग देखें

छोटे से शुरू करें। CLI से एक फ़ाइल समझाने या एक फ़ंक्शन में एक कमेंट जोड़ने को कहें। प्रॉक्सी टर्मिनल में आपको प्रत्येक चरण के लिए एक अनुरोध दिखना चाहिए। प्रत्येक मॉडल नाम नोट करें जो दिखाई देता है; यदि एक आपके model_list में नहीं है, तो प्रॉक्सी एक त्रुटि के साथ जवाब देता है, इसलिए इसे जोड़ें और रिस्टार्ट करें।

यहाँ फ़ंक्शन कॉलिंग मायने रखती है, क्योंकि CLI फ़ाइलों को पढ़ता है और टूल्स के माध्यम से कोड संपादित करता है। API tools, tool_choice और स्ट्रीमिंग tool_calls को सपोर्ट करता है, और प्रॉक्सी उन्हें रूपांतरित करता है। टूल स्कीमा का कम पालन एक विफल संपादन या एक दोहराए गए चरण के रूप में दिखाई देता है। जब ऐसा हो, तो सेटअप टूटा हुआ मानने से पहले टास्क छोटा करें और पुनः प्रयास करें।

कॉन्टेक्स्ट विंडो 100,000 टोकन की है, प्रॉम्प्ट और कंप्लीशन दोनों मिलाकर। लंबे सत्र जो इससे आगे जाते हैं वे फेल हो जाएंगे, इसलिए नए टास्क के लिए एक नया सत्र शुरू करें। लागत बहुत कम है: $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन: 20,000 टोकन इन और 800 आउट वाले एक रिक्वेस्ट की लागत $0.003 + $0.0004 = $0.0034 है। टॉप-अप के लिए प्राइसिंग पेज देखें, जो इस साइट पर क्रिप्टो (TRC20 पर USDT, Base पर USDC) में भुगतान किए जाते हैं।

त्रुटि निवारण

आपको क्या दिखता हैकारणसमाधान
कनेक्शन अस्वीकृतप्रॉक्सी चालू नहीं है या पोर्ट अलग हैइसे चालू करें और ANTHROPIC_BASE_URL में पोर्ट मिलाएं
प्रॉक्सी 404 या "मॉडल नहीं मिला"CLI द्वारा भेजा गया मॉडल नाम कॉन्फ़िगरेशन में नहीं हैउस नाम को model_list में जोड़ें
अपस्ट्रीम 401गलत या खाली UPSTREAM_KEYप्रॉक्सी के शेल में कुंजी फिर से एक्सपोर्ट करें और रीस्टार्ट करें
concurrency के साथ 4298 से अधिक समानांतर अनुरोध (ट्रायल पर 2)समानांतर एजेंट्स कम करें
rate_limited के साथ 429प्रति मिनट 300 से अधिक अनुरोध (ट्रायल पर 60)बैकऑफ़ करें और पुनः प्रयास करें
429 के साथ Retry-After: 5अस्थायी ओवरलोडपांच सेकंड बाद पुनः प्रयास करें
स्ट्रीम अटक गईएक स्ट्रीम किए गए अनुरोध का स्लॉट तब तक बंद रहता है जब तक वह समाप्त न हो जाएस्लॉट मुक्त करने के लिए इसे CLI में रद्द करें

इसमें न आने वाली किसी भी समस्या के लिए, सपोर्ट को लिखते समय X-Request-Id रिस्पॉन्स हेडर शामिल करें। दस्तावेज़ में समर्थित प्रत्येक पैरामीटर की सूची है।

इसे स्थायी बनाएं

हर बार टाइप करके एक्सपोर्ट करना पुराना पड़ जाता है। प्रॉक्सी स्टार्ट-अप को एक छोटे स्क्रिप्ट में और क्लाइंट वेरिएबल्स को एक एलियास में डालें, ताकि एक कमांड से सब कुछ चालू हो जाए:

cat > ~/start-proxy.sh <<'EOF'
. ~/litellm-env/bin/activate
export UPSTREAM_KEY="YOUR_KEY"
exec litellm --config ~/config.yaml --port 4000
EOF
chmod +x ~/start-proxy.sh

alias claude-uncensored='ANTHROPIC_BASE_URL=http://localhost:4000 ANTHROPIC_AUTH_TOKEN=sk-local-anything ANTHROPIC_MODEL=claude-sonnet claude'

चूंकि वेरिएबल्स केवल उस एक कमांड के लिए सेट किए गए हैं, आपका सामान्य claude कमांड अपने डिफ़ॉल्ट सेटिंग्स के साथ काम करता रहेगा। एलियास को अपने शेल प्रोफ़ाइल में जोड़ें। स्क्रिप्ट को फ़ाइल अनुमतियों जैसे chmod 700 से सुरक्षित करें, क्योंकि इसमें आपकी कुंजी होती है।

वापस स्विच करना

यदि आपने वर्तमान शेल में वेरिएबल्स एक्सपोर्ट किए हैं, तो unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN ANTHROPIC_MODEL चलाएं और CLI फिर से चालू करें। API साइड पर कुछ भी बदला नहीं गया है, इसलिए रद्द करने के लिए कुछ नहीं है।

अपना बैलेंस और खर्च देखना

API से हर रिस्पॉन्स में X-Balance-USD होता है, जो आपकी कुंजी पर शेष क्रेडिट है। कुछ सेटअप में LiteLLM अपस्ट्रीम हेडर्स पास कर सकता है, लेकिन अपना बैलेंस देखने का सबसे भरोसेमंद तरीका अपस्ट्रीम को कभी-कभी सीधे कॉल करना है:

curl -i https://api.claudecodeproxyapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY" | grep -i x-balance-usd

एजेंट सेशन धीरे-धीरे बढ़ते हैं। हर कदम पर कार्यरत कॉन्टेक्स्ट फिर से भेजा जाता है, इसलिए एक लंबे सेशन का खर्च एक छोटे सेशन की तुलना में हर अनुरोध पर अधिक होता है। हर टास्क के लिए एक नया सेशन शुरू करने से इनपुट छोटा रहता है और बिल कम आता है। प्रकाशित की गई कीमतों पर ($0.15 प्रति 1M इनपुट और $0.50 प्रति 1M आउटपुट), 50,000 टोकन इनपुट और 1,000 आउटपुट वाले एक अनुरोध का खर्च 50,000 x $0.15 / 1M = $0.0075 प्लस $0.0005 होता है, जो कि $0.008 है। ऐसे बीस अनुरोधों का कुल खर्च $0.16 आता है।

टॉप-अप $20 से $500 की पूर्ण राशि में होते हैं और इस साइट पर TRC20 पर USDT या Base पर USDC के माध्यम से भुगतान किए जाते हैं। क्रेडिट कभी समाप्त नहीं होता, इसलिए +5%, +10% या +15% बोनस के साथ एक बड़ा टॉप-अप आपके बैलेंस पर घड़ी नहीं लगाता।

प्रश्न और उत्तर

प्रॉक्सी के लिए Claude Code को किन एनवायरनमेंट वेरिएबल्स की आवश्यकता है?

प्रॉक्सी पता के लिए ANTHROPIC_BASE_URL और एक टोकन के लिए ANTHROPIC_AUTH_TOKEN, जिसे प्रॉक्सी स्वीकार करता है। ANTHROPIC_MODEL आपके द्वारा परिभाषित एलियास का नाम बता सकता है। परिवर्तनों के लिए वर्तमान Claude Code दस्तावेज़ जांचें।

क्या मुझे ANTHROPIC_BASE_URL पर /v1 डालना चाहिए?

नहीं। CLI अपना पथ जोड़ता है, इसलिए प्रॉक्सी पता जैसे http://localhost:4000, का उपयोग करें। /v1 केवल प्रॉक्सी कॉन्फ़िगरेशन में अपस्ट्रीम api_base पर होता है।

क्या मैं LiteLLM के अलावा कोई अन्य प्रॉक्सी उपयोग कर सकता हूँ?

हाँ। कोई भी प्रॉक्सी जो Anthropic Messages अनुरोधों को OpenAI Chat Completions में परिवर्तित करता है, काम करता है, उदाहरण के लिए claude-code-router। मॉडल uncensored के साथ इसके अपस्ट्रीम को https://api.claudecodeproxyapi.com/v1 पर पॉइंट करें।

क्या मेरी अपस्ट्रीम कुंजी कॉन्फ़िग में सुरक्षित है?

उपरोक्त कॉन्फ़िगरेशन में दिखाए अनुसार, फ़ाइल के बजाय इसे एक एनवायरनमेंट वेरिएबल में रखें। कुंजी को रिपॉज़िटरी में कमिट न करें।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।