आपको क्या चाहिए
- कुंजी पेज से एक API कुंजी। Google या ईमेल और पासवर्ड से साइन अप करें, फिर एक क्लिक के साथ $0.50 का मुफ़्त ट्रायल क्रेडिट क्लेम करें।
- प्रॉक्सी इंस्टॉल करने के लिए Python 3.9 या नया संस्करण।
- Claude Code आपकी मशीन पर इंस्टॉल और काम करने योग्य होना चाहिए।
प्रॉक्सी क्यों? Claude Code Anthropic के Messages फॉर्मेट का उपयोग करता है, और हमारा API uncensored मॉडल ID के साथ OpenAI के Chat Completions फॉर्मेट का उपयोग करता है। प्रॉक्सी उनके बीच अनुवाद करता है। यदि आपको पहले पृष्ठभूमि चाहिए, तो प्रॉक्सी त्रुटि निवारण गाइड पढ़ें। मॉडल एक ओपन-वेट मॉडल है, Claude नहीं, इसलिए कठिन मल्टी-स्टेप टास्क पर अलग व्यवहार की उम्मीद करें।
चरण 1: प्रॉक्सी इंस्टॉल करें
प्रॉक्सी के निर्भरताओं को अपने प्रोजेक्ट्स से अलग रखने के लिए एक वर्चुअल एनवायरनमेंट का उपयोग करें:
python3 -m venv ~/litellm-env
source ~/litellm-env/bin/activate
pip install 'litellm[proxy]'
LiteLLM एक थर्ड-पार्टी ओपन-सोर्स सॉफ़्टवेयर है। नीचे दिए गए कमांड्स और कॉन्फ़िग कुंजियाँ लेखन के समय इसके सार्वजनिक दस्तावेज़ों से मेल खाती हैं, लेकिन यदि कोई फ्लैग बदल गया हो तो वर्तमान दस्तावेज़ जाँचें।
चरण 2: कॉन्फ़िग लिखें
config.yaml बनाएँ। model_name वह नाम है जो क्लाइंट भेजता है। litellm_params ब्लॉक बताता है कि इसे कहाँ फॉरवर्ड करना है। openai/ प्रीफिक्स LiteLLM को एक OpenAI-अनुकूल सर्वर से बात करने के लिए कहता है।
cat > config.yaml <<'EOF'
model_list:
- model_name: claude-sonnet
litellm_params:
model: openai/uncensored
api_base: https://api.claudecodeproxyapi.com/v1
api_key: os.environ/UPSTREAM_KEY
EOF
एलियास claude-sonnet एक उदाहरण है, आवश्यकता नहीं। Claude Code कई अलग-अलग मॉडल नाम भेज सकता है, उदाहरण के लिए एक मुख्य मॉडल और बैकग्राउंड टास्क के लिए एक छोटा मॉडल। प्रॉक्सी लॉग में दिखाए गए प्रत्येक नाम के लिए एक model_list एंट्री जोड़ें, सभी एक ही अपस्ट्रीम की ओर इशारा करें। हर एलियास को uncensored पर इशारा करना ठीक है, क्योंकि केवल एक मॉडल है।
कुंजी एक एनवायरनमेंट वेरिएबल से पढ़ी जाती है ताकि वह उस फ़ाइल में कभी न आए जिसे आप कमिट कर सकते हैं।
चरण 3: प्रॉक्सी शुरू करें
export UPSTREAM_KEY="YOUR_KEY"
litellm --config config.yaml --port 4000
इस टर्मिनल को खुला छोड़ें। आपको सर्वर पोर्ट 4000 पर सुनते हुए दिखना चाहिए। अब प्रॉक्सी की ओर से अपस्ट्रीम पाथ को Anthropic फॉर्मेट में एक टेस्ट अनुरोध के साथ जाँचें, जो Claude Code भेजेगा:
curl http://localhost:4000/v1/messages \
-H "content-type: application/json" \
-H "x-api-key: sk-local-anything" \
-H "anthropic-version: 2023-06-01" \
-d '{
"model": "claude-sonnet",
"max_tokens": 200,
"messages": [{"role": "user", "content": "Reply with the word ready."}]
}'
एक JSON जवाब जिसकी सामग्री में "ready" शब्द शामिल है, इसका मतलब है कि अनुवाद अंत तक काम कर रहा है: Anthropic फॉर्मेट इन, OpenAI फॉर्मेट को https://api.claudecodeproxyapi.com/v1, और वापस। यदि आप LiteLLM कॉन्फ़िगरेशन में एक मास्टर कुंजी सेट करते हैं, तो sk-local-anything की जगह इसका उपयोग करें।
चरण 4: Claude Code को प्रॉक्सी की ओर निर्देशित करें
Claude Code अपने API एड्रेस और टोकन को एनवायरनमेंट वेरिएबल्स से पढ़ता है। उन्हें उस शेल में सेट करें जहाँ आप CLI शुरू करते हैं:
export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_AUTH_TOKEN="sk-local-anything"
export ANTHROPIC_MODEL="claude-sonnet"
claude
यहाँ प्रॉक्सी के पते का उपयोग /v1 प्रत्यय के बिना करें, क्योंकि CLI अपना पथ जोड़ता है। टोकन को केवल प्रॉक्सी को संतुष्ट करने की आवश्यकता है, क्योंकि असली अपस्ट्रीम कुंजी वह है जिसे आपने UPSTREAM_KEY के रूप में एक्सपोर्ट किया था। यदि आप शेल की जगह एनवायरनमेंट वैल्यू के लिए CLI की सेटिंग्स फ़ाइल का उपयोग करते हैं, तो वही तीन नाम वहाँ डालें। Claude Code के लिए एनवायरनमेंट वेरिएबल के नाम रिलीज़ के बीच बदल सकते हैं, इसलिए यदि कुछ अनदेखा किया जाता है तो उन्हें वर्तमान Claude Code दस्तावेज़ों से सत्यापित करें।
चरण 5: पहली टास्क चलाएं और लॉग देखें
छोटे से शुरू करें। CLI से एक फ़ाइल समझाने या एक फ़ंक्शन में एक कमेंट जोड़ने को कहें। प्रॉक्सी टर्मिनल में आपको प्रत्येक चरण के लिए एक अनुरोध दिखना चाहिए। प्रत्येक मॉडल नाम नोट करें जो दिखाई देता है; यदि एक आपके model_list में नहीं है, तो प्रॉक्सी एक त्रुटि के साथ जवाब देता है, इसलिए इसे जोड़ें और रिस्टार्ट करें।
यहाँ फ़ंक्शन कॉलिंग मायने रखती है, क्योंकि CLI फ़ाइलों को पढ़ता है और टूल्स के माध्यम से कोड संपादित करता है। API tools, tool_choice और स्ट्रीमिंग tool_calls को सपोर्ट करता है, और प्रॉक्सी उन्हें रूपांतरित करता है। टूल स्कीमा का कम पालन एक विफल संपादन या एक दोहराए गए चरण के रूप में दिखाई देता है। जब ऐसा हो, तो सेटअप टूटा हुआ मानने से पहले टास्क छोटा करें और पुनः प्रयास करें।
कॉन्टेक्स्ट विंडो 100,000 टोकन की है, प्रॉम्प्ट और कंप्लीशन दोनों मिलाकर। लंबे सत्र जो इससे आगे जाते हैं वे फेल हो जाएंगे, इसलिए नए टास्क के लिए एक नया सत्र शुरू करें। लागत बहुत कम है: $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन: 20,000 टोकन इन और 800 आउट वाले एक रिक्वेस्ट की लागत $0.003 + $0.0004 = $0.0034 है। टॉप-अप के लिए प्राइसिंग पेज देखें, जो इस साइट पर क्रिप्टो (TRC20 पर USDT, Base पर USDC) में भुगतान किए जाते हैं।
त्रुटि निवारण
| आपको क्या दिखता है | कारण | समाधान |
|---|---|---|
| कनेक्शन अस्वीकृत | प्रॉक्सी चालू नहीं है या पोर्ट अलग है | इसे चालू करें और ANTHROPIC_BASE_URL में पोर्ट मिलाएं |
| प्रॉक्सी 404 या "मॉडल नहीं मिला" | CLI द्वारा भेजा गया मॉडल नाम कॉन्फ़िगरेशन में नहीं है | उस नाम को model_list में जोड़ें |
| अपस्ट्रीम 401 | गलत या खाली UPSTREAM_KEY | प्रॉक्सी के शेल में कुंजी फिर से एक्सपोर्ट करें और रीस्टार्ट करें |
concurrency के साथ 429 | 8 से अधिक समानांतर अनुरोध (ट्रायल पर 2) | समानांतर एजेंट्स कम करें |
rate_limited के साथ 429 | प्रति मिनट 300 से अधिक अनुरोध (ट्रायल पर 60) | बैकऑफ़ करें और पुनः प्रयास करें |
429 के साथ Retry-After: 5 | अस्थायी ओवरलोड | पांच सेकंड बाद पुनः प्रयास करें |
| स्ट्रीम अटक गई | एक स्ट्रीम किए गए अनुरोध का स्लॉट तब तक बंद रहता है जब तक वह समाप्त न हो जाए | स्लॉट मुक्त करने के लिए इसे CLI में रद्द करें |
इसमें न आने वाली किसी भी समस्या के लिए, सपोर्ट को लिखते समय X-Request-Id रिस्पॉन्स हेडर शामिल करें। दस्तावेज़ में समर्थित प्रत्येक पैरामीटर की सूची है।
इसे स्थायी बनाएं
हर बार टाइप करके एक्सपोर्ट करना पुराना पड़ जाता है। प्रॉक्सी स्टार्ट-अप को एक छोटे स्क्रिप्ट में और क्लाइंट वेरिएबल्स को एक एलियास में डालें, ताकि एक कमांड से सब कुछ चालू हो जाए:
cat > ~/start-proxy.sh <<'EOF'
. ~/litellm-env/bin/activate
export UPSTREAM_KEY="YOUR_KEY"
exec litellm --config ~/config.yaml --port 4000
EOF
chmod +x ~/start-proxy.sh
alias claude-uncensored='ANTHROPIC_BASE_URL=http://localhost:4000 ANTHROPIC_AUTH_TOKEN=sk-local-anything ANTHROPIC_MODEL=claude-sonnet claude'
चूंकि वेरिएबल्स केवल उस एक कमांड के लिए सेट किए गए हैं, आपका सामान्य claude कमांड अपने डिफ़ॉल्ट सेटिंग्स के साथ काम करता रहेगा। एलियास को अपने शेल प्रोफ़ाइल में जोड़ें। स्क्रिप्ट को फ़ाइल अनुमतियों जैसे chmod 700 से सुरक्षित करें, क्योंकि इसमें आपकी कुंजी होती है।
वापस स्विच करना
यदि आपने वर्तमान शेल में वेरिएबल्स एक्सपोर्ट किए हैं, तो unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN ANTHROPIC_MODEL चलाएं और CLI फिर से चालू करें। API साइड पर कुछ भी बदला नहीं गया है, इसलिए रद्द करने के लिए कुछ नहीं है।
अपना बैलेंस और खर्च देखना
API से हर रिस्पॉन्स में X-Balance-USD होता है, जो आपकी कुंजी पर शेष क्रेडिट है। कुछ सेटअप में LiteLLM अपस्ट्रीम हेडर्स पास कर सकता है, लेकिन अपना बैलेंस देखने का सबसे भरोसेमंद तरीका अपस्ट्रीम को कभी-कभी सीधे कॉल करना है:
curl -i https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY" | grep -i x-balance-usd
एजेंट सेशन धीरे-धीरे बढ़ते हैं। हर कदम पर कार्यरत कॉन्टेक्स्ट फिर से भेजा जाता है, इसलिए एक लंबे सेशन का खर्च एक छोटे सेशन की तुलना में हर अनुरोध पर अधिक होता है। हर टास्क के लिए एक नया सेशन शुरू करने से इनपुट छोटा रहता है और बिल कम आता है। प्रकाशित की गई कीमतों पर ($0.15 प्रति 1M इनपुट और $0.50 प्रति 1M आउटपुट), 50,000 टोकन इनपुट और 1,000 आउटपुट वाले एक अनुरोध का खर्च 50,000 x $0.15 / 1M = $0.0075 प्लस $0.0005 होता है, जो कि $0.008 है। ऐसे बीस अनुरोधों का कुल खर्च $0.16 आता है।
टॉप-अप $20 से $500 की पूर्ण राशि में होते हैं और इस साइट पर TRC20 पर USDT या Base पर USDC के माध्यम से भुगतान किए जाते हैं। क्रेडिट कभी समाप्त नहीं होता, इसलिए +5%, +10% या +15% बोनस के साथ एक बड़ा टॉप-अप आपके बैलेंस पर घड़ी नहीं लगाता।
