HI ▾

होमगाइड

Claude Code प्रॉक्सी: OpenAI-संगत LLM API का उपयोग करें

Claude Code प्रॉक्सी एक छोटा सर्वर है जो CLI और मॉडल API के बीच बैठता है और अनुरोधों को ट्रांसलेट करता है। आपको एक की आवश्यकता है क्योंकि Claude Code Anthropic फॉर्मेट बोलता है और यह API OpenAI फॉर्मेट बोलता है।

एक टर्मिनल और एक सर्वर के बीच एक ट्रांसलेटर बॉक्स, दिखाता है कि एक प्रॉक्सी दो API फॉर्मेट्स के बीच अनुरोधों को कैसे परिवर्तित करता है

मुख्य बिंदु

  1. Claude Code Anthropic-शैली अनुरोध भेजता है; यह API OpenAI-शैली अनुरोध स्वीकार करता है
  2. LiteLLM जैसा एक ट्रांसलेटिंग प्रॉक्सी मध्य में बैठता है और मॉडल नाम मैप करता है
  3. इसके पीछे का मॉडल एक ओपन-वेट मॉडल है, Claude नहीं, इसलिए इसे अपने स्वयं के कार्यों पर परीक्षण करें
  4. 20,000 टोकन इन और 800 आउट प्रति अनुरोध वाले 30-अनुरोध कोडिंग सत्र की लागत लगभग $0.10 है

प्रॉक्सी क्या करता है

एक Claude Code प्रॉक्सी वह सर्वर है जो आप एन्थ्रोपिक के कोडिंग CLI और मॉडल के बीच चलाते हैं जो उत्तर देता है। Claude Code API पता के लिए एक एन्वायरनमेंट वेरिएबल पढ़ता है और अपने अनुरोध वहीं भेजता है। यदि वह पता एक प्रॉक्सी है, तो प्रॉक्सी तय करता है कि वास्तव में क्या होता है: यह ट्रैफ़िक लॉग कर सकता है, नियम जोड़ सकता है, या कॉल को किसी अलग मॉडल पर आगे बढ़ा सकता है।

मुख्य बात वायर फ़ॉर्मेट है। Claude Code Anthropic के Messages प्रारूप का उपयोग करता है। https://api.claudecodeproxyapi.com/v1 पर API OpenAI Chat Completions प्रारूप का उपयोग करती है, जिसमें मॉडल ID uncensored है। ये दोनों भावना में निकट हैं लेकिन अदला-बदली योग्य नहीं हैं, इसलिए आप हमारा URL सीधे Claude Code में पेस्ट नहीं कर सकते। एक अनुवाद परत को प्रत्येक अनुरोध और प्रत्येक प्रतिक्रिया को फिर से लिखना होगा, जिसमें स्ट्रीमिंग चंक और फ़ंक्शन कॉलिंग शामिल हैं।

कहाँ क्या बैठा है

भागबातचीतकाम
क्लॉड कोड CLIएन्थ्रोपिक मेसेजेस फॉर्मेटएडिट की योजना बनाता है, टूल्स कॉल करता है, डिफ़ दिखाता है
अनुवाद प्रॉक्सी (स्थानीय)दोनों फॉर्मेटअनुरोधों और स्ट्रीम को बदलता है, मॉडल नाम मैप करता है
यह APIओपनएआई चैट कंप्लीशन्सओपन-वेट मॉडल चलाता है, प्रति टोकन बिल करता है

सामुदायिक प्रोजेक्ट बीच का हिस्सा संभालते हैं। LiteLLM का प्रॉक्सी और claude-code-router इस उद्देश्य के लिए सार्वजनिक रूप से दस्तावेज़ की गई दो परियोजनाएं हैं। दोनों ही थर्ड-पार्टी सॉफ़्टवेयर हैं, इसलिए उन पर निर्भर होने से पहले उनके समर्थित संस्करणों और फ्लैग के लिए वर्तमान दस्तावेज़ जांचें। यदि रास्ते में कुछ विफल हो जाता है, तो प्रॉक्सी ट्रबलशूटिंग गाइड शुरुआत करने की जगह है, और इस साइट पर सेटअप के लिए एक अलग स्टेप-बाय-स्टेप लेख भी उपलब्ध है।

सेटअप करने से पहले: मॉडल के बारे में ईमानदार रहें

Claude Code Anthropic के अपने मॉडल्स के आसपास बनाया गया था। किसी दूसरे मॉडल से बदलने पर व्यवहार बदल जाता है, और कोई भी प्रॉक्सी इसे छिपा नहीं सकता। यहाँ का मॉडल एक स्वतंत्र प्रदाता द्वारा चलाया जाने वाला एक ओपन-वेट मॉडल है और कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड है। यह Claude नहीं है, और यह एन्थ्रोपिक या किसी अन्य विक्रेता का आधिकारिक API नहीं है।

एजेंट-शैली के काम के लिए यह आपको क्या देता है:

  • tools, tool_choice और स्ट्रीम किए गए tool_calls के साथ टूल कॉलिंग, जहाँ परिणाम role: "tool" संदेशों के रूप में लौटाए जाते हैं।
  • 100,000-टोकन कॉन्टेक्स्ट विंडो, प्रॉम्प्ट और कंप्लीशन सहित।
  • response_format के साथ JSON मोड, और SSE के ऊपर स्ट्रीमिंग।

जिसकी आपको स्वयं जांच करनी चाहिए: यह कितनी अच्छी तरह लंबे एजेंट लूप का पालन करता है, कितनी बार इसने दोषपूर्ण टूल कॉल की, और यह आपकी भाषा और फ्रेमवर्क को कैसे संभालता है। पूरा वर्कफ़्लो माइग्रेट करने से पहले अपने रिपॉजिटरी से तीन या चार असली टास्क चलाएं। $0.50 का ट्रायल क्रेडिट, साइन-अप के बाद एक क्लिक से क्लेम किया जा सकता है, वह इसके लिए काफ़ी है।

पहले अपस्ट्रीम का परीक्षण करें

Claude Code को छूने से पहले, यह पुष्टि करें कि API साइड एक सादे अनुरोध सहित एक टूल कॉल के साथ काम करती है, क्योंकि एजेंट्स इस पर निर्भर करते हैं:

curl https://api.claudecodeproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the files in the src folder."}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "list_files",
        "description": "List files in a directory",
        "parameters": {
          "type": "object",
          "properties": {"path": {"type": "string"}},
          "required": ["path"]
        }
      }
    }],
    "tool_choice": "auto"
  }'

एक अच्छा उत्तर tool_calls एंट्री के साथ होता है जिसमें list_files और एक JSON तर्क स्ट्रिंग होती है। यदि आपको वह दिखता है, तो अपस्ट्रीम तैयार है और कोई भी बाद की समस्या प्रॉक्सी या CLI कॉन्फ़िगरेशन की है।

दो मार्ग, और प्रत्येक को चुनने का समय

मार्ग 1: Claude Code के लिए एक अनुवादक प्रॉक्सी

इसे चुनें यदि आपको Claude Code इंटरफ़ेस, उसके अनुमति प्रॉम्प्ट और वर्कफ़्लो पसंद है, और आप इसके पीछे एक अलग मॉडल चाहते हैं। आप प्रॉक्सी को स्थानीय रूप से चलाते हैं, CLI को उसकी ओर इशारा करते हैं और CLI द्वारा भेजे गए मॉडल नामों को uncensored से मैप करते हैं। सटीक वेरिएबल्स दस्तावेज़ और सेटअप आर्टिकल में कवर किए गए हैं।

मार्ग 2: एक क्लाइंट जो पहले से OpenAI बोलता है

Aider, Continue और Cline सहित कई ओपन-सोर्स कोडिंग सहायक और एडिटर एक्सटेंशन किसी भी OpenAI-कम्पैटिबल एंडपॉइंट का सीधे उपयोग कर सकते हैं। आप बेस URL, कुंजी और मॉडल नाम दर्ज करते हैं और बनाए रखने के लिए कोई अनुवाद परत नहीं होती है। यदि आपको विशेष रूप से Claude Code इंटरफ़ेस की आवश्यकता नहीं है, तो यह छोटा मार्ग है और टूटने वाले कम भागों वाला है।

एक सामान्य नियम: कोड पर मॉडल का त्वरित परीक्षण करने के लिए मार्ग 2 चुनें, और जब आपकी टीम पहले से Claude Code वर्कफ़्लो पर निर्भर करती है तो मार्ग 1 चुनें।

कोडिंग सत्र की लागत

एजेंट्स बहुत सारा संदर्भ दोबारा भेजते हैं, इसलिए इनपुट टोकन बिल को प्रमुख बनाते हैं। 30 अनुरोधों का एक सत्र लें, प्रत्येक में 20,000 टोकन इनपुट (फ़ाइलें, इतिहास, टूल आउटपुट) और 800 टोकन आउटपुट के साथ:

  • इनपुट: 30 x 20,000 = 600,000 टोकन, जो 0.6 x $0.15 = $0.09 है
  • आउटपुट: 30 x 800 = 24,000 टोकन, जो 0.024 x $0.50 = $0.012 है
  • कुल: $0.102

मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन हैं। बिलिंग प्रीपेड क्रेडिट से होती है, कोई सब्सक्रिप्शन नहीं है, विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, और क्रेडिट समाप्त नहीं होता है। टॉप-अप $20 से $500 तक +5% बोनस ($50 से), +10% बोनस ($100 से) और +15% बोनस ($200 से) के साथ चलते हैं। यह साइट क्रिप्टो (TRC20 पर USDT, Base पर USDC) स्वीकार करती है। मूल्य पृष्ठ पर पूर्ण तालिका है, और कुंजी पृष्ठ वह जगह है जहाँ आप Google या ईमेल के साथ साइन इन करते हैं।

एजेंट लूप को प्रभावित करने वाले लिमिट्स

एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है। ट्रायल कुंजी 2 समानांतर और प्रति मिनट 60 की अनुमति देती है। ऐसे एजेंट जो सब-टास्क बाँटते हैं, वे पहले समानांतर अनुरोधों की सीमा तक पहुँच सकते हैं। API फिर HTTP 429 उत्तर देती है कोड concurrency के साथ, जबकि अनुरोध-दर कैप rate_limited लौटाता है। एक अस्थायी ओवरलोड भी 429 लौटाता है, Retry-After: 5 के साथ। एक अच्छा प्रॉक्सी देरी के बाद 429 पर पुनः प्रयास करता है, और एक स्ट्रीमिंग अनुरोध स्ट्रीम समाप्त होने तक अपना स्लॉट बनाए रखता है, इसलिए फंसे हुए स्ट्रीम आपकी सीमा में गिने जाते हैं।

अनुरोध बॉडी 8 MB तक हो सकती है। यदि आपका टूल प्रॉम्प्ट में बड़ी फ़ाइलें पेस्ट करता है तो इस बात को ध्यान में रखें, और पूरे प्रॉम्प्ट को 100,000-टोकन विंडो के अंदर रखें।

स्थानीय प्रॉक्सी के लिए सुरक्षा नोट्स

एक प्रॉक्सी आपकी अपस्ट्रीम कुंजी रखता है, इसलिए इसे किसी भी क्रेडेंशियल की तरह मानें। इसे localhost से बाइंड करें, सभी नेटवर्क इंटरफ़ेस से नहीं, जब तक कि आपको वास्तव में अन्य मशीनों को इस तक पहुंचने की आवश्यकता न हो। कुंजी को एक एन्वायरनमेंट वेरिएबल या सिक्रेट्स मैनेजर में स्टोर करें, न कि उस फ़ाइल में जो वर्जन कंट्रोल में जाती है। यदि आप एक प्रॉक्सी को एक टीम के साथ शेयर करते हैं, तो उसे अपनी एक मास्टर कुंजी दें ताकि आप अपस्ट्रीम कुंजी को छुए बिना उसे रोटेट कर सकें।

साथ ही याद रखें कि एक एजेंट क्या भेजता है। एक कोडिंग CLI फ़ाइल सामग्री, कमांड आउटपुट और आपके प्रॉम्प्ट्स को मॉडल को फॉरवर्ड करता है। प्रॉम्प्ट्स यहाँ ट्रेनिंग के लिए उपयोग नहीं किए जाते हैं, लेकिन आपको प्राइवेट कुंजियों और .env फ़ाइलों जैसे सिक्रेट्स को उस वर्किंग डायरेक्टरी से बाहर रखना चाहिए जहाँ एजेंट पढ़ सकता है।

आपके कोड पर मॉडल का मूल्यांकन करने का एक निष्पक्ष तरीका

एक वास्तविक रिपॉज़िटरी से बढ़ती कठिनाई के तीन टास्क चुनें: एक फ़ाइल फिक्स, तीन फ़ाइलों को छूने वाला बदलाव, और टेस्ट्स के साथ एक छोटा रिफैक्टर। प्रत्येक को अपने वर्तमान मॉडल के साथ एक बार और uncensored के साथ एक बार, समान प्रॉम्प्ट के साथ चलाएँ, और चार चीज़ों पर नोट्स रखें: क्या एडिट्स साफ़ तरीके से लागू हुए, क्या टूल कॉलिंग पार्स हुई, कितने रीट्राईज़ की आवश्यकता थी, और प्रत्येक रन की लागत क्या थी। इसका एक घंटा किसी भी लीडरबोर्ड से अधिक बताता है।

यदि ओपन-वेट मॉडल सबसे कठिन कार्य में कम पड़ जाता है, तो आप अभी भी पा सकते हैं कि यह सस्ते कार्यों जैसे टेस्ट लिखने, commit संदेश लिखने या अपरिचित कोड को समझाने के लिए उपयुक्त है। चूँकि बिलिंग प्रीपेड क्रेडिट से उपयोग के अनुसार भुगतान है और कोई सब्सक्रिप्शन नहीं है, इसलिए केवल उन कार्यों के लिए उपयोग करने का कोई दंड नहीं है।

प्रश्न और उत्तर

क्या Claude Code बिना प्रॉक्सी के इस API का उपयोग कर सकता है?

नहीं। Claude Code Anthropic-फॉर्मेट अनुरोध भेजता है और यह API OpenAI-फॉर्मेट अनुरोध स्वीकार करता है, इसलिए उनके बीच एक अनुवादक परत की आवश्यकता है।

क्या मॉडल Claude की तरह व्यवहार करेगा?

नहीं। यह एक स्वतंत्र प्रदाता से एक ओपन-वेट मॉडल है। इस पर भरोसा करने से पहले इसे अपने स्वयं के कार्यों पर परीक्षण करें।

क्या API फ़ंक्शन कॉलिंग का समर्थन करता है?

हाँ। यह टूल्स, tool_choice और स्ट्रीमिंग tool_calls का समर्थन करता है, और आप परिणाम role: tool वाले संदेशों के रूप में लौटाते हैं।

क्या प्रॉक्सी से बेहतर कोई विकल्प है?

हाँ। OpenAI-संगत एंडपॉइंट स्वीकार करने वाले कोडिंग सहायक, जैसे कि Aider, Continue या Cline, सीधे बेस URL से कनेक्ट कर सकते हैं।

कोशिश करने में कितना खर्च आता है?

नए उपयोगकर्ता साइन-अप के बाद एक क्लिक के साथ $0.50 का मुफ़्त ट्रायल क्रेडिट दावा कर सकते हैं। यह 7 दिनों के लिए मान्य है और कार्ड की आवश्यकता नहीं है।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।