NL ▾

HomeGids

Claude Code Proxy-instelling met een OpenAI-compatibele API

Deze claude code proxy-instelling bestaat uit vijf stappen: een sleutel ophalen, een LiteLLM-configuratie schrijven, de proxy starten, twee omgevingsvariabelen instellen en een test uitvoeren. Het duurt ongeveer tien minuten.

Vijf gloeiende tussenstops die van een terminal naar een server leiden, die een stap-voor-stap proxy-instelling tonen

Belangrijkste punten

  1. Draai een lokale LiteLLM-proxy die doorstuurt naar https://api.claudecodeproxyapi.com/v1
  2. Wijs Claude Code naar de proxy met ANTHROPIC_BASE_URL en ANTHROPIC_AUTH_TOKEN
  3. Koppel de modelnaam die Claude Code verzendt naar het upstream-model uncensored
  4. Test de proxy met curl voordat je de CLI start

Wat je nodig hebt

  • Een API-sleutel van de sleutelpagina. Meld je aan met Google of e-mail en wachtwoord, en claim het proeftegoed van $0,50 met één klik.
  • Python 3.9 of nieuwer, om de proxy te installeren.
  • Claude Code is geïnstalleerd en werkt op je machine.

Waarom überhaupt een proxy? Claude Code gebruikt het Anthropic Messages-formaat, en onze API gebruikt het OpenAI Chat Completions-formaat met model-ID uncensored. De proxy vertaalt tussen beide. Lees eerst de proxy-probleemoplossingsgids als je de achtergrond wilt weten. Het model is een open-weight model, geen Claude, dus verwacht ander gedrag bij complexe meerstaps taken.

Stap 1: proxy installeren

Gebruik een virtuele omgeving zodat de afhankelijkheden van de proxy gescheiden blijven van je projecten:

python3 -m venv ~/litellm-env
source ~/litellm-env/bin/activate
pip install 'litellm[proxy]'

LiteLLM is open-sourcesoftware van derden. De onderstaande commando's en configuratiesleutels komen overeen met de publieke documentatie op het moment van schrijven, maar controleer de huidige documentatie als een vlag is gewijzigd.

Stap 2: configuratie schrijven

Maak config.yaml. De model_name is de naam die de client verzendt. Het blok litellm_params geeft aan waar het naartoe moet worden doorgestuurd. Het openai/-voorvoegsel vertelt LiteLLM dat het met een OpenAI-compatibele server moet communiceren.

cat > config.yaml <<'EOF'
model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/uncensored
      api_base: https://api.claudecodeproxyapi.com/v1
      api_key: os.environ/UPSTREAM_KEY
EOF

De alias claude-sonnet is een voorbeeld, geen vereiste. Claude Code kan verschillende modelnamen verzenden, bijvoorbeeld een hoofdmodel en een kleiner model voor achtergrondtaken. Voeg per naam die je in de proxylog ziet een model_list-invoer toe, allemaal verwijzend naar dezelfde upstream. Het is prima om elke alias naar uncensored te wijzen, omdat er maar één model is.

De sleutel wordt gelezen uit een omgevingsvariabele, zodat deze nooit in een bestand terechtkomt dat je misschien commit.

Stap 3: proxy starten

export UPSTREAM_KEY="YOUR_KEY"
litellm --config config.yaml --port 4000

Houd deze terminal open. Je zou moeten zien dat de server luistert op poort 4000. Controleer nu het upstream-pad vanaf de proxykant met een testverzoek in het Anthropic-formaat, wat Claude Code zal verzenden:

curl http://localhost:4000/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: sk-local-anything" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-sonnet",
    "max_tokens": 200,
    "messages": [{"role": "user", "content": "Reply with the word ready."}]
  }'

Een JSON-antwoord waarvan de inhoud het woord "ready" bevat, betekent dat de vertaling van begin tot eind werkt: Anthropic-formaat naar binnen, OpenAI-formaat naar https://api.claudecodeproxyapi.com/v1, en terug. Als je een mastersleutel in de LiteLLM-configuratie hebt ingesteld, gebruik die dan in plaats van sk-local-anything.

Stap 4: Claude Code naar de proxy wijzen

Claude Code leest zijn API-adres en token uit omgevingsvariabelen. Stel ze in in de shell waarin je de CLI start:

export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_AUTH_TOKEN="sk-local-anything"
export ANTHROPIC_MODEL="claude-sonnet"
claude

Gebruik het proxyadres zonder een /v1-achtervoegsel hier, omdat de CLI zijn eigen pad toevoegt. Het token hoeft alleen aan de proxy te voldoen, omdat de echte upstream-sleutel degene is die je hebt geëxporteerd als UPSTREAM_KEY. Als je in plaats van de shell het instellingenbestand van de CLI gebruikt voor omgevingswaarden, zet je dezelfde drie namen daar neer. De namen van omgevingsvariabelen voor Claude Code kunnen tussen releases veranderen, dus controleer ze tegen de huidige Claude Code-documentatie als iets wordt genegeerd.

Stap 5: eerste taak uitvoeren en log bekijken

Begin klein. Vraag de CLI om één bestand uit te leggen of een commentaar toe te voegen aan een functie. In de proxyterminal zou je per stap een verzoek moeten zien. Noteer elke modelnaam die verschijnt; als er een niet in je model_list staat, antwoordt de proxy met een fout, dus voeg het toe en start opnieuw.

Tool calling is hier belangrijk, omdat de CLI bestanden leest en code bewerkt via tools. De API ondersteunt tools, tool_choice en gestreamde tool_calls, en de proxy zet ze om. Een zwakkere naleving van een toolschema komt naar voren als een mislukte bewerking of een herhaalde stap. Als dat gebeurt, maak de taak dan korter en probeer het opnieuw voordat je besluit dat de instelling kapot is.

Het contextvenster is 100.000 tokens, prompt en completion samen. Lange sessies die daar bovenuit gaan, zullen falen, dus start een nieuwe sessie voor een nieuwe taak. De kosten zijn minimaal: $0,15 per 1M inputtokens en $0,50 per 1M outputtokens: een verzoek met 20.000 tokens in en 800 eruit kost $0,003 + $0,0004 = $0,0034. Zie de prijzenpagina voor opwaarderingen, die op deze site worden betaald met crypto (USDT op TRC20, USDC op Base).

Probleemoplossing

Wat je zietOorzaakOplossing
Verbinding geweigerdProxy draait niet of poort verschiltStart het en zorg dat de poort overeenkomt met ANTHROPIC_BASE_URL
Proxy 404 of "model niet gevonden"De modelnaam die de CLI verzendt, staat niet in de configuratieVoeg die naam toe aan model_list
Upstream 401Verkeerde of lege UPSTREAM_KEYExporteer de sleutel opnieuw in de proxyshell en start opnieuw
429 met concurrencyMeer dan 8 gelijktijdige verzoeken (2 tijdens de proef)Verminder gelijktijdige agents
429 met rate_limitedMeer dan 300 verzoeken per minuut (60 tijdens de proef)Wacht en probeer het opnieuw
429 met Retry-After: 5Tijdelijke overbelastingProbeer het opnieuw na vijf seconden
Geblokkeerde streamEen gestreamd verzoek houdt zijn slot vast tot het eindeAnnuleer het in de CLI om het slot vrij te maken

Voor alles wat hier niet aan bod komt, voeg de X-Request-Id-responseheader toe wanneer je naar support schrijft. De documentatie somt alle ondersteunde parameters op.

Permanent maken

Elke keer exports typen wordt saai. Zet de proxy-opstart in een klein script en de clientvariabelen in een alias, zodat één commando alles activeert:

cat > ~/start-proxy.sh <<'EOF'
. ~/litellm-env/bin/activate
export UPSTREAM_KEY="YOUR_KEY"
exec litellm --config ~/config.yaml --port 4000
EOF
chmod +x ~/start-proxy.sh

alias claude-uncensored='ANTHROPIC_BASE_URL=http://localhost:4000 ANTHROPIC_AUTH_TOKEN=sk-local-anything ANTHROPIC_MODEL=claude-sonnet claude'

Omdat de variabelen alleen voor dat ene commando zijn ingesteld, blijft je normale claude-commando werken met de standaardinstellingen. Voeg de alias toe aan je shellprofiel. Bescherm het script met bestandsrechten zoals chmod 700, omdat het je sleutel bevat.

Terugschakelen

Als je de variabelen in de huidige shell hebt geëxporteerd, voer dan unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN ANTHROPIC_MODEL uit en start de CLI opnieuw. Er is niets gewijzigd aan de API-kant, dus er is niets om ongedaan te maken.

Je saldo en uitgaven bekijken

Elk antwoord van de API bevat X-Balance-USD, het tegoed dat nog op je sleutel staat. LiteLLM kan upstream-headers doorgeven in sommige configuraties, maar de zekerste manier om je saldo te controleren is door af en toe direct de upstream aan te roepen:

curl -i https://api.claudecodeproxyapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY" | grep -i x-balance-usd

Agentsessies groeien ongemerkt. Elke stap stuurt de werkcontext opnieuw, dus een lange sessie kost meer per verzoek dan een korte. Begin een nieuwe sessie voor elke taak om de invoer klein te houden en de kosten laag. Bij de gepubliceerde prijzen ($0,15 per 1M input en $0,50 per 1M output) kost een verzoek met 50.000 tokens input en 1.000 output 50.000 x $0,15 / 1M = $0,0075 plus $0,0005, wat $0,008 is. Twintig van zulke verzoeken komen neer op $0,16.

Opwaarderingen lopen van $20 tot $500 in hele bedragen en worden betaald met crypto (USDT op TRC20, USDC op Base) via deze site. Het tegoed verloopt nooit, dus een grotere opwaardering met de bonus van +5%, +10% of +15% zet geen klok op je saldo.

Vragen en antwoorden

Welke omgevingsvariabelen heeft Claude Code nodig voor een proxy?

ANTHROPIC_BASE_URL voor het proxy-adres en ANTHROPIC_AUTH_TOKEN voor een token dat de proxy accepteert. ANTHROPIC_MODEL kan de alias benoemen die je hebt gedefinieerd. Controleer de huidige Claude Code-documentatie voor wijzigingen.

Moet ik /v1 toevoegen aan ANTHROPIC_BASE_URL?

Nee. Gebruik het proxy-adres zoals http://localhost:4000, omdat de CLI-applicatie zijn eigen pad toevoegt. De /v1 hoort alleen bij de upstream api_base in de proxyconfiguratie.

Kan ik een andere proxy dan LiteLLM gebruiken?

Ja. Elke proxy die Anthropic Messages-verzoeken omzet naar OpenAI Chat Completions werkt, bijvoorbeeld claude-code-router. Wijs de upstream aan op https://api.claudecodeproxyapi.com/v1 met model uncensored.

Is mijn upstream-sleutel veilig in de configuratie?

Bewaar hem in een omgevingsvariabele in plaats van het bestand, zoals hierboven getoond. Commit de sleutel niet in een repository.

Je sleutel is nog maar één formulier verwijderd

Maak een account aan, kopieer de sleutel, pas de base URL aan. Dat is de hele setup.