Wat je nodig hebt
- Een API-sleutel van de sleutelpagina. Meld je aan met Google of e-mail en wachtwoord, en claim het proeftegoed van $0,50 met één klik.
- Python 3.9 of nieuwer, om de proxy te installeren.
- Claude Code is geïnstalleerd en werkt op je machine.
Waarom überhaupt een proxy? Claude Code gebruikt het Anthropic Messages-formaat, en onze API gebruikt het OpenAI Chat Completions-formaat met model-ID uncensored. De proxy vertaalt tussen beide. Lees eerst de proxy-probleemoplossingsgids als je de achtergrond wilt weten. Het model is een open-weight model, geen Claude, dus verwacht ander gedrag bij complexe meerstaps taken.
Stap 1: proxy installeren
Gebruik een virtuele omgeving zodat de afhankelijkheden van de proxy gescheiden blijven van je projecten:
python3 -m venv ~/litellm-env
source ~/litellm-env/bin/activate
pip install 'litellm[proxy]'
LiteLLM is open-sourcesoftware van derden. De onderstaande commando's en configuratiesleutels komen overeen met de publieke documentatie op het moment van schrijven, maar controleer de huidige documentatie als een vlag is gewijzigd.
Stap 2: configuratie schrijven
Maak config.yaml. De model_name is de naam die de client verzendt. Het blok litellm_params geeft aan waar het naartoe moet worden doorgestuurd. Het openai/-voorvoegsel vertelt LiteLLM dat het met een OpenAI-compatibele server moet communiceren.
cat > config.yaml <<'EOF'
model_list:
- model_name: claude-sonnet
litellm_params:
model: openai/uncensored
api_base: https://api.claudecodeproxyapi.com/v1
api_key: os.environ/UPSTREAM_KEY
EOF
De alias claude-sonnet is een voorbeeld, geen vereiste. Claude Code kan verschillende modelnamen verzenden, bijvoorbeeld een hoofdmodel en een kleiner model voor achtergrondtaken. Voeg per naam die je in de proxylog ziet een model_list-invoer toe, allemaal verwijzend naar dezelfde upstream. Het is prima om elke alias naar uncensored te wijzen, omdat er maar één model is.
De sleutel wordt gelezen uit een omgevingsvariabele, zodat deze nooit in een bestand terechtkomt dat je misschien commit.
Stap 3: proxy starten
export UPSTREAM_KEY="YOUR_KEY"
litellm --config config.yaml --port 4000
Houd deze terminal open. Je zou moeten zien dat de server luistert op poort 4000. Controleer nu het upstream-pad vanaf de proxykant met een testverzoek in het Anthropic-formaat, wat Claude Code zal verzenden:
curl http://localhost:4000/v1/messages \
-H "content-type: application/json" \
-H "x-api-key: sk-local-anything" \
-H "anthropic-version: 2023-06-01" \
-d '{
"model": "claude-sonnet",
"max_tokens": 200,
"messages": [{"role": "user", "content": "Reply with the word ready."}]
}'
Een JSON-antwoord waarvan de inhoud het woord "ready" bevat, betekent dat de vertaling van begin tot eind werkt: Anthropic-formaat naar binnen, OpenAI-formaat naar https://api.claudecodeproxyapi.com/v1, en terug. Als je een mastersleutel in de LiteLLM-configuratie hebt ingesteld, gebruik die dan in plaats van sk-local-anything.
Stap 4: Claude Code naar de proxy wijzen
Claude Code leest zijn API-adres en token uit omgevingsvariabelen. Stel ze in in de shell waarin je de CLI start:
export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_AUTH_TOKEN="sk-local-anything"
export ANTHROPIC_MODEL="claude-sonnet"
claude
Gebruik het proxyadres zonder een /v1-achtervoegsel hier, omdat de CLI zijn eigen pad toevoegt. Het token hoeft alleen aan de proxy te voldoen, omdat de echte upstream-sleutel degene is die je hebt geëxporteerd als UPSTREAM_KEY. Als je in plaats van de shell het instellingenbestand van de CLI gebruikt voor omgevingswaarden, zet je dezelfde drie namen daar neer. De namen van omgevingsvariabelen voor Claude Code kunnen tussen releases veranderen, dus controleer ze tegen de huidige Claude Code-documentatie als iets wordt genegeerd.
Stap 5: eerste taak uitvoeren en log bekijken
Begin klein. Vraag de CLI om één bestand uit te leggen of een commentaar toe te voegen aan een functie. In de proxyterminal zou je per stap een verzoek moeten zien. Noteer elke modelnaam die verschijnt; als er een niet in je model_list staat, antwoordt de proxy met een fout, dus voeg het toe en start opnieuw.
Tool calling is hier belangrijk, omdat de CLI bestanden leest en code bewerkt via tools. De API ondersteunt tools, tool_choice en gestreamde tool_calls, en de proxy zet ze om. Een zwakkere naleving van een toolschema komt naar voren als een mislukte bewerking of een herhaalde stap. Als dat gebeurt, maak de taak dan korter en probeer het opnieuw voordat je besluit dat de instelling kapot is.
Het contextvenster is 100.000 tokens, prompt en completion samen. Lange sessies die daar bovenuit gaan, zullen falen, dus start een nieuwe sessie voor een nieuwe taak. De kosten zijn minimaal: $0,15 per 1M inputtokens en $0,50 per 1M outputtokens: een verzoek met 20.000 tokens in en 800 eruit kost $0,003 + $0,0004 = $0,0034. Zie de prijzenpagina voor opwaarderingen, die op deze site worden betaald met crypto (USDT op TRC20, USDC op Base).
Probleemoplossing
| Wat je ziet | Oorzaak | Oplossing |
|---|---|---|
| Verbinding geweigerd | Proxy draait niet of poort verschilt | Start het en zorg dat de poort overeenkomt met ANTHROPIC_BASE_URL |
| Proxy 404 of "model niet gevonden" | De modelnaam die de CLI verzendt, staat niet in de configuratie | Voeg die naam toe aan model_list |
| Upstream 401 | Verkeerde of lege UPSTREAM_KEY | Exporteer de sleutel opnieuw in de proxyshell en start opnieuw |
429 met concurrency | Meer dan 8 gelijktijdige verzoeken (2 tijdens de proef) | Verminder gelijktijdige agents |
429 met rate_limited | Meer dan 300 verzoeken per minuut (60 tijdens de proef) | Wacht en probeer het opnieuw |
429 met Retry-After: 5 | Tijdelijke overbelasting | Probeer het opnieuw na vijf seconden |
| Geblokkeerde stream | Een gestreamd verzoek houdt zijn slot vast tot het einde | Annuleer het in de CLI om het slot vrij te maken |
Voor alles wat hier niet aan bod komt, voeg de X-Request-Id-responseheader toe wanneer je naar support schrijft. De documentatie somt alle ondersteunde parameters op.
Permanent maken
Elke keer exports typen wordt saai. Zet de proxy-opstart in een klein script en de clientvariabelen in een alias, zodat één commando alles activeert:
cat > ~/start-proxy.sh <<'EOF'
. ~/litellm-env/bin/activate
export UPSTREAM_KEY="YOUR_KEY"
exec litellm --config ~/config.yaml --port 4000
EOF
chmod +x ~/start-proxy.sh
alias claude-uncensored='ANTHROPIC_BASE_URL=http://localhost:4000 ANTHROPIC_AUTH_TOKEN=sk-local-anything ANTHROPIC_MODEL=claude-sonnet claude'
Omdat de variabelen alleen voor dat ene commando zijn ingesteld, blijft je normale claude-commando werken met de standaardinstellingen. Voeg de alias toe aan je shellprofiel. Bescherm het script met bestandsrechten zoals chmod 700, omdat het je sleutel bevat.
Terugschakelen
Als je de variabelen in de huidige shell hebt geëxporteerd, voer dan unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN ANTHROPIC_MODEL uit en start de CLI opnieuw. Er is niets gewijzigd aan de API-kant, dus er is niets om ongedaan te maken.
Je saldo en uitgaven bekijken
Elk antwoord van de API bevat X-Balance-USD, het tegoed dat nog op je sleutel staat. LiteLLM kan upstream-headers doorgeven in sommige configuraties, maar de zekerste manier om je saldo te controleren is door af en toe direct de upstream aan te roepen:
curl -i https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY" | grep -i x-balance-usd
Agentsessies groeien ongemerkt. Elke stap stuurt de werkcontext opnieuw, dus een lange sessie kost meer per verzoek dan een korte. Begin een nieuwe sessie voor elke taak om de invoer klein te houden en de kosten laag. Bij de gepubliceerde prijzen ($0,15 per 1M input en $0,50 per 1M output) kost een verzoek met 50.000 tokens input en 1.000 output 50.000 x $0,15 / 1M = $0,0075 plus $0,0005, wat $0,008 is. Twintig van zulke verzoeken komen neer op $0,16.
Opwaarderingen lopen van $20 tot $500 in hele bedragen en worden betaald met crypto (USDT op TRC20, USDC op Base) via deze site. Het tegoed verloopt nooit, dus een grotere opwaardering met de bonus van +5%, +10% of +15% zet geen klok op je saldo.
