DE ▾

StartseiteLeitfaden

Claude Code Proxy-Einrichtung mit einer OpenAI-kompatiblen API

Diese Claude-Code-Proxy-Einrichtung besteht aus fünf Schritten: Schlüssel besorgen, LiteLLM-Konfiguration schreiben, Proxy starten, zwei Umgebungsvariablen setzen und einen Test ausführen. Es dauert etwa zehn Minuten.

Fünf glänzende Trittsteine, die von einem Terminal zu einem Server führen und eine schrittweise Proxy-Einrichtung zeigen

Wichtige Punkte

  1. Starte einen lokalen LiteLLM-Proxy, der an https://api.claudecodeproxyapi.com/v1 weiterleitet
  2. Weise Claude Code mit ANTHROPIC_BASE_URL und ANTHROPIC_AUTH_TOKEN auf den Proxy hin
  3. Weise den Modellnamen, den Claude Code sendet, auf das Upstream-Modell uncensored ab
  4. Teste den Proxy mit curl, bevor du die CLI startest

Was du benötigst

  • Ein API-Schlüssel von der Schlüsselseite. Melde dich mit Google oder E-Mail und Passwort an und beanspruche das $0,50-Testguthaben mit einem Klick.
  • Python 3.9 oder neuer, um den Proxy zu installieren.
  • Claude Code ist installiert und auf deinem Rechner funktionsfähig.

Warum ein Proxy? Claude Code nutzt das Anthropic Messages Format, unsere API das OpenAI Chat Completions Format mit der Modell-ID uncensored. Der Proxy übersetzt zwischen beiden. Lies zuerst die Proxy-Fehlerbehebungsanleitung. Das Modell ist ein Open-Weight-Modell, kein Claude, also anderes Verhalten bei komplexen Aufgaben erwarten.

Schritt 1: Proxy installieren

Verwende eine virtuelle Umgebung, damit die Abhängigkeiten des Proxies von deinen Projekten getrennt bleiben:

python3 -m venv ~/litellm-env
source ~/litellm-env/bin/activate
pip install 'litellm[proxy]'

LiteLLM ist Open-Source-Software von Drittanbietern. Die Befehle und Config-Schlüssel unten entsprechen seinen öffentlichen Dokumenten zum Zeitpunkt des Schreibens, aber prüfe seine aktuelle Dokumentation, wenn sich ein Flag geändert hat.

Schritt 2: Config schreiben

Erstelle config.yaml. Der model_name ist der Name, den der Client sendet. Der Block litellm_params sagt, wohin er weitergeleitet werden soll. Das Präfix openai/ teilt LiteLLM mit, mit einem OpenAI-kompatiblen Server zu sprechen.

cat > config.yaml <<'EOF'
model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/uncensored
      api_base: https://api.claudecodeproxyapi.com/v1
      api_key: os.environ/UPSTREAM_KEY
EOF

Der Alias claude-sonnet ist ein Beispiel, keine Anforderung. Claude Code sendet möglicherweise verschiedene Modellnamen, z. B. ein Hauptmodell und ein kleineres für Hintergrundaufgaben. Füge für jeden Namen, den du im Proxy-Log siehst, einen model_list-Eintrag hinzu, der alle auf dieselbe Upstream-Quelle verweist. Es ist in Ordnung, jeden Alias auf uncensored zu verweisen, da es nur ein Modell gibt.

Der Schlüssel wird aus einer Umgebungsvariable gelesen, sodass er niemals in einer Datei landet, die du möglicherweise committest.

Schritt 3: Proxy starten

export UPSTREAM_KEY="YOUR_KEY"
litellm --config config.yaml --port 4000

Lasse dieses Terminal offen. Du solltest sehen, dass der Server an Port 4000 lauscht. Prüfe nun den Upstream-Pfad von der Proxy-Seite mit einer Testanfrage im Anthropic-Format, das Claude Code senden wird:

curl http://localhost:4000/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: sk-local-anything" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-sonnet",
    "max_tokens": 200,
    "messages": [{"role": "user", "content": "Reply with the word ready."}]
  }'

Eine JSON-Antwort, deren Inhalt das Wort „ready“ enthält, bedeutet, dass die Übersetzung durchgängig funktioniert: Anthropic-Format rein, OpenAI-Format an https://api.claudecodeproxyapi.com/v1 und zurück. Wenn du einen Master-Key in der LiteLLM-Konfiguration festlegst, verwende ihn anstelle von sk-local-anything.

Schritt 4: Claude Code auf den Proxy verweisen

Claude Code liest seine API-Adresse und sein Token aus Umgebungsvariablen. Setze sie in der Shell, in der du die CLI startest:

export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_AUTH_TOKEN="sk-local-anything"
export ANTHROPIC_MODEL="claude-sonnet"
claude

Verwende hier die Proxy-Adresse ohne /v1-Suffix, da die CLI ihren eigenen Pfad hinzufügt. Das Token muss nur den Proxy zufriedenstellen, da der echte Upstream-Schlüssel derjenige ist, den du als UPSTREAM_KEY exportiert hast. Wenn du die Einstellungsdatei der CLI für Umgebungsvariablen anstelle der Shell verwendest, gib dieselben drei Namen dort ein. Die Namen der Umgebungsvariablen für Claude Code können sich zwischen Releases ändern, daher überprüfe sie in der aktuellen Claude Code-Dokumentation, wenn etwas ignoriert wird.

Schritt 5: erste Aufgabe ausführen und das Protokoll beobachten

Fange klein an. Bitte die CLI, eine Datei zu erklären oder einen Kommentar zu einer Funktion hinzuzufügen. Im Proxy-Terminal solltest du eine Anfrage pro Schritt sehen. Notiere jeden Modellnamen, der erscheint; wenn einer nicht in deiner model_list ist, antwortet der Proxy mit einem Fehler, also füge ihn hinzu und starte neu.

Tool Calling ist hier wichtig, da die CLI Dateien liest und Code über Tools bearbeitet. Die API unterstützt tools, tool_choice und gestreamte tool_calls, und der Proxy wandelt sie um. Eine schwächere Einhaltung eines Tool-Schemas zeigt sich als fehlgeschlagene Bearbeitung oder ein wiederholter Schritt. Wenn das passiert, verkürze die Aufgabe und versuche es erneut, bevor du entscheidest, dass die Einrichtung kaputt ist.

Das Kontextfenster umfasst 100.000 Token (Prompt + Completion). Lange Sitzungen, die darüber hinausgehen, schlagen fehl; starte für neue Aufgaben eine neue Sitzung. Kosten: $0,15 pro 1M Input-Token, $0,50 pro 1M Output-Token. Eine Anfrage mit 20.000 Input- und 800 Output-Token kostet $0,0034. Siehe Preisseite für Aufladungen, die hier per Krypto (USDT auf TRC20, USDC auf Base) möglich sind.

Fehlerbehebung

Was du siehstUrsacheLösung
Verbindung abgelehntProxy läuft nicht oder Port unterscheidet sichStarte ihn und passe den Port in ANTHROPIC_BASE_URL an
Proxy 404 oder "Modell nicht gefunden"Der von der CLI gesendete Modellname ist nicht in der ConfigFüge diesen Namen zu model_list hinzu
Upstream 401Falscher oder leerer UPSTREAM_KEYExportiere den Schlüssel in der Proxy-Shell neu und starte neu
429 mit concurrencyMehr als 8 parallele Anfragen (2 im Testplan)Reduziere parallele Agenten
429 mit rate_limitedMehr als 300 Anfragen pro Minute (60 im Testplan)Warte kurz und versuche es erneut
429 mit Retry-After: 5Vorübergehende ÜberlastungWarte fünf Sekunden und versuche es erneut
Gestopptes StreamingEine gestreamte Anfrage hält ihren Slot bis zum EndeBrich sie in der CLI ab, um den Slot freizugeben

Für alles, was hier nicht abgedeckt ist, füge den X-Request-Id-Antwortheader hinzu, wenn du an den Support schreibst. Die Dokumentation listet alle unterstützten Parameter auf.

Permanent machen

Das manuelle Exportieren jedes Mal wird schnell langweilig. Lege den Proxy-Start in ein kleines Skript und die Client-Variablen in einen Alias, sodass ein Befehl alles startet:

cat > ~/start-proxy.sh <<'EOF'
. ~/litellm-env/bin/activate
export UPSTREAM_KEY="YOUR_KEY"
exec litellm --config ~/config.yaml --port 4000
EOF
chmod +x ~/start-proxy.sh

alias claude-uncensored='ANTHROPIC_BASE_URL=http://localhost:4000 ANTHROPIC_AUTH_TOKEN=sk-local-anything ANTHROPIC_MODEL=claude-sonnet claude'

Da die Variablen nur für diesen Befehl gesetzt sind, funktioniert dein normales claude-Kommando weiterhin mit den Standard-Einstellungen. Füge den Alias zu deinem Shell-Profil hinzu. Schütze das Skript mit Dateiberechtigungen wie chmod 700, da es deinen Schlüssel enthält.

Zurückwechseln

Wenn du die Variablen in der aktuellen Shell exportiert hast, führe unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN ANTHROPIC_MODEL aus und starte die CLI erneut. Auf API-Seite hat sich nichts geändert, also gibt es nichts, was du rückgängig machen müsstest.

Behalte deinen Kontostand und deine Ausgaben im Blick

Jede Antwort der API enthält X-Balance-USD, das noch auf deinem Schlüssel verfügbare Guthaben. LiteLLM kann Upstream-Header in einigen Konfigurationen durchreichen, aber der sicherste Weg, dein Guthaben zu sehen, ist, ab und zu direkt die Upstream-API aufzurufen:

curl -i https://api.claudecodeproxyapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY" | grep -i x-balance-usd

Agentensitzungen wachsen still und leise. Jeder Schritt sendet den Arbeitskontext erneut, daher kostet eine lange Sitzung pro Anfrage mehr als eine kurze. Starte für jede Aufgabe eine neue Sitzung, um den Input klein und die Rechnung niedrig zu halten. Zu den veröffentlichten Preisen ($0,15 pro 1 Mio. Input und $0,50 pro 1 Mio. Output) kostet eine Anfrage mit 50.000 Tokens Input und 1.000 Output 50.000 × $0,15 / 1 Mio. = $0,0075 plus $0,0005, also $0,008. Zwanzig solcher Anfragen summieren sich auf $0,16.

Aufladungen laufen von 20 $ bis 500 $ in ganzen Beträgen und werden auf dieser Seite mit Krypto (USDT auf TRC20, USDC auf Base) bezahlt. Das Guthaben verfällt nie, sodass eine größere Aufladung mit dem +5 %, +10 % oder +15 % Bonus deine Balance nicht zeitlich begrenzt.

Fragen und Antworten

Welche Umgebungsvariablen benötigt Claude Code für einen Proxy?

ANTHROPIC_BASE_URL für die Proxy-Adresse und ANTHROPIC_AUTH_TOKEN für ein Token, das der Proxy akzeptiert. ANTHROPIC_MODEL kann den von dir definierten Alias benennen. Prüfe die aktuelle Claude Code-Dokumentation auf Änderungen.

Soll ich /v1 in ANTHROPIC_BASE_URL einfügen?

Nein. Verwende die Proxy-Adresse wie http://localhost:4000, da die CLI ihren eigenen Pfad anhängt. Das /v1 gehört nur in die api_base des Upstreams in der Proxy-Konfiguration.

Kann ich einen anderen Proxy als LiteLLM verwenden?

Ja. Jeder Proxy, der Anthropic Messages-Anfragen in OpenAI Chat Completions umwandelt, funktioniert, zum Beispiel claude-code-router. Leite seinen Upstream auf https://api.claudecodeproxyapi.com/v1 mit Modell uncensored.

Ist mein Upstream-Schlüssel in der Konfiguration sicher?

Bewahre ihn stattdessen in einer Umgebungsvariable auf, anstatt ihn in einer Datei zu speichern, wie in der obigen Konfiguration gezeigt. Committe den Schlüssel nicht in ein Repository.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Basis-URL. Das ist die gesamte Einrichtung.