Co robi proxy
Proxy Claude Code to dowolny serwer, który uruchamiasz między kodowym CLI Anthropic a modelem, który odpowiada. Claude Code odczytuje zmienną środowiskową adresu API i wysyła do niego swoje zapytania. Jeśli tym adresem jest proxy, to proxy decyduje, co się naprawdę dzieje: może logować ruch, dodawać reguły lub przekazywać wywołanie do innego modelu.
Kluczowym szczegółem jest format przesyłu. Claude Code używa formatu Messages Anthropic. API pod https://api.claudecodeproxyapi.com/v1 używa formatu Chat Completions OpenAI z identyfikatorem modelu uncensored. Te dwa są bliskie duchowo, ale nie są wymienne, więc nie możesz wkleić naszego URL bezpośrednio do Claude Code. Warstwa tłumacząca musi przepisać każde żądanie i każdą odpowiedź, w tym fragmenty strumieniowania i wywołania narzędzi.
Co gdzie się znajduje
| Część | Mówi w | Zadanie |
|---|---|---|
| Claude Code CLI | Format Messages Anthropic | Planuje edycje, wywołuje narzędzia, pokazuje różnice |
| Tłumaczące proxy (lokalne) | Oba formaty | Konwertuje żądania i strumienie, mapuje nazwy modeli |
| To API | Chat Completions OpenAI | Uruchamia model o otwartych wagach, rozlicza za token |
Projekty społecznościowe obsługują środkową część. Proxy LiteLLM i claude-code-router to dwa, które są publicznie udokumentowane dla tego celu. Oba to oprogramowanie stron trzecich, więc sprawdź ich aktualną dokumentację dotyczącą obsługiwanych wersji i flag przed zbudowaniem na nich. Jeśli coś zawiedzie w drodze, przewodnik rozwiązywania problemów z proxy jest miejscem, od którego należy zacząć, a ta strona ma również osobny artykuł krok po kroku dotyczący konfiguracji.
Przed konfiguracją: bądź szczery co do modelu
Claude Code został zbudowany wokół własnych modeli Anthropic. Wymiana na inny model zmienia zachowanie, a żadne proxy tego nie ukryje. Używany tutaj model to model o otwartych wagach uruchamiany przez niezależnego dostawcę i dostosowany do odpowiadania bez odmów dotyczących treści przy legalnym użyciu przez dorosłych. To nie jest Claude i nie jest to oficjalne API Anthropic ani żadnego innego dostawcy.
Co daje Ci to do pracy w stylu agenta:
- Wywoływanie funkcji z
tools,tool_choicei strumieniowanymitool_calls, z wynikami zwracanymi jako komunikatyrole: "tool". - Okno kontekstu 100 000 tokenów, prompt i completion łącznie.
- Tryb JSON z
response_formati strumieniowanie przez SSE.
Co powinieneś sprawdzić samodzielnie: jak dobrze radzi sobie z długą pętlą agenta, jak często generuje niepoprawne wywołania funkcji i jak obsługuje Twój język oraz framework. Uruchom trzy lub cztery rzeczywiste zadania z repozytorium przed przeniesieniem całego przepływu pracy. Kredyt próbny za $0,50, odebrany jednym kliknięciem po zalogowaniu się, wystarczy do tego.
Przetestuj najpierw warstwę upstream
Przed użyciem Claude Code upewnij się, że strona API działa z prostym zapytaniem, w tym z wywołaniem funkcji, ponieważ agenci od tego zależą:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the files in the src folder."}],
"tools": [{
"type": "function",
"function": {
"name": "list_files",
"description": "List files in a directory",
"parameters": {
"type": "object",
"properties": {"path": {"type": "string"}},
"required": ["path"]
}
}
}],
"tool_choice": "auto"
}'
Dobra odpowiedź zawiera wpis tool_calls z list_files i ciągiem argumentów JSON. Jeśli to widzisz, warstwa upstream jest gotowa, a wszelkie późniejsze problemy należą do konfiguracji proxy lub CLI.
Dwie trasy i kiedy wybrać każdą
Trasa 1: tłumaczące proxy dla Claude Code
Wybierz to, jeśli podoba Ci się interfejs Claude Code, jego monity o uprawnienia i przepływ pracy, a chcesz mieć inny model pod spodem. Uruchamiasz proxy lokalnie, kierujesz CLI do niego i mapujesz nazwy modeli wysyłane przez CLI na uncensored. Dokładne zmienne środowiskowe opisano w dokumentacji oraz w artykule dotyczącym konfiguracji.
Trasa 2: klient, który już rozumie protokół OpenAI
Wiele open-source'owych asystentów programistycznych i rozszerzeń edytorów, w tym Aider, Continue i Cline, może korzystać z dowolnego endpointu kompatybilnego z OpenAI bezpośrednio. Wpisujesz Base URL, klucz i nazwę modelu i nie ma warstwy tłumaczenia do utrzymania. Jeśli specjalnie nie potrzebujesz interfejsu Claude Code, jest to krótsza ścieżka i ma mniej części, które mogą się zepsuć.
Zasada kciuka: wybierz trasę 2 do szybkiego przetestowania modelu na kodzie, a trasę 1, gdy Twoja drużyna już polega na przepływie pracy Claude Code.
Koszt sesji programistycznej
Agenci przesyłają dużo kontekstu, więc tokeny wejściowe dominują w rachunku. Weź sesję 30 zapytań, każde z 20 000 tokenami wejściowymi (pliki, historia, wynik narzędzia) i 800 tokenami wyjściowymi:
- Wejście: 30 x 20 000 = 600 000 tokenów, czyli 0,6 x $0,15 = $0,09
- Wyjście: 30 x 800 = 24 000 tokenów, czyli 0,024 x $0,50 = $0,012
- Razem: $0,102
Ceny to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Płatności są pobierane z przedpłaconego kredytu bez subskrypcji, nieudane lub odrzucone zapytania nie są rozliczane, a kredyt nie wygasa. Doładowania wynoszą od $20 do $500 z bonusami +5% od kwoty $50, +10% od $100 i +15% od $200. Ta strona akceptuje doładowania kryptowalutami (USDT w sieci TRC20, USDC na Base). Pełna tabela cen znajduje się na stronie z cenami, a stronie z kluczami możesz się zarejestrować za pomocą Google lub e-maila.
Ograniczenia wpływające na pętle agenta
Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę. Klucz próbny pozwala na 2 równoległe i 60 na minutę. Agenci rozdzielający podzadania mogą najpierw osiągnąć limit równoległości. API wtedy odpowiada HTTP 429 z kodem concurrency, a limit szybkości zapytań zwraca rate_limited. Tymczasowe przeciążenie również zwraca 429 z Retry-After: 5. Dobre proxy ponawia zapytanie po 429 po opóźnieniu, a strumieniowane zapytanie trzyma swój slot do końca strumienia, więc zawieszone strumienie wliczają się do Twojego limitu.
Treść żądania może mieć do 8 MB. Miej to na uwadze, jeśli Twoje narzędzia wklejają duże pliki do promptów, i trzymaj cały prompt poniżej okna 100 000 tokenów.
Uwagi bezpieczeństwa dla lokalnego proxy
Proxy przechowuje Twój klucz upstream, więc traktuj go jak każde inne poświadczenie. Powiąż go z localhost, a nie ze wszystkimi interfejsami sieciowymi, chyba że naprawdę potrzebujesz, aby inne maszyny mogły się do niego dostać. Przechowuj klucz w zmiennej środowiskowej lub menedżerze sekretów, a nie w pliku, który trafi do systemu kontroli wersji. Jeśli udostępniasz proxy zespołowi, przydziel mu osobny klucz główny, abyś mógł go rotować bez dotykania klucza upstream.
Pamiętaj też, co wysyła agent. CLI do kodowania przesyła zawartość plików, wyniki poleceń i Twoje prompty do modelu. Prompty nie są tutaj używane do trenowania, ale nadal powinieneś trzymać sekrety, takie jak klucze prywatne i pliki .env, z dala od katalogu roboczego, który agent może odczytać.
Sprawiedliwy sposób na ocenę modelu w kontekście Twojego kodu
Wybierz trzy zadania o rosnącej trudności z rzeczywistego repozytorium: poprawkę w jednym pliku, zmianę dotykającą trzy pliki oraz małą refaktoryzację z testami. Uruchom każde z nich dwa razy z tym samym promptem: raz z aktualnym modelem, a raz z uncensored, i prowadź notatki na cztery tematy: czy edycje zostały zastosowane poprawnie, czy wywołania funkcji zostały poprawnie zinterpretowane, ile retry’ów było potrzebnych oraz ile kosztowała każda próba. Godzina tego typu testów mówi więcej niż dowolna lista rankingowa.
Jeśli model o otwartych wagach nie spełnia oczekiwań w najtrudniejszym zadaniu, nadal możesz odkryć, że nadaje się do tańszych zadań, takich jak pisanie testów, tworzenie wiadomości commit lub wyjaśnianie nieznanego kodu. Ponieważ rozliczenie odbywa się w modelu pay as you go z przedpłaconego kredytu, bez subskrypcji, nie ma żadnej kary za używanie go tylko do tych zadań.
