Czy potrzebujesz proxy dla SillyTavern?
Słowa „Claude Code”, „proxy” i „SillyTavern” często są mylone w wyszukiwaniach, więc oto co oznacza każde z nich. Claude Code to CLI do kodowania od Anthropic i nie ma nic wspólnego z SillyTavern. SillyTavern to samodzielnie hostowany interfejs czatu do odgrywania ról i czatów z postaciami. W starszych ustawieniach OpenAI nazywa niestandardowy endpoint „reverse proxy”, stąd pochodzi słowo „proxy”.
Nie musisz uruchamiać dodatkowego serwera. SillyTavern łączy się bezpośrednio z dowolnym endpointem kompatybilnym z OpenAI, a https://api.claudecodeproxyapi.com/v1 jest jednym z nich. ID modelu to uncensored. To model o otwartych wagach obsługiwany przez niezależnego dostawcę, dostrojony do odpowiadania bez odrzucania treści dla prawnego użytku przez osoby dorosłe. Nie jest to Claude ani oficjalne API Anthropic ani żadnego innego dostawcy. Jedyną twardą zasadą jest to, że treści seksualne z udziałem nieletnich są zawsze zabronione.
Połącz w pięciu krokach
- Pobierz klucz na stronie kluczy API. Po rejestracji możesz jednym kliknięciem odebrać darmowy kredyt próbny w wysokości $0,50, ważny przez 7 dni, bez karty.
- W SillyTavern otwórz ikonę wtyczki (Połączenia API) i ustaw API na Chat Completion.
- Ustaw Chat Completion Source na Custom (OpenAI-compatible).
- W Custom Endpoint (Base URL) wpisz
https://api.claudecodeproxyapi.com/v1. Nie dodawaj/chat/completions. - Wklej swój klucz do Custom API Key, wpisz
uncensoredjako ID modelu, a następnie naciśnij Connect.
Zielone światło statusu i pojawienie się nazwy modelu oznaczają sukces. Etykiety menu nieznacznie zmieniają się w zależności od wersji SillyTavern, więc jeśli pole ma inną nazwę w Twojej wersji, szukaj tego samego pojęcia: źródła akceptującego URL w stylu OpenAI.
Przetestuj klucz poza SillyTavern najpierw
Jeśli Connect się nie powiedzie, wyłącz SillyTavern z równania. To zapytanie powinno zwrócić listę modeli, w tym uncensored:
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
A to testuje rzeczywistą odpowiedź, tak jak wysyła ją czat z postacią:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
Jeśli oba działają w terminalu, ale zawodzą w SillyTavern, przyczyną jest literówka w polu URL lub pozostałe ustawienie. Jeśli zawiodą również w terminalu, sprawdź klucz.
Ustawienia warte zmiany
Rozmiar kontekstu
API ma okno kontekstu 100 000 tokenów, obejmujące prompt i completion. Suwak kontekstu w SillyTavern to narzędzie do przycinania historii, więc ustaw go tak wysoko, jak wymagają tego Twoje rozmowy. Większy kontekst oznacza bogatszą pamięć, ale też więcej tokenów wejściowych na wiadomość, co przekłada się na koszt.
Długość odpowiedzi
Ustaw maksymalną długość odpowiedzi pasującą do Twojego stylu. API traktuje max_tokens jako opcjonalne, ale limit zapobiega przedłużaniu się odpowiedzi i utrzymuje koszty przewidywalnymi.
Strumieniowanie
Włącz strumieniowanie, aby odpowiedzi pojawiały się słowo po słowie. Strumienie używają SSE i raportują zużycie na końcu. Strumień zajmuje jeden slot współbieżności do zakończenia, co ma znaczenie, jeśli uruchamiasz kilka czatów naraz: pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę, a klucz próbny pozwala na 2 i 60.
Próbkowanie
Temperature, top_p, sekwencje stop, seed i kary są przekazywane. Dla żywego dialogu ustaw temperaturę blisko 0.9. Jeśli postać powtarza frazy, dodaj małą karę za częstotliwość przed zmianą czegokolwiek innego.
Postprocesowanie promptu
Jeśli połączenie działa, ale odpowiedzi ignorują Twoją kartę postaci, sprawdź opcję postprocesowania promptu dla źródła Custom i spróbuj innego trybu. Niektóre tryby scalają lub porządkują wiadomości systemowe, co może zmienić sposób odczytu karty.
Wywoływanie funkcji i rozszerzenia
API obsługuje wywoływanie funkcji: tools, tool_choice, strumieniowane tool_calls i wyniki wysyłane z powrotem jako role: "tool". Czy możesz z tego skorzystać w SillyTavern, zależy od wersji i zainstalowanych rozszerzeń, ponieważ wywoływanie funkcji w interfejsach jest opcjonalne i obsługiwane przez konkretne funkcje. Jeśli tworzysz własne narzędzia postaci lub rozszerzenie, kształt zapytania jest standardowy dla OpenAI, a dokumentacja zawiera przykłady. Do zwykłego czatu z postacią nie potrzebujesz w ogóle narzędzi.
Tryb JSON jest również dostępny przez response_format: {"type":"json_object"}. Pomaga to w rozszerzeniach, które proszą model o dane strukturalne, np. śledzenie stanu ekwipunku lub relacji.
Ile kosztuje czat
Ceny to $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych, a nieudane lub odrzucone zapytania nie są rozliczane. Załóżmy, że każda wiadomość wysyła 8000 tokenów karty, lorebooka i historii i otrzymuje odpowiedź 400 tokenów:
- Wejście: 8000 / 1 000 000 x $0,15 = $0,0012
- Wyjście: 400 / 1 000 000 x $0,50 = $0,0002
- Na wiadomość: $0,0014
- Czat 200 wiadomości: 200 x $0,0014 = $0,28
Dzięki temu kredyt próbny $0,50 starcza na długą pierwszą rozmowę. Doładowania zaczynają się od $20, z bonusami +5% od kwoty $50, +10% od $100 i +15% od $200; niewykorzystany kredyt nie wygasa. Na tej stronie płatności odbywają się kryptowalutami (USDT w sieci TRC20, USDC na Base). Szczegóły znajdziesz na stronie cennika. Jeśli chcesz podłączyć ten sam endpoint do narzędzia CLI do kodowania, przewodnik rozwiązywania problemów z proxy wyjaśnia, dlaczego tam potrzebne jest proxy tłumaczące, a tutaj nie.
Utrzymaj tanie karty postaci
Tokeny wejściowe to większość rachunku, a karta jest wysyłana z każdą wiadomością. Kilka nawyków obniża koszty bez uszczerbku dla postaci:
- Pisz kartę jako krótkie opisy stylu wypowiedzi, celów i granic zamiast długiego opisu fabularnego.
- Utrzymuj wpisy lorebooka powiązane z konkretnymi słowami, aby wstawiane były tylko te istotne.
- Podsumowuj stare sceny w kilka linijek od czasu do czasu, a następnie przycinaj surowy dziennik.
- Sprawdź licznik tokenów w widoku promptu i usuń wszystko, czego model nigdy nie używa.
Obniżenie średniego wejścia z 8000 do 4000 tokenów na wiadomość zmniejsza część wejściową wiadomości z $0,0012 do $0,0006, co daje oszczędność $0,0006 na wiadomość i $0,12 przy 200 wiadomościach.
Typowe problemy
| Problem | Sprawdź |
|---|---|
| Połączenie pokazuje błąd | URL musi kończyć się na /v1 i nie zawierać /chat/completions; przetestuj powyższymi poleceniami curl |
| Odpowiedź urywa się w połowie zdania | Podnieś ustawienie długości odpowiedzi; samo API nic nie ogranicza poniżej okna kontekstu |
| Odpowiedzi są powtarzalne | Dodaj małą karę częstotliwości lub obecności i podnieś nieco temperaturę |
| Czat zatrzymuje się po wielu wiadomościach | Mogłeś osiągnąć limit okna 100 000 tokenów; obniż suwak kontekstu lub podsumuj |
| 429 przy uruchomieniu dwóch czatów | Klucz próbny pozwala na 2 równoległe zapytania; zatrzymaj strumieniowanie lub doładowaj, aby uzyskać pełny klucz |
Kontaktując się z pomocą techniczną, wyślij nagłówek X-Request-Id z nieudanej odpowiedzi. Na stronie klucza możesz również sprawdzić, czy wklejony klucz jest aktualny.
