Heb je een proxy nodig voor SillyTavern?
De termen "Claude Code", "proxy" en "SillyTavern" worden vaak door elkaar gehaald in zoekopdrachten. Hier is wat elk van die termen betekent. Claude Code is de codeer-CLI van Anthropic en heeft niets te maken met SillyTavern. SillyTavern is een zelfgehoste chat-frontend voor rollenspel en karakterchats. In de oudere OpenAI-instellingen noemt het een aangepast endpoint een "reverse proxy"; daarvandaan komt het woord "proxy".
Je hoeft geen extra server uit te voeren. SillyTavern kan rechtstreeks communiceren met elke OpenAI-compatibele endpoint, en https://api.claudecodeproxyapi.com/v1 is er een. De model-ID is uncensored. Dit is een open-weight model dat wordt beheerd door een onafhankelijke provider, geoptimaliseerd om te antwoorden zonder inhoudsweigeringen voor legaal gebruik door volwassenen. Het is geen Claude en geen officiële API van Anthropic of een andere leverancier. De enige harde regel is dat seksuele inhoud met minderjarigen nooit is toegestaan.
Verbind in vijf stappen
- Haal een key op de API-keypagina. Na het aanmelden kun je met één klik $0,50 proeftegoed claimen, geldig voor 7 dagen, geen creditcard nodig.
- Open in SillyTavern het plug-icoon (API Connections) en stel API in op Chat Completion.
- Stel Chat Completion-bron in op Aangepast (OpenAI-compatible).
- In Custom Endpoint (Base URL), voer
https://api.claudecodeproxyapi.com/v1in. Voeg/chat/completionsniet toe. - Plak je key in Custom API Key, typ
uncensoredals model ID en druk op Connect.
Een groen statuslampje en de modelnaam die verschijnen betekenen dat het werkt. Menu-labels verschuiven iets tussen SillyTavern-releases, dus als een veld anders heet in jouw versie, zoek dan naar hetzelfde idee: een bron die een aangepaste OpenAI-style URL accepteert.
Test de key eerst buiten SillyTavern
Als Connect mislukt, haal SillyTavern uit de vergelijking. Dit verzoek moet een modellijst teruggeven met daarin uncensored:
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
En deze test een echt antwoord, zoals een character chat het verstuurt:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
Als beide werken in de terminal maar falen in SillyTavern, is de oorzaak een typo in het URL-veld of een achtergebleven instelling. Als ze ook in de terminal falen, controleer dan de key.
Instellingen die de moeite waard zijn om aan te passen
Contextvenstergrootte
De API heeft een contextvenster van 100.000 tokens, voor prompt en completion samen. De context slider van SillyTavern knipt je geschiedenis, dus zet hem zo hoog als je chats nodig hebben. Meer context betekent rijker geheugen, maar ook meer input tokens per bericht, wat de kosten veroorzaakt.
Antwoordlengte
Stel een maximale antwoordlengte in die bij jouw stijl past. De API behandelt max_tokens als optioneel, maar een limiet voorkomt dat een antwoord doorgaat en houdt de kosten voorspelbaar.
Streaming
Zet streaming aan zodat antwoorden woord voor woord verschijnen. Streams gebruiken SSE en rapporteren het verbruik aan het einde. Een stream houdt één concurrency-slot vast tot deze klaar is, wat belangrijk is als je meerdere chats tegelijk uitvoert: een volledige sleutel staat 8 gelijktijdige verzoeken en 300 verzoeken per minuut toe, en de proefsleutel staat 2 en 60 toe.
Sampling
Temperatuur, top_p, stopsequenties, seed en de straffactoren worden doorgegeven. Voor levendige dialogen begin je bij een temperatuur van ongeveer 0,9. Als een karakter zinnen herhaalt, voeg dan een kleine straffactor toe voordat je iets anders wijzigt.
Prompt post-processing
Als de verbinding werkt maar de antwoorden je personagekaart negeren, kijk dan naar de optie voor prompt-na-verwerking voor de aangepaste bron en probeer een andere modus. Sommige modi voegen systeemberichten samen of herschikken ze, wat kan veranderen hoe de kaart wordt gelezen.
Tool calling en extensies
De API ondersteunt tool calling: tools, tool_choice, gestreamde tool_calls en resultaten teruggezonden als role: "tool". Of je het vanuit SillyTavern kunt gebruiken hangt af van de versie en de extensies die je installeert, omdat function calling in front ends optioneel is en wordt afgehandeld door specifieke features. Als je je eigen character tools of een extensie bouwt, is de request shape de standaard OpenAI-vorm, en de docs tonen voorbeelden. Voor gewone character chat heb je helemaal geen tools nodig.
JSON-modus is ook beschikbaar via response_format: {"type":"json_object"}. Dit helpt bij extensies die het model om gestructureerde data vragen, zoals een statusvolger voor inventaris of relaties.
Wat een chat kost
Prijzen zijn $0,15 per 1M input-tokens en $0,50 per 1M output-tokens, en mislukte of geweigerde verzoeken worden niet in rekening gebracht. Stel dat elk bericht 8.000 tokens van de kaart, lorebook en geschiedenis verstuurt en een antwoord van 400 tokens krijgt:
- Input: 8.000 / 1.000.000 x $0,15 = $0,0012
- Output: 400 / 1.000.000 x $0,50 = $0,0002
- Per bericht: $0,0014
- Een chat van 200 berichten: 200 x $0,0014 = $0,28
Dus het $0,50 proeftegoed dekt een lange eerste chat. Opwaarderingen beginnen bij $20, met bonussen van +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200, en ongebruikt tegoed vervalt nooit. Op deze site is betaling mogelijk met crypto (USDT op TRC20, USDC op Base). Details staan op de prijzenpagina. Als je hetzelfde endpoint in een codeer-CLI wilt inrichten, legt de proxy-probleemoplossingsgids uit waarom daar een vertaal-proxy nodig is en hier niet.
Houd karakterkaarten goedkoop
Input tokens zijn het grootste deel van de rekening, en de card wordt met elk bericht opnieuw verstuurd. Een paar gewoontes verlagen de kosten zonder de character te schaden:
- Schrijf de card als korte uitspraken over stem, doelen en grenzen in plaats van lange achtergrondverhalen.
- Houd lorebook entries gekoppeld aan specifieke woorden zodat alleen relevante worden ingevoegd.
- Vat oude scènes samen tot een paar regels af en toe, en knip dan de ruwe log.
- Controleer de token counter in de prompt view en haal alles weg dat het model nooit gebruikt.
De gemiddelde input halveren van 8.000 naar 4.000 tokens per bericht verlaagt het input deel van een bericht van $0,0012 naar $0,0006, wat een besparing van $0,0006 per bericht en $0,12 over 200 berichten is.
Veelvoorkomende problemen
| Probleem | Check |
|---|---|
| Connect toont een fout | De URL moet eindigen op /v1 en mag /chat/completions niet bevatten; test met de curl calls hierboven |
| Antwoord valt midden in een zin af | Verhoog de instelling voor de antwoordlengte; de API zelf begrenst niets onder het contextvenster |
| Antwoorden zijn repetitief | Voeg een kleine frequency of presence penalty toe en verhoog temperature iets |
| Chat stopt na veel berichten | Je hebt waarschijnlijk de grens van het contextvenster van 100.000 tokens bereikt; verlaag de contextschuifregelaar of vat samen |
| 429 bij het draaien van twee chats | De proef-sleutel staat 2 gelijktijdige verzoeken toe; stop een streaming of laad op voor een volledige sleutel |
Als je contact opneemt met de ondersteuning, stuur dan de X-Request-Id-header van het mislukte verzoek. De sleutelpagina is ook waar je kunt controleren of de sleutel die je hebt geplakt de huidige is.
