Ti serve un proxy per SillyTavern?
Le parole "Claude Code", "proxy" e "SillyTavern" spesso si mescolano nei motori di ricerca, quindi ecco cosa indica ciascuna. Claude Code è la CLI di programmazione di Anthropic e non ha nulla a che fare con SillyTavern. SillyTavern è un'interfaccia chat self-hosted per roleplay e chat con personaggi. Nelle sue impostazioni OpenAI più vecchie, chiama un endpoint personalizzato "reverse proxy", da cui deriva la parola "proxy".
Non è necessario eseguire alcun server aggiuntivo. SillyTavern può comunicare direttamente con qualsiasi endpoint compatibile con OpenAI, e https://api.claudecodeproxyapi.com/v1 è uno di questi. L'ID del modello è uncensored. Si tratta di un modello a pesi aperti gestito da un fornitore indipendente, ottimizzato per rispondere senza rifiuti di contenuti per uso adulto legale. Non è Claude e non è un'API ufficiale di Anthropic o di qualsiasi altro fornitore. L'unica regola rigida è che i contenuti sessuali che coinvolgono minorenni non sono mai consentiti.
Connetti in cinque passaggi
- Ottieni una chiave nella pagina chiave API. Dopo la registrazione puoi richiedere $0,50 di credito di prova con un solo clic, valido per 7 giorni, senza carta.
- In SillyTavern, apri l'icona della spina (Connessioni API) e imposta API su Chat Completion.
- Imposta Chat Completion Source su Custom (OpenAI-compatible).
- In Endpoint personalizzato (URL di base), inserisci
https://api.claudecodeproxyapi.com/v1. Non aggiungere/chat/completions. - Incolla la tua chiave in Chiave API personalizzata, digita
uncensoredcome ID del modello, quindi premi Connetti.
Una luce di stato verde e il nome del modello che appare significano che ha funzionato. Le etichette del menu cambiano leggermente tra le versioni di SillyTavern, quindi se un campo ha un nome diverso nella tua versione, cerca la stessa idea: una fonte che accetta un URL in stile OpenAI personalizzato.
Verifica la chiave al di fuori di SillyTavern prima
Se la connessione fallisce, rimuovi SillyTavern dall'equazione. Questa richiesta dovrebbe restituire un elenco di modelli che include uncensored:
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
E questa verifica una risposta reale, nel modo in cui la invia una chat con un personaggio:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
Se entrambe funzionano nel terminale e falliscono in SillyTavern, la causa è un errore di battitura nel campo URL o un'impostazione residua. Se falliscono anche nel terminale, controlla la chiave.
Impostazioni da modificare
Dimensione del contesto
L'API ha una finestra di 100.000 token, prompt e completamento insieme. Lo slider del contesto di SillyTavern è ciò che riduce la tua cronologia, quindi aumentalo fino a dove lo richiedono le tue chat. Un contesto più grande significa una memoria più ricca ma anche più token di input per messaggio, da cui deriva il costo.
Lunghezza della risposta
Imposta una lunghezza massima della risposta adatta al tuo stile. L'API tratta max_tokens come opzionale, ma un limite impedisce a una risposta di continuare e mantiene il costo prevedibile.
Streaming
Attiva lo streaming in modo che le risposte appaiano parola per parola. Gli stream usano SSE e riportano l'utilizzo alla fine. Uno stream occupa uno slot di concorrenza fino al termine, il che è importante se esegui più chat contemporaneamente: una chiave completa consente 8 richieste concorrenti e 300 richieste al minuto, e la chiave di prova consente 2 e 60.
Campionamento
Temperatura, top_p, sequenze di stop, seed e le penalità vengono trasmesse. Per un dialogo vivace, inizia con una temperatura vicina a 0,9. Se un personaggio ripete frasi, aggiungi una piccola penalità di frequenza prima di modificare qualsiasi altra cosa.
Post-elaborazione del prompt
Se la connessione funziona ma le risposte ignorano la tua scheda personaggio, controlla l'opzione di post-elaborazione del prompt per la fonte Personalizzata e prova una modalità diversa. Alcune modalità uniscono o riordinano i messaggi di sistema, il che può cambiare il modo in cui la scheda viene letta.
Chiamata di funzioni ed estensioni
L'API supporta la chiamata di funzioni: tools, tool_choice, streaming di tool_calls e risultati inviati come role: "tool". Se puoi usarlo da SillyTavern dipende dalla versione e dalle estensioni che installi, poiché la chiamata di funzioni nei front-end è opzionale e gestita da funzionalità specifiche. Se crei i tuoi strumenti per personaggi o un'estensione, la forma della richiesta è quella standard OpenAI, e la documentazione mostra esempi. Per la chat di personaggi semplice, non hai bisogno di strumenti.
La modalità JSON è anche disponibile tramite response_format: {"type":"json_object"}. Aiuta per le estensioni che chiedono al modello dati strutturati, come un tracker di stato per inventario o relazioni.
Quanto costa una chat
I prezzi sono $0,15 per 1M di token di input e $0,50 per 1M di token di output, e le richieste fallite o rifiutate non vengono addebitate. Supponiamo che ogni messaggio invii 8.000 token di scheda, lorebook e cronologia e riceva una risposta di 400 token:
- Input: 8.000 / 1.000.000 x $0,15 = $0,0012
- Output: 400 / 1.000.000 x $0,50 = $0,0002
- Per messaggio: $0,0014
- Una chat di 200 messaggi: 200 x $0,0014 = $0,28
Quindi il credito di prova da $0,50 copre una lunga prima chat. Le ricariche partono da $20, con bonus del +5% da $50, +10% da $100 e +15% da $200, e il credito non utilizzato non scade mai. Su questo sito il pagamento è tramite cripto (USDT su TRC20, USDC su Base). I dettagli sono nella pagina dei prezzi. Se vuoi collegare lo stesso endpoint a una CLI di programmazione invece, la guida alla risoluzione dei problemi del proxy spiega perché è necessario un proxy di traduzione lì e non qui.
Mantieni le schede personaggio economiche
I token di input costituiscono la maggior parte del conto, e la scheda viene inviata di nuovo con ogni messaggio. Alcune abitudini riducono il costo senza danneggiare il personaggio:
- Scrivi la scheda come brevi dichiarazioni di voce, obiettivi e limiti invece che come una lunga prosa di background.
- Mantieni le voci del lorebook indicizzate a parole specifiche così solo quelle rilevanti vengono inserite.
- Riassumi le scene vecchie in poche righe ogni tanto, poi taglia il log grezzo.
- Controlla il contatore dei token nella vista del prompt e taglia qualsiasi cosa il modello non usi mai.
Dimezzare l'input medio da 8.000 a 4.000 token per messaggio riduce la parte di input di un messaggio da $0,0012 a $0,0006, che è un risparmio di $0,0006 per messaggio e $0,12 su 200 messaggi.
Problemi comuni
| Problema | Verifica |
|---|---|
| La connessione mostra un errore | L'URL deve terminare con /v1 e non contenere /chat/completions; testa con le chiamate curl sopra |
| La risposta si interrompe a metà frase | Aumenta l'impostazione della lunghezza della risposta; l'API stessa non limita nulla sotto la finestra di contesto |
| Le risposte sono ripetitive | Aggiungi una piccola penalità di frequenza o presenza e alza un po' la temperatura |
| La chat si interrompe dopo molti messaggi | Potresti aver raggiunto il limite della finestra da 100.000 token; abbassa il cursore del contesto o riassumi |
| Errore 429 durante l'esecuzione di due chat | La chiave di prova consente 2 richieste concorrenti; interrompi uno stream o ricarica per una chiave completa |
Quando contatti il supporto, invia l'intestazione X-Request-Id della risposta fallita. La pagina delle chiavi è anche il luogo dove verificare che la chiave incollata sia quella corrente.
