Avez-vous besoin d'un proxy pour SillyTavern ?
Les termes « Claude Code », « proxy » et « SillyTavern » sont souvent confondus dans les recherches. Voici ce que chacun désigne. Claude Code est l'interface en ligne de commande (CLI) de codage d'Anthropic et n'a rien à voir avec SillyTavern. SillyTavern est une interface de chat auto-hébergée pour le jeu de rôle et les conversations de personnages. Dans ses anciens paramètres OpenAI, il appelle un endpoint personnalisé un « reverse proxy », d'où vient le mot « proxy ».
Vous n'avez pas besoin de faire tourner un serveur supplémentaire. SillyTavern peut communiquer directement avec n'importe quel endpoint compatible OpenAI, et https://api.claudecodeproxyapi.com/v1 en est un. L'ID du modèle est uncensored. Il s'agit d'un modèle à poids ouverts géré par un prestataire indépendant, optimisé pour répondre sans refus de contenu pour une utilisation adulte légale. Ce n'est ni Claude ni une API officielle d'Anthropic ou d'un autre fournisseur. La seule règle stricte est que le contenu sexuel impliquant des mineurs n'est jamais autorisé.
Connectez-vous en cinq étapes
- Obtenez une clé sur la page clé API. Après l'inscription, vous pouvez obtenir 0,50 $ de crédit d'essai gratuit en un clic, valable 7 jours, sans carte.
- Dans SillyTavern, ouvrez l'icône de prise (Connexions API) et définissez API sur Chat Completion.
- Définissez Source Chat Completion sur Custom (compatible OpenAI).
- Dans Endpoint personnalisé (URL de base), saisissez
https://api.claudecodeproxyapi.com/v1. N'ajoutez pas/chat/completions. - Collez votre clé dans Custom API Key, saisissez
uncensoredcomme ID de modèle, puis appuyez sur Connecter.
Une lumière de statut verte et l'apparition du nom du modèle indiquent que cela fonctionne. Les étiquettes du menu changent légèrement entre les versions de SillyTavern ; si un champ porte un nom différent sur votre version, recherchez la même idée : une source acceptant une URL de style OpenAI personnalisée.
Testez la clé en dehors de SillyTavern d'abord
Si la connexion échoue, mettez SillyTavern de côté. Cette requête doit retourner une liste de modèles incluant uncensored :
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
Et celle-ci teste une réponse réelle, comme l'envoie une conversation de personnage :
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
Si les deux fonctionnent dans le terminal mais échouent dans SillyTavern, la cause est une faute de frappe dans le champ URL ou un paramètre résiduel. S'ils échouent également dans le terminal, vérifiez la clé.
Paramètres à modifier
Taille du contexte
L'API dispose d'une fenêtre de contexte de 100 000 tokens, le prompt et la complétion compris ensemble. Le curseur de contexte de SillyTavern est ce qui réduit votre historique, donc augmentez-le autant que vos conversations l'exigent. Un contexte plus grand signifie une mémoire plus riche, mais aussi plus de tokens d'entrée par message, ce qui est à l'origine du coût.
Longueur de la réponse
Définissez une longueur de réponse maximale adaptée à votre style. L'API considère max_tokens comme optionnel, mais une limite empêche une réponse de continuer indéfiniment et rend le coût prévisible.
Streaming
Activez le streaming pour voir les réponses mot par mot. Les streams utilisent le SSE et rapportent l'utilisation à la fin. Un stream occupe un slot de concurrence jusqu'à sa fin, ce qui est important si vous lancez plusieurs conversations à la fois : une clé complète permet 8 requêtes simultanées et 300 requêtes par minute, et la clé d'essai permet 2 et 60.
Échantillonnage
La température, top_p, les séquences d'arrêt, le seed et les pénalités sont transmis. Pour un dialogue vivant, commencez à une température de 0,9. Si un personnage répète des phrases, ajoutez une petite pénalité de fréquence avant de modifier autre chose.
Post-traitement du prompt
Si la connexion fonctionne mais que les réponses ignorent votre carte de personnage, regardez l'option de post-traitement du prompt pour la source Custom et essayez un mode différent. Certains modes fusionnent ou réorganisent les messages système, ce qui peut modifier la façon dont la carte est lue.
Appel de fonctions et extensions
L'API prend en charge l'appel de fonctions : tools, tool_choice, en streaming avec les tool_calls et les résultats renvoyés sous la forme role: "tool". L'utilisation depuis SillyTavern dépend de la version et des extensions installées, car l'appel de fonctions dans les interfaces frontales est optionnel et géré par des fonctionnalités spécifiques. Si vous créez vos propres outils de personnage ou une extension, la forme de la requête est celle standard d'OpenAI, et la documentation propose des exemples. Pour une conversation de personnage classique, vous n'avez pas besoin d'outils.
Le mode JSON est également disponible via response_format: {"type":"json_object"}. Cela aide pour les extensions qui demandent au modèle des données structurées, comme un suivi d'état pour l'inventaire ou les relations.
Combien coûte une conversation
La tarification est de 0,15 $ par 1M de tokens d'entrée et de 0,50 $ par 1M de tokens de sortie, et les requêtes échouées ou refusées ne sont pas facturées. Supposons que chaque message envoie 8 000 tokens de carte, de livre de lore et d'historique et reçoive une réponse de 400 tokens :
- Entrée : 8 000 / 1 000 000 x 0,15 $ = 0,0012 $
- Sortie : 400 / 1 000 000 x 0,50 $ = 0,0002 $
- Par message : 0,0014 $
- Une conversation de 200 messages : 200 x 0,0014 $ = 0,28 $
Ainsi, le crédit d'essai de 0,50 $ couvre une longue première conversation. Les recharges commencent à 20 $, avec des bonus de +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $, et le crédit inutilisé n'expire jamais. Sur ce site, le paiement se fait par crypto (USDT sur TRC20, USDC sur Base). Les détails figurent sur la page de tarification. Si vous souhaitez connecter le même endpoint à une interface CLI de codage, le guide de dépannage du proxy explique pourquoi un proxy de traduction est nécessaire là-bas et pas ici.
Gardez les cartes de personnage abordables
Les tokens d'entrée constituent la majeure partie de la facture, et la carte est renvoyée à chaque message. Quelques habitudes permettent de réduire le coût sans nuire au personnage :
- Rédigez la carte sous forme de courtes déclarations de voix, d'objectifs et de limites plutôt que de longs récits de fond.
- Gardez les entrées du livre de lore indexées par des mots spécifiques afin que seules les pertinentes soient insérées.
- Résumez les anciennes scènes en quelques lignes de temps en temps, puis réduisez le journal brut.
- Vérifiez le compteur de tokens dans la vue du prompt et supprimez tout ce que le modèle n'utilise jamais.
Diviser par deux l'entrée moyenne de 8 000 à 4 000 tokens par message réduit la partie entrée d'un message de 0,0012 $ à 0,0006 $, soit une économie de 0,0006 $ par message et de 0,12 $ sur 200 messages.
Problèmes courants
| Problème | Vérifier |
|---|---|
| La connexion affiche une erreur | L'URL doit se terminer par /v1 et ne pas contenir /chat/completions ; testez avec les appels curl ci-dessus |
| La réponse s'arrête en plein milieu d'une phrase | Augmentez le paramètre de longueur de réponse ; l'API elle-même ne limite rien en dessous de la fenêtre de contexte |
| Les réponses sont répétitives | Ajoutez une petite pénalité de fréquence ou de présence et augmentez légèrement la température |
| Le chat s'arrête après de nombreux messages | Vous avez peut-être atteint la fenêtre de 100 000 tokens ; réduisez le curseur de contexte ou résumez |
| 429 lors de l'exécution de deux chats | La clé d'essai permet 2 requêtes simultanées ; arrêtez un streaming ou rechargez pour obtenir une clé complète |
Lorsque vous contactez le support, envoyez l'en-tête X-Request-Id de la réponse en échec. La page clé est également l'endroit où vous vérifiez que la clé que vous avez collée est celle en cours.
