SillyTavern için proxy'ye ihtiyacınız var mı?
"Claude Code", "proxy" ve "SillyTavern" kelimeleri aramalarda karıştırılır, bu yüzden her birinin ne olduğunu açıklayalım. Claude Code, Anthropic'ın kodlama CLI'sidir ve SillyTavern ile hiçbir ilgisi yoktur. SillyTavern, rol yapma ve karakter sohbetleri için kendi kendine barındırılan bir sohbet ön yüzüdür. Daha eski OpenAI ayarlarında, özel bir uç noktaya "reverse proxy" (ters vekil) denir; "proxy" kelimesi de buradan gelir.
Herhangi bir ek sunucu çalıştırmanıza gerek yok. SillyTavern, herhangi bir OpenAI uyumlu uç noktaya doğrudan bağlanabilir ve https://api.claudecodeproxyapi.com/v1 biridir. Model kimliği uncensoreddir. Bu, bağımsız bir sağlayıcı tarafından yürütülen, yetişkinlerin yasal kullanımı için içerik reddetmeleri olmadan yanıt verecek şekilde ayarlanmış açık ağırlıklı bir modeldir. Claude değildir ve Anthropic'ın veya başka bir satıcının resmi API'si değildir. Tek katı kural, reşit olmayanları içeren cinsel içeriğe asla izin verilmemesidir.
Beş adımda bağlanın
- API anahtarı sayfasından anahtarınızı alın. Kayıt olduktan sonra tek tıkla 7 gün boyunca geçerli, kart gerektirmeyen 0,50 $ deneme kredisi elde edebilirsiniz.
- SillyTavern'da fiş simgesini (API Bağlantıları) açın ve API değerini Chat Completion olarak ayarlayın.
- Chat Completion Source değerini Custom (OpenAI-compatible) olarak ayarlayın.
- Özel Uç Nokta (Temel URL) alanında
https://api.claudecodeproxyapi.com/v1girin./chat/completionseklemeyin. - Anahtarınızı Özel API Anahtarı alanına yapıştırın, model kimliği olarak
uncensoredyazın ve sonra Bağlan düğmesine basın.
Yeşil bir durum ışığı ve model adının görünmesi çalıştığını gösterir. Menü etiketleri SillyTavern sürümleri arasında hafifçe değişebilir, bu yüzden bir alan farklı adlandırılmışsa, aynı fikri arayın: özel bir OpenAI tarzı URL kabul eden bir kaynak.
Anahtarı SillyTavern dışında test edin
Bağlantı başarısız olursa, SillyTavern'i işlemden çıkarın. Bu istek, uncensored modelini içeren bir model listesi döndürmelidir:
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
Ve bu bir karakter sohbetinin gönderdiği şekilde gerçek bir yanıtı test eder:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
Her ikisi de terminalde çalışıp SillyTavern'da başarısız oluyorsa, neden URL alanındaki bir yazım hatası veya artık kalan bir ayardır. Terminalde de başarısız olurlarsa anahtarı kontrol edin.
Değiştirilmeye değer ayarlar
Bağlam boyutu
API'nin 100.000 tokenlik bir penceresi vardır; istem ve tamamlama birlikte. SillyTavern'ın bağlam kaydırıcısı geçmişinizi kısaltır, bu yüzden sohbetlerinizin ihtiyaç duyduğu kadar yükseltin. Daha büyük bağlam, daha zengin bir bellek ama aynı zamanda mesaj başına daha fazla girdi tokenı anlamına gelir, bu da maliyetin geldiği yerdir.
Yanıt uzunluğu
Tarzınıza uygun bir maksimum yanıt uzunluğu ayarlayın. API, max_tokens'i isteğe bağlı olarak kabul eder, ancak bir sınır bir yanıtın devam etmesini engeller ve maliyeti öngörülebilir kılar.
Akış
Yanıtların kelime kelime görünmesi için akışı etkinleştirin. Akışlar SSE kullanır ve sonunda kullanım raporlar. Bir akış, bitene kadar bir eşzamanlılık slotu tutar; bu, aynı anda birkaç sohbet çalıştırıyorsanız önemlidir: tam anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir, deneme anahtarı ise 2 ve 60 izni verir.
Örnekleme
Sıcaklık, top_p, durdurma dizileri, tohum ve cezalar aktarılır. Canlı diyaloglar için sıcaklık 0,9 civarında başlayın. Bir karakter kalıpları tekrarlıyorsa, başka bir şeyi değiştirmeden önce küçük bir frekans cezası ekleyin.
İstem son işleme
Bağlantı çalışıyor ancak yanıtlar karakter kartınızı yok sayıyorsa, Özel kaynak için istem son işleme seçeneğine bakın ve farklı bir mod deneyin. Bazı modlar sistem mesajlarını birleştirir veya yeniden sıralar, bu da kartın nasıl okunacağını değiştirebilir.
Araç çağırma ve uzantılar
API, araç çağırma desteği sunar: tools, tool_choice, akışlı tool_calls ve sonuçlar role: "tool" olarak geri gönderilir. Bunu SillyTavern'den kullanıp kullanamayacağınız sürüme ve yüklediğiniz uzantılara bağlıdır, çünkü ön yüzlerde fonksiyon çağırma isteğe bağlıdır ve belirli özellikler tarafından yönetilir. Kendi karakter araçlarınızı veya bir uzantı oluşturuyorsanız, istek şekli standart OpenAI şeklindedir ve dokümantasyon örnekler içerir. Düz karakter sohbeti için araçlara hiç ihtiyacınız yoktur.
JSON modu da response_format: {"type":"json_object"} üzerinden kullanılabilir. Envanter veya ilişkiler için durum izleyicisi gibi yapılandırılmış veri isteyen uzantılar için yardımcı olur.
Bir sohbetin maliyeti
Fiyatlandırma, 1 milyon girdi token başı 0,15 $ ve 1 milyon çıktı token başı 0,50 $'dır; başarısız veya reddedilen istekler için ücret alınmaz. Her mesaj kart, lorebook ve geçmişi için 8.000 token gönderip 400 token'lık bir yanıt alıyorsa:
- Girdi: 8.000 / 1.000.000 x 0,15 $ = 0,0012 $
- Çıktı: 400 / 1.000.000 x $0,50 = $0,0002
- Mesaj başına: 0,0014 $
- 200 mesajlı bir sohbet: 200 x 0,0014 $ = 0,28 $
Yani 0,50 $ deneme kredisi uzun bir ilk sohbeti karşılar. Bakiye yükleme işlemleri 20 $'dan başlar, 50 $'dan +%5, 100 $'dan +%10 ve 200 $'dan +%15 bonuslar sunar ve kullanılmayan kredi asla sona ermez. Bu sitede ödeme kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile yapılır. Detaylar fiyatlandırma sayfasında yer alır. Aynı uç noktayı bir kodlama CLI'sine bağlamak istiyorsanız, proxy sorun giderme kılavuzu orada neden çeviren bir proxy gerektiğini, burada ise gerekmediğini açıklar.
Karakter kartlarını ucuz tutun
Girdi tokenları faturanın çoğunu oluşturur ve kart her mesajda yeniden gönderilir. Karakteri etkilemeden maliyeti azaltacak birkaç alışkanlık:
- Kartı uzun bir arka plan hikayesi yerine konuşma tarzı, hedefler ve sınırların kısa ifadeleri olarak yazın.
- Lorebook girdilerini belirli kelimelere göre anahtarlayın, böylece yalnızca ilgili olanlar eklenir.
- Eski sahneleri arada bir birkaç satıra özetleyin, ardından ham günlüğü kısaltın.
- İstem görünümündeki token sayacını kontrol edin ve modelin hiç kullanmadığı her şeyi kaldırın.
Ortalama girdiyi mesaj başına 8.000 token'dan 4.000 token'a düşürmek, bir mesajın girdi kısmını 0,0012 $'dan 0,0006 $'a düşürür; bu, mesaj başına 0,0006 $ ve 200 mesajda 0,12 $ tasarruf demektir.
Yaygın sorunlar
| Sorun | Kontrol |
|---|---|
| Bağlanma hatası veriyor | URL'nin /v1 ile bitmesi gerekir ve /chat/completions içermemelidir; yukarıdaki curl komutlarıyla test edin |
| Yanıt cümle ortasında kesiliyor | Yanıt uzunluğu ayarını artırın; API, bağlam penceresinin altında hiçbir şeyi sınırlamaz |
| Yanıtlar tekrarlayıcı | Küçük bir frekans veya varlık cezası ekleyin ve sıcaklığı biraz artırın |
| Çok sayıda mesajdan sonra sohbet duruyor | 100.000 tokenlık pencereye ulaşmış olabilirsiniz; bağlam kaydırıcısını düşürün veya özetleyin |
| İki sohbet çalıştırırken 429 hatası | Deneme anahtarı 2 eşzamanlı isteğe izin verir; tam anahtar için bir akışı durdurun veya bakiye yükleyin |
Destek ile iletişime geçtiğinizde, hata veren yanıttan X-Request-Id başlığını gönderin. anahtar sayfası aynı zamanda yapıştırdığınız anahtarın güncel olup olmadığını kontrol edebileceğiniz yerdir.
