Apakah Anda memerlukan proxy untuk SillyTavern?
Kata "Claude Code", "proxy" dan "SillyTavern" sering tercampur dalam pencarian, jadi berikut penjelasan masing-masing. Claude Code adalah CLI pengkodean dari Anthropic dan tidak ada hubungannya dengan SillyTavern. SillyTavern adalah antarmuka depan obrolan yang dihosting sendiri untuk bermain peran dan obrolan karakter. Dalam pengaturan OpenAI lama, ia memanggil endpoint kustom sebagai "proxy terbalik", itulah asal kata "proxy".
Anda tidak perlu menjalankan server tambahan. SillyTavern dapat berbicara langsung ke endpoint apa pun yang kompatibel OpenAI, dan https://api.claudecodeproxyapi.com/v1 adalah salah satunya. ID modelnya adalah uncensored. Ini adalah model bobot terbuka yang dijalankan oleh penyedia independen, disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan Claude dan bukan API resmi dari Anthropic atau vendor lain. Satu aturan kerasnya adalah konten seksual yang melibatkan anak di bawah umur tidak pernah diperbolehkan.
Hubungkan dalam lima langkah
- Dapatkan kunci di halaman kunci API. Setelah pendaftaran, Anda dapat mengklaim kredit uji coba senilai $0,50 dengan satu klik, berlaku selama 7 hari, tanpa kartu.
- Di SillyTavern, buka ikon steker (Koneksi API) dan atur API ke Chat Completion.
- Atur Sumber Chat Completion menjadi Kustom (kompatibel OpenAI).
- Di Endpoint Kustom (URL Dasar), masukkan
https://api.claudecodeproxyapi.com/v1. Jangan tambahkan/chat/completions. - Tempelkan kunci Anda ke Custom API Key, ketik
uncensoredsebagai ID model, lalu tekan Hubungkan.
Lampu status hijau dan munculnya nama model berarti berhasil. Label menu bergeser sedikit antar rilis SillyTavern, jadi jika bidang diberi nama berbeda di versi Anda, cari ide yang sama: sumber yang menerima URL gaya OpenAI kustom.
Uji kunci di luar SillyTavern terlebih dahulu
Jika Koneksi gagal, hilangkan SillyTavern dari persamaan. Permintaan ini harus mengembalikan daftar model yang mencakup uncensored:
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
Dan yang ini menguji balasan sebenarnya, seperti cara obrolan karakter mengirimkannya:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
Jika keduanya berhasil di terminal dan gagal di SillyTavern, penyebabnya adalah salah ketik di bidang URL atau pengaturan yang tersisa. Jika keduanya gagal di terminal juga, periksa kunci.
Pengaturan yang layak diubah
Ukuran konteks
API memiliki jendela 100.000 token, untuk prompt dan completion secara bersama. Slider konteks SillyTavern adalah yang memangkas riwayat Anda, jadi naikkan hingga sejauh yang dibutuhkan obrolan Anda. Konteks yang lebih besar berarti memori yang lebih kaya, tetapi juga lebih banyak token input per pesan, yang menjadi sumber biaya.
Panjang respons
Atur panjang respons maksimum yang sesuai dengan gaya Anda. API menganggap max_tokens sebagai opsional, tetapi batasnya menghentikan balasan agar tidak terus dihasilkan dan menjaga biaya tetap dapat diprediksi.
Streaming
Aktifkan streaming agar balasan muncul kata demi kata. Stream menggunakan SSE dan melaporkan penggunaan di akhir. Stream memegang satu slot konkurensi hingga selesai, yang penting jika Anda menjalankan beberapa obrolan sekaligus: kunci penuh memungkinkan 8 permintaan konkuren dan 300 permintaan per menit, dan kunci uji coba memungkinkan 2 dan 60.
Sampling
Suhu, top_p, urutan henti, seed, dan penalti diteruskan. Untuk dialog yang hidup, mulai dengan suhu sekitar 0,9. Jika karakter mengulang frasa, tambahkan penalti frekuensi kecil sebelum mengubah apa pun.
Pasca-pemrosesan prompt
Jika koneksi berfungsi tetapi balasan mengabaikan kartu karakter Anda, lihat opsi pemrosesan pasca-prompt untuk sumber Custom dan coba mode yang berbeda. Beberapa mode menggabungkan atau menyusun ulang pesan sistem, yang dapat mengubah cara kartu dibaca.
Pemanggilan fungsi dan ekstensi
API mendukung pemanggilan fungsi: tools, tool_choice, streaming tool_calls dan hasil dikirim kembali sebagai role: "tool". Apakah Anda dapat menggunakannya dari SillyTavern bergantung pada versi dan ekstensi yang Anda instal, karena pemanggilan fungsi di antarmuka depan bersifat opsional dan ditangani oleh fitur tertentu. Jika Anda membuat alat karakter atau ekstensi sendiri, bentuk permintaan adalah standar OpenAI, dan dokumentasi menunjukkan contoh. Untuk obrolan karakter biasa, Anda sama sekali tidak memerlukan alat.
Mode JSON juga tersedia melalui response_format: {"type":"json_object"}. Ini membantu untuk ekstensi yang meminta model untuk data terstruktur, seperti pelacak status untuk inventaris atau hubungan.
Biaya obrolan
Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output, dan permintaan yang gagal atau ditolak tidak dikenakan biaya. Misalkan setiap pesan mengirim 8.000 token kartu, buku lore, dan riwayat dan mendapatkan balasan 400 token:
- Input: 8.000 / 1.000.000 x $0,15 = $0,0012
- Output: 400 / 1.000.000 x $0,50 = $0,0002
- Per pesan: $0,0014
- Obrolan 200 pesan: 200 x $0,0014 = $0,28
Jadi, kredit uji coba senilai $0,50 mencakup obrolan pertama yang panjang. Top-up dimulai dari $20, dengan bonus +5% dari $50, +10% dari $100, dan +15% dari $200, dan kredit yang tidak terpakai tidak pernah kedaluwarsa. Di situs ini pembayaran dapat dilakukan dengan kripto (USDT di TRC20 atau USDC di Base). Detailnya ada di halaman harga. Jika Anda ingin menyambungkan endpoint yang sama ke CLI pengkodean, panduan pemecahan masalah proxy menjelaskan mengapa proxy penerjemah diperlukan di sana dan tidak di sini.
Jaga kartu karakter tetap murah
Token input adalah sebagian besar tagihan, dan kartu dikirim ulang dengan setiap pesan. Beberapa kebiasaan memotong biaya tanpa merusak karakter:
- Tulis kartu sebagai pernyataan singkat tentang gaya bicara, tujuan, dan batas, bukan prosa latar belakang panjang.
- Jaga entri buku lore dikunci ke kata-kata tertentu sehingga hanya yang relevan yang disisipkan.
- Ringkas adegan lama menjadi beberapa baris sesekali, lalu pangkas log mentah.
- Periksa penghitung token di tampilan prompt dan potong apa pun yang tidak pernah digunakan model.
Mengurangi setengah input rata-rata dari 8.000 menjadi 4.000 token per pesan menurunkan bagian input pesan dari $0,0012 menjadi $0,0006, yang merupakan penghematan $0,0006 per pesan dan $0,12 selama 200 pesan.
Masalah umum
| Masalah | Periksa |
|---|---|
| Koneksi menampilkan galat | URL harus berakhir dengan /v1 dan tidak mengandung /chat/completions; uji dengan panggilan curl di atas |
| Balasan terpotong di tengah kalimat | Naikkan pengaturan panjang respons; API sendiri tidak membatasi apa pun di bawah jendela konteks |
| Balasan berulang | Tambahkan penalti frekuensi atau kehadiran kecil dan naikkan suhu sedikit |
| Obrolan berhenti setelah banyak pesan | Anda mungkin telah mencapai jendela konteks 100.000 token; turunkan penggeser konteks atau buat ringkasan |
| 429 saat menjalankan dua obrolan | Kunci uji coba mengizinkan 2 permintaan paralel; hentikan streaming atau isi saldo untuk mendapatkan kunci penuh |
Saat menghubungi dukungan, kirimkan header X-Request-Id dari respons yang gagal. Halaman kunci juga merupakan tempat Anda memeriksa apakah kunci yang Anda tempel adalah yang terbaru.
