SillyTavern 需要代理伺服器嗎?
"Claude Code"、"proxy" 和 "SillyTavern" 在搜尋中常被混淆,因此這裡說明各自的定義。Claude Code 是 Anthropic 的程式碼 CLI,與 SillyTavern 無關。SillyTavern 是用於角色扮演與角色對話的自託管聊天前端。在其舊版 OpenAI 設定中,它將自訂端點稱為「反向代理」,這就是「proxy」一詞的由來。
你不需要執行任何額外伺服器。SillyTavern 可以直接與任何相容 OpenAI 的端點通訊,https://api.claudecodeproxyapi.com/v1 就是其中之一。模型 ID 為 uncensored。這是由獨立供應商執行的開放權重模型,經過調整以在法律允許的成人用途下不拒絕內容。它不是 Claude,也不是 Anthropic 或其他廠商的官方 API。唯一的硬性規定是,涉及未成年人的性內容永遠不被允許。
五個步驟完成連接
- 前往 API 金鑰頁面 取得金鑰。註冊後,你可以一鍵領取 $0.50 的免費試用額度,有效期 7 天,無需信用卡。
- 在 SillyTavern 中,開啟插頭圖示(API 連線),並將 API 設為 Chat Completion。
- 將聊天完成來源設為自訂(OpenAI 相容)。
- 在 Custom Endpoint (Base URL) 中,輸入
https://api.claudecodeproxyapi.com/v1。不要加上/chat/completions。 - 將你的金鑰貼入 Custom API Key,輸入模型 ID
uncensored,然後按下 Connect。
綠色狀態燈亮起並顯示模型名稱即表示連線成功。選單標籤在不同版本的 SillyTavern 中可能略有不同,因此如果欄位名稱不同,請尋找具有相同概念的選項:接受自訂 OpenAI 風格 URL 的來源。
先在 SillyTavern 之外測試金鑰
如果連線失敗,請將 SillyTavern 排除在外。此請求應返回包含 uncensored 的模型列表:
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
而此請求則測試實際回覆,就像角色對話發送回覆的方式一樣:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
如果兩者在終端機中都有效但在 SillyTavern 中失敗,原因是 URL 欄位有錯字或殘留設定。如果兩者都在終端機中失敗,請檢查金鑰。
值得更改的設定
上下文大小
API 擁有 100,000 token 的上下文視窗,包含提示詞與完成內容。SillyTavern 的上下文滑桿用於修剪你的歷史記錄,因此請根據你的對話需求將其調高。更大的上下文意味著更豐富的記憶,但也意味著每則訊息需要更多的輸入 token,這就是成本的來源。
回覆長度
設定符合你風格的最大回覆長度。API 將 max_tokens 視為可選,但設定上限可以防止回覆無限延伸,並使成本可預測。
串流輸出
開啟串流輸出,讓回覆逐字顯示。串流使用 SSE 並在結束時回報用量。串流會佔用一個並行請求槽位直到完成,如果你同時執行多個對話,這很重要:完整金鑰允許 8 個並行請求和每分鐘 300 個請求,試用金鑰允許 2 個和每分鐘 60 個。
採樣
Temperature、top_p、stop sequences、seed 和 penalties 都會直接傳遞。對於生動的對話,請從 temperature 0.9 附近開始。如果角色重複短語,請在更改其他設定之前加入少量的頻率懲罰。
提示詞後處理
如果連線正常但回覆忽略你的角色卡,請查看 Custom 來源的提示詞後處理選項,並嘗試不同的模式。某些模式會合併或重新排序系統訊息,這可能會改變角色卡的讀取方式。
函式呼叫與擴充功能
API 支援函式呼叫:tools、tool_choice、串流輸出的 tool_calls 以及以 role: "tool" 格式送回的結果。你是否能從 SillyTavern 使用它取決於版本和你安裝的擴充功能,因為前端中的函式呼叫是可選的,由特定功能處理。如果你建立自己的角色工具或擴充功能,請求格式是標準的 OpenAI 格式,文件 中有範例。對於純角色對話,你完全不需要工具。
JSON 模式也可透過 response_format: {"type":"json_object"} 取得。這有助於要求模型提供結構化資料的擴充功能,例如用於庫存或關係的狀態追蹤器。
對話成本
定價為每 1M 輸入 token $0.15,每 1M 輸出 token $0.50,失敗或被拒絕的請求不收費。假設每則訊息發送 8,000 token 的角色卡、lorebook 和歷史記錄,並獲得 400 token 的回覆:
- 輸入:8,000 / 1,000,000 x $0.15 = $0.0012
- 輸出:400 / 1,000,000 x $0.50 = $0.0002
- 每則訊息:$0.0014
- 200 則對話:200 x $0.0014 = $0.28
因此,$0.50 的試用額度足以覆蓋一次長篇的首次對話。儲值從 $20 起跳,贈送 $50 起 +5%、$100 起 +10%、$200 起 +15%,且未使用的額度永不過期。此網站接受加密貨幣(TRC20 上的 USDT、Base 上的 USDC)付款。詳細資訊位於 定價頁面。如果你想將相同的端點接入程式碼 CLI,代理除錯指南 說明了為什麼那裡需要轉換代理,而這裡不需要。
讓角色卡更便宜
輸入 token 佔了大部分費用,且角色卡會隨每則訊息重新發送。以下幾種習慣可以在不影響角色表現的情況下降低成本:
- 將角色卡寫成簡短的語氣、目標和界限陳述,而不是長篇的背景故事散文。
- 將 lorebook 條目以特定單詞為索引,以便只插入相關的條目。
- 定期將舊場景摘要為幾行,然後修剪原始日誌。
- 檢查提示詞檢視中的 token 計數器,並刪除模型從未使用的任何內容。
將平均輸入從每則訊息 8,000 token 減半至 4,000 token,會將訊息的輸入部分從 $0.0012 降至 $0.0006,每則訊息節省 $0.0006,200 則訊息節省 $0.12。
常見問題
| 問題 | 檢查 |
|---|---|
| 連線顯示錯誤 | URL 必須以 /v1 結尾,且不包含 /chat/completions;請使用上述 curl 呼叫進行測試 |
| 回覆在中途截斷 | 調高回覆長度設定;API 本身在上下文視窗以下不設上限 |
| 回覆重複 | 加入少量的頻率或存在懲罰,並稍微提高 temperature |
| 對話在許多訊息後停止 | 你可能已觸及 100,000-token 的上下文視窗;請降低上下文滑桿或進行摘要 |
| 執行兩個聊天時出現 429 | 試用金鑰允許 2 個並行請求;停止串流輸出或儲值以獲得完整金鑰 |
當你聯繫支援時,請從失敗的回應中傳送 X-Request-Id 標頭。金鑰頁面也是你檢查所貼上的金鑰是否為目前有效金鑰的地方。
