SillyTavern 需要代理吗?
搜索中经常将“Claude Code”、“代理”和“SillyTavern”混淆,因此这里解释每个词的含义。Claude Code 是 Anthropic 的编码 CLI,与 SillyTavern 无关。SillyTavern 是一个自托管的角色扮演和角色聊天前端。在其旧版 OpenAI 设置中,它将自定义接口称为“反向代理”,这就是“代理”一词的来源。
你无需运行任何额外服务器。SillyTavern 可以直接连接任何 OpenAI 兼容的接口,https://api.claudecodeproxyapi.com/v1 就是其中之一。模型 ID 为 uncensored。这是一个由独立提供商运营的开放权重模型,经过调优,可在合法成人用途下无审查地回答。它不是 Claude,也不是 Anthropic 或其他厂商的官方 API。唯一硬性规定是:严禁涉及未成年人的性内容。
分五步连接
- 在 API 密钥页面 获取密钥。注册后,你可一键领取 $0.50 试用额度,有效期 7 天,无需绑卡。
- 在 SillyTavern 中,打开插件图标(API 连接)并将 API 设置为 Chat Completion。
- 将 Chat Completion Source 设置为 Custom (OpenAI-compatible)。
- 在 Custom Endpoint (Base URL) 中,输入
https://api.claudecodeproxyapi.com/v1。不要添加/chat/completions。 - 将密钥粘贴到 Custom API Key,输入模型 ID
uncensored,然后按 Connect。
绿色状态灯和模型名称出现表示连接成功。菜单标签在不同 SillyTavern 版本中可能略有不同,如果字段名称不同,请寻找相同的功能:接受自定义 OpenAI 风格 URL 的源。
先在 SillyTavern 之外测试密钥
如果连接失败,先将 SillyTavern 排除在外。此请求应返回包含 uncensored 的模型列表:
curl https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY"
此请求测试实际回复,类似于角色聊天发送方式:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are Captain Rook, a gruff airship pilot."},
{"role": "user", "content": "We lost the left engine. Orders?"}
],
"temperature": 0.9,
"stream": true
}'
如果两者在终端中有效但在 SillyTavern 中失败,原因是 URL 字段中的拼写错误或残留设置。如果两者在终端中也失败,请检查密钥。
值得更改的设置
上下文大小
该 API 拥有 100,000 token 的上下文窗口,包含提示词和补全。SillyTavern 的上下文滑块用于裁剪你的历史记录,请根据你的聊天记录需求将其调高。更大的上下文意味着更丰富的记忆,但也会增加每条消息的输入 token 数量,这正是成本所在。
回复长度
设置适合你风格的响应长度。API 将 max_tokens 视为可选,但上限可以防止回复过长并保持成本可预测。
流式输出
开启流式输出,回复将逐字显示。流式输出使用 SSE,并在结束时报告用量。流式回复会保持一个并发槽位,直到结束。如果你同时运行多个对话,这一点很重要:完整密钥允许 8 个并发请求和每分钟 300 个请求,试用密钥允许 2 个并发请求和每分钟 60 个请求。
采样
Temperature、top_p、stop sequences、seed 和 penalties 会透传。为了生动的对话,从 temperature 0.9 开始。如果角色重复短语,在更改其他内容之前添加较小的频率惩罚。
提示词后处理
如果连接正常但回复忽略你的角色卡,请查看自定义源的提示词后处理选项并尝试不同的模式。某些模式会合并或重新排序系统消息,这可能会改变角色卡的读取方式。
函数调用和扩展
API 支持函数调用:tools、tool_choice、流式输出的 tool_calls 以及以 role: "tool" 形式返回的结果。你是否能在 SillyTavern 中使用它取决于版本和你安装的扩展,因为前端中的函数调用是可选的,并由特定功能处理。如果你构建自己的角色工具或扩展,请求格式是标准的 OpenAI 格式,文档 中提供了示例。对于普通角色聊天,你完全不需要工具。
JSON 模式也可通过 response_format: {"type":"json_object"} 获得。它有助于要求模型提供结构化数据的扩展,例如库存或关系的状态跟踪器。
聊天成本
价格为每 1M 输入 token $0.15,每 1M 输出 token $0.50,失败或被拒绝的请求不收费。假设每条消息发送 8,000 token 的角色卡、设定集和历史记录,并获得 400 token 的回复:
- 输入:8,000 / 1,000,000 x $0.15 = $0.0012
- 输出:400 / 1,000,000 x $0.50 = $0.0002
- 每条消息:$0.0014
- 200 条消息的聊天:200 x $0.0014 = $0.28
因此,$0.50 的试用额度足以覆盖一次长对话。充值从 $20 起,满 $50 赠 +5%,满 $100 赠 +10%,满 $200 赠 +15%,且未使用的额度永不失效。本站支持加密货币(TRC20 上的 USDT,Base 上的 USDC)支付。详情见 价格页面。如果你想将同一接口接入代码 CLI,代理故障排除指南 解释了为何那里需要翻译代理而此处不需要。
保持角色卡成本低廉
输入 token 占大部分账单,且角色卡会在每条消息中重新发送。一些习惯可以在不影响角色的情况下降低成本:
- 将角色卡写成简短的语气、目标和界限陈述,而不是长篇的背景故事散文。
- 使 lorebook 条目以特定单词为键,以便仅插入相关内容。
- 定期将旧场景总结为几行,然后修剪原始日志。
- 检查提示词视图中的 token 计数器,并删除模型从未使用的内容。
将平均输入从每条消息 8,000 token 减半到 4,000 token,可将消息输入部分从 $0.0012 降至 $0.0006,每条消息节省 $0.0006,200 条消息节省 $0.12。
常见问题
| 问题 | 需核实 |
|---|---|
| 连接显示错误 | URL 必须以 /v1 结尾,且不能包含 /chat/completions;请使用上述 curl 命令测试 |
| 回复在句子中间截断 | 调高回复长度设置;API 本身在上下文窗口内不限制任何内容 |
| 回复重复 | 添加较小的频率或存在惩罚,并稍微提高 temperature |
| 聊天在多条消息后停止 | 你可能达到了 100,000 token 的窗口;请调低上下文滑块或进行总结 |
| 运行两个聊天时出现 429 错误 | 试用密钥允许 2 个并发请求;停止流式输出或充值以获得完整密钥 |
联系支持团队时,请从失败的响应中发送 X-Request-Id 标头。密钥页面也是你检查粘贴的密钥是否为当前密钥的地方。
