สิ่งที่คุณต้องการ
- คีย์ API จากหน้าคีย์ ลงทะเบียนด้วย Google หรืออีเมลและรหัสผ่าน แล้วรับเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียว
- Python 3.9 ขึ้นไป เพื่อติดตั้งพร็อกซี
- Claude Code ติดตั้งและใช้งานบนเครื่องของคุณได้แล้ว
ทำไมต้องใช้พร็อกซี? Claude Code ใช้รูปแบบ Messages ของ Anthropic และ API ของเราใช้รูปแบบ Chat Completions ของ OpenAI พร้อม model ID uncensored พร็อกซีทำหน้าที่แปลงระหว่างรูปแบบทั้งสอง หากต้องการอ่านข้อมูลพื้นฐานก่อน โปรดอ่านคู่มือแก้ปัญหาพร็อกซี โมเดลนี้เป็นโมเดลแบบเปิดน้ำหนัก ไม่ใช่ Claude ดังนั้นจึงอาจมีพฤติกรรมต่างออกไปเมื่อทำงานหลายขั้นตอนที่ซับซ้อน
ขั้นตอนที่ 1: ติดตั้งพร็อกซี
ใช้ virtual environment เพื่อให้ dependencies ของพร็อกซีแยกจากโปรเจกต์ของคุณ:
python3 -m venv ~/litellm-env
source ~/litellm-env/bin/activate
pip install 'litellm[proxy]'
LiteLLM เป็นซอฟต์แวร์โอเพนซอร์สจากบุคคลที่สาม คำสั่งและคีย์ config ด้านล่างตรงกับเอกสารสาธารณะของ LiteLLM ณ เวลาที่เขียน แต่โปรดตรวจสอบเอกสารปัจจุบันของ LiteLLM หากมีการเปลี่ยนแปลง flag
ขั้นตอนที่ 2: เขียน config
สร้าง config.yaml model_name คือชื่อที่ไคลเอนต์ส่ง บล็อก litellm_params บอกตำแหน่งที่จะส่งต่อ ค่านำหน้า openai/ บอกให้ LiteLLM ติดต่อเซิร์ฟเวอร์ที่เข้ากันได้กับ OpenAI
cat > config.yaml <<'EOF'
model_list:
- model_name: claude-sonnet
litellm_params:
model: openai/uncensored
api_base: https://api.claudecodeproxyapi.com/v1
api_key: os.environ/UPSTREAM_KEY
EOF
aliasclaude-sonnet เป็นเพียงตัวอย่าง ไม่ใช่ข้อกำหนด Claude Code อาจส่งชื่อโมเดลที่แตกต่างกันหลายชื่อ เช่น โมเดลหลักและโมเดลขนาดเล็กสำหรับงานพื้นหลัง เพิ่มรายการmodel_list สำหรับชื่อแต่ละชื่อที่คุณเห็นในล็อกพร็อกซี โดยชี้ไปยัง upstream เดียวกัน การชี้ alias ทั้งหมดไปที่uncensored ได้ เนื่องจากมีเพียงโมเดลเดียว
คีย์ถูกอ่านจากตัวแปรสภาพแวดล้อม ดังนั้นจะไม่ปรากฏในไฟล์ที่คุณอาจ commit
ขั้นตอนที่ 3: เริ่มพร็อกซี
export UPSTREAM_KEY="YOUR_KEY"
litellm --config config.yaml --port 4000
ปล่อย terminal นี้ไว้ คุณควรเห็นเซิร์ฟเวอร์กำลังฟังที่พอร์ต 4000 ตอนนี้ตรวจสอบเส้นทาง upstream จากฝั่งพร็อกซีด้วยคำขอทดสอบในรูปแบบ Anthropic ซึ่งเป็นรูปแบบที่ Claude Code จะส่ง:
curl http://localhost:4000/v1/messages \
-H "content-type: application/json" \
-H "x-api-key: sk-local-anything" \
-H "anthropic-version: 2023-06-01" \
-d '{
"model": "claude-sonnet",
"max_tokens": 200,
"messages": [{"role": "user", "content": "Reply with the word ready."}]
}'
การตอบกลับแบบ JSON ที่มีเนื้อหาประกอบด้วยคำว่า "ready" หมายถึงการแปลทำงานแบบ end-to-end: รูปแบบ Anthropic เข้า รูปแบบ OpenAI ออกไปยัง https://api.claudecodeproxyapi.com/v1 และกลับ หากตั้งค่าคีย์หลักในการตั้งค่า LiteLLM ให้ใช้คีย์นั้นแทน sk-local-anything
ขั้นตอนที่ 4: ชี้ Claude Code ไปที่พร็อกซี
Claude Code อ่านที่อยู่ API และโทเคนจากตัวแปรสภาพแวดล้อม ตั้งค่าใน shell ที่คุณเริ่ม CLI:
export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_AUTH_TOKEN="sk-local-anything"
export ANTHROPIC_MODEL="claude-sonnet"
claude
ใช้ที่อยู่ proxy โดยไม่มี /v1 เพราะ CLI เพิ่ม path เอง โทเคนต้องผ่าน proxy เท่านั้น เพราะคีย์ upstream จริงคือ UPSTREAM_KEY หากใช้ไฟล์ตั้งค่า CLI แทน shell ให้ใส่ชื่อ 3 ตัวนี้ที่นั่น ชื่อ env var ของ Claude Code อาจเปลี่ยนระหว่างเวอร์ชัน ให้ตรวจสอบกับเอกสารล่าสุดหากมีค่าใดถูกเพิกเฉย
ขั้นตอนที่ 5: รันงานแรกและดูล็อก
เริ่มจากขนาดเล็ก ถาม CLI ให้อธิบายไฟล์หนึ่งไฟล์หรือเพิ่มความคิดเห็นลงในฟังก์ชันหนึ่ง ในเทอร์มินัลพร็อกซีคุณจะเห็นคำขอต่อขั้นตอน ระบุชื่อโมเดลที่ปรากฏขึ้นทั้งหมด หากชื่อใดไม่อยู่ใน model_list พร็อกซีจะตอบกลับด้วยข้อผิดพลาด ดังนั้นให้เพิ่มชื่อและรีสตาร์ท
การเรียกใช้เครื่องมือสำคัญที่นี่ เพราะ CLI อ่านไฟล์และแก้ไขโค้ดผ่านเครื่องมือ API รองรับ tools, tool_choice และ tool_calls แบบสตรีม ซึ่ง proxy จะแปลงให้ การปฏิบัติตามสคีมาของเครื่องมือที่อ่อนแอจะแสดงเป็น edit ล้มเหลวหรือขั้นตอนซ้ำ หากเกิดเหตุการณ์นี้ ให้ลดขนาดงานและลองใหม่ก่อนสรุปว่า setup ผิดพลาด
หน้าต่างบริบทคือ 100,000 โทเคน รวม prompt และ completion เซสชันที่ยาวเกินนี้จะล้มเหลว จึงเริ่มเซสชันใหม่สำหรับงานใหม่ ค่าใช้จ่ายต่ำมากที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens: คำขอที่มี 20,000 tokens เข้าและ 800 ออก มีค่าใช้จ่าย $0.003 + $0.0004 = $0.0034 ดูหน้าราคา สำหรับการเติมเงิน ซึ่งบนเว็บนี้จ่ายด้วยคริปโต (USDT บน TRC20, USDC บน Base)
การแก้ไขปัญหา
| สิ่งที่คุณเห็น | สาเหตุ | การแก้ไข |
|---|---|---|
| การเชื่อมต่อถูกปฏิเสธ | พร็อกซีไม่ทำงานหรือพอร์ตไม่ตรงกัน | เริ่มพร็อกซีแล้วตั้งค่าพอร์ตให้ตรงกับ ANTHROPIC_BASE_URL |
| พร็อกซีส่ง 404 หรือ "ไม่พบโมเดล" | ชื่อโมเดลที่ CLI ส่งไปไม่มีอยู่ในไฟล์ config | เพิ่มชื่อนั้นเข้าไปใน model_list |
| Upstream ส่ง 401 | UPSTREAM_KEY ผิดหรือว่างเปล่า | ตั้งค่าคีย์ใหม่ใน shell ของพร็อกซีแล้วรีสตาร์ท |
429 พร้อม concurrency | คำขอพร้อมกันเกิน 8 รายการ (2 รายการในโหมดทดลองใช้) | ลดจำนวน เอเจนต์ ที่ทำงานพร้อมกัน |
429 พร้อม rate_limited | เกิน 300 คำขอต่อนาที (60 รายการในโหมดทดลองใช้) | ถอยออกและลองใหม่ |
429 พร้อม Retry-After: 5 | โอเวอร์โหลดชั่วคราว | ลองใหม่หลังจากห้าวินาที |
| สตรีมมิงค้าง | คำขอแบบสตรีมมิงจะยึดสล็อตไว้จนกว่าจะเสร็จสิ้น | ยกเลิกคำขอใน CLI เพื่อปลดปล่อยสล็อต |
สำหรับกรณีอื่นๆ ที่ไม่ครอบคลุมในหน้านี้ โปรดแนบค่าหัวตอบกลับ X-Request-Id เมื่อติดต่อฝ่ายสนับสนุน เอกสารระบุพารามิเตอร์ที่รองรับทั้งหมด
ทำให้ถาวร
การพิมพ์คำสั่ง exports ทุกครั้งเริ่มน่าเบื่อ วางการเริ่มต้นพร็อกซีในสคริปต์เล็กและตัวแปรไคลเอนต์ในalias เพื่อให้คำสั่งเดียวเปิดทุกอย่าง:
cat > ~/start-proxy.sh <<'EOF'
. ~/litellm-env/bin/activate
export UPSTREAM_KEY="YOUR_KEY"
exec litellm --config ~/config.yaml --port 4000
EOF
chmod +x ~/start-proxy.sh
alias claude-uncensored='ANTHROPIC_BASE_URL=http://localhost:4000 ANTHROPIC_AUTH_TOKEN=sk-local-anything ANTHROPIC_MODEL=claude-sonnet claude'
เนื่องจากตัวแปรถูกตั้งค่าสำหรับคำสั่งนั้นเพียงคำสั่งเดียว คำสั่ง claude ปกติของคุณจึงยังคงทำงานตามค่าเริ่มต้นได้ เพิ่มaliasลงในโปรไฟล์ shell ของคุณ ปกป้องสคริปต์ด้วยสิทธิ์ไฟล์เช่น chmod 700 เนื่องจากสคริปต์มีคีย์ของคุณอยู่
การสลับกลับ
หากคุณส่งออกตัวแปรใน shell ปัจจุบัน ให้รัน unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN ANTHROPIC_MODEL และเริ่ม CLI ใหม่ ไม่มีอะไรเปลี่ยนแปลงที่ฝั่ง API ดังนั้นจึงไม่มีอะไรต้องยกเลิก
การตรวจสอบยอดเงินและการใช้งาน
การตอบกลับทุกครั้งจาก API มี X-Balance-USD ซึ่งเป็นเครดิตคงเหลือในคีย์ของคุณ LiteLLM สามารถส่ง upstream headers ผ่านในบางการตั้งค่า แต่วิธีที่แน่นอนที่สุดเพื่อดูยอดคงเหลือของคุณคือการเรียก upstream โดยตรงเป็นครั้งคราว:
curl -i https://api.claudecodeproxyapi.com/v1/models \
-H "Authorization: Bearer YOUR_KEY" | grep -i x-balance-usd
เซสชันของ เอเจนต์ จะขยายขนาดขึ้นอย่างเงียบๆ ทุกขั้นตอนจะส่งบริบทการทำงานซ้ำ ดังนั้นเซสชันที่ยาวนานจะมีค่าใช้จ่ายต่อคำขอสูงกว่าเซสชันสั้นๆ การเริ่มเซสชันใหม่สำหรับแต่ละงานจะช่วยให้ข้อมูลนำเข้ามีขนาดเล็กและบิลต่ำ ที่ราคาประกาศ ($0.15 ต่อ 1M ข้อมูลนำเข้า และ $0.50 ต่อ 1M ข้อมูลส่งออก) คำขอที่มีข้อมูลนำเข้า 50,000 โทเคนและข้อมูลส่งออก 1,000 โทเคนจะมีค่าใช้จ่าย 50,000 x $0.15 / 1M = $0.0075 บวก $0.0005 ซึ่งรวมเป็น $0.008 คำขอลักษณะนี้ 20 คำขอจะมีค่าใช้จ่ายรวม $0.16
การเติมเงินมีตั้งแต่ $20 ถึง $500 เป็นจำนวนเต็มและชำระด้วยUSDT บน TRC20 หรือ USDC บน Base บนเว็บไซต์นี้ เครดิตไม่หมดอายุ ดังนั้นการเติมเงินจำนวนมากขึ้นพร้อมโบนัส +5%, +10% หรือ +15% ไม่ได้จำกัดอายุของยอดเงินของคุณ
