TH ▾

หน้าแรกคู่มือ

การตั้งค่าพร็อกซี Claude Code ด้วย API ที่เข้ากันได้กับ OpenAI

การตั้งค่าพร็อกซี claude code นี้ใช้เวลาห้าขั้นตอน: รับคีย์, เขียนการตั้งค่า LiteLLM, เริ่มพร็อกซี, ตั้งค่าตัวแปรสภาพแวดล้อมสองตัวและรันการทดสอบ ใช้เวลาประมาณสิบนาที

ก้าวห้าก้าวที่ส่องแสงนำจากเทอร์มินัลไปยังเซิร์ฟเวอร์ แสดงการตั้งค่าพร็อกซีทีละขั้นตอน

ประเด็นสำคัญ

  1. รันพร็อกซี LiteLLM, แมปชื่อโมเดลเป็น uncensored, ตั้งค่าตัวแปรสภาพแวดล้อม, ทดสอบด้วย curl และแก้ข้อผิดพลาดที่พบบ่อย ในเครื่องที่ส่งต่อไปยัง https://api.claudecodeproxyapi.com/v1
  2. ชี้ Claude Code ไปที่พร็อกซีด้วย ANTHROPIC_BASE_URL และ ANTHROPIC_AUTH_TOKEN
  3. แมปชื่อโมเดลที่ Claude Code ส่งไปยังโมเดล upstream uncensored
  4. ทดสอบพร็อกซีด้วย curl ก่อนเริ่ม CLI

สิ่งที่คุณต้องการ

  • คีย์ API จากหน้าคีย์ ลงทะเบียนด้วย Google หรืออีเมลและรหัสผ่าน แล้วรับเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียว
  • Python 3.9 ขึ้นไป เพื่อติดตั้งพร็อกซี
  • Claude Code ติดตั้งและใช้งานบนเครื่องของคุณได้แล้ว

ทำไมต้องใช้พร็อกซี? Claude Code ใช้รูปแบบ Messages ของ Anthropic และ API ของเราใช้รูปแบบ Chat Completions ของ OpenAI พร้อม model ID uncensored พร็อกซีทำหน้าที่แปลงระหว่างรูปแบบทั้งสอง หากต้องการอ่านข้อมูลพื้นฐานก่อน โปรดอ่านคู่มือแก้ปัญหาพร็อกซี โมเดลนี้เป็นโมเดลแบบเปิดน้ำหนัก ไม่ใช่ Claude ดังนั้นจึงอาจมีพฤติกรรมต่างออกไปเมื่อทำงานหลายขั้นตอนที่ซับซ้อน

ขั้นตอนที่ 1: ติดตั้งพร็อกซี

ใช้ virtual environment เพื่อให้ dependencies ของพร็อกซีแยกจากโปรเจกต์ของคุณ:

python3 -m venv ~/litellm-env
source ~/litellm-env/bin/activate
pip install 'litellm[proxy]'

LiteLLM เป็นซอฟต์แวร์โอเพนซอร์สจากบุคคลที่สาม คำสั่งและคีย์ config ด้านล่างตรงกับเอกสารสาธารณะของ LiteLLM ณ เวลาที่เขียน แต่โปรดตรวจสอบเอกสารปัจจุบันของ LiteLLM หากมีการเปลี่ยนแปลง flag

ขั้นตอนที่ 2: เขียน config

สร้าง config.yaml model_name คือชื่อที่ไคลเอนต์ส่ง บล็อก litellm_params บอกตำแหน่งที่จะส่งต่อ ค่านำหน้า openai/ บอกให้ LiteLLM ติดต่อเซิร์ฟเวอร์ที่เข้ากันได้กับ OpenAI

cat > config.yaml <<'EOF'
model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/uncensored
      api_base: https://api.claudecodeproxyapi.com/v1
      api_key: os.environ/UPSTREAM_KEY
EOF

aliasclaude-sonnet เป็นเพียงตัวอย่าง ไม่ใช่ข้อกำหนด Claude Code อาจส่งชื่อโมเดลที่แตกต่างกันหลายชื่อ เช่น โมเดลหลักและโมเดลขนาดเล็กสำหรับงานพื้นหลัง เพิ่มรายการmodel_list สำหรับชื่อแต่ละชื่อที่คุณเห็นในล็อกพร็อกซี โดยชี้ไปยัง upstream เดียวกัน การชี้ alias ทั้งหมดไปที่uncensored ได้ เนื่องจากมีเพียงโมเดลเดียว

คีย์ถูกอ่านจากตัวแปรสภาพแวดล้อม ดังนั้นจะไม่ปรากฏในไฟล์ที่คุณอาจ commit

ขั้นตอนที่ 3: เริ่มพร็อกซี

export UPSTREAM_KEY="YOUR_KEY"
litellm --config config.yaml --port 4000

ปล่อย terminal นี้ไว้ คุณควรเห็นเซิร์ฟเวอร์กำลังฟังที่พอร์ต 4000 ตอนนี้ตรวจสอบเส้นทาง upstream จากฝั่งพร็อกซีด้วยคำขอทดสอบในรูปแบบ Anthropic ซึ่งเป็นรูปแบบที่ Claude Code จะส่ง:

curl http://localhost:4000/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: sk-local-anything" \
  -H "anthropic-version: 2023-06-01" \
  -d '{
    "model": "claude-sonnet",
    "max_tokens": 200,
    "messages": [{"role": "user", "content": "Reply with the word ready."}]
  }'

การตอบกลับแบบ JSON ที่มีเนื้อหาประกอบด้วยคำว่า "ready" หมายถึงการแปลทำงานแบบ end-to-end: รูปแบบ Anthropic เข้า รูปแบบ OpenAI ออกไปยัง https://api.claudecodeproxyapi.com/v1 และกลับ หากตั้งค่าคีย์หลักในการตั้งค่า LiteLLM ให้ใช้คีย์นั้นแทน sk-local-anything

ขั้นตอนที่ 4: ชี้ Claude Code ไปที่พร็อกซี

Claude Code อ่านที่อยู่ API และโทเคนจากตัวแปรสภาพแวดล้อม ตั้งค่าใน shell ที่คุณเริ่ม CLI:

export ANTHROPIC_BASE_URL="http://localhost:4000"
export ANTHROPIC_AUTH_TOKEN="sk-local-anything"
export ANTHROPIC_MODEL="claude-sonnet"
claude

ใช้ที่อยู่ proxy โดยไม่มี /v1 เพราะ CLI เพิ่ม path เอง โทเคนต้องผ่าน proxy เท่านั้น เพราะคีย์ upstream จริงคือ UPSTREAM_KEY หากใช้ไฟล์ตั้งค่า CLI แทน shell ให้ใส่ชื่อ 3 ตัวนี้ที่นั่น ชื่อ env var ของ Claude Code อาจเปลี่ยนระหว่างเวอร์ชัน ให้ตรวจสอบกับเอกสารล่าสุดหากมีค่าใดถูกเพิกเฉย

ขั้นตอนที่ 5: รันงานแรกและดูล็อก

เริ่มจากขนาดเล็ก ถาม CLI ให้อธิบายไฟล์หนึ่งไฟล์หรือเพิ่มความคิดเห็นลงในฟังก์ชันหนึ่ง ในเทอร์มินัลพร็อกซีคุณจะเห็นคำขอต่อขั้นตอน ระบุชื่อโมเดลที่ปรากฏขึ้นทั้งหมด หากชื่อใดไม่อยู่ใน model_list พร็อกซีจะตอบกลับด้วยข้อผิดพลาด ดังนั้นให้เพิ่มชื่อและรีสตาร์ท

การเรียกใช้เครื่องมือสำคัญที่นี่ เพราะ CLI อ่านไฟล์และแก้ไขโค้ดผ่านเครื่องมือ API รองรับ tools, tool_choice และ tool_calls แบบสตรีม ซึ่ง proxy จะแปลงให้ การปฏิบัติตามสคีมาของเครื่องมือที่อ่อนแอจะแสดงเป็น edit ล้มเหลวหรือขั้นตอนซ้ำ หากเกิดเหตุการณ์นี้ ให้ลดขนาดงานและลองใหม่ก่อนสรุปว่า setup ผิดพลาด

หน้าต่างบริบทคือ 100,000 โทเคน รวม prompt และ completion เซสชันที่ยาวเกินนี้จะล้มเหลว จึงเริ่มเซสชันใหม่สำหรับงานใหม่ ค่าใช้จ่ายต่ำมากที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens: คำขอที่มี 20,000 tokens เข้าและ 800 ออก มีค่าใช้จ่าย $0.003 + $0.0004 = $0.0034 ดูหน้าราคา สำหรับการเติมเงิน ซึ่งบนเว็บนี้จ่ายด้วยคริปโต (USDT บน TRC20, USDC บน Base)

การแก้ไขปัญหา

สิ่งที่คุณเห็นสาเหตุการแก้ไข
การเชื่อมต่อถูกปฏิเสธพร็อกซีไม่ทำงานหรือพอร์ตไม่ตรงกันเริ่มพร็อกซีแล้วตั้งค่าพอร์ตให้ตรงกับ ANTHROPIC_BASE_URL
พร็อกซีส่ง 404 หรือ "ไม่พบโมเดล"ชื่อโมเดลที่ CLI ส่งไปไม่มีอยู่ในไฟล์ configเพิ่มชื่อนั้นเข้าไปใน model_list
Upstream ส่ง 401UPSTREAM_KEY ผิดหรือว่างเปล่าตั้งค่าคีย์ใหม่ใน shell ของพร็อกซีแล้วรีสตาร์ท
429 พร้อม concurrencyคำขอพร้อมกันเกิน 8 รายการ (2 รายการในโหมดทดลองใช้)ลดจำนวน เอเจนต์ ที่ทำงานพร้อมกัน
429 พร้อม rate_limitedเกิน 300 คำขอต่อนาที (60 รายการในโหมดทดลองใช้)ถอยออกและลองใหม่
429 พร้อม Retry-After: 5โอเวอร์โหลดชั่วคราวลองใหม่หลังจากห้าวินาที
สตรีมมิงค้างคำขอแบบสตรีมมิงจะยึดสล็อตไว้จนกว่าจะเสร็จสิ้นยกเลิกคำขอใน CLI เพื่อปลดปล่อยสล็อต

สำหรับกรณีอื่นๆ ที่ไม่ครอบคลุมในหน้านี้ โปรดแนบค่าหัวตอบกลับ X-Request-Id เมื่อติดต่อฝ่ายสนับสนุน เอกสารระบุพารามิเตอร์ที่รองรับทั้งหมด

ทำให้ถาวร

การพิมพ์คำสั่ง exports ทุกครั้งเริ่มน่าเบื่อ วางการเริ่มต้นพร็อกซีในสคริปต์เล็กและตัวแปรไคลเอนต์ในalias เพื่อให้คำสั่งเดียวเปิดทุกอย่าง:

cat > ~/start-proxy.sh <<'EOF'
. ~/litellm-env/bin/activate
export UPSTREAM_KEY="YOUR_KEY"
exec litellm --config ~/config.yaml --port 4000
EOF
chmod +x ~/start-proxy.sh

alias claude-uncensored='ANTHROPIC_BASE_URL=http://localhost:4000 ANTHROPIC_AUTH_TOKEN=sk-local-anything ANTHROPIC_MODEL=claude-sonnet claude'

เนื่องจากตัวแปรถูกตั้งค่าสำหรับคำสั่งนั้นเพียงคำสั่งเดียว คำสั่ง claude ปกติของคุณจึงยังคงทำงานตามค่าเริ่มต้นได้ เพิ่มaliasลงในโปรไฟล์ shell ของคุณ ปกป้องสคริปต์ด้วยสิทธิ์ไฟล์เช่น chmod 700 เนื่องจากสคริปต์มีคีย์ของคุณอยู่

การสลับกลับ

หากคุณส่งออกตัวแปรใน shell ปัจจุบัน ให้รัน unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN ANTHROPIC_MODEL และเริ่ม CLI ใหม่ ไม่มีอะไรเปลี่ยนแปลงที่ฝั่ง API ดังนั้นจึงไม่มีอะไรต้องยกเลิก

การตรวจสอบยอดเงินและการใช้งาน

การตอบกลับทุกครั้งจาก API มี X-Balance-USD ซึ่งเป็นเครดิตคงเหลือในคีย์ของคุณ LiteLLM สามารถส่ง upstream headers ผ่านในบางการตั้งค่า แต่วิธีที่แน่นอนที่สุดเพื่อดูยอดคงเหลือของคุณคือการเรียก upstream โดยตรงเป็นครั้งคราว:

curl -i https://api.claudecodeproxyapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY" | grep -i x-balance-usd

เซสชันของ เอเจนต์ จะขยายขนาดขึ้นอย่างเงียบๆ ทุกขั้นตอนจะส่งบริบทการทำงานซ้ำ ดังนั้นเซสชันที่ยาวนานจะมีค่าใช้จ่ายต่อคำขอสูงกว่าเซสชันสั้นๆ การเริ่มเซสชันใหม่สำหรับแต่ละงานจะช่วยให้ข้อมูลนำเข้ามีขนาดเล็กและบิลต่ำ ที่ราคาประกาศ ($0.15 ต่อ 1M ข้อมูลนำเข้า และ $0.50 ต่อ 1M ข้อมูลส่งออก) คำขอที่มีข้อมูลนำเข้า 50,000 โทเคนและข้อมูลส่งออก 1,000 โทเคนจะมีค่าใช้จ่าย 50,000 x $0.15 / 1M = $0.0075 บวก $0.0005 ซึ่งรวมเป็น $0.008 คำขอลักษณะนี้ 20 คำขอจะมีค่าใช้จ่ายรวม $0.16

การเติมเงินมีตั้งแต่ $20 ถึง $500 เป็นจำนวนเต็มและชำระด้วยUSDT บน TRC20 หรือ USDC บน Base บนเว็บไซต์นี้ เครดิตไม่หมดอายุ ดังนั้นการเติมเงินจำนวนมากขึ้นพร้อมโบนัส +5%, +10% หรือ +15% ไม่ได้จำกัดอายุของยอดเงินของคุณ

ถาม-ตอบ

Claude Code ต้องการตัวแปรสภาพแวดล้อมใดสำหรับพร็อกซี

ANTHROPIC_BASE_URL สำหรับที่อยู่พร็อกซี และ ANTHROPIC_AUTH_TOKEN สำหรับโทเคนที่พร็อกซียอมรับ ANTHROPIC_MODEL สามารถระบุaliasที่คุณกำหนดได้ ตรวจสอบเอกสาร Claude Code ปัจจุบันสำหรับการเปลี่ยนแปลง

ฉันควรใส่ /v1 ใน ANTHROPIC_BASE_URL หรือไม่

ไม่ ใช้ที่อยู่พร็อกซีเช่น http://localhost:4000, เพราะ CLI เพิ่มเส้นทางของตัวเอง /v1 อยู่เฉพาะใน api_base ของ upstreamในการตั้งค่าพร็อกซี

ฉันสามารถใช้พร็อกซีอื่นที่ไม่ใช่ LiteLLM ได้หรือไม่

ใช่ พร็อกซีใดๆ ที่แปลงคำขอ Anthropic Messages เป็น OpenAI Chat Completions ใช้งานได้ เช่น claude-code-router ชี้ upstream ไปที่ https://api.claudecodeproxyapi.com/v1 โดยใช้โมเดล uncensored

คีย์ upstream ของฉันปลอดภัยในการกำหนดค่าหรือไม่

เก็บไว้ในตัวแปรสภาพแวดล้อมแทนไฟล์ ตามที่แสดงในการกำหนดค่าด้านบน อย่าคอมมิตคีย์ไปยังที่เก็บ

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด