สิ่งที่ proxy ทำ
พร็อกซี Claude Code คือเซิร์ฟเวอร์ใดๆ ที่คุณรันระหว่าง CLI สำหรับเขียนโค้ดของ Anthropic และโมเดลที่ทำหน้าที่ตอบ Claude Code อ่านตัวแปรสภาพแวดล้อมสำหรับที่อยู่ API และส่งคำขอไปที่นั่น หากที่อยู่นั้นเป็นพร็อกซี พร็อกซีจะเป็นผู้ตัดสินใจว่าเกิดอะไรขึ้นจริงๆ: มันสามารถบันทึกการจราจร เพิ่มกฎ หรือส่งต่อคำขอไปยังโมเดลอื่น
รายละเอียดสำคัญคือ รูปแบบการส่งข้อมูล Claude Code ใช้รูปแบบ Messages ของ Anthropic API ที่ https://api.claudecodeproxyapi.com/v1 ใช้รูปแบบ Chat Completions ของ OpenAI โดยมี model ID คือ uncensored ทั้งสองมีความคล้ายคลึงกันแต่ไม่สามารถแทนที่กันได้ ดังนั้นคุณไม่สามารถวาง URL ของเราลงใน Claude Code ได้โดยตรง เลเยอร์แปลต้องแก้ไขคำขอแต่ละรายการและคำตอบ รวมถึง chunk แบบสตรีมมิงและการเรียกใช้ฟังก์ชัน
สิ่งที่อยู่ตรงไหน
| ส่วน | พูด | งาน |
|---|---|---|
| Claude Code CLI | รูปแบบ Anthropic Messages | วางแผนการแก้ไข เรียกใช้เครื่องมือ แสดง diff |
| proxy แปลง (ท้องถิ่น) | ทั้งสองรูปแบบ | แปลงคำขอและสตรีม, จับคู่ชื่อบนโมเดล |
| API นี้ | OpenAI Chat Completions | รันโมเดลแบบเปิดน้ำหนัก คำนวณตามโทเคน |
โปรเจกต์ชุมชนจัดการส่วนกลาง พร็อกซีของ LiteLLM และ claude-code-router เป็นสองรายการที่มีเอกสารเผยแพร่ต่อสาธารณะสำหรับวัตถุประสงค์นี้ ทั้งสองเป็นซอฟต์แวร์ของบุคคลที่สาม ดังนั้นตรวจสอบเอกสารปัจจุบันของพวกเขาสำหรับเวอร์ชันและแฟลกที่รองรับก่อนที่คุณจะพึ่งพาสิ่งเหล่านั้น หากมีบางอย่างล้มเหลวในระหว่างทาง คู่มือแก้ปัญหาพร็อกซี คือจุดเริ่มต้น และเว็บไซต์นี้ยังมีบทความการติดตั้งทีละขั้นตอนแยกต่างหาก
ก่อนที่คุณจะตั้งค่า: ซื่อสัตย์เกี่ยวกับโมเดล
Claude Code ถูกสร้างขึ้นรอบๆ โมเดลของ Anthropic เอง การสลับไปใช้โมเดลอื่นเปลี่ยนพฤติกรรม และไม่มีพร็อกซีใดสามารถซ่อนสิ่งนั้นได้ โมเดลที่นี่คือโมเดลแบบเปิดน้ำหนักตัวหนึ่งที่ดำเนินการโดยผู้ให้บริการอิสระและปรับแต่งเพื่อตอบกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย มันไม่ใช่ Claude และไม่ใช่ API อย่างเป็นทางการของ Anthropic หรือผู้ขายรายอื่น
สิ่งที่มันให้คุณสำหรับงานแบบ agent:
- การเรียกใช้ฟังก์ชันด้วย
tools,tool_choiceและtool_callsแบบสตรีม โดยส่งผลลัพธ์กลับเป็นข้อความrole: "tool" - หน้าต่างบริบท 100,000 โทเคน พรอมต์และการตอบกลับรวมกัน
- โหมด JSON พร้อม
response_formatและการสตรีมมิงผ่าน SSE
สิ่งที่คุณควรตรวจสอบด้วยตนเอง: ความสามารถในการปฏิบัติตาม agent loop ยาวนาน ความถี่ของการสร้าง tool_calls ที่ผิดรูปแบบ และวิธีการจัดการภาษาและเฟรมเวิร์กของคุณ รันงานจริงสามหรือสี่งานจาก repository ของคุณก่อนย้าย workflow ทั้งหมด เครดิตทดลองใช้ $0.50 ที่อ้างสิทธิ์ด้วยการคลิกเดียวหลังสมัครสมาชิก เพียงพอสำหรับสิ่งนั้น
ทดสอบระบบต้นทางก่อน
ก่อนเริ่มใช้งาน Claude Code ให้ยืนยันว่าฝั่ง API ทำงานได้กับคำขอธรรมดา รวมถึงการเรียกใช้ฟังก์ชัน เนื่องจากเเอเจนต์พึ่งพาสิ่งนี้:
curl https://api.claudecodeproxyapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the files in the src folder."}],
"tools": [{
"type": "function",
"function": {
"name": "list_files",
"description": "List files in a directory",
"parameters": {
"type": "object",
"properties": {"path": {"type": "string"}},
"required": ["path"]
}
}
}],
"tool_choice": "auto"
}'
คำตอบที่ดีควรมีรายการ tool_calls พร้อม list_files และสตริงอาร์กิวเมนต์ JSON หากเห็นสิ่งนี้ แสดงว่าระบบต้นทางพร้อมใช้งานแล้ว และปัญหาใดๆ ในภายหลังเป็นความรับผิดชอบของการกำหนดค่าพร็อกซีหรือ CLI
สองเส้นทาง และเมื่อใดควรเลือกแต่ละเส้นทาง
เส้นทางที่ 1: พร็อกซีตัวแปลงรูปแบบสำหรับ Claude Code
เลือกเส้นทางนี้หากคุณชอบอินเทอร์เฟซ Claude Code การแจ้งเตือนสิทธิ์ และเวิร์กโฟลว์ของมัน และต้องการโมเดลอื่นที่อยู่เบื้องหลัง คุณรันพร็อกซีในเครื่อง ชี้ CLI ไปที่พร็อกซี และแมปชื่อโมเดลที่ CLI ส่งไปยัง uncensored ตัวแปรที่แน่นอนครอบคลุมอยู่ใน เอกสาร และบทความการติดตั้ง
เส้นทางที่ 2: ไคลเอนต์ที่รองรับ OpenAI อยู่แล้ว
ผู้ช่วยเขียนโค้ดโอเพนซอร์สและส่วนขยาย editor หลายรายการ รวมถึง Aider, Continue และ Cline สามารถใช้เอนด์พอยต์ที่เข้ากันได้กับ OpenAI ได้โดยตรง คุณกรอก base URL คีย์ และชื่อโมเดล และไม่มีชั้นการแปลที่ต้องดูแลรักษา หากคุณไม่ได้ต้องการอินเทอร์เฟซ Claude Code โดยเฉพาะ เส้นทางนี้สั้นกว่าและมีองค์ประกอบที่อาจล้มเหลวน้อยกว่า
กฎทั่วไป: เลือกเส้นทางที่ 2 สำหรับการทดลองโมเดลกับโค้ดอย่างรวดเร็ว และเลือกเส้นทางที่ 1 เมื่อทีมของคุณพึ่งพาเวิร์กโฟลว์ของ Claude Code อยู่แล้ว
ค่าใช้จ่ายสำหรับเซสชันการเขียนโค้ด
เเอเจนต์ส่งบริบทซ้ำจำนวนมาก ดังนั้นโทเคนอินพุตจึงเป็นค่าใช้จ่ายหลัก ลองดูเซสชันที่มีคำขอ 30 รายการ แต่ละรายการมีโทเคนอินพุต 20,000 รายการ (ไฟล์ ประวัติ ผลลัพธ์ของฟังก์ชัน) และโทเคนเอาต์พุต 800 รายการ:
- อินพุต: 30 x 20,000 = 600,000 โทเคน ซึ่งเท่ากับ 0.6 x $0.15 = $0.09
- เอาต์พุต: 30 x 800 = 24,000 โทเคน ซึ่งเท่ากับ 0.024 x $0.50 = $0.012
- รวม: $0.102
ราคาคือ $0.15 ต่อ 1M โทเคนอินพุตและ $0.50 ต่อ 1M โทเคนเอาต์พุต การเรียกเก็บเงินมาจากเครดิตแบบเติมเงินล่วงหน้าโดยไม่ต้องสมัครสมาชิก คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน และเครดิตไม่หมดอายุ การเติมเงินเริ่มต้นที่ $20 ถึง $500 พร้อมโบนัส +5% จาก $50, +10% จาก $100 และ +15% จาก $200 เว็บไซต์นี้รับเติมเงินด้วยคริปโต (USDT บน TRC20, USDC บน Base) หน้าราคา มีตารางเต็ม และ หน้าคีย์ คือที่ที่คุณสมัครสมาชิกด้วย Google หรืออีเมล
ขีดจำกัดที่ส่งผลต่อวงจรเเอเจนต์
คีย์แบบเต็มอนุญาตคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที คีย์ทดลองอนุญาตคำขอพร้อมกัน 2 คำขอและ 60 คำขอต่อนาที เอเจนต์ที่กระจายงานย่อยอาจชนขีดจำกัดความพร้อมกันก่อน จากนั้น API จะตอบกลับ HTTP 429 พร้อมโค้ด concurrency ในขณะที่ขีดจำกัดอัตราคำขอจะส่งกลับ rate_limited การโอเวอร์โหลดชั่วคราวยังส่งกลับ 429 พร้อม Retry-After: 5 พร็อกซีที่ดีจะลองใหม่เมื่อได้รับ 429 หลังจากเวลาหน่วง และคำขอแบบสตรีมมิงจะสงวนช่องของมันไว้จนกว่าสตรีมจะสิ้นสุด ดังนั้นสตรีมที่ค้างจึงนับรวมในขีดจำกัดของคุณ
บอดี้คำขอมีขนาดสูงสุด 8 MB โปรดจำไว้ว่าหากคุณใช้ฟังก์ชันแนบไฟล์ขนาดใหญ่ลงในพรอมต์ และให้พรอมต์ทั้งหมดอยู่ในหน้าต่าง 100,000 โทเคน
หมายเหตุด้านความปลอดภัยสำหรับพร็อกซีในเครื่อง
พร็อกซีจะเก็บคีย์ระบบต้นทางของคุณ ดังนั้นให้ปฏิบัติต่อมันเหมือนข้อมูลประจำตัวใดๆ กำหนดค่าให้ผูกกับ localhost ไม่ใช่ทุกอินเทอร์เฟซเครือข่าย เว้นแต่คุณต้องการให้เครื่องอื่นเข้าถึงได้ เก็บคีย์ในตัวแปรสภาพแวดล้อมหรือตัวจัดการความลับ แทนที่จะเก็บในไฟล์ที่รวมอยู่ในระบบควบคุมเวอร์ชัน หากคุณแบ่งปันพร็อกซีให้กับทีม ให้มอบคีย์หลักเฉพาะสำหรับพร็อกซีนั้น เพื่อให้คุณสามารถหมุนเวียนคีย์ได้โดยไม่กระทบคีย์ระบบต้นทาง
นอกจากนี้ โปรดจำสิ่งที่เเอเจนต์ส่งไป CLI การเขียนโค้ดจะส่งเนื้อหาไฟล์ ผลลัพธ์คำสั่ง และพรอมต์ของคุณไปยังโมเดล พรอมต์ไม่ถูกนำไปใช้สำหรับการฝึกที่นี่ แต่คุณควรเก็บความลับ เช่น คีย์ส่วนตัวและไฟล์ .env ไว้ภายนอกไดเรกทอรีการทำงานที่เเอเจนต์สามารถอ่านได้
วิธีที่ยุติธรรมในการประเมินโมเดลกับโค้ดของคุณ
เลือกงานสามงานที่มีความยากเพิ่มขึ้นจากที่เก็บโค้ดจริง: การแก้ไขไฟล์เดียว การเปลี่ยนแปลงที่กระทบสามไฟล์ และการรีแฟกเตอร์ขนาดเล็กพร้อมการทดสอบ รันแต่ละงานด้วยพรอมต์เดียวกันสองครั้ง ครั้งแรกด้วยโมเดลปัจจุบันของคุณ และครั้งที่สองด้วย uncensored และจดบันทึกในสี่ประเด็น: การแก้ไขนำไปใช้ได้อย่างสะอาดหรือไม่ การเรียกใช้ฟังก์ชันถูกแยกวิเคราะห์หรือไม่ ต้องมีการลองใหม่กี่ครั้ง และแต่ละรันมีค่าใช้จ่ายเท่าใด การทำงานหนึ่งชั่วโมงในลักษณะนี้ให้ข้อมูลมากกว่าตารางอันดับใดๆ
หากโมเดลแบบเปิดน้ำหนักยังไม่เพียงพอสำหรับงานที่ยากที่สุด คุณอาจพบว่ามันเหมาะสำหรับงานง่ายๆ ที่ต้นทุนต่ำกว่า เช่น การเขียนเทสต์ การเขียนข้อความ commit หรือการอธิบายโค้ดที่ไม่คุ้นเคย เนื่องจากการคิดเงินเป็นแบบจ่ายตามการใช้งานจากเครดิตแบบเติมเงินล่วงหน้า ไม่มีค่าปรับสำหรับการใช้งานเฉพาะงานเหล่านั้น
