ID ▾

BerandaPanduan

Proxy Claude Code: Gunakan API LLM yang Kompatibel dengan OpenAI

Proxy Claude Code adalah server kecil yang berada di antara CLI dan API model serta menerjemahkan permintaan. Anda membutuhkannya karena Claude Code menggunakan format Anthropic dan API ini menggunakan format OpenAI.

Kotak penerjemah antara terminal dan server, menunjukkan proxy yang mengonversi permintaan antara dua format API

Poin utama

  1. Claude Code mengirimkan permintaan gaya Anthropic; API ini menerima permintaan gaya OpenAI
  2. Proxy penerjemah seperti LiteLLM berada di tengah dan memetakan nama model
  3. Model di baliknya adalah model bobot terbuka, bukan Claude, jadi uji pada tugas Anda sendiri
  4. Sesi pengkodean 30 permintaan dengan 20.000 token masuk dan 800 keluar per permintaan biayanya sekitar $0,10

Apa yang dilakukan proxy

Proxy Claude Code adalah server yang Anda jalankan di antara CLI coding Anthropic dan model yang menjawab. Claude Code membaca variabel lingkungan untuk alamat API dan mengirim permintaan ke sana. Jika alamat itu adalah proxy, proxy memutuskan apa yang benar-benar terjadi: dapat mencatat lalu lintas, menambahkan aturan, atau meneruskan panggilan ke model lain.

Detail kuncinya adalah format transmisi. Claude Code menggunakan format Messages Anthropic. API di https://api.claudecodeproxyapi.com/v1 menggunakan format Chat Completions OpenAI, dengan ID model uncensored. Keduanya mirip secara konsep tetapi tidak dapat dipertukarkan, sehingga Anda tidak dapat menempelkan URL kami langsung ke Claude Code. Lapisan terjemahan harus menulis ulang setiap permintaan dan setiap respons, termasuk potongan streaming dan panggilan alat.

Posisi komponen

BagianBerbicaraTugas
CLI Claude CodeFormat Anthropic MessagesMerencanakan pengeditan, memanggil alat, menampilkan diff
Proxy penerjemah (lokal)Kedua formatMengonversi permintaan dan streaming, memetakan nama model
API iniChat Completions OpenAIMenjalankan model bobot terbuka, menagih per token

Proyek komunitas menangani bagian tengah. Proxy LiteLLM dan claude-code-router adalah dua yang didokumentasikan secara publik untuk tujuan ini. Keduanya adalah perangkat lunak pihak ketiga, jadi periksa dokumentasi terbaru mereka untuk versi dan flag yang didukung sebelum membangun di atasnya. Jika ada kegagalan di sepanjang jalan, panduan pemecahan masalah proxy adalah tempat untuk memulai, dan situs ini juga memiliki artikel pengaturan langkah demi langkah terpisah.

Sebelum Anda mengonfigurasinya: jujur tentang model

Claude Code dibangun di sekitar model milik Anthropic. Mengganti dengan model lain mengubah perilaku, dan tidak ada proxy yang dapat menyembunyikannya. Model di sini adalah satu model bobot terbuka yang dijalankan oleh penyedia independen dan disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Ini bukan Claude, dan ini bukan API resmi dari Anthropic atau vendor lain.

Apa yang diberikannya untuk pekerjaan bergaya agen:

  • Pemanggilan alat dengan tools, tool_choice dan tool_calls streaming, dengan hasil dikembalikan sebagai pesan role: "tool".
  • Jendela konteks 100.000 token, untuk prompt dan penyelesaian bersama-sama.
  • Mode JSON dengan response_format, dan streaming melalui SSE.

Yang harus Anda verifikasi sendiri: seberapa baik model mengikuti loop agen yang panjang, seberapa sering model membuat panggilan alat yang tidak valid, dan bagaimana model menangani bahasa dan framework Anda. Jalankan tiga atau empat tugas nyata dari repositori Anda sebelum memindahkan seluruh alur kerja. Kredit uji coba $0,50, diklaim dengan satu klik setelah masuk, sudah cukup untuk itu.

Uji hulu terlebih dahulu

Sebelum menyentuh Claude Code, konfirmasi bahwa sisi API berfungsi dengan permintaan biasa, termasuk panggilan alat, karena agen bergantung padanya:

curl https://api.claudecodeproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the files in the src folder."}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "list_files",
        "description": "List files in a directory",
        "parameters": {
          "type": "object",
          "properties": {"path": {"type": "string"}},
          "required": ["path"]
        }
      }
    }],
    "tool_choice": "auto"
  }'

Jawaban yang baik berisi entri tool_calls dengan list_files dan string argumen JSON. Jika Anda melihat itu, hulu siap dan masalah selanjutnya adalah konfigurasi proxy atau CLI.

Dua rute, dan kapan memilih masing-masing

Rute 1: proxy penerjemah untuk Claude Code

Pilih ini jika Anda menyukai antarmuka Claude Code, prompt izin, dan alur kerjanya, dan menginginkan model lain di belakangnya. Anda menjalankan proxy secara lokal, arahkan CLI ke sana, dan petakan nama model yang dikirim CLI ke uncensored. Variabel pastinya dibahas dalam dokumentasi dan artikel pengaturan.

Rute 2: klien yang sudah berbicara OpenAI

Beberapa asisten pengkodean sumber terbuka dan ekstensi editor, termasuk Aider, Continue, dan Cline, dapat menggunakan endpoint kompatibel OpenAI secara langsung. Anda memasukkan base URL, kunci, dan nama model, dan tidak ada lapisan terjemahan yang perlu dipelihara. Jika Anda tidak secara khusus memerlukan antarmuka Claude Code, ini adalah jalur yang lebih pendek dan memiliki lebih sedikit bagian yang dapat rusak.

Aturan praktis: pilih rute 2 untuk uji coba cepat model pada kode, dan rute 1 ketika tim Anda sudah bergantung pada alur kerja Claude Code.

Biaya sesi pengkodean

Agen mengirim ulang banyak konteks, sehingga token input mendominasi tagihan. Ambil sesi 30 permintaan, masing-masing dengan 20.000 token input (file, riwayat, output alat) dan 800 token output:

  • Input: 30 x 20.000 = 600.000 token, yang merupakan 0,6 x $0,15 = $0,09
  • Output: 30 x 800 = 24.000 token, yang merupakan 0,024 x $0,50 = $0,012
  • Total: $0,102

Harga adalah $0,15 per 1M token input dan $0,50 per 1M token output. Penagihan berasal dari saldo prabayar tanpa langganan, permintaan yang gagal atau ditolak tidak dikenakan biaya, dan saldo tidak kedaluwarsa. Top-up mulai dari $20 hingga $500 dengan bonus +5% dari $50, +10% dari $100, dan +15% dari $200. Situs ini menerima top-up dengan kripto (USDT di TRC20, USDC di Base). Halaman harga memiliki tabel lengkap, dan halaman kunci adalah tempat Anda mendaftar dengan Google atau email.

Batas yang memengaruhi loop agen

Kunci penuh memungkinkan 8 permintaan bersamaan dan 300 permintaan per menit. Kunci uji coba memungkinkan 2 permintaan bersamaan dan 60 per menit. Agen yang menyebarkan sub-tugas dapat mencapai batas konkurensi terlebih dahulu. API kemudian menjawab HTTP 429 dengan kode concurrency, sedangkan batas laju permintaan mengembalikan rate_limited. Kelebihan beban sementara juga mengembalikan 429, dengan Retry-After: 5. Proxy yang baik akan mencoba lagi setelah penundaan, dan permintaan streaming memegang slotnya hingga stream berakhir, sehingga stream yang macet tetap dihitung dalam batas Anda.

Badan permintaan dapat berukuran hingga 8 MB. Ingatlah hal itu jika alat Anda menempelkan file besar ke dalam prompt, dan jaga agar seluruh prompt tetap di bawah jendela 100.000 token.

Catatan keamanan untuk proxy lokal

Proxy menyimpan kunci upstream Anda, jadi perlakukan seperti kredensial lainnya. Ikat ke localhost, bukan ke semua antarmuka jaringan, kecuali Anda benar-benar perlu mesin lain mengaksesnya. Simpan kunci dalam variabel lingkungan atau manajer rahasia, bukan dalam file yang masuk ke kontrol versi. Jika Anda membagikan proxy di antara tim, berikan kunci utama sendiri agar Anda dapat merotasinya tanpa menyentuh kunci upstream.

Ingat juga apa yang dikirim agen. CLI pengkodean meneruskan isi file, output perintah, dan prompt Anda ke model. Prompt tidak digunakan untuk pelatihan di sini, tetapi Anda harus tetap menjaga rahasia seperti kunci pribadi dan file .env agar tidak berada di direktori kerja yang dapat dibaca agen.

Cara yang adil untuk mengevaluasi model pada kode Anda

Pilih tiga tugas dengan tingkat kesulitan meningkat dari repositori nyata: perbaikan satu file, perubahan yang menyentuh tiga file, dan refaktor kecil dengan pengujian. Jalankan setiap tugas dua kali dengan prompt yang sama, sekali dengan model Anda saat ini dan sekali dengan uncensored, serta catat empat hal: apakah edit diterapkan dengan bersih, apakah panggilan fungsi dapat diparsing, berapa banyak percobaan ulang yang diperlukan, dan berapa biaya setiap jalannya. Satu jam melakukan ini memberi tahu Anda lebih banyak daripada papan peringkat mana pun.

Jika model bobot terbuka tidak memenuhi tugas tersulit, Anda masih mungkin menemukannya cocok untuk tugas murah seperti menyusun pengujian, menulis pesan commit, atau menjelaskan kode yang tidak dikenal. Karena penagihan berdasarkan bayar sesuai penggunaan dari saldo prabayar tanpa langganan, tidak ada penalti untuk menggunakannya hanya untuk pekerjaan tersebut.

Tanya jawab

Dapatkah Claude Code menggunakan API ini tanpa proxy?

Tidak. Claude Code mengirim permintaan format Anthropic dan API ini menerima permintaan format OpenAI, sehingga lapisan terjemahan diperlukan di antaranya.

Apakah model akan berperilaku seperti Claude?

Tidak. Ini adalah model bobot terbuka dari penyedia independen. Uji pada tugas Anda sendiri sebelum Anda bergantung padanya.

Apakah API mendukung pemanggilan fungsi?

Ya. Mendukung alat, tool_choice, dan tool_calls streaming, serta Anda mengembalikan hasil sebagai pesan dengan role tool.

Apakah ada opsi yang lebih mudah daripada proxy?

Ya. Asisten pengkodean yang menerima endpoint yang kompatibel dengan OpenAI, seperti Aider, Continue, atau Cline, dapat terhubung langsung ke base URL.

Berapa biaya untuk mencobanya?

Pengguna baru dapat mengklaim kredit uji coba senilai $0,50 dengan satu klik setelah masuk. Kredit ini berlaku selama 7 hari dan tidak memerlukan kartu.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.