RU ▾

ГлавнаяГайд

Claude Code Proxy: используйте API LLM, совместимый с OpenAI

Прокси для Claude Code — это небольшой сервер, который находится между CLI и API модели и выполняет трансляцию запросов. Он нужен, потому что Claude Code использует формат Anthropic, а этот API — формат OpenAI.

Блок трансляции между терминалом и сервером, показывающий прокси, преобразующий запросы между двумя форматами API

Ключевые моменты

  1. Claude Code отправляет запросы в стиле Anthropic; этот API принимает запросы в стиле OpenAI
  2. Прокси-сервер, такой как LiteLLM, находится посередине и сопоставляет имена моделей
  3. Модель за ним — это модель с открытыми весами, а не Claude, поэтому протестируйте её на своих задачах
  4. Сессия программирования из 30 запросов с 20 000 входных токенов и 800 выходных токенов стоит около $0,10

Что делает прокси

Прокси Claude Code — это любой сервер, который вы запускаете между CLI-утилитой Anthropic для программирования и моделью, которая отвечает. Claude Code считывает переменную окружения с адресом API и отправляет туда свои запросы. Если этот адрес является прокси, прокси решает, что происходит на самом деле: он может логировать трафик, добавлять правила или перенаправлять вызов к другой модели.

Ключевой момент — формат передачи данных. Claude Code использует формат Anthropic Messages. API по адресу https://api.claudecodeproxyapi.com/v1 использует формат OpenAI Chat Completions с идентификатором модели uncensored. Эти форматы близки по духу, но не взаимозаменяемы, поэтому вы не можете просто вставить наш URL в Claude Code. Нужен слой трансляции, который переписывает каждый запрос и каждый ответ, включая потоковые чанки и вызовы функций.

Что где находится

ЧастьИспользует форматЗадача
Claude Code CLIФормат Anthropic MessagesПланирует изменения, вызывает инструменты, показывает разницу
Прокси-сервер трансляции (локальный)Оба форматаПреобразует запросы и потоки, сопоставляет имена моделей
Этот APIOpenAI Chat CompletionsЗапускает модель с открытыми весами, тарифицирует по токенам

Промежуточную часть обрабатывают проекты сообщества. Прокси-сервер LiteLLM и claude-code-router — два из них, для которых есть общедоступная документация. Поскольку это стороннее программное обеспечение, перед использованием проверьте их текущую документацию на предмет поддерживаемых версий и флагов. Если что-то пойдёт не так, руководство по устранению неполадок прокси-сервера — это место, с которого стоит начать, а на этом сайте также есть отдельная пошаговая статья по настройке.

Перед настройкой: будьте честны относительно модели

Claude Code был создан вокруг собственных моделей Anthropic. Замена модели меняет поведение, и ни один прокси не может это скрыть. Модель здесь — это одна модель с открытыми весами от независимого провайдера, настроенная на ответы без отказов по контенту для законного использования взрослыми. Это не Claude, и это не официальный API Anthropic или любого другого вендора.

Что она дает вам для работы в стиле агентов:

  • Вызов функций с аргументами tools, tool_choice и потоковой передачей tool_calls, при этом результаты возвращаются в сообщениях с role: "tool".
  • Контекстное окно на 100 000 токенов, включая промпт и завершение.
  • JSON-режим с response_format и потоковая передача по SSE.

Что вам следует проверить самостоятельно: насколько хорошо он поддерживает длинный цикл агента, как часто он формирует некорректные вызовы функций и как он обрабатывает ваш язык и фреймворк. Запустите три или четыре реальные задачи из вашего репозитория, прежде чем переносить весь рабочий процесс. Пробного баланса на $0,50, полученного в один клик после входа, достаточно для этого.

Сначала протестируйте бэкенд

Прежде чем касаться Claude Code, убедитесь, что сторона API работает с обычным запросом, включая вызов функции, поскольку агенты от этого зависят:

curl https://api.claudecodeproxyapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the files in the src folder."}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "list_files",
        "description": "List files in a directory",
        "parameters": {
          "type": "object",
          "properties": {"path": {"type": "string"}},
          "required": ["path"]
        }
      }
    }],
    "tool_choice": "auto"
  }'

Хороший ответ содержит запись tool_calls с аргументом list_files и строкой JSON-аргумента. Если вы видите это, то вышестоящий сервис готов, и любые дальнейшие проблемы относятся к конфигурации прокси или CLI.

Два маршрута и когда какой выбрать

Маршрут 1: прокси-сервер трансляции для Claude Code

Выберите это, если вам нравится интерфейс Claude Code, его запросы разрешений и рабочий процесс, и вы хотите другую модель за ним. Вы запускаете прокси локально, указываете CLI на него и сопоставляете имена моделей, которые отправляет CLI, с uncensored. Точные переменные описаны в документации и в статье по настройке.

Маршрут 2: клиент, который уже понимает OpenAI

Несколько инструментов для программирования с открытым исходным кодом и расширений редакторов, включая Aider, Continue и Cline, могут напрямую использовать любой эндпоинт, совместимый с OpenAI. Вы вводите базовый URL, ключ и имя модели, и слой трансляции не нужно поддерживать. Если вам специально не нужен интерфейс Claude Code, это более короткий путь с меньшим количеством компонентов, которые могут сломаться.

Практическое правило: выбирайте маршрут 2 для быстрой пробной оценки модели на коде, а маршрут 1, когда ваша команда уже полагается на рабочий процесс Claude Code.

Стоимость сессии программирования

Агенты часто пересылают большой объем контекста, поэтому входные токены доминируют по количеству в счете. Возьмите сессию из 30 запросов, каждый с 20 000 входных токенов (файлы, история, вывод инструментов) и 800 выходных токенов:

  • Вход: 30 x 20 000 = 600 000 токенов, что составляет 0,6 x $0,15 = $0,09
  • Выход: 30 x 800 = 24 000 токенов, что составляет 0,024 x $0,50 = $0,012
  • Итого: $0,102

Цены: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. Оплата списывается с предоплаченного баланса без подписки, неудачные или отклоненные запросы не оплачиваются, а баланс не сгорает. Пополнение от $20 до $500 с бонусами +5% от $50, +10% от $100 и +15% от $200. Этот сайт принимает пополнения криптовалютой (USDT в сети TRC20, USDC в сети Base). На странице цен есть полная таблица, а на странице ключей вы можете зарегистрироваться через Google или email.

Ограничения, влияющие на петли агентов

Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 параллельных и 60 в минуту. Агенты, которые разветвляют подзадачи, могут сначала достичь предела параллельности. API затем отвечает HTTP 429 с кодом concurrency, а лимит частоты запросов возвращает rate_limited. Временная перегрузка также возвращает 429 с Retry-After: 5. Хороший прокси повторяет запрос после 429 после задержки, а потоковый запрос удерживает свой слот до конца потока, поэтому зависшие потоки продолжают учитываться в лимите.

Тело запроса может занимать до 8 МБ. Имейте это в виду, если ваш инструмент вставляет большие файлы в промпты, и помещайте весь промпт в контекстное окно на 100 000 токенов.

Заметки по безопасности для локального прокси

Прокси-сервер хранит ваш ключ для подключения к вышестоящему API, поэтому относитесь к нему как к любым другим учётным данным. Привяжите его к localhost, а не ко всем сетевым интерфейсам, если вам действительно не нужно, чтобы к нему обращались другие устройства. Храните ключ в переменной окружения или в менеджере секретов, а не в файле, который попадает в систему контроля версий. Если вы используете прокси-сервер в команде, выделите ему отдельный мастер-ключ, чтобы вы могли его ротировать, не затрагивая ключ вышестоящего API.

Также помните, что отправляет агент. CLI-утилита для программирования передаёт содержимое файлов, вывод команд и ваши промпты модели. Промпты здесь не используются для обучения, но вам все же следует держать секреты, такие как закрытые ключи и файлы .env, вне рабочей директории, которую может прочитать агент.

Справедливый способ оценить модель на вашем коде

Выберите три задачи возрастающей сложности из реального репозитория: исправление в одном файле, изменение, затрагивающее три файла, и небольшой рефакторинг с тестами. Запустите каждую дважды с одним и тем же промптом: один раз с вашей текущей моделью и один раз с uncensored, и ведите заметки по четырем пунктам: применились ли изменения без конфликтов, распарсились ли вызовы инструментов, сколько потребовалось попыток повторного выполнения и сколько стоил каждый запуск. Час такой работы расскажет вам больше, чем любой рейтинг.

Если модель с открытыми весами не справится с самой сложной задачей, вы всё равно можете обнаружить, что она подходит для более дешёвых задач, таких как написание тестов, создание сообщений коммитов или объяснение незнакомого кода. Поскольку оплата производится по факту использования из предоплаченного баланса без подписки, за использование модели только для этих задач никаких дополнительных издержек не будет.

Вопросы и ответы

Может ли Claude Code использовать этот API без прокси-сервера?

Нет. Claude Code отправляет запросы в формате Anthropic, а этот API принимает запросы в формате OpenAI, поэтому между ними необходим слой преобразования.

Будет ли модель вести себя как Claude?

Нет. Это модель с открытыми весами от независимого провайдера. Протестируйте её на своих задачах, прежде чем полагаться на неё.

Поддерживает ли API вызов инструментов?

Да. Поддерживаются инструменты, tool_choice и потоковая передача tool_calls, а результаты возвращаются в виде сообщений с role tool.

Есть ли вариант проще, чем прокси-сервер?

Да. Инструменты для разработки, которые принимают endpoint, совместимый с OpenAI, такие как Aider, Continue или Cline, могут подключаться к базовому URL напрямую.

Сколько стоит попробовать?

Новые пользователи могут получить $0,50 пробного баланса в один клик после входа. Он действителен в течение 7 дней и не требует привязки карты.

Ваш ключ — в одной форме от вас

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.