Платформа с открытым исходным кодом для реселлинга ИИ API и биллинга LLM

NexCMP уже тарифицирует виртуальные машины с предоплатного кошелька. AI Models добавляет шлюз в ту же панель, поэтому кошелек, клиенты, реселлеры и тикеты поддержки, используемые для продажи серверов, подходят и для продажи доступа к AI API.

Это уровень биллинга и управления, а не поставщик моделей. Вы добавляете провайдеров, к которым у вас есть доступ, выбираете предлагаемые модели и их стоимость, а ваши клиенты обращаются к единому эндпоинту на вашем домене со своими ключами. Клиенты видят только ваш домен и ваши цены и никогда не знают, какой именно провайдер обработал запрос.

Ищете AI Chat и AI Agent? Это другие продукты: ассистент внутри клиентского портала и агент, работающий на сервере клиента. Они не продают доступ к моделям, и эти два модуля не зависят друг от друга.

• AI Chat и AI Agent
• Почасовой биллинг, кошельки и счета
• Тарифы: бесплатно, Source $499

Клиентское приложение указывает на ваш домен и использует ключ из вашей панели. Один ключ позволяет обращаться ко всем разрешенным моделям. Шлюз работает на собственном домене панели и отдает потоковые ответы в обоих форматах.

• Anthropic-совместимые клиенты также могут использовать /ai/v1/messages/count_tokens.
• Расход токенов берется из ответа провайдера. Если в ответе его нет, NexCMP рассчитывает его приблизительно и помечает запись как расчетную.
• Шлюз не выполняет конвертацию между двумя форматами. Обращение к модели от OpenAI-совместимого провайдера идет через OpenAI-совместимый эндпоинт, а от Anthropic-совместимого — через Anthropic-совместимый эндпоинт. Провайдер с типом Both поддерживает оба формата.
• Инструменты, работающие на стороне провайдера и тарифицируемые за вызов (например, веб-поиск), отклоняются, поскольку их невозможно учесть. Передается только ограниченный список безопасных параметров запроса.

POST https://your-domain/ai/v1/chat/completions   OpenAI-compatible
POST https://your-domain/ai/v1/messages            Anthropic-compatible
GET  https://your-domain/ai/v1/models              model list
GET  https://your-domain/ai/v1/models/pricing      public price list, no key

• Три цены для каждой модели

  Входящие, кэшированные входящие и исходящие токены в долларах США за 1 миллион токенов. Модель без цены продажи невозможно включить.

• Кэшированные входящие токены

  Пока вы не зададите цену для кэшированных входящих токенов, они тарифицируются по цене обычных входящих. Они не бесплатны.

• Себестоимость (необязательно)

  Укажите себестоимость модели, если хотите видеть отчет о прибылях и убытках по дням и моделям на странице Profit. В этом случае цена продажи ниже себестоимости с учетом минимальной маржи будет отклонена, если вы специально не подтвердите работу в убыток.

• Расчет цены от себестоимости

  Кнопка позволяет рассчитать цену продажи исходя из себестоимости плюс выбранная вами наценка. Наценка по умолчанию отсутствует.

• Публичный прайс-лист

  Клиенты и посетители могут просматривать ваши цены без ключа по адресу прайс-листа вашего шлюза.

Списание за использование AI происходит с предоплатного кошелька клиента — того же самого, с которого оплачиваются все остальные услуги NexCMP. Вы задаете цены, а клиент пополняет баланс привычным способом.

Перед отправкой запроса провайдеру NexCMP резервирует на кошельке максимально возможную стоимость запроса. Если баланс ниже минимума (по умолчанию 20 центов) или недостаточен, запрос отклоняется с ошибкой 402 insufficient_balance, и обращение к провайдеру не выполняется. Благодаря предварительному резервированию параллельные запросы не могут увести баланс кошелька в минус.

Статистика использования собирается по каждому аккаунту и списывается в виде проводок по кошельку по прошествии часа с проверкой каждые 5 минут. Не списанные окончательно средства уже вычитаются из баланса, который видит шлюз.

• Модели и цены

  Просматривайте доступные модели с их ценами, базовый URL и готовые примеры команд.

• Ключи, статистика использования и логи

  Создавайте ключи, просматривайте использование по моделям, ключам и дням, а также фильтруйте логи запросов. В логах отображаются только метаданные, но не содержимое запросов.

• Настройки

  Задавайте бюджет аккаунта и адрес электронной почты для получения уведомлений.

• Playground

  Общайтесь с моделью в чате, сравнивайте несколько моделей рядом и копируйте готовый код с помощью кнопки Get Code.

1. 1

   Включение модуля

   В консоли администратора перейдите в раздел License & updates -> Modules и включите AI Models.

2. 2

   Добавьте провайдера и протестируйте подключение

   Укажите тип провайдера, базовый URL и ключ, затем запустите проверку подключения.

3. 3

   Синхронизируйте модели и задайте цены

   Синхронизируйте список моделей, задайте цены продажи, добавьте второго провайдера в качестве резервного маршрута (если он есть) и включите модели.

4. 4

   Включите переключатель продаж

   Включите переключатель продаж в разделе администратора AI Models, чтобы клиенты могли пользоваться сервисом.

5. 5

   Клиенты создают ключ и обращаются к вашему эндпоинту

   Клиент пополняет кошелек, создает ключ в портале и указывает ваш домен в настройках своего клиента.

AI Models — это такой же модуль, как и остальные, и он входит как в NexCMP Free, так и в NexCMP Source. NexCMP не взимает за него дополнительную плату и не предусматривает отдельного тарифа; расходы на провайдеров, ваше оборудование и комиссии платежных шлюзов остаются на вашей стороне.

NexCMP Free стоит $0 в первый год: полная подписанная сборка со всеми модулями, исправлениями ошибок и обновлениями на 1 год, а также любым количеством реселлерских доменов. После первого года продление стоит $99 в год, при этом программное обеспечение продолжит работать, даже если вы не станете продлевать подписку. NexCMP Free предназначен для сетевых операторов с собственной ASN и подсетью, зарегистрированной на их имя; заявки проходят модерацию. NexCMP Source — это разовая покупка за $499 с полным исходным кодом, всеми собранными для вас приложениями и 30 рабочими днями поддержки от профильного инженера.

• Тарифы и планы
• AI Chat и AI Agent
• Полный обзор платформы
• Часто задаваемые вопросы

NexCMP не предоставляет модели, ключи API, токены, аккаунты провайдеров или цены. Вы подключаете источники моделей, которые уполномочены использовать и перепродавать, и несете полную ответственность за соблюдение условий использования этих источников и применимого законодательства.

Многие источники моделей ограничивают перепродажу или передачу доступа третьим лицам. Ознакомьтесь с условиями каждого источника и уточните у него необходимость отдельного соглашения перед тем, как предлагать его модели своим клиентам.

Вам также потребуется политика допустимого использования для ваших клиентов и механизм обработки жалоб на нарушения. Использование данных, отправляемых источнику, регулируется его собственными условиями; сам NexCMP не сохраняет промпты и ответы. Информация на этой странице не является юридической консультацией.

• nexcmp.com/docs/infrastructure/ai-models/
• nexcmp.com/docs/infrastructure/modules/