Pular para o conteúdo

AI Models

Plataforma open source de revenda de API de IA e faturamento de LLM

O NexCMP AI Models é um add-on para o painel self-hosted NexCMP que permite vender acesso a modelos de IA no seu próprio domínio. Você conecta fontes de modelos que tem autorização para usar, define o preço de cada modelo e seus clientes os chamam com uma única chave de API, com medição por token e cobrança via carteira pré-paga.

O AI Models faz parte do NexCMP e não tem custo adicional. Ele vem desativado por padrão. O NexCMP não fornece modelos, chaves de API, tokens ou contas de provedor: você traz as fontes que tem autorização para usar.NexCMP Source: código-fonte completo por $499, pagamento único. Use, modifique e hospede por conta própria para o seu negócio. Você pode vender os serviços que opera; não pode revender nem redistribuir o código-fonte ou as compilações. Termos da licença Source

O que é o add-on NexCMP AI Models?

O NexCMP já fatura máquinas virtuais a partir de uma carteira pré-paga. O AI Models adiciona um gateway ao mesmo painel, permitindo que a carteira, clientes, revendedores e tickets de suporte que vendem servidores também vendam acesso à API de IA.

Ele é uma camada de faturamento e controle, não um fornecedor de modelos. Você adiciona os provedores que tem direito de usar, escolhe quais modelos oferecer e o preço de cada um, e seus clientes chamam um endpoint no seu domínio com as próprias chaves. Os clientes veem apenas o seu domínio e os seus preços, nunca o provedor que atendeu à solicitação.

Procurando por AI Chat e AI Agent? Esse é um produto diferente: um assistente dentro do portal do cliente e um agente que opera no servidor do cliente. Ele não vende acesso a modelos, e os dois módulos são independentes entre si.

Como seus clientes usam AI Models

Cada tela é uma aba da página do serviço no portal do cliente, exibida com dados de exemplo. Escolha uma aba, use as setas ou as teclas esquerda e direita, ou abra o visualizador em tela cheia.

Modelos

Portal do cliente, aba Modelos de AI Models: o link da API de preços e uma tabela de modelos com tags, tamanho do contexto, preço de entrada e preço de saída.
Os modelos disponíveis com preços por milhão de tokens e o link para a API de preços.

Chaves de API

Portal do cliente, aba Chaves de API de AI Models: lista de chaves com segredo mascarado, último uso, status e gastos em relação ao orçamento, além das URLs base compatíveis com OpenAI e Anthropic.
Crie chaves, defina um orçamento por chave e copie as URLs base para clientes compatíveis com OpenAI e Anthropic.

Uso

Portal do cliente, aba Uso de AI Models: gasto total, requisições, requisições bem-sucedidas e com falha, tokens e gráfico de gastos diários.
Gastos, requisições e tokens por dia, modelo e chave.

Logs

Portal do cliente, aba Logs de AI Models: lista de requisições com horário, tipo, status, ID da requisição, custo, duração e chave.
Uma linha por requisição com status, custo e duração. Prompts e respostas não são armazenados.

Configurações

Portal do cliente, aba Configurações de AI Models: gasto do ciclo atual, regras de orçamento flexível e rígido, e-mail de alerta e rate limits.
Um orçamento flexível que envia um alerta, um limite rígido que bloqueia requisições e rate limits.

Playground

Portal do cliente, aba Playground de AI Models: um chat com seletor de modelos e parâmetros avançados.
Experimente um modelo no navegador antes de chamá-lo via código.

Do seu cliente ao seu provedor

Os clientes chamam o seu domínio. O NexCMP valida a chave, os limites e a carteira, e então encaminha a requisição para um provedor adicionado por você.

Provedor A e Provedor B representam fontes de modelos adicionadas por você. O NexCMP não fornece nenhuma.

O que você precisa para vender acesso à API de IA

O NexCMP cuida da parte de software. O restante fica por sua conta.

  • Fontes de modelos que você tem autorização para usar e revender: um ou mais provedores com API compatível com OpenAI ou Anthropic.
  • Um painel NexCMP com o módulo AI Models ativado.
  • Um preço de venda definido por você para cada modelo oferecido.
  • Suporte para seus clientes e sua própria política de uso aceitável.
  • Um painel capaz de alcançar seus provedores via HTTPS.

Uma chave, vários modelos

O cliente do seu usuário aponta para o seu domínio e usa uma chave gerada no seu painel. Uma única chave pode chamar qualquer modelo autorizado. O gateway opera no domínio do próprio painel e transmite respostas em streaming em ambos os formatos.

  • Clientes compatíveis com Anthropic também podem usar /ai/v1/messages/count_tokens.
  • O consumo de tokens é obtido da resposta do provedor. Se a resposta não trouxer essa informação, o NexCMP faz uma estimativa e marca o registro como estimado.
  • O gateway não converte dados entre os dois formatos. Um modelo atendido por um provedor compatível com OpenAI é acessado pelo endpoint compatível com OpenAI, e um atendido por um provedor compatível com Anthropic, pelo endpoint compatível com Anthropic. Um provedor do tipo Both atende a ambos.
  • Ferramentas executadas no provedor e cobradas por chamada, como busca web, são rejeitadas por não poderem ser medidas. Apenas uma lista restrita de parâmetros seguros de requisição é repassada.
POST https://your-domain/ai/v1/chat/completions   OpenAI-compatible
POST https://your-domain/ai/v1/messages            Anthropic-compatible
GET  https://your-domain/ai/v1/models              model list
GET  https://your-domain/ai/v1/models/pricing      public price list, no key

Traga suas próprias fontes de modelos

Nada vem pré-configurado: nenhum provedor, nenhum modelo, nenhum endereço padrão e nenhuma tabela de preços.

  • Adicione um provedor

    Defina um nome, o tipo (OpenAI-compatible, Anthropic-compatible ou Both), a base URL, a chave de API, uma prioridade e ative ou desative o switch. A chave é armazenada criptografada e apenas os últimos quatro caracteres são exibidos depois.

  • Teste a conexão

    O teste lê a lista de modelos do provedor e informa o sucesso ou o motivo da falha: autorização, endereço bloqueado, faturamento ou host inacessível.

  • Sincronize a lista de modelos

    O NexCMP lê a lista do provedor e adiciona novos modelos desativados e sem preço. Modelos descontinuados pelo provedor são sinalizados. Enquanto o módulo estiver ativo, a lista é sincronizada automaticamente a cada 6 horas por padrão.

  • Endereços são verificados

    O endereço do provedor deve usar HTTPS na porta 443 e um domínio público. Hosts internos, outras portas e HTTP simples só são aceitos se você os listar em Allowed internal hosts.

  • Os preços são seus

    O NexCMP não obtém preços dos provedores. Cada preço de venda é definido por você.

Precificação por modelo

Você decide quanto cada modelo custa para os seus clientes.

  • Três preços por modelo

    Entrada, entrada em cache e saída, em dólares americanos por 1 milhão de tokens. Modelos sem preço de venda não podem ser ativados.

  • Entrada em cache

    Até que você defina um preço para entrada em cache, os tokens em cache serão cobrados pelo preço de entrada. Eles não são gratuitos.

  • Preço de custo opcional

    Informe o custo de cada modelo se quiser acompanhar lucros e perdas diários e por modelo na página Lucro. Ao fazer isso, um preço de venda abaixo do seu custo mais uma margem mínima será recusado, a menos que você confirme o prejuízo deliberadamente.

  • Definir preço a partir do custo

    Um botão define o preço de venda a partir do seu custo mais a margem que você escolher. Não há margem padrão.

  • Tabela de preços pública

    Clientes e visitantes podem consultar seus preços sem uma chave, no endereço da tabela de preços do seu gateway.

Chaves de API, limites, uso e logs

Cada item é algo que o cliente faz no portal ou que você configura para ele.

  • Chaves

    Crie, renomeie, alterne, desative e exclua chaves. O segredo é exibido apenas uma vez, e o NexCMP armazena somente o hash dele.

  • Modelos permitidos e expiração

    Limite uma chave a uma lista de modelos e defina uma data de expiração.

  • Orçamentos

    Um orçamento flexível avisa por notificação e e-mail. Um orçamento rígido bloqueia requisições com erro 402. Ambos funcionam por período, para uma chave individual ou para toda a conta.

  • Limites de taxa

    Requisições por minuto e tokens por minuto, por chave e por conta, além de limite para requisições simultâneas e teto no número de chaves por conta.

  • Uso

    Uso por modelo, chave e dia, com exportação em CSV.

  • Logs

    Logs de requisições com filtros por horário, chave, modelo, tokens, custo, status e latência. O NexCMP não registra prompts nem respostas. Os logs são mantidos por 90 dias por padrão.

Faturamento via carteira para APIs de LLM

O uso de IA é cobrado na carteira pré-paga do cliente — a mesma que paga por todos os outros serviços do NexCMP. Você define os preços; o cliente faz a recarga normalmente.

Antes de enviar a requisição ao provedor, o NexCMP reserva o valor máximo que a requisição pode custar do saldo da carteira. Se o saldo for inferior ao mínimo (20 centavos por padrão) ou insuficiente, a requisição é recusada com erro 402 insufficient_balance e nenhum provedor é acionado. Como a reserva ocorre primeiro, requisições paralelas não deixam a carteira negativa.

O consumo é consolidado por conta e lançado no extrato da carteira após o encerramento da hora, com varreduras a cada 5 minutos. O consumo ainda não liquidado já é subtraído do saldo visível para o gateway.

Roteamento e failover entre provedores

  • Múltiplas rotas por modelo

    Um modelo pode ter rotas para vários provedores, na ordem que você definir, cada uma ativada ou desativada. O nome do modelo enviado ao provedor pode ser diferente do nome que você publica.

  • Failover

    Quando um provedor falha com erro de servidor, erro de autorização ou faturamento, modelo ausente ou limite de taxa, o NexCMP tenta a próxima rota.

  • Sem cobrança duplicada

    Se o tempo limite de leitura expirar após o envio da requisição, o NexCMP não a encaminha para outro provedor, evitando que você pague duas vezes pela mesma requisição.

  • Cadência por provedor

    As requisições para cada provedor são limitadas por minuto, sendo 50 por padrão, para que um pico de tráfego não esgote a fonte.

  • Alertas

    Se um provedor continuar retornando erros de autorização ou cobrança, o NexCMP avisa o administrador no Telegram, caso o Telegram esteja configurado.

  • Os detalhes do provedor permanecem ocultos

    Os erros são limpos antes de chegarem ao cliente: nomes de provedores, hosts, nomes de modelos upstream e endereços são removidos, e os headers do provedor não são repassados. Os clientes não veem qual provedor atendeu a uma requisição.

Playground e portal do cliente

Cada item representa uma ação que o cliente realiza no portal em seu domínio.

  • Modelos e preços

    Veja os modelos oferecidos com seus respectivos preços, a URL base e comandos de exemplo prontos para uso.

  • Chaves, uso e logs

    Crie chaves, consulte o uso por modelo, chave e dia, e filtre os logs de requisições. Os logs exibem apenas metadados, nunca o conteúdo da requisição.

  • Configurações

    Defina um orçamento para a conta e o endereço de e-mail que recebe os alertas.

  • Playground

    Converse com um modelo, compare vários modelos lado a lado e copie o código correspondente com Get Code.

O que você pode fazer como operador

Cada item está no console de administração do NexCMP.

  • Provedores, modelos e rotas

    Adicione e teste provedores, sincronize suas listas de modelos, defina preços, ative ou desative modelos e escolha quais provedores atendem a cada modelo e em qual ordem.

  • Uso e lucro

    Veja o consumo de cada conta de cliente e acompanhe a receita versus custo por dia e por modelo para os modelos em que você informou um custo.

  • Auditoria

    Toda alteração solicita um motivo e é registrada no log de auditoria. As chaves de provedores só podem ser inseridas a partir de uma sessão de administrador autenticada.

  • Duas opções de ativação

    O módulo é ativado em Licença e atualizações, Módulos. Um botão separado para vendas nas páginas de administração do AI Models permanece desativado por padrão: enquanto estiver desativado, os clientes verão que o serviço ainda não está disponível e a tabela de preços pública o listará como indisponível.

  • Desativação

    Com o módulo desativado, as páginas do cliente, as páginas de administração e o gateway respondem com 404, os itens de menu ficam ocultos e a sincronização em segundo plano para de consultar os provedores.

Telas do AI Models no NexCMP

Telas reais de uma instalação do NexCMP 1.5.0 com dados de exemplo. Provedor A, B e C são nomes ilustrativos.

Página de Provedores do AI Models no admin do NexCMP listando Provedor A, Provedor B e Provedor C com tipo, prioridade, status e botões de testar conexão e sincronizar modelos
Provedores: as fontes de modelos adicionadas por você, com tipo, prioridade e status. Provedor A, B e C são nomes ilustrativos.
Página do AI Models no admin do NexCMP listando modelos com preços de venda para entrada, entrada em cache e saída por 1 milhão de tokens, além de um botão de ativação
Modelos e preços: três preços de venda por modelo, definidos por você, e um botão de ativação para cada modelo.
Página de uso de IA no portal do cliente do NexCMP com gasto total, requisições, tokens, gráfico de gastos diários e as principais chaves de API e modelos
Uso por modelo, chave e dia.
Página de Chaves de API para AI Models no portal do cliente do NexCMP com nomes das chaves, última atividade, expiração, status, ciclo de renovação, consumo atual em relação ao orçamento e as URLs base para ambos os formatos de API
Chaves de API de um cliente, com expiração, status, gasto em relação ao orçamento e as URLs base.
AI Playground no portal do cliente do NexCMP com chat, seletor de modelos e tokens utilizados pela resposta
O playground no portal do cliente.

Venda por meio de revendedores

Um revendedor white-label pode vender AI Models em seu próprio domínio com seus próprios preços. A margem ou desconto do revendedor é aplicado sobre o seu preço de venda, e o preço de atacado é mantido igual ou superior ao seu custo mais a margem mínima quando você tiver informado um custo. O valor de atacado é debitado da carteira de atacado do revendedor.

Um botão de IA para cada revendedor determina se ele pode comercializar AI Models. Fica ativado por padrão.

Como funciona

Desde o módulo desativado até a primeira requisição do cliente.

  1. Ative o módulo

    No console de administração, acesse Licença e atualizações, Módulos e ative o AI Models.

  2. Adicione um provedor e teste-o

    Insira o tipo, a URL base e a chave do provedor; em seguida, execute o teste de conexão.

  3. Sincronize modelos e defina preços

    Sincronize a lista de modelos, defina os preços de venda, adicione um segundo provedor como rota de fallback se tiver um e ative os modelos.

  4. Ative as vendas

    Ative as vendas nas páginas de administração do AI Models para que os clientes possam usar o serviço.

  5. Os clientes criam uma chave e chamam seu endpoint

    O cliente recarrega a carteira, cria uma chave no portal e direciona um cliente para o seu domínio.

Requisitos de infraestrutura

Você executa o painel do NexCMP e traz as fontes de modelos. A lista completa, com as etapas exatas, está na documentação em https://nexcmp.com/docs/infrastructure/ai-models/.

  • Um painel NexCMP com o módulo AI Models ativado.
  • HTTPS de saída do painel para cada um dos seus provedores ou para um gateway interno listado em Allowed internal hosts.
  • Os clientes acessam o gateway por meio do domínio do seu painel.
  • Sem GPU e sem hardware especial: o NexCMP apenas encaminha requisições para os seus provedores.

AI Models no NexCMP Free e Source

O AI Models é um módulo como os outros e está incluído tanto no NexCMP Free quanto no NexCMP Source. O NexCMP não cobra nenhuma taxa extra por ele e não possui plano separado; os custos dos seus provedores, do seu hardware e as taxas do gateway de pagamento são seus.

O NexCMP Free custa $0 no primeiro ano: a compilação assinada completa com todos os módulos, correções de bugs e atualizações por 1 ano, e quantos domínios de revenda você desejar. Após o primeiro ano, a renovação custa $99 por ano, e o software continua funcionando se você não renovar. O NexCMP Free é destinado a operadores de rede com ASN próprio e uma sub-rede registrada em seu próprio nome; as solicitações são analisadas. O NexCMP Source é uma compra única de $499 com o código-fonte completo, todos os aplicativos compilados para você e 30 dias úteis com um engenheiro especialista.

Verificação de compatibilidade

O NexCMP AI Models é ideal para você se administra uma empresa de hosting, cloud ou software, possui fontes de modelos que tem autorização para usar e revender, e deseja chaves, preços, carteira, uso e faturamento de clientes em um único painel no seu próprio domínio.

Não é indicado se você precisa que forneçam modelos, tokens, chaves de API ou contas de provedores, um catálogo de modelos ou tabela de preços pronta, conversão entre os formatos compatíveis com OpenAI e Anthropic, fine-tuning, hospedagem de GPU ou um acordo de nível de serviço do NexCMP.

Antes de vender: fontes, termos e responsabilidades

O NexCMP não fornece modelos, chaves de API, tokens, contas de provedores nem preços. Você conecta fontes de modelos que tem autorização para usar e revender, permanecendo responsável por cumprir os termos dos seus provedores e a legislação aplicável.

Muitas fontes de modelos restringem a revenda ou o repasse de acesso a terceiros. Leia os termos de cada fonte e consulte o provedor para saber se precisa de um contrato específico antes de oferecer os modelos aos seus clientes.

Você também precisa de uma política de uso aceitável com seus próprios clientes e de um meio para lidar com denúncias de abuso. O que uma fonte faz com os dados enviados é regido pelos termos dessa fonte; o próprio NexCMP não registra prompts nem respostas. Esta página não constitui assessoria jurídica.

Plataforma de revenda de API de IA: perguntas frequentes

O que é uma plataforma de revenda de API de IA e o que o NexCMP AI Models faz?
É um software para vender acesso a modelos de IA por meio da sua própria API. O NexCMP AI Models é uma camada de gateway e faturamento no seu painel do NexCMP: seus clientes obtêm chaves e chamam um endpoint no seu domínio, você define o preço por modelo e por 1 milhão de tokens, o uso é monitorado e cobrado de uma carteira pré-paga, e as requisições são roteadas para os provedores adicionados.
O NexCMP fornece modelos, chaves de API ou tokens?
Não. O NexCMP é entregue sem provedores, sem modelos, sem endereços padrão e sem preços. Você traz as fontes de modelos que tem autorização para usar, e o NexCMP fornece o gateway, as chaves, a precificação e o faturamento.
Posso revender o acesso aos modelos das minhas fontes?
Isso depende dos termos das suas fontes, não do NexCMP. Muitas fontes restringem a revenda ou o repasse de acesso a terceiros, e algumas permitem mediante um contrato separado. Você é responsável por ler esses termos e cumpri-los, bem como a legislação aplicável. Isso não constitui assessoria jurídica.
Quais formatos de API meus clientes podem usar?
O formato compatível com OpenAI em /ai/v1/chat/completions e o formato compatível com Anthropic em /ai/v1/messages, ambos com streaming. O cliente altera a URL base para o seu domínio e usa uma chave do seu painel. O gateway não faz conversão entre os dois formatos, portanto o modelo é acessado no formato aceito pelo provedor.
Como defino os preços?
Por modelo, em dólares americanos por 1 milhão de tokens, com preços separados para input, cached input e output. Modelos sem preço de venda não podem ser ativados. Você também pode inserir seu custo para acompanhar lucros e perdas por dia e por modelo.
Como funciona o faturamento via carteira e o que acontece quando o saldo acaba?
O uso é cobrado da carteira pré-paga NexCMP do cliente. Antes de enviar uma requisição ao provedor, o NexCMP reserva o valor máximo estimado do custo. Se o saldo for insuficiente, a requisição é recusada com o erro 402 insufficient_balance e nenhum provedor é acionado.
Quais limites posso definir para as chaves de API dos clientes?
Modelos permitidos, data de expiração, orçamento flexível (soft budget) com aviso e orçamento rígido (hard budget) com bloqueio, requisições por minuto e tokens por minuto, além de limite de requisições simultâneas. Orçamentos e rate limits também podem ser definidos para a conta inteira, e o número de chaves por conta pode ser limitado.
Os clientes podem ver seu uso e os logs de requisições? Os prompts são armazenados?
Sim, eles visualizam o uso por modelo, chave e dia com exportação em CSV, além de logs de requisições filtráveis. Os logs contêm apenas metadados: data/hora, chave, modelo, tokens, custo, status e latência. O NexCMP não grava prompts nem respostas, e os logs são mantidos por 90 dias por padrão.
O que acontece se um provedor falhar?
Um modelo pode ter rotas para vários provedores na ordem que você escolher. Se um provedor retornar erro de servidor, erro de autorização ou faturamento, modelo ausente ou limite de taxa, o NexCMP tenta a próxima rota. Uma requisição que sofreu timeout após o envio não é encaminhada a um segundo provedor.
Posso vender modelos de IA por meio de revendedores?
Sim. Um revendedor white-label pode vender AI Models em seu próprio domínio, com margem de lucro ou desconto próprio sobre o seu preço de venda, pago a partir da carteira de atacado dele. Um seletor de IA individual por revendedor, ativado por padrão, controla quem pode vender.
Os clientes podem testar os modelos antes de comprar?
O portal do cliente inclui um playground onde é possível conversar com um modelo, comparar vários modelos lado a lado e copiar o código correspondente.
A solução é self-hosted e quanto custa?
Sim, ela roda no seu próprio painel NexCMP. O AI Models está incluso no NexCMP Free ($0 no primeiro ano, depois $99 por ano) e no NexCMP Source ($499 em pagamento único) sem custo adicional. Ele vem desativado por padrão e você pode ativá-lo em License & updates, Modules.
Quem é responsável pelo uso aceitável e pelo conteúdo dos clientes?
Você. Cabe a você definir uma política de uso aceitável com seus próprios clientes, gerenciar denúncias de abuso e cumprir os termos dos seus provedores e a legislação aplicável. O NexCMP fornece as chaves, os limites e os logs para ajudar nessa gestão.

Fontes

Documentação do NexCMP para o módulo AI Models.

Obtenha o NexCMP grátis

Gratuito, com AI Models e todos os outros módulos inclusos. Instale no seu servidor hoje mesmo.

Última atualização: