Saltar al contenido

AI Models

Plataforma open source de reventa de API de IA y facturación de LLM

NexCMP AI Models es un complemento para el panel autoalojado de NexCMP que le permite vender acceso a modelos de IA en su propio dominio. Usted conecta fuentes de modelos autorizadas, fija un precio para cada modelo y sus clientes los consumen con una única clave de API, tarificados por token y pagados desde una billetera prepaga.

AI Models forma parte de NexCMP y no tiene costo adicional. Permanece desactivado hasta que usted lo habilite. NexCMP no suministra modelos, claves de API, tokens ni cuentas de proveedores: usted aporta las fuentes que esté autorizado a utilizar.NexCMP Source: código fuente completo por $499, pago único. Úselo, modifíquelo y alójelo usted mismo para su propio negocio. Puede vender los servicios que opera; no puede revender ni redistribuir el código fuente ni las compilaciones. Términos de la licencia Source

¿Qué es el complemento NexCMP AI Models?

NexCMP ya factura máquinas virtuales mediante una billetera prepaga. AI Models añade una pasarela al mismo panel, de modo que la billetera, los clientes, los revendedores y los tickets de soporte que gestionan servidores también pueden comercializar acceso a API de IA.

Es una capa de facturación y control, no un proveedor de modelos. Usted añade los proveedores autorizados, define qué modelos ofrecer y cuánto cuesta cada uno, y sus clientes llaman a un único endpoint en su dominio con sus propias claves. Los clientes ven su dominio y sus precios, nunca el proveedor que procesó la solicitud.

¿Busca AI Chat y AI Agent? Se trata de un producto distinto: un asistente integrado en el portal del cliente y un agente que opera en el servidor del cliente. No vende acceso a modelos y ambos módulos son completamente independientes.

Cómo usan sus clientes los AI Models

Cada pantalla es una pestaña de la página del servicio en el portal de clientes, mostrada con datos de ejemplo. Elija una pestaña, use las flechas o las teclas izquierda y derecha, o abra el visor a pantalla completa.

Modelos

Portal de clientes, pestaña Modelos de AI Models: el enlace a la API de precios y una tabla de modelos con etiquetas, tamaño de contexto, precio de entrada y precio de salida.
Los modelos a la venta con precios por millón de tokens y el enlace a la API de precios.

Claves de API

Portal de clientes, pestaña Claves de API de AI Models: lista de claves con secreto enmascarado, último uso, estado y gasto respecto al presupuesto, además de las URL base compatibles con OpenAI y Anthropic.
Cree claves, asigne un presupuesto por clave y copie las URL base para clientes compatibles con OpenAI y Anthropic.

Uso

Portal de clientes, pestaña Uso de AI Models: gasto total, solicitudes, solicitudes correctas y fallidas, tokens y un gráfico de gasto diario.
Gasto, solicitudes y tokens por día, modelo y clave.

Registros

Portal de clientes, pestaña Registros de AI Models: lista de solicitudes con hora, tipo, estado, ID de solicitud, costo, duración y clave.
Una fila por solicitud con su estado, costo y duración. Las entradas y respuestas no se almacenan.

Configuración

Portal de clientes, pestaña Configuración de AI Models: gasto del ciclo actual, reglas de presupuesto flexible y estricto, correo de alerta y límites de peticiones.
Un presupuesto flexible que envía una alerta, un límite estricto que bloquea solicitudes y límites de peticiones.

Playground

Portal de clientes, pestaña Playground de AI Models: un chat con selector de modelos y parámetros avanzados.
Pruebe un modelo en el navegador antes de invocarlo desde el código.

De su cliente a su proveedor

Los clientes llaman a su dominio. NexCMP valida la clave, los límites y el saldo de la billetera, y luego reenvía la solicitud al proveedor configurado.

Proveedor A y Proveedor B representan fuentes de modelos añadidas por usted. NexCMP no suministra ninguna.

Requisitos para vender acceso a API de IA

NexCMP cubre la capa de software. El resto depende de usted.

  • Fuentes de modelos autorizadas para su uso y reventa: uno o más proveedores con API compatible con OpenAI o Anthropic.
  • Un panel NexCMP con el módulo AI Models habilitado.
  • Un precio de venta fijado por usted para cada modelo ofrecido.
  • Soporte para sus clientes y su propia política de uso aceptable.
  • Un panel con conectividad HTTPS hacia sus proveedores.

Una clave, múltiples modelos

El cliente de un usuario apunta a su dominio y utiliza una clave generada en su panel. Una sola clave permite consumir todos los modelos autorizados. La pasarela opera en el dominio del propio panel y transmite respuestas en streaming en ambos formatos.

  • Los clientes compatibles con Anthropic también pueden utilizar /ai/v1/messages/count_tokens.
  • El consumo de tokens se obtiene de la respuesta del proveedor. Si la respuesta no lo incluye, NexCMP lo estima y marca el registro como estimado.
  • La pasarela no realiza traducción entre ambos formatos. Los modelos servidos por proveedores compatibles con OpenAI se consumen mediante el endpoint compatible con OpenAI, y los de Anthropic mediante el endpoint compatible con Anthropic. Un proveedor de tipo Both admite ambos.
  • Las herramientas ejecutadas del lado del proveedor con cobro por llamada, como la búsqueda web, se rechazan al no ser medibles. Solo se reenvía una lista restringida de parámetros seguros.
POST https://your-domain/ai/v1/chat/completions   OpenAI-compatible
POST https://your-domain/ai/v1/messages            Anthropic-compatible
GET  https://your-domain/ai/v1/models              model list
GET  https://your-domain/ai/v1/models/pricing      public price list, no key

Aporte sus propias fuentes de modelos

No se incluye nada preconfigurado: ni proveedores, ni modelos, ni direcciones por defecto, ni listas de precios.

  • Añadir un proveedor

    Asigne un nombre, un tipo (compatible con OpenAI, compatible con Anthropic o Both), la URL base, su clave de API, una prioridad y un estado activo o inactivo. La clave se almacena cifrada y solo se muestran sus últimos cuatro caracteres.

  • Probar la conexión

    Una prueba consulta la lista de modelos del proveedor e informa el resultado o el motivo del fallo: autorización, dirección bloqueada, facturación o host inaccesible.

  • Sincronizar la lista de modelos

    NexCMP lee la lista del proveedor y añade nuevos modelos desactivados y sin precio. Si el proveedor retira un modelo, este se marca. Mientras el módulo esté activo, la lista se sincroniza automáticamente cada 6 horas por defecto.

  • Comprobación de direcciones

    La dirección de un proveedor debe ser HTTPS en el puerto 443 y pertenecer a un dominio público. Los hosts internos, otros puertos y HTTP sin cifrar solo se aceptan si los incluye en Allowed internal hosts.

  • Precios bajo su control

    NexCMP no lee ningún precio del proveedor. Cada precio de venta lo define usted.

Precios por modelo

Usted decide el coste de cada modelo para sus clientes.

  • Tres precios por modelo

    Entrada, entrada en caché y salida, en dólares estadounidenses por 1 millón de tokens. Un modelo sin precio de venta no se puede activar.

  • Entrada en caché

    Hasta que defina un precio para la entrada en caché, los tokens en caché se cobrarán al precio de entrada. No son gratuitos.

  • Precio de coste opcional

    Introduzca el coste del modelo si desea ver las pérdidas y ganancias por día y por modelo en la página Profit. Al hacerlo, se rechazará cualquier precio de venta inferior a su coste más un margen mínimo, a menos que confirme pérdidas deliberadas.

  • Fijar precio según el coste

    Un botón define el precio de venta a partir de su coste más el margen que elija. No hay ningún margen por defecto.

  • Lista de precios pública

    Los clientes y visitantes pueden consultar sus precios sin necesidad de una clave en la dirección de la lista de precios de su pasarela.

Claves de API, límites, uso y registros

Cada elemento es una acción que el cliente realiza en el portal o que usted configura para él.

  • Claves

    Cree, renombre, rote, deshabilite y elimine claves. El secreto solo se muestra una vez y NexCMP almacena únicamente su hash.

  • Modelos permitidos y caducidad

    Limite una clave a una lista de modelos y asígnele una fecha de caducidad.

  • Presupuestos

    Un presupuesto orientativo avisa mediante notificación y correo electrónico. Un presupuesto estricto bloquea las solicitudes con un error 402. Ambos funcionan por período, tanto para una clave individual como para toda la cuenta.

  • Límites de frecuencia

    Solicitudes por minuto y tokens por minuto, por clave y por cuenta, además de un límite de solicitudes simultáneas y un tope en el número de claves por cuenta.

  • Uso

    Uso por modelo, clave y día, con exportación a CSV.

  • Registros

    Registros de solicitudes filtrables con hora, clave, modelo, tokens, coste, estado y latencia. NexCMP no registra prompts ni respuestas. Los registros se conservan durante 90 días por defecto.

Facturación con monedero para API de LLM

El uso de IA se descuenta del monedero prepago del cliente, el mismo monedero con el que se paga cualquier otro servicio de NexCMP. Usted define los precios; el cliente recarga saldo de la forma habitual.

Antes de enviar una solicitud al proveedor, NexCMP retiene del monedero el importe máximo que la solicitud podría costar. Si el saldo es inferior al mínimo (20 cents por defecto) o resulta insuficiente, la solicitud se rechaza con un error 402 insufficient_balance y no se llama a ningún proveedor. Dado que la retención se realiza primero, las solicitudes simultáneas no pueden dejar el monedero en saldo negativo.

El uso se recopila por cuenta y se liquida en movimientos del libro mayor del monedero una vez transcurrida la hora, con un barrido cada 5 minutos. El consumo no liquidado aún se deduce de antemano del saldo visible para la pasarela.

Enrutamiento y conmutación por error entre proveedores

  • Varias rutas por modelo

    Un modelo puede tener rutas hacia varios proveedores en el orden que elija, cada una activada o desactivada. El nombre de modelo enviado al proveedor puede diferir del nombre que usted publica.

  • Conmutación por error

    Si un proveedor falla debido a un error de servidor, de autorización o de facturación, por un modelo inexistente o por límite de frecuencia, NexCMP prueba la siguiente ruta.

  • Sin cobros duplicados

    Si la lectura agota el tiempo de espera tras haber enviado la solicitud, NexCMP no la reenvía a otro proveedor, evitando así que pague dos veces por la misma solicitud.

  • Control de ritmo por proveedor

    Las solicitudes a cada proveedor están limitadas por minuto (50 por defecto), de modo que un pico de actividad no agote un proveedor.

  • Alertas

    Si un proveedor devuelve errores de autorización o facturación de forma reiterada, NexCMP notifica al administrador por Telegram, si Telegram está configurado.

  • Los detalles del proveedor permanecen ocultos

    Los errores se depuran antes de llegar al cliente: se eliminan los nombres de proveedores, hosts, nombres de modelos ascendentes y direcciones, y no se transmiten los encabezados del proveedor. Los clientes no ven qué proveedor procesó la solicitud.

Playground y portal del cliente

Cada elemento corresponde a una acción que el cliente realiza en el portal bajo su dominio.

  • Modelos y precios

    Consulte los modelos que ofrece con sus precios, la URL base y comandos de ejemplo listos para usar.

  • Claves, consumo y registros

    Cree claves, consulte el consumo por modelo, clave y día, y filtre los registros de solicitudes. Los registros solo muestran metadatos, nunca el contenido de una solicitud.

  • Configuración

    Defina un presupuesto para la cuenta y la dirección de correo electrónico que recibe las alertas.

  • Playground

    Interactúe con un modelo mediante chat, compare varios modelos en paralelo y copie el código correspondiente con Get Code.

Qué puede hacer como operador

Cada elemento se encuentra en la consola de administración de NexCMP.

  • Proveedores, modelos y rutas

    Añada y pruebe proveedores, sincronice sus listas de modelos, configure precios, active o desactive modelos y elija qué proveedores suministran cada modelo y en qué orden.

  • Consumo y beneficio

    Consulte lo que ha consumido cada cuenta de cliente y compare ingresos frente a costes por día y por modelo para los modelos en los que haya introducido un coste.

  • Auditoría

    Cada cambio requiere indicar un motivo y se registra en el registro de auditoría. Las claves de proveedor solo pueden introducirse desde una sesión de administrador autenticada.

  • Dos interruptores

    El módulo se activa en License & updates, Modules. Un interruptor de venta independiente en las páginas de administración de AI Models está desactivado por defecto: mientras permanezca desactivado, los clientes verán que el servicio aún no está disponible y la lista pública de precios lo mostrará como no disponible.

  • Desactivación

    Con el módulo desactivado, las páginas de clientes, las páginas de administración y la pasarela responden con error 404, las entradas del menú se ocultan y la sincronización en segundo plano deja de llamar a los proveedores.

Pantallas de AI Models en NexCMP

Pantallas reales de una instalación de NexCMP 1.5.0 con datos de prueba. Provider A, B y C son nombres de ejemplo.

Página de proveedores de AI Models en la administración de NexCMP que lista Provider A, Provider B y Provider C con tipo, prioridad, estado y botones para probar conexión y sincronizar modelos
Proveedores: las fuentes de modelos que añade, con tipo, prioridad y estado. Provider A, B y C son nombres de ejemplo.
Página de AI Models en la administración de NexCMP que lista modelos con precios de venta de entrada, entrada en caché y salida por cada 1 millón de tokens, y un interruptor de activación o desactivación
Modelos y precios: tres precios de venta por modelo, definidos por usted, y un interruptor para cada modelo.
Página de consumo de IA en el portal del cliente de NexCMP con gasto total, solicitudes, tokens, gráfico de gasto diario y las principales claves de API y modelos
Consumo por modelo, clave y día.
Página de API Keys para AI Models en el portal del cliente de NexCMP con nombres de clave, última actividad, vencimiento, estado, ciclo de restablecimiento y gasto actual frente al presupuesto, además de las URL base para ambos formatos de API
Claves de API de un cliente, con vencimiento, estado, gasto frente al presupuesto y las URL base.
AI Playground en el portal del cliente de NexCMP con chat, selector de modelo y los tokens utilizados por la respuesta
El playground en el portal del cliente.

Venta a través de revendedores

Un revendedor de marca blanca puede vender AI Models en su propio dominio a sus propios precios. El margen o descuento del revendedor se aplica sobre su precio de venta, y el precio mayorista se mantiene igual o superior a su coste más el margen mínimo cuando haya introducido un coste. El monedero mayorista del revendedor se debita con el precio mayorista.

Un interruptor de IA para cada revendedor determina si dicho revendedor vende AI Models. Está activado por defecto.

Cómo funciona

Desde un módulo desactivado hasta la primera solicitud del cliente.

  1. Activar el módulo

    En la consola de administración, abra License & updates, Modules y active AI Models.

  2. Añadir un proveedor y probarlo

    Introduzca el tipo de proveedor, la URL base y la clave, y luego ejecute la prueba de conexión.

  3. Sincronizar modelos y configurar precios

    Sincronice la lista de modelos, defina los precios de venta, agregue un segundo proveedor como ruta de respaldo si dispone de uno y active los modelos.

  4. Habilitar la opción de venta

    Active el interruptor de venta en las páginas de administración de AI Models para que los clientes puedan usar el servicio.

  5. Los clientes crean una clave y llaman a su endpoint

    El cliente recarga el monedero, crea una clave en el portal y apunta un cliente a su dominio.

Requisitos de infraestructura

Usted ejecuta el panel de NexCMP y aporta las fuentes de modelos. La lista completa con los pasos exactos se encuentra en la documentación en https://nexcmp.com/docs/infrastructure/ai-models/.

  • Un panel NexCMP con el módulo AI Models habilitado.
  • Tráfico HTTPS saliente desde el panel hacia cada uno de sus proveedores o hacia una pasarela interna incluida en «Allowed internal hosts».
  • Los clientes acceden a la pasarela a través del dominio de su panel.
  • Sin GPU ni hardware especial: NexCMP únicamente reenvía las solicitudes a sus proveedores.

AI Models en NexCMP Free y Source

AI Models es un módulo como los demás y está incluido tanto en NexCMP Free como en NexCMP Source. NexCMP no cobra ninguna tarifa adicional por él ni cuenta con un plan separado; los costos de sus proveedores, su hardware y las comisiones de pasarela de pago corren por su cuenta.

NexCMP Free cuesta $0 durante el primer año: compilación firmada completa con todos los módulos, correcciones de errores y actualizaciones durante 1 año, y tantos dominios de revendedor como desee. Tras el primer año se renueva a $99 al año, y el software sigue funcionando si no renueva. NexCMP Free está destinado a operadores de red con su propio ASN y una subred registrada a su nombre; las solicitudes se revisan. NexCMP Source es una compra única de $499 con el código fuente completo, todas las aplicaciones compiladas para usted y 30 días laborables con un ingeniero experto.

¿Es adecuado para usted?

NexCMP AI Models es ideal para usted si gestiona un negocio de alojamiento, cloud o software, dispone de fuentes de modelos autorizadas para su uso y reventa, y desea claves, precios, monedero, consumo y facturación de clientes en un solo panel bajo su propio dominio.

No es adecuado si necesita que se le suministren modelos, tokens, claves de API o cuentas de proveedor, un catálogo de modelos o lista de precios predefinidos, conversión entre los formatos compatibles con OpenAI y Anthropic, fine-tuning, alojamiento con GPU o un acuerdo de nivel de servicio por parte de NexCMP.

Antes de vender: fuentes, términos y responsabilidades

NexCMP no suministra modelos, claves de API, tokens, cuentas de proveedor ni precios. Usted conecta fuentes de modelos que tiene autorización para utilizar y revender, y sigue siendo responsable de cumplir las condiciones de sus fuentes y la legislación aplicable.

Muchas fuentes de modelos restringen la reventa o la cesión de acceso a terceros. Consulte los términos de cada fuente y pregúntele si necesita un acuerdo específico antes de ofrecer sus modelos a sus clientes.

También necesita una política de uso aceptable para sus propios clientes y un procedimiento para gestionar reportes de abuso. El uso que una fuente haga de los datos enviados se rige por los términos de dicha fuente; NexCMP no registra prompts ni respuestas. Esta página no constituye asesoramiento legal.

Plataforma para revendedores de API de IA: preguntas frecuentes

¿Qué es una plataforma para revendedores de API de IA y qué hace NexCMP AI Models?
Es software para vender acceso a modelos de IA mediante su propia API. NexCMP AI Models es una pasarela y capa de facturación en su panel de NexCMP: sus clientes obtienen claves y llaman a un único endpoint en su dominio, usted fija el precio por modelo y por cada 1 millón de tokens, el consumo se mide y se descuenta de un monedero prepago, y las solicitudes se enrutan a los proveedores que haya añadido.
¿NexCMP proporciona modelos, claves de API o tokens?
No. NexCMP se entrega sin proveedores, sin modelos, sin direcciones predeterminadas y sin precios. Usted aporta las fuentes de modelos autorizadas y NexCMP suministra la pasarela, las claves, la tarificación y la facturación.
¿Tengo permitido revender el acceso a los modelos de mis fuentes?
Depende de las condiciones de sus fuentes, no de NexCMP. Muchas fuentes restringen la reventa o la cesión de acceso a terceros, y algunas lo permiten mediante un acuerdo independiente. Usted es responsable de leer dichas condiciones y de cumplirlas, así como la legislación aplicable. Esto no constituye asesoramiento legal.
¿Qué formatos de API pueden utilizar mis clientes?
El formato compatible con OpenAI en /ai/v1/chat/completions y el compatible con Anthropic en /ai/v1/messages, ambos con streaming. El cliente cambia la URL base por la de su dominio y utiliza una clave de su panel. La pasarela no realiza conversiones entre ambos formatos, por lo que se accede a cada modelo mediante el formato nativo de su proveedor.
¿Cómo configuro los precios?
Por modelo, en dólares estadounidenses por 1 millón de tokens, con un precio independiente para entrada, entrada en caché y salida. Un modelo sin precio de venta no se puede activar. También puede ingresar su costo para ver ganancias y pérdidas por día y por modelo.
¿Cómo funciona la facturación mediante billetera y qué sucede cuando se agota el saldo?
El consumo se cobra a la billetera prepagada de NexCMP del cliente. Antes de enviar una solicitud a un proveedor, NexCMP reserva los fondos para cubrir su costo máximo posible. Si el saldo es insuficiente, la solicitud se rechaza con un error 402 insufficient_balance y no se llama a ningún proveedor.
¿Qué límites puedo establecer en las claves de API de los clientes?
Modelos permitidos, fecha de vencimiento, un presupuesto flexible que advierte y un presupuesto estricto que bloquea, solicitudes por minuto y tokens por minuto, y un límite de solicitudes concurrentes. Los presupuestos y los límites de tasa también se pueden configurar para una cuenta completa, y se puede limitar la cantidad de claves por cuenta.
¿Pueden los clientes ver su consumo y los registros de solicitudes? ¿Se almacenan los prompts?
Sí, pueden ver el consumo por modelo, clave y día con exportación a CSV, así como registros de solicitudes filtrables. Los registros solo contienen metadatos: hora, clave, modelo, tokens, costo, estado y latencia. NexCMP no registra prompts ni respuestas, y los registros se conservan durante 90 días de forma predeterminada.
¿Qué sucede si un proveedor falla?
Un modelo puede tener rutas hacia varios proveedores en el orden que usted elija. Si un proveedor devuelve un error de servidor, de autorización o de facturación, un modelo no encontrado o un límite de tasa, NexCMP intenta con la siguiente ruta. Una solicitud que haya agotado el tiempo de espera tras haber sido enviada no se reenvía a un segundo proveedor.
¿Puedo vender modelos de IA a través de revendedores?
Sí. Un revendedor de marca blanca puede vender AI Models en su propio dominio con su propio margen de ganancia o descuento sobre su precio de venta, pagado desde su billetera mayorista. Un interruptor de IA por revendedor, activado de forma predeterminada, controla quién puede venderlo.
¿Pueden los clientes probar modelos antes de comprar?
El portal del cliente incluye un playground donde el cliente puede chatear con un modelo, comparar varios modelos en paralelo y copiar el código correspondiente.
¿Es autoalojado y cuánto cuesta?
Sí, se ejecuta en su propio panel de NexCMP. AI Models está incluido en NexCMP Free ($0 durante el primer año, luego $99 al año) y en NexCMP Source ($499 pago único) sin costo adicional. Está desactivado de forma predeterminada y se activa en License & updates, Modules.
¿Quién es responsable del uso aceptable y del contenido de los clientes?
Usted. Usted define una política de uso aceptable con sus propios clientes, gestiona los reportes de abuso y cumple con los términos de sus proveedores y la legislación aplicable. NexCMP proporciona las claves, los límites y los registros para ayudarle a lograrlo.

Fuentes

Documentación de NexCMP para el módulo AI Models.

Obtener NexCMP gratis

Gratis, con AI Models y todos los demás módulos incluidos. Instálelo en su servidor hoy mismo.

Última actualización: