AI Models
Plateforme Open Source de revente d'API IA et de facturation LLM
NexCMP AI Models est un module pour le panneau auto-hébergé NexCMP vous permettant de vendre l'accès à des modèles d'IA sur votre propre domaine. Vous connectez les sources de modèles que vous êtes autorisé à utiliser, définissez un prix pour chaque modèle, et vos clients les appellent avec une seule clé API, sont facturés au jeton et paient depuis un portefeuille prépayé.
AI Models fait partie intégrante de NexCMP et n'entraîne aucun coût supplémentaire. Il reste inactif tant que vous ne l'activez pas. NexCMP ne fournit ni modèles, ni clés API, ni jetons, ni comptes de fournisseurs: vous apportez les sources que vous êtes autorisé à utiliser.NexCMP Source : code source complet pour $499, en paiement unique. Utilisez, modifiez et auto-hébergez pour votre propre activité. Vous pouvez vendre les services que vous exploitez ; vous ne pouvez ni revendre ni redistribuer le code source ou les binaires compilés. Conditions de la licence Source
Qu'est-ce que le module NexCMP AI Models?
NexCMP facture déjà les machines virtuelles depuis un portefeuille prépayé. AI Models ajoute une passerelle au même panneau, permettant au portefeuille, aux clients, aux revendeurs et aux tickets d'assistance utilisés pour vos serveurs de gérer également la vente d'accès API d'IA.
Il s'agit d'une couche de facturation et de contrôle, pas d'un fournisseur de modèles. Vous ajoutez les fournisseurs que vous avez le droit d'utiliser, choisissez les modèles à proposer ainsi que leur tarif, et vos clients appellent un point de terminaison unique sur votre domaine avec leurs propres clés. Les clients voient votre domaine et vos prix, jamais le fournisseur qui a traité la requête.
Vous recherchez AI Chat et AI Agent? Il s'agit d'un produit différent: un assistant intégré au portail client et un agent opérant sur le serveur d'un client. Il ne vend pas d'accès aux modèles, et les deux modules sont totalement indépendants.
Comment vos clients utilisent AI Models
Chaque écran correspond à un onglet de la page du service dans le portail client, présenté avec des données d'exemple. Choisissez un onglet, utilisez les flèches ou les touches gauche et droite, ou ouvrez la vue plein écran.
Modèles
Clés API
Consommation
Logs
Paramètres
Playground
De votre client à votre fournisseur
Les clients appellent votre domaine. NexCMP vérifie la clé, les limites et le portefeuille, puis transmet la requête à un fournisseur que vous avez configuré.
Ce dont vous avez besoin pour vendre l'accès aux API d'IA
NexCMP prend en charge la partie logicielle. Le reste dépend de vous.
- Des sources de modèles que vous êtes autorisé à utiliser et à revendre: un ou plusieurs fournisseurs disposant d'une API compatible OpenAI ou Anthropic.
- Un panneau NexCMP avec le module AI Models activé.
- Un prix de vente défini par vos soins pour chaque modèle proposé.
- Une assistance pour vos clients et votre propre politique d'utilisation acceptable.
- Un panneau capable de joindre vos fournisseurs en HTTPS.
Une seule clé, plusieurs modèles
L'application de votre client pointe vers votre domaine et utilise une clé générée sur votre panneau. Une seule clé permet d'appeler tous les modèles autorisés. La passerelle fonctionne sur le domaine du panneau et diffuse les réponses en continu dans les deux formats.
- Les clients compatibles Anthropic peuvent également utiliser /ai/v1/messages/count_tokens.
- La consommation de jetons est extraite de la réponse du fournisseur. Si la réponse n'en contient pas, NexCMP l'estime et marque l'enregistrement comme estimé.
- La passerelle ne convertit pas d'un format à l'autre. Un modèle fourni par un prestataire compatible OpenAI est joint via le point de terminaison compatible OpenAI, et celui fourni par un prestataire compatible Anthropic via le point de terminaison compatible Anthropic. Un fournisseur de type Both prend en charge les deux.
- Les outils exécutés côté fournisseur et facturés à l'appel, tels que la recherche web, sont rejetés car ils ne peuvent pas être mesurés. Seule une liste restreinte de paramètres de requête sécurisés est transmise.
POST https://your-domain/ai/v1/chat/completions OpenAI-compatible
POST https://your-domain/ai/v1/messages Anthropic-compatible
GET https://your-domain/ai/v1/models model list
GET https://your-domain/ai/v1/models/pricing public price list, no keyApportez vos propres sources de modèles
Rien n'est préconfiguré: aucun fournisseur, aucun modèle, aucune adresse par défaut et aucune grille tarifaire.
Ajouter un fournisseur
Renseignez un nom, un type (OpenAI-compatible, Anthropic-compatible ou Both), l'URL de base, sa clé API, une priorité et un bouton d'activation. La clé est stockée chiffrée et seuls ses quatre derniers caractères sont affichés par la suite.
Tester la connexion
Un test interroge la liste des modèles du fournisseur et confirme le succès, ou indique la cause de l'échec: autorisation, adresse bloquée, facturation ou hôte inaccessible.
Synchroniser la liste des modèles
NexCMP lit la liste du fournisseur et ajoute les nouveaux modèles désactivés, sans tarif. Un modèle retiré par le fournisseur est signalé. Lorsque le module est actif, la liste se synchronise automatiquement toutes les 6 heures par défaut.
Vérification des adresses
L'adresse d'un fournisseur doit utiliser HTTPS sur le port 443 ainsi qu'un domaine public. Les hôtes internes, les autres ports et le protocole HTTP standard ne sont acceptés que si vous les déclarez dans la liste Allowed internal hosts.
Vos propres tarifs
NexCMP ne récupère aucun tarif auprès du fournisseur. Vous définissez vous-même chaque prix de vente.
Tarification par modèle
Vous déterminez le coût de chaque modèle pour vos clients.
Trois tarifs par modèle
Entrée, entrée en cache et sortie, en dollars américains pour 1 million de tokens. Un modèle sans prix de vente ne peut pas être activé.
Entrée en cache
Tant que vous ne définissez pas de tarif pour l'entrée en cache, les tokens en cache sont facturés au prix d'entrée standard. Ils ne sont pas gratuits.
Prix de revient optionnel
Indiquez ce que vous coûte un modèle pour suivre vos pertes et profits par jour et par modèle sur la page Profit. Dans ce cas, tout prix de vente inférieur à votre coût majoré d'une marge minimale est rejeté, sauf si vous confirmez expressément une vente à perte.
Calcul du prix selon le coût
Un bouton permet d'ajuster le prix de vente d'après votre coût augmenté de la marge de votre choix. Il n'y a pas de marge par défaut.
Grille tarifaire publique
Vos clients et visiteurs peuvent consulter vos tarifs sans clé, directement à l'adresse de la grille tarifaire de votre passerelle.
Clés API, limites, consommation et logs
Chaque élément correspond à une action effectuée par le client dans le portail ou configurée par vos soins.
Clés
Créez, renommez, renouvelez, désactivez et supprimez des clés. Le secret n'est affiché qu'une seule fois et NexCMP n'en stocke qu'un hash.
Modèles autorisés et expiration
Restreignez une clé à une liste de modèles et définissez une date d'expiration.
Budgets
Un budget indicatif avertit par notification et par e-mail. Un budget strict bloque les requêtes avec une erreur 402. Les deux s'appliquent par période, pour une clé donnée ou pour l'ensemble d'un compte.
Limites de débit
Requêtes par minute et tokens par minute, par clé et par compte, avec une limite de requêtes simultanées et un plafond de clés par compte.
Consommation
Consommation par modèle, clé et jour, avec export CSV.
Logs
Logs de requêtes filtrables avec date et heure, clé, modèle, tokens, coût, statut et latence. NexCMP n'enregistre ni les prompts ni les réponses. Les logs sont conservés 90 jours par défaut.
Facturation au portefeuille pour les API LLM
L'usage de l'IA est débité du portefeuille prépayé du client, le même qui finance tous les autres services NexCMP. Vous fixez les prix; le client recharge son solde comme d'habitude.
Avant d'acheminer une requête vers un fournisseur, NexCMP bloque sur le portefeuille le montant maximal estimé de celle-ci. Si le solde est inférieur au seuil minimal (20 cents par défaut) ou insuffisant, la requête est rejetée avec une erreur 402 insufficient_balance et aucun fournisseur n'est sollicité. La réservation préalable empêche ainsi les requêtes simultanées de faire passer le solde en négatif.
La consommation est consolidée par compte et imputée dans le grand livre du portefeuille à la fin de chaque heure, avec un traitement toutes les 5 minutes. La consommation non encore imputée est d'ores et déjà déduite du solde visible par la passerelle.
Routage et basculement entre fournisseurs
Plusieurs routes par modèle
Un modèle peut disposer de routes vers plusieurs fournisseurs selon l'ordre de votre choix, chacune pouvant être activée ou désactivée. Le nom de modèle transmis à un fournisseur peut différer de celui que vous publiez.
Basculement
Lorsqu'un fournisseur échoue en raison d'une erreur serveur, d'une erreur d'autorisation ou de facturation, d'un modèle manquant ou d'une limite de débit, NexCMP tente la route suivante.
Aucune double facturation
Si un délai d'attente de lecture expire après l'envoi de la requête, NexCMP ne la renvoie pas vers un autre fournisseur, vous évitant ainsi de payer deux fois pour une même requête.
Régulation du débit par fournisseur
Les requêtes adressées à chaque fournisseur sont plafonnées par minute (50 par défaut), afin qu'un pic d'activité n'épuise pas une source.
Alertes
Si un fournisseur renvoie continuellement des erreurs d'autorisation ou de facturation, NexCMP avertit l'administrateur sur Telegram, lorsque Telegram est configuré.
Les détails des fournisseurs restent masqués
Les erreurs sont assainies avant d'atteindre le client: les noms de fournisseurs, hôtes, noms de modèles en amont et adresses sont supprimés, et les en-têtes du fournisseur ne sont pas transmis. Les clients ne voient pas quel fournisseur a traité la requête.
Playground et portail client
Chaque élément correspond à une action effectuée par le client dans le portail sur votre domaine.
Modèles et tarifs
Consultez les modèles proposés avec leurs tarifs, l'URL de base et des exemples de commandes prêts à l'emploi.
Clés, consommation et journaux
Créez des clés, consultez la consommation par modèle, par clé et par jour, et filtrez les journaux de requêtes. Les journaux affichent uniquement des métadonnées, jamais le contenu d'une requête.
Paramètres
Définissez un budget pour le compte ainsi que l'adresse e-mail recevant les alertes.
Playground
Discutez avec un modèle, comparez plusieurs modèles côte à côte et copiez le code correspondant avec Get Code.
Ce que vous pouvez faire en tant qu'opérateur
Chaque élément est disponible dans la console d'administration de NexCMP.
Fournisseurs, modèles et routes
Ajoutez et testez des fournisseurs, synchronisez leurs catalogues de modèles, définissez les prix, activez ou désactivez les modèles, et choisissez quels fournisseurs desservent chaque modèle et dans quel ordre.
Consommation et marge
Visualisez la consommation de chaque compte client et comparez les revenus aux coûts par jour et par modèle pour ceux dont vous avez renseigné le coût de revient.
Audit
Chaque modification exige un motif et est consignée dans le journal d'audit. Les clés de fournisseur ne peuvent être saisies que depuis une session administrateur connectée.
Deux commutateurs
Le module s'active sous Licence et mises à jour, Modules. Un commutateur de vente distinct dans l'administration AI Models est désactivé par défaut: tant qu'il est inactif, les clients sont informés que le service n'est pas encore ouvert et la grille tarifaire publique l'indique comme indisponible.
Désactivation
Lorsque le module est désactivé, les pages clients, l'espace d'administration et la passerelle renvoient tous une erreur 404, les entrées de menu sont masquées et la synchronisation en arrière-plan cesse d'interroger les fournisseurs.
Écrans de NexCMP AI Models
Captures réelles issues d'une installation de NexCMP 1.5.0 avec des données de démonstration. Provider A, B et C sont des noms d'exemple.
Vente via des revendeurs
Un revendeur en marque blanche peut commercialiser AI Models sur son propre domaine et selon ses propres tarifs. La marge ou remise du revendeur s'applique à votre prix de vente, et le tarif grossiste est maintenu au moins égal à votre coût de revient majoré de la marge minimale si un coût a été renseigné. Le portefeuille grossiste du revendeur est débité du tarif de gros.
Un commutateur IA dédié pour chaque revendeur permet de déterminer s'il vend AI Models. Il est activé par défaut.
Comment ça marche
Du module désactivé jusqu'à la première requête client.
Activer le module
Dans la console d'administration, ouvrez Licence et mises à jour, Modules, puis activez AI Models.
Ajouter un fournisseur et le tester
Renseignez le type de fournisseur, l'URL de base et la clé, puis lancez le test de connexion.
Synchroniser les modèles et fixer les prix
Synchronisez la liste des modèles, définissez les prix de vente, ajoutez un second fournisseur comme route de secours si vous en avez un, et activez les modèles.
Activez l'option de vente
Activez l'option de vente dans les pages d'administration de AI Models afin que les clients puissent utiliser le service.
Les clients créent une clé et appellent votre endpoint
Le client recharge son portefeuille, crée une clé dans le portail et fait pointer son client vers votre domaine.
Prérequis d'infrastructure
Vous exploitez le panneau NexCMP et fournissez les sources de modèles. La liste complète, avec les étapes détaillées, se trouve dans la documentation sur https://nexcmp.com/docs/infrastructure/ai-models/.
- Un panneau NexCMP avec le module AI Models activé.
- Trafic HTTPS sortant du panneau vers chacun de vos fournisseurs, ou vers une passerelle interne répertoriée sous Allowed internal hosts.
- Les clients accèdent à la passerelle via le domaine de votre panneau.
- Aucun GPU ni matériel spécifique : NexCMP relaie uniquement les requêtes vers vos fournisseurs.
AI Models dans NexCMP Free et Source
AI Models est un module comme les autres, inclus à la fois dans NexCMP Free et NexCMP Source. NexCMP ne facture aucun frais supplémentaire pour celui-ci et ne propose aucun forfait distinct ; les coûts de vos fournisseurs, de votre matériel et les frais de passerelle de paiement restent à votre charge.
NexCMP Free est à $0 la première année : la version complète signée avec chaque module, les corrections de bugs et les mises à jour pendant 1 an, ainsi qu'autant de domaines revendeurs que vous le souhaitez. Après la première année, le renouvellement est à $99 par an, et le logiciel continue de fonctionner si vous ne renouvelez pas. NexCMP Free s'adresse aux opérateurs réseau disposant de leur propre ASN et d'un sous-réseau enregistré à leur nom ; les demandes sont examinées. NexCMP Source est un achat unique de $499 incluant l'intégralité du code source, toutes les applications compilées pour vous et 30 jours ouvrés avec un ingénieur expert.
Vérification d'adéquation
NexCMP AI Models vous convient si vous gérez une activité d'hébergement, de cloud ou de logiciels, disposez de sources de modèles que vous êtes autorisé à utiliser et à revendre, et souhaitez regrouper clés, tarifs, portefeuille, consommation et facturation client dans un panneau unique sur votre propre domaine.
Cette solution ne convient pas si vous avez besoin que l'on vous fournisse des modèles, des tokens, des clés API ou des comptes fournisseurs, un catalogue de modèles ou une grille tarifaire prêts à l'emploi, la conversion entre les formats compatibles OpenAI et compatibles Anthropic, du fine-tuning, de l'hébergement GPU ou un contrat de niveau de service de la part de NexCMP.
Avant de vendre : sources, conditions et responsabilités
NexCMP ne fournit aucun modèle, clé API, token, compte fournisseur ni tarif. Vous connectez des sources de modèles que vous êtes autorisé à utiliser et à revendre, et vous restez responsable du respect des conditions de vos sources ainsi que des lois qui vous sont applicables.
De nombreuses sources de modèles restreignent la revente ou le partage d'accès avec des tiers. Lisez les conditions de chaque source et demandez-lui si un accord distinct est nécessaire avant de proposer ses modèles à vos clients.
Vous devez également instaurer une politique d'utilisation acceptable avec vos propres clients et prévoir une procédure de traitement des signalements d'abus. L'usage qu'une source fait des données transmises est régi par ses propres conditions ; NexCMP n'enregistre lui-même ni les prompts ni les réponses. Cette page ne constitue pas un conseil juridique.
Plateforme revendeur d'API d'IA : questions fréquentes
Qu'est-ce qu'une plateforme de revente d'API d'IA et quel est le rôle de NexCMP AI Models ?
NexCMP fournit-il des modèles, des clés API ou des tokens ?
Suis-je autorisé à revendre l'accès aux modèles de mes sources ?
Quels formats d'API mes clients peuvent-ils utiliser ?
Comment définir les prix ?
Comment fonctionne la facturation sur portefeuille et que se passe-t-il lorsque le solde est épuisé ?
Quelles limites puis-je définir sur les clés API des clients ?
Les clients peuvent-ils consulter leur utilisation et leurs journaux de requêtes ? Les prompts sont-ils stockés ?
Que se passe-t-il en cas de défaillance d'un fournisseur ?
Puis-je vendre des modèles d'IA par l'intermédiaire de revendeurs ?
Les clients peuvent-ils tester les modèles avant d'acheter ?
La solution est-elle auto-hébergée et combien coûte-t-elle ?
Qui est responsable de l'utilisation acceptable et du contenu client ?
Sources
Documentation NexCMP pour le module AI Models.
Obtenir NexCMP gratuitement
Gratuit, avec AI Models et tous les autres modules inclus. Installez-le sur votre serveur dès aujourd'hui.
Dernière mise à jour :