---
title: AI Models
description: अपने गेटवे से AI model एक्सेस बेचें: OpenAI-compatible या Anthropic-compatible सोर्स जोड़ें, मॉडल सिंक करें, दरें तय करें; ग्राहक key व वॉलेट से एंडपॉइंट कॉल करें।
url: https://nexcmp.com/hi/docs/infrastructure/ai-models/
applies_to: NexCMP 1.6.1
updated: 2026-11-02
---

# AI Models {#ai-models}

> **Admin में कहाँ:** मॉड्यूल चालू करने के लिए System › Admin › License & updates (`/license`)। फिर Services › AI Models: Providers (`/ai/providers`), Models (`/ai/models`), Profit (`/ai/profit`) और Audit (`/ai/audit`)। ग्राहक customer portal में AI › API का उपयोग करते हैं।

## यह क्या करता है {#what-it-does}

AI Models आपके अपने पैनल पर एक गेटवे और बिलिंग लेयर है। आपके ग्राहकों को API keys मिलती हैं और वे OpenAI-compatible या Anthropic-compatible फ़ॉर्मेट में **आपके डोमेन पर एक ही endpoint** को कॉल करते हैं। आप चुनते हैं कि कौन-से मॉडल ऑफ़र करने हैं और प्रति 1 million tokens प्रत्येक की लागत क्या होगी। NexCMP key, सीमाओं और वॉलेट की जाँच करता है, आपके द्वारा जोड़े गए प्रोवाइडर को अनुरोध भेजता है, टोकन मापता है और ग्राहक के प्रीपेड वॉलेट से शुल्क लेता है।

**मॉडल स्रोत आप खुद लाते हैं।** NexCMP बिना किसी प्रोवाइडर, बिना किसी मॉडल, बिना किसी डिफ़ॉल्ट पते और बिना किसी कीमत के आता है। यह मॉडल, API keys, टोकन या प्रोवाइडर खाते प्रदान नहीं करता है।

::: warning पहले अपने स्रोतों की शर्तें जाँचें
कई मॉडल स्रोत रीसेल करने या तीसरे पक्ष को एक्सेस देने पर प्रतिबंध लगाते हैं। केवल उन्हीं स्रोतों का उपयोग करें जिन्हें उपयोग करने और रीसेल करने के लिए आप अधिकृत हैं, और उनकी शर्तों तथा आप पर लागू होने वाले कानून का पालन करें। यह पृष्ठ कानूनी सलाह नहीं है।
:::

AI Models **AI Chat and AI Agent** (मॉड्यूल **AI**, देखें [AI providers](https://nexcmp.com/hi/docs/ai/ai-providers/)) से एक अलग उत्पाद है। दोनों मॉड्यूल एक-दूसरे पर निर्भर नहीं हैं।

## आवश्यकताएं {#requirements}

| आइटम | आवश्यकता |
|---|---|
| मॉड्यूल | License & updates, Modules के तहत **AI Models** चालू होना चाहिए। यह डिफ़ॉल्ट रूप से बंद रहता है। |
| Providers | एक या अधिक मॉडल स्रोत जिन्हें रीसेल करने के लिए आप अधिकृत हैं, प्रत्येक OpenAI-संगत API (`/chat/completions`), Anthropic-संगत API (`/messages`), या दोनों के साथ। प्रत्येक के लिए एक base URL और एक API key आवश्यक है। |
| नेटवर्क | पैनल को सार्वजनिक डोमेन नाम पर **port 443 पर HTTPS** के माध्यम से प्रत्येक प्रोवाइडर तक पहुँचना चाहिए। इंटरनल होस्ट, किसी अन्य पोर्ट या प्लेन HTTP पर मौजूद प्रोवाइडर को **Allowed internal hosts** (सेटिंग `ai_endpoint_allow`) के तहत सूचीबद्ध किया जाना चाहिए। |
| ग्राहक | सत्यापित ईमेल पते और वॉलेट बैलेंस वाला ग्राहक खाता। |
| हार्डवेयर | कोई नहीं। NexCMP केवल अनुरोध अग्रेषित करता है: कोई GPU नहीं और कोई मॉडल फ़ाइलें नहीं। |

## बुनियादी ढांचा तैयार करें {#prepare-the-infrastructure}

1. प्रत्येक मॉडल स्रोत से एक API key प्राप्त करें जिसका आप उपयोग करेंगे, और उसका base URL नोट करें (उदाहरण के लिए `https://api.example.com/v1`)।
2. रीसेलिंग पर स्रोत की शर्तें जाँचें।
3. यदि कोई स्रोत आपके नेटवर्क के अंदर चलता है, तो उसका पता तय करें, उदाहरण के लिए `http://10.0.0.5:8000/v1`। आप `10.0.0.5:8000` को **Allowed internal hosts** के तहत सूचीबद्ध करेंगे।

## NexCMP में कनेक्ट करें {#connect-in-nexcmp}

### 1. मॉड्यूल चालू करें {#_1-turn-the-module-on}

**System › Admin › License & updates** खोलें, कार्ड **Module** ढूंढें, और **AI Models** को चालू करें। मेन्यू फिर से लोड होता है और **Services › AI Models** दिखाई देता है। जब तक मॉड्यूल बंद रहता है, ग्राहक पृष्ठ, admin पृष्ठ और गेटवे सभी `404 module_disabled` उत्तर देते हैं, और किसी भी प्रोवाइडर से संपर्क नहीं किया जाता है।

![AI Models स्विच ऑन के साथ Module कार्ड](https://nexcmp.com/hi/docs/images/infrastructure/ai-models-01-modules.webp)

### 2. प्रोवाइडर जोड़ें {#_2-add-a-provider}

1. **AI Models › Providers** खोलें और **Add provider** चुनें।
2. एक संक्षिप्त **slug**, एक **name** (केवल आप इसे देखते हैं), **type** (OpenAI-compatible, Anthropic-compatible या Both), **base URL** और **API key**, और एक **priority** दर्ज करें (कम संख्या को पहले आज़माया जाता है)।
3. सेव करें। key को एन्क्रिप्ट करके स्टोर किया जाता है और बाद में केवल इसके अंतिम चार अक्षर ही दिखाए जाते हैं। key केवल साइन-इन किए गए एडमिनिस्ट्रेटर सत्र से ही दर्ज की जा सकती है।

**Both** का उपयोग केवल ऐसे गेटवे के लिए करें जो वास्तव में दोनों फ़ॉर्मेट को सर्व करता हो। NexCMP दोनों फ़ॉर्मेट के बीच अनुवाद **नहीं** करता है: OpenAI-compatible प्रोवाइडर द्वारा सर्व किए जाने वाले मॉडल तक `/ai/v1/chat/completions` पर पहुँचा जाता है, और Anthropic-compatible प्रोवाइडर द्वारा सर्व किए जाने वाले मॉडल तक `/ai/v1/messages` पर।

![Providers पृष्ठ जिसमें type, priority और status के साथ तीन नमूना प्रोवाइडर्स दिखाए गए हैं](https://nexcmp.com/hi/docs/images/infrastructure/ai-models-02-providers.webp)

### 3. कनेक्शन टेस्ट करें {#_3-test-the-connection}

प्रोवाइडर पर **Test connection** चुनें। NexCMP key के साथ `GET <base URL>/models` को पढ़ता है और **ok** रिपोर्ट करता है, या इसके विफल होने का कारण बताता है: **auth** (गलत key), **blocked**, **billing**, या **unreachable**। एक परीक्षण प्रति मिनट 6 तक सीमित है।

### 4. मॉडल सिंक करें {#_4-sync-the-models}

**Sync models** चुनें। NexCMP प्रदाता की मॉडल सूची पढ़ता है और प्रत्येक नए मॉडल को **बिना किसी मूल्य के और स्विच ऑफ़ स्थिति में** जोड़ता है। प्रदाता द्वारा हटाई गई मॉडल सूची को फ़्लैग कर दिया जाता है। जब मॉड्यूल चालू होता है, तो सूची हर 6 घंटे में अपने आप सिंक भी होती है (सेटिंग `ai_models_sync_hours`)।

### 5. कीमतें निर्धारित करें और मॉडल चालू करें {#_5-set-prices-and-switch-models-on}

1. **AI Models › Models** खोलें।
2. प्रत्येक मॉडल जिसे आप बेचना चाहते हैं, उसके लिए प्रति 1 मिलियन टोकन अमेरिकी डॉलर में **विक्रय मूल्य** (selling price) निर्धारित करें: **input**, **cached input** और **output**।
3. वैकल्पिक रूप से मॉडल के लिए अपनी **लागत** दर्ज करें। फिर **Profit** दिन और मॉडल के अनुसार लागत के मुक़ाबले राजस्व दिखाता है, और आपकी लागत तथा न्यूनतम मार्जिन (सेटिंग `ai_min_margin_pct`, डिफ़ॉल्ट रूप से 10) से कम विक्रय मूल्य को तब तक अस्वीकार कर दिया जाता है जब तक कि आप जानबूझकर घाटे की पुष्टि न करें। **Set price from cost** आपके द्वारा चुने गए मार्कअप का उपयोग करता है; कोई डिफ़ॉल्ट मार्कअप नहीं है।
4. मॉडल चालू करें। बिना विक्रय मूल्य वाले मॉडल को चालू नहीं किया जा सकता। शून्य पर छोड़े गए cached input मूल्य पर input मूल्य के अनुसार शुल्क लिया जाता है।

![input, cached input और output विक्रय मूल्यों तथा ऑन-ऑफ़ स्विचों वाला Models पृष्ठ](https://nexcmp.com/hi/docs/images/infrastructure/ai-models-03-models.webp)

### 6. रूट्स और फ़ेलओवर {#_6-routes-and-failover}

किसी मॉडल पर, **Routes** उन प्रदाताओं को क्रम में सूचीबद्ध करता है जो इसे सेवा प्रदान करते हैं। फ़ॉलबैक के रूप में दूसरा प्रदाता जोड़ें, क्रम सेट करें, और वैकल्पिक रूप से प्रत्येक प्रदाता के लिए एक अलग मॉडल नाम दें (प्रदाता को भेजा गया नाम आपके द्वारा प्रकाशित नाम से भिन्न हो सकता है)। जब कोई प्रदाता सर्वर त्रुटि, प्रमाणीकरण या बिलिंग त्रुटि, गुम मॉडल या रेट सीमा लौटाता है, तो NexCMP अगले रूट का प्रयास करता है। यदि अनुरोध भेजे जाने के बाद रीड टाइमआउट हो जाता है, तो इसे दूसरे प्रदाता को **नहीं** भेजा जाता है, ताकि आपको दो बार भुगतान न करना पड़े।

प्रत्येक प्रदाता की गति `ai_provider_rpm` अनुरोध प्रति मिनट (डिफ़ॉल्ट रूप से 50) पर नियंत्रित की जाती है। यदि कोई प्रदाता बार-बार प्रमाणीकरण या बिलिंग त्रुटियाँ लौटाता है, तो Telegram सेट होने पर NexCMP व्यवस्थापक को Telegram पर सचेत करता है।

### 7. बिक्री स्विच खोलें {#_7-open-the-sale-switch}

AI Models पृष्ठों के शीर्ष पर, **बिक्री स्विच** (सेटिंग `feature_ai_models`) डिफ़ॉल्ट रूप से बंद रहता है। जब तक यह बंद है, ग्राहकों को दिखता है कि सेवा अभी शुरू नहीं हुई है और सार्वजनिक मूल्य सूची इसे अनुपलब्ध बताती है। जाँचें कि कम से कम एक मॉडल चालू हो, उसका विक्रय मूल्य हो और कुंजी के साथ एक रूट हो, फिर इसे चालू करें।

### ग्राहक क्या कर सकते हैं {#what-customers-can-do}

ग्राहक पोर्टल में, **AI › API**:

- **Models** आपके मॉडल और कीमतें, बेस URL और पहले से तैयार उदाहरण कमांड दिखाता है।
- **API Keys**: कुंजियाँ बनाएँ, नाम बदलें, रोटेट करें, अक्षम करें और हटाएँ। सीक्रेट केवल एक बार दिखाया जाता है; केवल हैश संग्रहीत किया जाता है। प्रति कुंजी: अनुमत मॉडल, समाप्ति, सॉफ़्ट बजट (चेतावनी देता है) और हार्ड बजट (`402` के साथ ब्लॉक करता है), अनुरोध प्रति मिनट और टोकन प्रति मिनट।
- मॉडल, कुंजी और दिन के अनुसार **Usage**, निर्यात के साथ।
- **Logs**: फ़िल्टर करने योग्य अनुरोध रिकॉर्ड (समय, कुंजी, मॉडल, टोकन, लागत, स्थिति, विलंबता)। **प्रॉम्प्ट और प्रतिक्रियाएँ रिकॉर्ड नहीं की जाती हैं।** लॉग डिफ़ॉल्ट रूप से 90 दिनों तक रखे जाते हैं (`ai_log_retention_days`)।
- **Settings**: एक खाता बजट और बजट अलर्ट के लिए ईमेल पता।
- **Playground**: किसी मॉडल से चैट करें, मॉडलों की साथ-साथ तुलना करें, और संबंधित कोड कॉपी करें।

![दोनों API प्रारूपों के लिए बेस URL वाला ग्राहक API Keys पृष्ठ](https://nexcmp.com/hi/docs/images/infrastructure/ai-models-04-keys.webp)

गेटवे एंडपॉइंट, आपके डोमेन पर:

```text
POST /ai/v1/chat/completions      OpenAI-compatible
POST /ai/v1/messages              Anthropic-compatible (also /ai/v1/messages/count_tokens)
GET  /ai/v1/models                model list
GET  /ai/v1/models/pricing        public price list, no key needed
```

### वॉलेट और बिलिंग {#wallet-and-billing}

AI उपयोग का शुल्क अन्य सभी सेवाओं की तरह उसी प्रीपेड वॉलेट से लिया जाता है। किसी प्रदाता के पास अनुरोध जाने से पहले, NexCMP अनुरोध की अधिकतम संभावित लागत के लिए राशि आरक्षित करता है; यदि शेष राशि न्यूनतम (`ai_min_balance_cents`, डिफ़ॉल्ट रूप से 20 सेंट) से कम या बहुत कम है, तो अनुरोध को `402 insufficient_balance` के साथ अस्वीकार कर दिया जाता है और **किसी भी प्रदाता को कॉल नहीं किया जाता है**। उपयोग प्रति खाता एकत्र किया जाता है और प्रत्येक घंटे के बाद वॉलेट बहीखाता प्रविष्टियों में तय किया जाता है, जिसमें प्रत्येक 5 मिनट में स्वीप होता है; जो उपयोग अभी तक तय नहीं हुआ है, उसे गेटवे द्वारा दिखने वाली शेष राशि से पहले ही घटा दिया जाता है।

Reseller अपने स्वयं के डोमेन पर AI Models बेच सकते हैं: उनका मार्कअप या डिस्काउंट आपके विक्रय मूल्य पर लागू होता है और उनके थोक वॉलेट से थोक मूल्य काटा जाता है। प्रति-reseller AI स्विच, जो डिफ़ॉल्ट रूप से चालू होता है, यह नियंत्रित करता है कि इसे कौन बेच सकता है।

## सत्यापित करें {#verify}

1. चरण 3 के बाद, **Test connection** **ok** और मॉडल की संख्या दिखाता है।
2. चरण 4 के बाद नए मॉडल बिना मूल्य के, बंद स्थिति में सूचीबद्ध होते हैं।
3. फ़ंडेड वॉलेट वाले ग्राहक के रूप में, एक कुंजी बनाएं और गेटवे को कॉल करें:

   ```bash
   curl https://your-domain/ai/v1/chat/completions \
     -H "Authorization: Bearer sk-ai-…" -H "Content-Type: application/json" \
     -d '{"model":"model-one","messages":[{"role":"user","content":"hello"}]}'
   ```

   एक `200` प्रतिक्रिया मॉडल का उत्तर लाती है। **Usage** अनुरोध दिखाता है, और यदि आपने लागत दर्ज की है तो **Profit** इसे दिखाता है।
4. वॉलेट शून्य होने पर, वही कॉल `402 insufficient_balance` लौटाती है।

## सीमाएँ और नोट्स {#limits-and-notes}

- इस मॉड्यूल में कोई प्रोवाइडर, मॉडल या मूल्य पहले से शामिल नहीं है, और किसी प्रोवाइडर से कभी कोई मूल्य सूची नहीं पढ़ी जाती है।
- प्रोवाइडर साइड पर चलने वाले और प्रति कॉल चार्ज किए जाने वाले टूल्स, जैसे कि वेब सर्च, अस्वीकार कर दिए जाते हैं क्योंकि उन्हें मीटर नहीं किया जा सकता। केवल अनुरोध पैरामीटरों की एक संक्षिप्त सूची ही आगे भेजी जाती है।
- टोकन उपयोग प्रोवाइडर के उत्तर से लिया जाता है; यदि उत्तर में कोई टोकन नहीं है, तो NexCMP इसका अनुमान लगाता है और रिकॉर्ड को अनुमानित के रूप में चिह्नित करता है।
- ग्राहक तक पहुँचने से पहले प्रोवाइडर की त्रुटियों को साफ़ किया जाता है (नाम, होस्ट, पते और प्रोवाइडर का मॉडल नाम हटा दिए जाते हैं)। ग्राहक कभी नहीं देख पाते कि किस प्रोवाइडर ने अनुरोध को प्रोसेस किया।
- ग्राहक आपके पैनल के डोमेन के माध्यम से गेटवे तक पहुँचते हैं, इसलिए उस डोमेन का TLS काम करना चाहिए।
- NexCMP इस मॉड्यूल के लिए कोई सेवा-स्तरीय समझौता (SLA), फ़ाइन-ट्यूनिंग या GPU होस्टिंग प्रदान नहीं करता है।

## ट्रबलशूटिंग {#troubleshooting}

| लक्षण | कारण और समाधान |
|---|---|
| प्रत्येक AI Models पेज और गेटवे `404 module_disabled` का उत्तर देते हैं | मॉड्यूल बंद है। License & updates, Modules के तहत **AI Models** चालू करें। |
| प्रोवाइडर जोड़ना `endpoint_host_not_allowed`, `endpoint_must_be_https` या `invalid_endpoint_port` के साथ विफल रहता है | base URL एक पब्लिक डोमेन नेम पर पोर्ट 443 पर HTTPS होना चाहिए। किसी इंटरनल होस्ट, अन्य पोर्ट या प्लेन HTTP के लिए, `host:port` को **Allowed internal hosts** के तहत सूचीबद्ध करें। |
| `blocked_endpoint` | पता एक IP है, या नाम किसी निजी पते पर रिज़ॉल्व होता है। यदि आप यही चाहते हैं तो इसे **Allowed internal hosts** के तहत सूचीबद्ध करें। |
| **Test connection** कहता है `auth` | कुंजी गलत है या उसके पास एक्सेस नहीं है। कुंजी दोबारा दर्ज करें। |
| मॉडल चालू नहीं किया जा सकता (`no_price`) | पहले विक्रय मूल्य सेट करें। |
| ग्राहकों को `503 ai_unavailable` मिलता है | बिक्री स्विच बंद है, या reseller का AI स्विच बंद है। |
| ग्राहकों को `503 upstream_unavailable` मिलता है | कुंजी वाला कोई भी सक्षम रूट अनुरोधित प्रारूप में उस मॉडल को सेवा नहीं देता है। मॉडल के रूट्स और प्रोवाइडर प्रकार की जाँच करें। |
| ग्राहकों को `402 insufficient_balance` मिलता है | वॉलेट न्यूनतम से कम है या अनुरोध के लिए बहुत छोटा है। ग्राहक से टॉप-अप करने के लिए कहें। |