AI Models

Admin में कहाँ: मॉड्यूल चालू करने के लिए System › Admin › License & updates (/license)। फिर Services › AI Models: Providers (/ai/providers), Models (/ai/models), Profit (/ai/profit) और Audit (/ai/audit)। ग्राहक customer portal में AI › API का उपयोग करते हैं।

यह क्या करता है

AI Models आपके अपने पैनल पर एक गेटवे और बिलिंग लेयर है। आपके ग्राहकों को API keys मिलती हैं और वे OpenAI-compatible या Anthropic-compatible फ़ॉर्मेट में आपके डोमेन पर एक ही endpoint को कॉल करते हैं। आप चुनते हैं कि कौन-से मॉडल ऑफ़र करने हैं और प्रति 1 million tokens प्रत्येक की लागत क्या होगी। NexCMP key, सीमाओं और वॉलेट की जाँच करता है, आपके द्वारा जोड़े गए प्रोवाइडर को अनुरोध भेजता है, टोकन मापता है और ग्राहक के प्रीपेड वॉलेट से शुल्क लेता है।

मॉडल स्रोत आप खुद लाते हैं। NexCMP बिना किसी प्रोवाइडर, बिना किसी मॉडल, बिना किसी डिफ़ॉल्ट पते और बिना किसी कीमत के आता है। यह मॉडल, API keys, टोकन या प्रोवाइडर खाते प्रदान नहीं करता है।

पहले अपने स्रोतों की शर्तें जाँचें

कई मॉडल स्रोत रीसेल करने या तीसरे पक्ष को एक्सेस देने पर प्रतिबंध लगाते हैं। केवल उन्हीं स्रोतों का उपयोग करें जिन्हें उपयोग करने और रीसेल करने के लिए आप अधिकृत हैं, और उनकी शर्तों तथा आप पर लागू होने वाले कानून का पालन करें। यह पृष्ठ कानूनी सलाह नहीं है।

AI Models AI Chat and AI Agent (मॉड्यूल AI, देखें AI providers) से एक अलग उत्पाद है। दोनों मॉड्यूल एक-दूसरे पर निर्भर नहीं हैं।

आवश्यकताएं

आइटम	आवश्यकता
मॉड्यूल	License & updates, Modules के तहत AI Models चालू होना चाहिए। यह डिफ़ॉल्ट रूप से बंद रहता है।
Providers	एक या अधिक मॉडल स्रोत जिन्हें रीसेल करने के लिए आप अधिकृत हैं, प्रत्येक OpenAI-संगत API (/chat/completions), Anthropic-संगत API (/messages), या दोनों के साथ। प्रत्येक के लिए एक base URL और एक API key आवश्यक है।
नेटवर्क	पैनल को सार्वजनिक डोमेन नाम पर port 443 पर HTTPS के माध्यम से प्रत्येक प्रोवाइडर तक पहुँचना चाहिए। इंटरनल होस्ट, किसी अन्य पोर्ट या प्लेन HTTP पर मौजूद प्रोवाइडर को Allowed internal hosts (सेटिंग ai_endpoint_allow) के तहत सूचीबद्ध किया जाना चाहिए।
ग्राहक	सत्यापित ईमेल पते और वॉलेट बैलेंस वाला ग्राहक खाता।
हार्डवेयर	कोई नहीं। NexCMP केवल अनुरोध अग्रेषित करता है: कोई GPU नहीं और कोई मॉडल फ़ाइलें नहीं।

बुनियादी ढांचा तैयार करें

1. प्रत्येक मॉडल स्रोत से एक API key प्राप्त करें जिसका आप उपयोग करेंगे, और उसका base URL नोट करें (उदाहरण के लिए https://api.example.com/v1)।
2. रीसेलिंग पर स्रोत की शर्तें जाँचें।
3. यदि कोई स्रोत आपके नेटवर्क के अंदर चलता है, तो उसका पता तय करें, उदाहरण के लिए http://10.0.0.5:8000/v1। आप 10.0.0.5:8000 को Allowed internal hosts के तहत सूचीबद्ध करेंगे।

NexCMP में कनेक्ट करें

1. मॉड्यूल चालू करें

System › Admin › License & updates खोलें, कार्ड Module ढूंढें, और AI Models को चालू करें। मेन्यू फिर से लोड होता है और Services › AI Models दिखाई देता है। जब तक मॉड्यूल बंद रहता है, ग्राहक पृष्ठ, admin पृष्ठ और गेटवे सभी 404 module_disabled उत्तर देते हैं, और किसी भी प्रोवाइडर से संपर्क नहीं किया जाता है।

2. प्रोवाइडर जोड़ें

1. AI Models › Providers खोलें और Add provider चुनें।
2. एक संक्षिप्त slug, एक name (केवल आप इसे देखते हैं), type (OpenAI-compatible, Anthropic-compatible या Both), base URL और API key, और एक priority दर्ज करें (कम संख्या को पहले आज़माया जाता है)।
3. सेव करें। key को एन्क्रिप्ट करके स्टोर किया जाता है और बाद में केवल इसके अंतिम चार अक्षर ही दिखाए जाते हैं। key केवल साइन-इन किए गए एडमिनिस्ट्रेटर सत्र से ही दर्ज की जा सकती है।

Both का उपयोग केवल ऐसे गेटवे के लिए करें जो वास्तव में दोनों फ़ॉर्मेट को सर्व करता हो। NexCMP दोनों फ़ॉर्मेट के बीच अनुवाद नहीं करता है: OpenAI-compatible प्रोवाइडर द्वारा सर्व किए जाने वाले मॉडल तक /ai/v1/chat/completions पर पहुँचा जाता है, और Anthropic-compatible प्रोवाइडर द्वारा सर्व किए जाने वाले मॉडल तक /ai/v1/messages पर।

3. कनेक्शन टेस्ट करें

प्रोवाइडर पर Test connection चुनें। NexCMP key के साथ GET <base URL>/models को पढ़ता है और ok रिपोर्ट करता है, या इसके विफल होने का कारण बताता है: auth (गलत key), blocked, billing, या unreachable। एक परीक्षण प्रति मिनट 6 तक सीमित है।

4. मॉडल सिंक करें

Sync models चुनें। NexCMP प्रदाता की मॉडल सूची पढ़ता है और प्रत्येक नए मॉडल को बिना किसी मूल्य के और स्विच ऑफ़ स्थिति में जोड़ता है। प्रदाता द्वारा हटाई गई मॉडल सूची को फ़्लैग कर दिया जाता है। जब मॉड्यूल चालू होता है, तो सूची हर 6 घंटे में अपने आप सिंक भी होती है (सेटिंग ai_models_sync_hours)।

5. कीमतें निर्धारित करें और मॉडल चालू करें

1. AI Models › Models खोलें।
2. प्रत्येक मॉडल जिसे आप बेचना चाहते हैं, उसके लिए प्रति 1 मिलियन टोकन अमेरिकी डॉलर में विक्रय मूल्य (selling price) निर्धारित करें: input, cached input और output।
3. वैकल्पिक रूप से मॉडल के लिए अपनी लागत दर्ज करें। फिर Profit दिन और मॉडल के अनुसार लागत के मुक़ाबले राजस्व दिखाता है, और आपकी लागत तथा न्यूनतम मार्जिन (सेटिंग ai_min_margin_pct, डिफ़ॉल्ट रूप से 10) से कम विक्रय मूल्य को तब तक अस्वीकार कर दिया जाता है जब तक कि आप जानबूझकर घाटे की पुष्टि न करें। Set price from cost आपके द्वारा चुने गए मार्कअप का उपयोग करता है; कोई डिफ़ॉल्ट मार्कअप नहीं है।
4. मॉडल चालू करें। बिना विक्रय मूल्य वाले मॉडल को चालू नहीं किया जा सकता। शून्य पर छोड़े गए cached input मूल्य पर input मूल्य के अनुसार शुल्क लिया जाता है।

6. रूट्स और फ़ेलओवर

किसी मॉडल पर, Routes उन प्रदाताओं को क्रम में सूचीबद्ध करता है जो इसे सेवा प्रदान करते हैं। फ़ॉलबैक के रूप में दूसरा प्रदाता जोड़ें, क्रम सेट करें, और वैकल्पिक रूप से प्रत्येक प्रदाता के लिए एक अलग मॉडल नाम दें (प्रदाता को भेजा गया नाम आपके द्वारा प्रकाशित नाम से भिन्न हो सकता है)। जब कोई प्रदाता सर्वर त्रुटि, प्रमाणीकरण या बिलिंग त्रुटि, गुम मॉडल या रेट सीमा लौटाता है, तो NexCMP अगले रूट का प्रयास करता है। यदि अनुरोध भेजे जाने के बाद रीड टाइमआउट हो जाता है, तो इसे दूसरे प्रदाता को नहीं भेजा जाता है, ताकि आपको दो बार भुगतान न करना पड़े।

प्रत्येक प्रदाता की गति ai_provider_rpm अनुरोध प्रति मिनट (डिफ़ॉल्ट रूप से 50) पर नियंत्रित की जाती है। यदि कोई प्रदाता बार-बार प्रमाणीकरण या बिलिंग त्रुटियाँ लौटाता है, तो Telegram सेट होने पर NexCMP व्यवस्थापक को Telegram पर सचेत करता है।

7. बिक्री स्विच खोलें

AI Models पृष्ठों के शीर्ष पर, बिक्री स्विच (सेटिंग feature_ai_models) डिफ़ॉल्ट रूप से बंद रहता है। जब तक यह बंद है, ग्राहकों को दिखता है कि सेवा अभी शुरू नहीं हुई है और सार्वजनिक मूल्य सूची इसे अनुपलब्ध बताती है। जाँचें कि कम से कम एक मॉडल चालू हो, उसका विक्रय मूल्य हो और कुंजी के साथ एक रूट हो, फिर इसे चालू करें।

ग्राहक क्या कर सकते हैं

ग्राहक पोर्टल में, AI › API:

• Models आपके मॉडल और कीमतें, बेस URL और पहले से तैयार उदाहरण कमांड दिखाता है।
• API Keys: कुंजियाँ बनाएँ, नाम बदलें, रोटेट करें, अक्षम करें और हटाएँ। सीक्रेट केवल एक बार दिखाया जाता है; केवल हैश संग्रहीत किया जाता है। प्रति कुंजी: अनुमत मॉडल, समाप्ति, सॉफ़्ट बजट (चेतावनी देता है) और हार्ड बजट (402 के साथ ब्लॉक करता है), अनुरोध प्रति मिनट और टोकन प्रति मिनट।
• मॉडल, कुंजी और दिन के अनुसार Usage, निर्यात के साथ।
• Logs: फ़िल्टर करने योग्य अनुरोध रिकॉर्ड (समय, कुंजी, मॉडल, टोकन, लागत, स्थिति, विलंबता)। प्रॉम्प्ट और प्रतिक्रियाएँ रिकॉर्ड नहीं की जाती हैं। लॉग डिफ़ॉल्ट रूप से 90 दिनों तक रखे जाते हैं (ai_log_retention_days)।
• Settings: एक खाता बजट और बजट अलर्ट के लिए ईमेल पता।
• Playground: किसी मॉडल से चैट करें, मॉडलों की साथ-साथ तुलना करें, और संबंधित कोड कॉपी करें।

गेटवे एंडपॉइंट, आपके डोमेन पर:

POST /ai/v1/chat/completions      OpenAI-compatible
POST /ai/v1/messages              Anthropic-compatible (also /ai/v1/messages/count_tokens)
GET  /ai/v1/models                model list
GET  /ai/v1/models/pricing        public price list, no key needed

वॉलेट और बिलिंग

AI उपयोग का शुल्क अन्य सभी सेवाओं की तरह उसी प्रीपेड वॉलेट से लिया जाता है। किसी प्रदाता के पास अनुरोध जाने से पहले, NexCMP अनुरोध की अधिकतम संभावित लागत के लिए राशि आरक्षित करता है; यदि शेष राशि न्यूनतम (ai_min_balance_cents, डिफ़ॉल्ट रूप से 20 सेंट) से कम या बहुत कम है, तो अनुरोध को 402 insufficient_balance के साथ अस्वीकार कर दिया जाता है और किसी भी प्रदाता को कॉल नहीं किया जाता है। उपयोग प्रति खाता एकत्र किया जाता है और प्रत्येक घंटे के बाद वॉलेट बहीखाता प्रविष्टियों में तय किया जाता है, जिसमें प्रत्येक 5 मिनट में स्वीप होता है; जो उपयोग अभी तक तय नहीं हुआ है, उसे गेटवे द्वारा दिखने वाली शेष राशि से पहले ही घटा दिया जाता है।

Reseller अपने स्वयं के डोमेन पर AI Models बेच सकते हैं: उनका मार्कअप या डिस्काउंट आपके विक्रय मूल्य पर लागू होता है और उनके थोक वॉलेट से थोक मूल्य काटा जाता है। प्रति-reseller AI स्विच, जो डिफ़ॉल्ट रूप से चालू होता है, यह नियंत्रित करता है कि इसे कौन बेच सकता है।

सत्यापित करें

1. चरण 3 के बाद, Test connection ok और मॉडल की संख्या दिखाता है।

2. चरण 4 के बाद नए मॉडल बिना मूल्य के, बंद स्थिति में सूचीबद्ध होते हैं।

3. फ़ंडेड वॉलेट वाले ग्राहक के रूप में, एक कुंजी बनाएं और गेटवे को कॉल करें:

   curl https://your-domain/ai/v1/chat/completions \
     -H "Authorization: Bearer sk-ai-…" -H "Content-Type: application/json" \
     -d '{"model":"model-one","messages":[{"role":"user","content":"hello"}]}'

   एक 200 प्रतिक्रिया मॉडल का उत्तर लाती है। Usage अनुरोध दिखाता है, और यदि आपने लागत दर्ज की है तो Profit इसे दिखाता है।

4. वॉलेट शून्य होने पर, वही कॉल 402 insufficient_balance लौटाती है।

सीमाएँ और नोट्स

• इस मॉड्यूल में कोई प्रोवाइडर, मॉडल या मूल्य पहले से शामिल नहीं है, और किसी प्रोवाइडर से कभी कोई मूल्य सूची नहीं पढ़ी जाती है।
• प्रोवाइडर साइड पर चलने वाले और प्रति कॉल चार्ज किए जाने वाले टूल्स, जैसे कि वेब सर्च, अस्वीकार कर दिए जाते हैं क्योंकि उन्हें मीटर नहीं किया जा सकता। केवल अनुरोध पैरामीटरों की एक संक्षिप्त सूची ही आगे भेजी जाती है।
• टोकन उपयोग प्रोवाइडर के उत्तर से लिया जाता है; यदि उत्तर में कोई टोकन नहीं है, तो NexCMP इसका अनुमान लगाता है और रिकॉर्ड को अनुमानित के रूप में चिह्नित करता है।
• ग्राहक तक पहुँचने से पहले प्रोवाइडर की त्रुटियों को साफ़ किया जाता है (नाम, होस्ट, पते और प्रोवाइडर का मॉडल नाम हटा दिए जाते हैं)। ग्राहक कभी नहीं देख पाते कि किस प्रोवाइडर ने अनुरोध को प्रोसेस किया।
• ग्राहक आपके पैनल के डोमेन के माध्यम से गेटवे तक पहुँचते हैं, इसलिए उस डोमेन का TLS काम करना चाहिए।
• NexCMP इस मॉड्यूल के लिए कोई सेवा-स्तरीय समझौता (SLA), फ़ाइन-ट्यूनिंग या GPU होस्टिंग प्रदान नहीं करता है।

ट्रबलशूटिंग

लक्षण	कारण और समाधान
प्रत्येक AI Models पेज और गेटवे 404 module_disabled का उत्तर देते हैं	मॉड्यूल बंद है। License & updates, Modules के तहत AI Models चालू करें।
प्रोवाइडर जोड़ना endpoint_host_not_allowed, endpoint_must_be_https या invalid_endpoint_port के साथ विफल रहता है	base URL एक पब्लिक डोमेन नेम पर पोर्ट 443 पर HTTPS होना चाहिए। किसी इंटरनल होस्ट, अन्य पोर्ट या प्लेन HTTP के लिए, host:port को Allowed internal hosts के तहत सूचीबद्ध करें।
blocked_endpoint	पता एक IP है, या नाम किसी निजी पते पर रिज़ॉल्व होता है। यदि आप यही चाहते हैं तो इसे Allowed internal hosts के तहत सूचीबद्ध करें।
Test connection कहता है auth	कुंजी गलत है या उसके पास एक्सेस नहीं है। कुंजी दोबारा दर्ज करें।
मॉडल चालू नहीं किया जा सकता (no_price)	पहले विक्रय मूल्य सेट करें।
ग्राहकों को 503 ai_unavailable मिलता है	बिक्री स्विच बंद है, या reseller का AI स्विच बंद है।
ग्राहकों को 503 upstream_unavailable मिलता है	कुंजी वाला कोई भी सक्षम रूट अनुरोधित प्रारूप में उस मॉडल को सेवा नहीं देता है। मॉडल के रूट्स और प्रोवाइडर प्रकार की जाँच करें।
ग्राहकों को 402 insufficient_balance मिलता है	वॉलेट न्यूनतम से कम है या अनुरोध के लिए बहुत छोटा है। ग्राहक से टॉप-अप करने के लिए कहें।