AI provider

ॲडमिनमध्ये कुठे: System › Settings › AI provider (/settings/ai). AI मॉड्यूल स्विच तिथे आणि System › Admin › License & updates (/license), Module कार्डवर आहे.

यह क्या करता है

AI Chat (स्वयंचलित सपोर्ट चॅट) आणि AI Agent (साध्या भाषेतील VM प्रशासन) सोबत कोणतेही इन-बिल्ट मॉडेल येत नाही. तुम्ही तुमचा स्वतःचा प्रदाता निवडता: कोणतीही सेवा जी OpenAI-सुसंगत chat/completions API देते — उदाहरणार्थ OpenAI, OpenRouter, LiteLLM गेटवे किंवा तुमचा स्वतःचा vLLM सर्वहर. NexCMP एंडपॉइंट आणि API की (एनक्रिप्टेड) सेव्ह करते आणि प्रत्येक AI फिचरसाठी त्यांचा वापर करते. तुम्ही थेट प्रदात्याला पैसे देता.

आवश्यकताएं

आइटम	आवश्यकता
Endpoint	OpenAI-सुसंगत बेस URL (https://api.openai.com/v1, https://ai.example.com/v1). NexCMP /chat/completions ला अशा URL मध्ये जोडते जी /v1 वर संपते; इतर कोणत्याही URL साठी ते /v1/chat/completions जोडते; जी URL आधीच /chat/completions वर संपते ती जशीच्या तशी वापरली जाते.
मॉडल	ऐसा मॉडल जो टूल (फ़ंक्शन) कॉलिंग को सपोर्ट करता हो। AI Chat और एजेंट दोनों इसी पर निर्भर करते हैं।
API कुंजी	उस एंडपॉइंट के लिए एक की। प्रदाता पक्ष पर स्पेंडिंग कैप (जैसे मासिक बजट के साथ LiteLLM वर्चुअल की) वाली की को प्राथमिकता दें।
नेटवर्क	पैनल सर्वर को HTTP(S) के ज़रिए एंडपॉइंट तक पहुँचना होगा। फ़ॉर्म में टाइप किया गया URL केवल पोर्ट 80, 443, 8080 या 8443 पर इंटरनेट की ओर इशारा कर सकता है; आंतरिक पते का उपयोग करने के लिए पहले प्रदाता को सहेजें और फिर परीक्षण करें।
डिपेंडेंसी	AI मॉड्यूल चालू है। एजेंट के लिए AI Agent देखें।

बुनियादी ढांचा तैयार करें

1. प्रदाता के पास साइन अप करें और एक API की बनाएं। यदि प्रदाता बजट या रेट लिमिट का समर्थन करता है, तो मासिक सीमा निर्धारित करें।

2. बेस URL और सटीक मॉडल का नाम (और वैकल्पिक रूप से, अधिकतम चार फ़ॉलबैक मॉडल) नोट करें।

3. इसे दर्ज करने से पहले NexCMP सर्वर से इसका परीक्षण करें:

   curl -s https://ai.example.com/v1/chat/completions \
     -H "Authorization: Bearer XXXX" -H "Content-Type: application/json" \
     -d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"Reply with one word: OK"}]}'

   choices[0].message.content वाला JSON उत्तर यह दर्शाता है कि एंडपॉइंट काम करता है।

NexCMP में कनेक्ट करें

1. System › Settings › AI provider खोलें।

2. कार्ड Module AI में मॉड्यूल को on पर स्विच करें। जब तक यह चालू नहीं होता, ग्राहक पोर्टल में AI Chat या AI Agent नहीं देख पाते। (आप इसे License & updates में भी स्विच कर सकते हैं।)

3. कार्ड Connection में भरें:

   फ़ील्ड	Example	नोट्स
   इस प्रदाता का उपयोग करें	चालू	चालू होने के लिए बेस URL, एक मॉडल और एक की की आवश्यकता होती है।
   डिस्प्ले नाम	LiteLLM	अधिकतम 60 वर्ण।
   बेस URL (OpenAI-संगत)	https://ai.example.com/v1	http:// या https://, अधिकतम 300 वर्ण, कोई स्पेस नहीं।
   प्रदाता API की	sk-XXXX	एन्क्रिप्टेड रूप से सहेजा गया; इसके बाद केवल अंतिम 4 वर्ण दिखाए जाते हैं। सहेजी गई की को बनाए रखने के लिए खाली छोड़ें।
   डिफ़ॉल्ट मॉडल	gpt-4o-mini	अक्षर, अंक और - _ . / : @।
   फ़ॉलबैक मॉडल	gemini-2.5-flash	कॉमा से अलग किए गए, अधिकतम 4। डिफ़ॉल्ट मॉडल के विफल होने पर उपयोग किया जाता है।
   रीज़निंग प्रयास	डिफ़ॉल्ट (भेजा नहीं गया)	Minimal, Low, Medium या High। रीज़निंग मॉडल (Gemini, o-सीरीज़) के लिए लो लेवल बहुत तेज़ी से उत्तर देता है। सामान्य मॉडल के लिए डिफ़ॉल्ट पर छोड़ें।

4. Save पर क्लिक करें, फिर Test connection पर क्लिक करें। परीक्षण एक छोटा प्रश्न भेजਦਾ है और Connected — <model>, <ms> ms या प्रदाता द्वारा लौटाई गई त्रुटि को दिखाता है।

सहेजने से क्या होता है

• प्रदाता सेटिंग्स को एक कॉन्फ़िगरेशन प्रविष्टि के रूप में सहेजा जाता है और की को इस उद्देश्य के लिए बाध्य AES-256-GCM के साथ, इंस्टॉलेशन की मास्टर की का उपयोग करके एन्क्रिप्ट किया जाता है।
• समर्थन सेटिंग्स Primary model और Fallback model (AI Chat द्वारा उपयोग) स्वचालित रूप से आपके डिफ़ॉल्ट और पहले फ़ॉलबैक मॉडल पर सेट हो जाती हैं।
• परिवर्तन ऑडिट लॉग में लिखा जाता है (एंडपॉइंट, मॉडल, क्या की बदली गई — की कभी नहीं)।

सत्यापित करें

1. Test connection हरा रंग दिखाता है।
2. एक परीक्षण ग्राहक के रूप में पोर्टल में साइन इन करें: मेनू अब AI Chat (या चैट बबल) और AI Agent प्रदान करता है।
3. AI Chat से पूछें "What is my balance?"। आपके वास्तविक शेष को बताने वाला उत्तर यह दर्शाता है कि प्रदाता टूल कॉल को सही ढंग से संभालता है।

Limits & notes

• एक प्रदाता। NexCMP चैट, एजेंट और टिकट जाँच के लिए एक एकल कॉन्फ़िगर किए गए प्रदाता का उपयोग करता है। फ़ॉलबैक मॉडल उस प्रदाता के भीतर लचीलापन प्रदान करते हैं।
• की सुरक्षा। सहेजी गई की केवल सहेजे गए एंडपॉइंट पर भेजी जाती है। यदि आप बेस URL बदलते हैं तो परीक्षण करने से पहले आपको की को फिर से टाइप करना होगा।
• प्रति ग्राहक सीमा। AI Chat केवल साइन-इन किए गए ग्राहकों के लिए है, जिसमें प्रति-मिनट और प्रति-चैट संदेश सीमाएं होती हैं। एजेंट की प्रति खाता दैनिक कॉल सीमा होती है। AI Chat और AI Agent देखें।
• गोपनीयता। ग्राहक के प्रश्न और AI द्वारा उस ग्राहक के लिए पढ़ा जाने वाला डेटा (केवल-पढ़ने योग्य) आपके प्रदाता को भेजा जाता है। इसे अपनी privacy policy में बताएं।
• लागत नियंत्रण। NexCMP AI लागत को मापता नहीं है; प्रदाता की बजट सुविधाओं का उपयोग करें।
• मॉड्यूल को किसी भी समय बंद किया जा सकता है: AI मेनू आइटम गायब हो जाते हैं और AI रूट 404 देते हैं module_disabled। AI Chat के कुछ बैकग्राउंड जॉब (टिकट जांच, विलंबित उत्तर) पैनल के अगले रीस्टार्ट पर बदलाव को लागू करते हैं।

ट्रबलशूटिंग

लक्षण	कारण	सुधार
base_url must be an http(s) URL	स्कीम या स्पेस गायब हैं	https://host/v1 का उपयोग करें।
api_key is required to enable the provider	कोई की संग्रहीत नहीं है	की दर्ज करें और सहेजें।
base_url and model are required to enable the provider	रिक्त फ़ील्ड	दोनों भरें।
"बेस URL ब्लॉक किया गया: केवल सार्वजनिक http(s), पोर्ट 80/443/8080/8443"	किसी सहेजे गए आंतरिक पते या अन्य पोर्ट का परीक्षण करना	पहले प्रदाता को सहेजें, फिर परीक्षण करें।
api_key is required (enter the key again when you change the endpoint)	Base URL सहेजे गए URL से भिन्न है	की को दोबारा टाइप करें।
model: letters, digits and - _ . / : @	अमान्य वर्ण	प्रदाता की सटीक मॉडल ID का उपयोग करें।
fallback_models: up to 4 model names	बहुत अधिक	चार या उससे कम रखें।
परीक्षण 401 के साथ विफल होता है	Wrong key	की और एंडपॉइंट की जांच करें।
परीक्षण 404 या "model not found" के साथ विफल होता है	गलत पथ या मॉडल	बेस URL (/v1) और मॉडल ID की जांच करें।
Too many tests — wait a minute (429)	प्रति मिनट 10 से अधिक परीक्षण	प्रतीक्षा करें।
पोर्टल में अभी भी कोई AI मेनू नहीं दिख रहा है	मॉड्यूल बंद है, या प्रदाता "in use" नहीं है	मॉड्यूल चालू करें और प्रदाता को सक्षम करें।