---
title: AI provider
description: AI Chat आणि AI Agent साठी OpenAI-सुसंगत AI एंडपॉइंट कनेक्ट करा — AI मॉड्यूल्स चालू करा, एंडपॉइंट आणि की टाका, टेस्ट करा आणि मर्यादा सेट करा.
url: https://nexcmp.com/hi/docs/ai/ai-providers/
applies_to: NexCMP 1.6.1
updated: 2026-11-02
---

# AI provider {#ai-provider}

> **ॲडमिनमध्ये कुठे:** System › Settings › AI provider (`/settings/ai`). AI मॉड्यूल स्विच तिथे आणि System › Admin › License & updates (`/license`), **Module** कार्डवर आहे.

## यह क्या करता है {#what-it-does}

AI Chat (स्वयंचलित सपोर्ट चॅट) आणि AI Agent (साध्या भाषेतील VM प्रशासन) सोबत कोणतेही इन-बिल्ट मॉडेल येत नाही. तुम्ही **तुमचा स्वतःचा प्रदाता** निवडता: कोणतीही सेवा जी **OpenAI-सुसंगत** `chat/completions` API देते — उदाहरणार्थ OpenAI, OpenRouter, LiteLLM गेटवे किंवा तुमचा स्वतःचा vLLM सर्वहर. NexCMP एंडपॉइंट आणि API की (एनक्रिप्टेड) सेव्ह करते आणि प्रत्येक AI फिचरसाठी त्यांचा वापर करते. तुम्ही थेट प्रदात्याला पैसे देता.

## आवश्यकताएं {#requirements}

| आइटम | आवश्यकता |
|---|---|
| Endpoint | OpenAI-सुसंगत बेस URL (`https://api.openai.com/v1`, `https://ai.example.com/v1`). NexCMP `/chat/completions` ला अशा URL मध्ये जोडते जी `/v1` वर संपते; इतर कोणत्याही URL साठी ते `/v1/chat/completions` जोडते; जी URL आधीच `/chat/completions` वर संपते ती जशीच्या तशी वापरली जाते. |
| मॉडल | ऐसा मॉडल जो **टूल (फ़ंक्शन) कॉलिंग** को सपोर्ट करता हो। AI Chat और एजेंट दोनों इसी पर निर्भर करते हैं। |
| API कुंजी | उस एंडपॉइंट के लिए एक की। प्रदाता पक्ष पर **स्पेंडिंग कैप** (जैसे मासिक बजट के साथ LiteLLM वर्चुअल की) वाली की को प्राथमिकता दें। |
| नेटवर्क | पैनल सर्वर को HTTP(S) के ज़रिए एंडपॉइंट तक पहुँचना होगा। फ़ॉर्म में टाइप किया गया URL केवल पोर्ट 80, 443, 8080 या 8443 पर इंटरनेट की ओर इशारा कर सकता है; आंतरिक पते का उपयोग करने के लिए पहले प्रदाता को सहेजें और फिर परीक्षण करें। |
| डिपेंडेंसी | **AI** मॉड्यूल चालू है। एजेंट के लिए [AI Agent](https://nexcmp.com/hi/docs/ai/ai-agent/#requirements) देखें। |

## बुनियादी ढांचा तैयार करें {#prepare-the-infrastructure}

1. प्रदाता के पास साइन अप करें और एक API की बनाएं। यदि प्रदाता बजट या रेट लिमिट का समर्थन करता है, तो मासिक सीमा निर्धारित करें।
2. **बेस URL** और सटीक **मॉडल का नाम** (और वैकल्पिक रूप से, अधिकतम चार फ़ॉलबैक मॉडल) नोट करें।
3. इसे दर्ज करने से पहले NexCMP सर्वर से इसका परीक्षण करें:

   ```bash
   curl -s https://ai.example.com/v1/chat/completions \
     -H "Authorization: Bearer XXXX" -H "Content-Type: application/json" \
     -d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"Reply with one word: OK"}]}'
   ```

   `choices[0].message.content` वाला JSON उत्तर यह दर्शाता है कि एंडपॉइंट काम करता है।

## NexCMP में कनेक्ट करें {#connect-in-nexcmp}

1. **System › Settings › AI provider** खोलें।
2. कार्ड **Module AI** में मॉड्यूल को **on** पर स्विच करें। जब तक यह चालू नहीं होता, ग्राहक पोर्टल में AI Chat या AI Agent नहीं देख पाते। (आप इसे **License & updates** में भी स्विच कर सकते हैं।)
3. कार्ड **Connection** में भरें:

   | फ़ील्ड | Example | नोट्स |
   |---|---|---|
   | इस प्रदाता का उपयोग करें | चालू | चालू होने के लिए बेस URL, एक मॉडल और एक की की आवश्यकता होती है। |
   | डिस्प्ले नाम | `LiteLLM` | अधिकतम 60 वर्ण। |
   | बेस URL (OpenAI-संगत) | `https://ai.example.com/v1` | `http://` या `https://`, अधिकतम 300 वर्ण, कोई स्पेस नहीं। |
   | प्रदाता API की | `sk-XXXX` | एन्क्रिप्टेड रूप से सहेजा गया; इसके बाद केवल अंतिम 4 वर्ण दिखाए जाते हैं। सहेजी गई की को बनाए रखने के लिए खाली छोड़ें। |
   | डिफ़ॉल्ट मॉडल | `gpt-4o-mini` | अक्षर, अंक और `- _ . / : @`। |
   | फ़ॉलबैक मॉडल | `gemini-2.5-flash` | कॉमा से अलग किए गए, अधिकतम 4। डिफ़ॉल्ट मॉडल के विफल होने पर उपयोग किया जाता है। |
   | रीज़निंग प्रयास | डिफ़ॉल्ट (भेजा नहीं गया) | `Minimal`, `Low`, `Medium` या `High`। रीज़निंग मॉडल (Gemini, o-सीरीज़) के लिए लो लेवल बहुत तेज़ी से उत्तर देता है। सामान्य मॉडल के लिए डिफ़ॉल्ट पर छोड़ें। |

4. **Save** पर क्लिक करें, फिर **Test connection** पर क्लिक करें। परीक्षण एक छोटा प्रश्न भेजਦਾ है और `Connected — <model>, <ms> ms` या प्रदाता द्वारा लौटाई गई त्रुटि को दिखाता है।

![AI मॉड्यूल चालू होने और कनेक्शन फ़ॉर्म में उदाहरण मान भरे होने के साथ AI प्रदाता पेज](https://nexcmp.com/hi/docs/images/ai/ai-providers-01-connection.webp)


### सहेजने से क्या होता है {#what-saving-does}

- प्रदाता सेटिंग्स को एक कॉन्फ़िगरेशन प्रविष्टि के रूप में सहेजा जाता है और की को इस उद्देश्य के लिए बाध्य AES-256-GCM के साथ, इंस्टॉलेशन की मास्टर की का उपयोग करके एन्क्रिप्ट किया जाता है।
- समर्थन सेटिंग्स **Primary model** और **Fallback model** (AI Chat द्वारा उपयोग) स्वचालित रूप से आपके डिफ़ॉल्ट और पहले फ़ॉलबैक मॉडल पर सेट हो जाती हैं।
- परिवर्तन ऑडिट लॉग में लिखा जाता है (एंडपॉइंट, मॉडल, क्या की बदली गई — की कभी नहीं)।

## सत्यापित करें {#verify}

1. **Test connection** हरा रंग दिखाता है।
2. एक परीक्षण ग्राहक के रूप में पोर्टल में साइन इन करें: मेनू अब **AI Chat** (या चैट बबल) और **AI Agent** प्रदान करता है।
3. AI Chat से पूछें "What is my balance?"। आपके वास्तविक शेष को बताने वाला उत्तर यह दर्शाता है कि प्रदाता टूल कॉल को सही ढंग से संभालता है।

## Limits & notes {#limits-notes}

- **एक प्रदाता।** NexCMP चैट, एजेंट और टिकट जाँच के लिए एक एकल कॉन्फ़िगर किए गए प्रदाता का उपयोग करता है। फ़ॉलबैक मॉडल उस प्रदाता के भीतर लचीलापन प्रदान करते हैं।
- **की सुरक्षा।** सहेजी गई की केवल सहेजे गए एंडपॉइंट पर भेजी जाती है। यदि आप बेस URL बदलते हैं तो परीक्षण करने से पहले आपको की को फिर से टाइप करना होगा।
- **प्रति ग्राहक सीमा।** AI Chat केवल साइन-इन किए गए ग्राहकों के लिए है, जिसमें प्रति-मिनट और प्रति-चैट संदेश सीमाएं होती हैं। एजेंट की प्रति खाता दैनिक कॉल सीमा होती है। [AI Chat](https://nexcmp.com/hi/docs/ai/ai-chat/) और [AI Agent](https://nexcmp.com/hi/docs/ai/ai-agent/) देखें।
- **गोपनीयता।** ग्राहक के प्रश्न और AI द्वारा उस ग्राहक के लिए पढ़ा जाने वाला डेटा (केवल-पढ़ने योग्य) आपके प्रदाता को भेजा जाता है। इसे अपनी [privacy policy](https://nexcmp.com/hi/docs/customers/legal/) में बताएं।
- **लागत नियंत्रण।** NexCMP AI लागत को मापता नहीं है; प्रदाता की बजट सुविधाओं का उपयोग करें।
- मॉड्यूल को किसी भी समय बंद किया जा सकता है: AI मेनू आइटम गायब हो जाते हैं और AI रूट 404 देते हैं `module_disabled`। AI Chat के कुछ बैकग्राउंड जॉब (टिकट जांच, विलंबित उत्तर) पैनल के अगले रीस्टार्ट पर बदलाव को लागू करते हैं।

## ट्रबलशूटिंग {#troubleshooting}

| लक्षण | कारण | सुधार |
|---|---|---|
| `base_url must be an http(s) URL` | स्कीम या स्पेस गायब हैं | `https://host/v1` का उपयोग करें। |
| `api_key is required to enable the provider` | कोई की संग्रहीत नहीं है | की दर्ज करें और सहेजें। |
| `base_url and model are required to enable the provider` | रिक्त फ़ील्ड | दोनों भरें। |
| "बेस URL ब्लॉक किया गया: केवल सार्वजनिक http(s), पोर्ट 80/443/8080/8443" | किसी सहेजे गए आंतरिक पते या अन्य पोर्ट का परीक्षण करना | पहले प्रदाता को सहेजें, फिर परीक्षण करें। |
| `api_key is required (enter the key again when you change the endpoint)` | Base URL सहेजे गए URL से भिन्न है | की को दोबारा टाइप करें। |
| `model: letters, digits and - _ . / : @` | अमान्य वर्ण | प्रदाता की सटीक मॉडल ID का उपयोग करें। |
| `fallback_models: up to 4 model names` | बहुत अधिक | चार या उससे कम रखें। |
| परीक्षण 401 के साथ विफल होता है | Wrong key | की और एंडपॉइंट की जांच करें। |
| परीक्षण 404 या "model not found" के साथ विफल होता है | गलत पथ या मॉडल | बेस URL (`/v1`) और मॉडल ID की जांच करें। |
| `Too many tests — wait a minute` (429) | प्रति मिनट 10 से अधिक परीक्षण | प्रतीक्षा करें। |
| पोर्टल में अभी भी कोई AI मेनू नहीं दिख रहा है | मॉड्यूल बंद है, या प्रदाता "in use" नहीं है | मॉड्यूल चालू करें और प्रदाता को सक्षम करें। |