सामग्री पर जाएं
HI
NexCMP मुफ़्त प्राप्त करें

AI Models

ओपन सोर्स AI API रीसेलर और LLM बिलिंग प्लेटफ़ॉर्म

NexCMP AI Models सेल्फ़-होस्टेड NexCMP पैनल के लिए एक ऐड-ऑन है जो आपको अपने डोमेन पर AI मॉडलों का एक्सेस बेचने की सुविधा देता है। आप उन मॉडल स्रोतों को कनेक्ट करते हैं जिन्हें इस्तेमाल करने के लिए आप अधिकृत हैं, प्रत्येक मॉडल की कीमत तय करते हैं, और आपके ग्राहक एक ही API key से उन्हें कॉल करते हैं, प्रति टोकन उपयोग मापा जाता है और वे प्रीपेड वॉलेट से भुगतान करते हैं।

NexCMP मुफ़्त प्राप्त करेंNexCMP Source प्राप्त करें — $499डेमो देखें

AI Models, NexCMP का ही हिस्सा है और इसके लिए कोई अतिरिक्त शुल्क नहीं लगता। जब तक आप इसे चालू नहीं करते, यह बंद रहता है। NexCMP मॉडल, API keys, टोकन या प्रोवाइडर खाते उपलब्ध नहीं कराता: आप वे स्रोत स्वयं लाते हैं जिन्हें उपयोग करने के लिए आप अधिकृत हैं।NexCMP Source: एकमुश्त $499 में पूरा सोर्स कोड। अपने व्यवसाय के लिए उपयोग करें, बदलाव करें और सेल्फ़-होस्ट करें। आप अपने द्वारा संचालित सेवाएँ बेच सकते हैं; आप सोर्स कोड या बिल्ड्स को रीसेल या पुनर्वितरित नहीं कर सकते। Source लाइसेंस की शर्तें

NexCMP AI Models ऐड-ऑन क्या है?

NexCMP पहले से ही प्रीपेड वॉलेट से वर्चुअल मशीनों की बिलिंग करता है। AI Models उसी पैनल में एक गेटवे जोड़ता है, जिससे सर्वर बेचने वाले वॉलेट, ग्राहक, रीसेलर और सपोर्ट टिकट अब AI API एक्सेस भी बेच सकते हैं।

यह एक बिलिंग और नियंत्रण लेयर है, न कि कोई मॉडल सप्लायर। आप उन प्रोवाइडर्स को जोड़ते हैं जिनका उपयोग करने का अधिकार आपके पास है, चुनते हैं कि कौन से मॉडल पेश करने हैं और प्रत्येक की कीमत क्या होगी, और आपके ग्राहक अपने डोमेन पर एक ही एंडपॉइंट को अपनी keys के साथ कॉल करते हैं। ग्राहक केवल आपका डोमेन और आपकी कीमतें देखते हैं, वह प्रोवाइडर कभी नहीं जिसने अनुरोध को प्रोसेस किया।

क्या आप AI Chat और AI Agent की तलाश कर रहे हैं? वह एक अलग उत्पाद है: ग्राहक पोर्टल के भीतर एक सहायक और एक एजेंट जो ग्राहक के सर्वर पर काम करता है। यह मॉडल एक्सेस नहीं बेचता, और दोनों मॉड्यूल एक-दूसरे पर निर्भर नहीं हैं।

आपके ग्राहक AI Models का उपयोग कैसे करते हैं

प्रत्येक स्क्रीन ग्राहक पोर्टल में सर्विस पेज का एक टैब है, जिसे नमूना डेटा के साथ दिखाया गया है। कोई टैब चुनें, तीरों या बाएँ और दाएँ कुंजियों का उपयोग करें, या पूर्ण-स्क्रीन व्यूअर खोलें।

Models

कस्टमर पोर्टल, AI Models टैब Models: प्राइसिंग API लिंक और टैग्स, कॉन्टेक्स्ट साइज़, इनपुट प्राइस और आउटपुट प्राइस के साथ मॉडल्स की तालिका।
प्रति मिलियन टोकन कीमतों के साथ बिक्री पर उपलब्ध मॉडल्स, और प्राइसिंग API का लिंक।

API Keys

कस्टमर पोर्टल, AI Models API Keys टैब: मास्क किए गए सीक्रेट, अंतिम उपयोग, स्टेटस और बजट के विरुद्ध खर्च के साथ कीज़ की सूची, साथ ही OpenAI-संगत और Anthropic-संगत बेस URLs।
कीज़ बनाएं, प्रति की बजट सेट करें, और OpenAI-संगत व Anthropic-संगत क्लाइंट्स के लिए बेस URLs कॉपी करें।

उपयोग

कस्टमर पोर्टल, AI Models Usage टैब: कुल खर्च, अनुरोध, सफल और विफल अनुरोध, टोकन और दैनिक खर्च चार्ट।
दिन, मॉडल और की के अनुसार खर्च, अनुरोध और टोकन।

लॉग्स

कस्टमर पोर्टल, AI Models Logs टैब: समय, प्रकार, स्टेटस, रिक्वेस्ट ID, लागत, अवधि और की के साथ अनुरोध सूची।
प्रत्येक अनुरोध के लिए स्टेटस, लागत और अवधि के साथ एक पंक्ति। प्रॉम्प्ट्स और उत्तर स्टोर नहीं किए जाते हैं।

सेटिंग्स

कस्टमर पोर्टल, AI Models Settings टैब: वर्तमान चक्र का खर्च, सॉफ्ट और हार्ड बजट नियम, अलर्ट ईमेल और रेट लिमिट्स।
अलर्ट भेजने वाला सॉफ्ट बजट, अनुरोधों को ब्लॉक करने वाली हार्ड लिमिट, और रेट लिमिट्स।

Playground

कस्टमर पोर्टल, AI Models Playground टैब: मॉडल पिकर और एडवांस पैरामीटर्स के साथ एक चैट।
कोड से कॉल करने से पहले ब्राउज़र में मॉडल आज़माएं।

आपके ग्राहक से आपके प्रोवाइडर तक

ग्राहक आपके डोमेन को कॉल करते हैं। NexCMP key, सीमाओं और वॉलेट की जांच करता है, फिर अनुरोध आपके द्वारा जोड़े गए प्रोवाइडर को भेजता है।

Provider A और Provider B उन मॉडल स्रोतों के प्रतीक हैं जिन्हें आप स्वयं जोड़ते हैं। NexCMP इनमें से कोई भी प्रदान नहीं करता।

AI API एक्सेस बेचने के लिए आपको क्या चाहिए

NexCMP सॉफ़्टवेयर का हिस्सा संभालता है। बाकी सब आपकी ज़िम्मेदारी है।

  • ऐसे मॉडल स्रोत जिनका उपयोग करने और जिन्हें फिर से बेचने के लिए आप अधिकृत हैं: OpenAI-compatible या Anthropic-compatible API वाले एक या अधिक प्रोवाइडर।
  • AI Models मॉड्यूल चालू किया हुआ एक NexCMP पैनल।
  • आपके द्वारा पेश किए जाने वाले प्रत्येक मॉडल के लिए आपके द्वारा निर्धारित विक्रय मूल्य।
  • आपके ग्राहकों के लिए सपोर्ट और आपकी अपनी स्वीकार्य-उपयोग नीति।
  • ऐसा पैनल जो HTTPS के ज़रिए आपके प्रोवाइडर्स तक पहुँच सके।

एक key, कई मॉडल

ग्राहक का क्लाइंट आपके डोमेन को पॉइंट करता है और आपके पैनल से प्राप्त key का उपयोग करता है। एक ही key उन सभी मॉडलों को कॉल कर सकती है जिन्हें उपयोग करने की उसे अनुमति है। गेटवे पैनल के अपने डोमेन पर चलता है और दोनों फ़ॉर्मैट में उत्तर स्ट्रीम करता है।

  • Anthropic-compatible क्लाइंट /ai/v1/messages/count_tokens का भी उपयोग कर सकते हैं।
  • टोकन उपयोग प्रोवाइडर के उत्तर से लिया जाता है। यदि उत्तर में कोई विवरण नहीं होता, तो NexCMP इसका अनुमान लगाता है और रिकॉर्ड को अनुमानित के रूप में चिह्नित करता है।
  • गेटवे दोनों फ़ॉर्मैट के बीच अनुवाद नहीं करता है। OpenAI-compatible प्रोवाइडर द्वारा सर्व किया जाने वाला मॉडल OpenAI-compatible एंडपॉइंट के ज़रिए एक्सेस किया जाता है, और Anthropic-compatible प्रोवाइडर द्वारा सर्व किया जाने वाला मॉडल Anthropic-compatible एंडपॉइंट के ज़रिए। Both प्रकार का प्रोवाइडर दोनों को सर्व करता है।
  • प्रोवाइडर की ओर चलने वाले और प्रति कॉल शुल्क लिए जाने वाले टूल्स, जैसे कि वेब सर्च, अस्वीकार कर दिए जाते हैं क्योंकि उनका मीटरिंग नहीं किया जा सकता। केवल सुरक्षित अनुरोध पैरामीटर्स की एक संक्षिप्त सूची ही आगे भेजी जाती है।
POST https://your-domain/ai/v1/chat/completions   OpenAI-compatible
POST https://your-domain/ai/v1/messages            Anthropic-compatible
GET  https://your-domain/ai/v1/models              model list
GET  https://your-domain/ai/v1/models/pricing      public price list, no key

अपने स्वयं के मॉडल स्रोत लाएँ

कुछ भी पहले से लोड नहीं आता: न कोई प्रोवाइडर, न कोई मॉडल, न कोई डिफ़ॉल्ट पता और न ही कोई मूल्य सूची।

  • प्रोवाइडर जोड़ें

    इसे एक नाम, एक प्रकार (OpenAI-compatible, Anthropic-compatible या Both), बेस URL, इसकी API key, प्राथमिकता और एक चालू या बंद स्विच दें। key को एन्क्रिप्ट करके स्टोर किया जाता है और बाद में केवल इसके अंतिम चार अक्षर ही दिखाए जाते हैं।

  • कनेक्शन का परीक्षण करें

    एक परीक्षण प्रोवाइडर की मॉडल सूची को पढ़ता है और सफलता की रिपोर्ट देता है, या यह बताता है कि यह क्यों विफल रहा: प्रमाणीकरण, ब्लॉक किया गया पता, बिलिंग या अगम्य होस्ट।

  • मॉडल सूची सिंक करें

    NexCMP प्रोवाइडर की सूची पढ़ता है और बिना मूल्य के नए मॉडल्स को बंद स्थिति में जोड़ता है। जिस मॉडल को प्रोवाइडर हटा देता है, उसे फ़्लैग कर दिया जाता है। जब मॉड्यूल चालू होता है, तो डिफ़ॉल्ट रूप से सूची हर 6 घंटे में अपने आप सिंक हो जाती है।

  • पतों की जाँच की जाती है

    प्रोवाइडर का पता पोर्ट 443 पर HTTPS और एक सार्वजनिक डोमेन होना चाहिए। आंतरिक होस्ट्स, अन्य पोर्ट्स और सामान्य HTTP तभी स्वीकार किए जाते हैं जब आप उन्हें Allowed internal hosts में सूचीबद्ध करते हैं।

  • कीमतें आपके नियंत्रण में हैं

    NexCMP किसी प्रोवाइडर से कोई मूल्य नहीं पढ़ता है। प्रत्येक बिक्री मूल्य आपके द्वारा ही निर्धारित किया जाता है।

प्रति-मॉडल मूल्य निर्धारण

आप तय करते हैं कि आपके ग्राहकों के लिए प्रत्येक मॉडल का क्या शुल्क होगा।

  • प्रति मॉडल तीन कीमतें

    इनपुट, कैश्ड इनपुट और आउटपुट, प्रति 1 मिलियन टोकन अमेरिकी डॉलर में। बिना बिक्री मूल्य वाले मॉडल को चालू नहीं किया जा सकता।

  • कैश्ड इनपुट

    जब तक आप कैश्ड इनपुट मूल्य निर्धारित नहीं करते, कैश्ड टोकन पर इनपुट मूल्य के हिसाब से शुल्क लिया जाता है। वे मुफ़्त नहीं हैं।

  • वैकल्पिक लागत मूल्य

    यदि आप Profit पृष्ठ पर प्रतिदिन और प्रति-मॉडल लाभ और हानि देखना चाहते हैं, तो दर्ज करें कि एक मॉडल की आपके लिए क्या लागत है। ऐसा करने पर, आपकी लागत और न्यूनतम मार्जिन से कम का बिक्री मूल्य तब तक अस्वीकार कर दिया जाएगा जब तक कि आप जानबूझकर नुकसान की पुष्टि नहीं करते।

  • लागत से मूल्य निर्धारित करें

    एक बटन आपकी लागत में आपके द्वारा चुने गए मार्कअप को जोड़कर बिक्री मूल्य निर्धारित करता है। कोई डिफ़ॉल्ट मार्कअप नहीं है।

  • सार्वजनिक मूल्य सूची

    ग्राहक और विज़िटर आपके गेटवे के मूल्य सूची पते पर बिना किसी कुंजी के आपकी कीमतें देख सकते हैं।

API कुंजियाँ, सीमाएँ, उपयोग और लॉग्स

प्रत्येक आइटम या तो पोर्टल में ग्राहक द्वारा किया जाता है, या आपके द्वारा उनके लिए निर्धारित किया जाता है।

  • कुंजियाँ

    कुंजियाँ बनाएं, नाम बदलें, रोटेट करें, अक्षम करें और हटाएं। एक सीक्रेट केवल एक बार दिखाया जाता है, और NexCMP केवल इसका हैश स्टोर करता है।

  • अनुमत मॉडल्स और समाप्ति

    किसी कुंजी को मॉडल्स की सूची तक सीमित करें और उसकी समाप्ति तिथि निर्धारित करें।

  • बजट

    सॉफ़्ट बजट नोटिफ़िकेशन और ईमेल द्वारा चेतावनी देता है। हार्ड बजट 402 गड़बड़ी के साथ अनुरोधों को ब्लॉक करता है। दोनों प्रति अवधि, एक कुंजी और पूरे खाते के लिए काम करते हैं।

  • रेट लिमिट्स

    अनुरोध प्रति मिनट और टोकन प्रति मिनट, प्रति कुंजी और प्रति खाता, साथ ही समवर्ती अनुरोधों पर सीमा और प्रति खाता कुंजियों की अधिकतम संख्या।

  • उपयोग

    मॉडल, कुंजी और दिन के अनुसार उपयोग, CSV निर्यात के साथ।

  • लॉग्स

    समय, कुंजी, मॉडल, टोकन, लागत, स्थिति और लेटेंसी के साथ फ़िल्टर करने योग्य अनुरोध लॉग्स। NexCMP प्रॉम्प्ट्स या प्रतिक्रियाओं को रिकॉर्ड नहीं करता है। लॉग्स डिफ़ॉल्ट रूप से 90 दिनों के लिए रखे जाते हैं।

LLM API के लिए वॉलेट बिलिंग

AI उपयोग का शुल्क ग्राहक के प्रीपेड वॉलेट से लिया जाता है, वही वॉलेट जो अन्य सभी NexCMP सेवाओं के लिए भुगतान करता है। आप कीमतें निर्धारित करते हैं; ग्राहक सामान्य तरीके से टॉप अप करता है।

किसी प्रोवाइडर को अनुरोध भेजे जाने से पहले, NexCMP वॉलेट से उस अधिकतम राशि को आरक्षित करता है जो अनुरोध में खर्च हो सकती है। यदि शेष राशि न्यूनतम (डिफ़ॉल्ट रूप से 20 सेंट) से कम है या बहुत कम है, तो 402 insufficient_balance गड़बड़ी के साथ अनुरोध अस्वीकार कर दिया जाता है और किसी प्रोवाइडर को कॉल नहीं किया जाता है। चूंकि आरक्षण पहले होता है, इसलिए समानांतर अनुरोध वॉलेट को शून्य से नीचे नहीं ले जा सकते।

उपयोग को प्रति खाता एकत्र किया जाता है और घंटा बीतने के बाद वॉलेट लेज़र प्रविष्टियों में सेटल किया जाता है, जिसमें हर 5 मिनट में एक स्वीप होता है। जो उपयोग अभी सेटल नहीं हुआ है, उसे गेटवे द्वारा दिखने वाले बैलेंस से पहले ही घटा दिया जाता है।

प्रोवाइडर्स के बीच रूटिंग और फ़ेलओवर

  • प्रति मॉडल कई रूट्स

    एक मॉडल में आपके द्वारा चुने गए क्रम में कई प्रोवाइडर्स के रूट्स हो सकते हैं, जिनमें से प्रत्येक चालू या बंद हो सकता है। किसी प्रोवाइडर को भेजा गया मॉडल नाम आपके द्वारा प्रकाशित नाम से भिन्न हो सकता है।

  • फ़ेलओवर

    जब कोई प्रोवाइडर सर्वर त्रुटि, ऑथराइजेशन या बिलिंग गड़बड़ी, अनुपलब्ध मॉडल या रेट लिमिट के कारण विफल हो जाता है, तो NexCMP अगले रूट का प्रयास करता है।

  • दोहरा शुल्क नहीं

    यदि अनुरोध भेजे जाने के बाद रीड टाइम आउट हो जाता है, तो NexCMP इसे किसी अन्य प्रोवाइडर को नहीं भेजता है, जिससे आपको एक अनुरोध के लिए दो बार भुगतान नहीं करना पड़ता।

  • प्रति प्रोवाइडर गति

    प्रत्येक प्रोवाइडर के लिए अनुरोध प्रति मिनट सीमित होते हैं, डिफ़ॉल्ट रूप से 50, ताकि अत्यधिक उपयोग की अवधि किसी स्रोत को समाप्त न कर दे।

  • अलर्ट

    यदि कोई प्रदाता लगातार ऑथराइजेशन या बिलिंग त्रुटियां लौटाता है, तो Telegram सेट होने पर NexCMP एडमिनिस्ट्रेटर को Telegram पर सूचित करता है।

  • प्रदाता विवरण छिपे रहते हैं

    त्रुटियों को ग्राहक तक पहुँचने से पहले साफ़ कर दिया जाता है: प्रदाता के नाम, होस्ट, अपस्ट्रीम मॉडल नाम और पते हटा दिए जाते हैं, और प्रदाता हेडर आगे नहीं भेजे जाते हैं। ग्राहकों को यह नहीं दिखता कि किस प्रदाता ने रिक्वेस्ट को सर्व किया।

Playground और ग्राहक पोर्टल

प्रत्येक आइटम वह क्रिया है जो कोई ग्राहक आपके डोमेन पर पोर्टल में करता है।

  • मॉडल और कीमतें

    अपने द्वारा ऑफ़र किए जाने वाले मॉडल उनकी कीमतों, बेस URL और रेडी-मेड उदाहरण कमांड के साथ देखें।

  • Keys, उपयोग और लॉग

    Keys बनाएं, मॉडल, key और दिन के अनुसार उपयोग देखें, और रिक्वेस्ट लॉग फ़िल्टर करें। लॉग केवल मेटाडेटा दिखाते हैं, कभी भी रिक्वेस्ट की सामग्री नहीं।

  • सेटिंग्स

    खाता बजट और अलर्ट प्राप्त करने वाला ईमेल पता सेट करें।

  • Playground

    किसी मॉडल के साथ चैट करें, साथ-साथ कई मॉडलों की तुलना करें, और Get Code के साथ संबंधित कोड कॉपी करें।

एक ऑपरेटर के रूप में आप क्या कर सकते हैं

प्रत्येक आइटम NexCMP एडमिन कंसोल में उपलब्ध है।

  • प्रदाता, मॉडल और रूट्स

    प्रदाताओं को जोड़ें और टेस्ट करें, उनकी मॉडल सूचियों को सिंक करें, कीमतें तय करें, मॉडलों को चालू या बंद करें, और चुनें कि कौन से प्रदाता प्रत्येक मॉडल को किस क्रम में सर्व करेंगे।

  • उपयोग और लाभ

    देखें कि प्रत्येक ग्राहक खाते ने क्या उपयोग किया है, और जिन मॉडलों के लिए आपने लागत दर्ज की है, उनके लिए दिन और मॉडल के अनुसार लागत की तुलना में राजस्व देखें।

  • ऑडिट

    प्रत्येक परिवर्तन के लिए एक कारण पूछा जाता है और यह ऑडिट लॉग में दर्ज होता है। प्रदाता keys केवल साइन-इन किए गए एडमिनिस्ट्रेटर सत्र से ही दर्ज की जा सकती हैं।

  • दो स्विच

    यह मॉड्यूल License & updates, Modules के तहत चालू किया जाता है। AI Models एडमिन पेजों में एक अलग बिक्री स्विच डिफ़ॉल्ट रूप से बंद रहता है: जब यह बंद होता है, तो ग्राहकों को दिखता है कि सेवा अभी शुरू नहीं हुई है और सार्वजनिक मूल्य सूची इसे अनुपलब्ध बताती है।

  • इसे बंद करना

    मॉड्यूल बंद होने पर, ग्राहक पेज, एडमिन पेज और गेटवे सभी 404 उत्तर देते हैं, मेनू प्रविष्टियाँ छिप जाती हैं और बैकग्राउंड सिंक प्रदाताओं को कॉल करना बंद कर देता है।

NexCMP AI Models स्क्रीन

नमूना डेटा के साथ NexCMP 1.5.0 इंस्टॉलेशन की वास्तविक स्क्रीन। Provider A, B और C नमूना नाम हैं।

प्रकार, प्राथमिकता, स्थिति, टेस्ट कनेक्शन और सिंक मॉडल बटन के साथ Provider A, Provider B और Provider C को सूचीबद्ध करने वाला NexCMP एडमिन AI Models Providers पेज
प्रदाता: आपके द्वारा जोड़े जाने वाले मॉडल स्रोत, प्रकार, प्राथमिकता और स्थिति के साथ। Provider A, B और C नमूना नाम हैं।
प्रति 1 मिलियन टोकन पर इनपुट, कैश्ड इनपुट और आउटपुट बिक्री मूल्यों और चालू या बंद स्विच के साथ मॉडलों को सूचीबद्ध करने वाला NexCMP एडमिन AI Models पेज
मॉडल और कीमतें: प्रति मॉडल तीन बिक्री मूल्य, जो आपके द्वारा निर्धारित किए जाते हैं, और प्रत्येक मॉडल के लिए एक स्विच।
कुल खर्च, रिक्वेस्ट, टोकन, दैनिक खर्च चार्ट और शीर्ष API keys और मॉडल के साथ NexCMP ग्राहक पोर्टल AI उपयोग पेज
मॉडल, key और दिन के अनुसार उपयोग।
key नाम, अंतिम गतिविधि, समाप्ति, स्थिति, रीसेट चक्र और बजट की तुलना में वर्तमान खर्च, तथा दोनों API प्रारूपों के लिए बेस URL के साथ AI Models के लिए NexCMP ग्राहक पोर्टल API Keys पेज
किसी ग्राहक की API keys, समाप्ति, स्थिति, बजट के विरुद्ध खर्च और बेस URL के साथ।
चैट, मॉडल पिकर और उत्तर द्वारा उपयोग किए गए टोकन के साथ NexCMP ग्राहक पोर्टल AI Playground
ग्राहक पोर्टल में Playground।

रीसेलर के माध्यम से बेचना

एक व्हाइट-लेबल रीसेलर अपने स्वयं के डोमेन पर अपनी कीमतों पर AI Models बेच सकता है। रीसेलर का मार्कअप या छूट आपके बिक्री मूल्य पर लागू होती है, और जब आपने लागत दर्ज की होती है तो थोक मूल्य आपकी लागत और न्यूनतम मार्जिन के बराबर या उससे अधिक रखा जाता है। रीसेलर के थोक वॉलेट से थोक मूल्य काटा जाता है।

प्रत्येक रीसेलर के लिए एक AI स्विच यह तय करता है कि वह रीसेलर AI Models बेचेगा या नहीं। यह डिफ़ॉल्ट रूप से चालू रहता है।

यह कैसे काम करता है

बंद मॉड्यूल से लेकर पहली ग्राहक रिक्वेस्ट तक।

  1. मॉड्यूल चालू करें

    एडमिन कंसोल में, License & updates, Modules खोलें और AI Models को चालू करें।

  2. प्रदाता जोड़ें और इसका परीक्षण करें

    प्रदाता का प्रकार, बेस URL और key दर्ज करें, फिर कनेक्शन परीक्षण चलाएं।

  3. मॉडल सिंक करें और कीमतें निर्धारित करें

    मॉडल सूची को सिंक करें, बिक्री मूल्य निर्धारित करें, यदि आपके पास दूसरा प्रदाता है तो उसे फ़ॉलबैक रूट के रूप में जोड़ें, और मॉडलों को चालू करें।

  4. सेल स्विच चालू करें

    AI Models एडमिन पेजों में सेल स्विच चालू करें ताकि ग्राहक सेवा का उपयोग कर सकें।

  5. ग्राहक एक की बनाते हैं और आपके एंडपॉइंट को कॉल करते हैं

    कोई ग्राहक वॉलेट टॉप अप करता है, पोर्टल में एक की बनाता है और क्लाइंट को आपके डोमेन पर निर्देशित करता है।

इंफ्रास्ट्रक्चर आवश्यकताएँ

आप NexCMP पैनल चलाते हैं और मॉडल स्रोत लाते हैं। सटीक चरणों के साथ पूरी सूची https://nexcmp.com/docs/infrastructure/ai-models/ पर दस्तावेज़ों में दी गई है।

  • AI Models मॉड्यूल चालू किया हुआ एक NexCMP पैनल।
  • पैनल से आपके प्रत्येक प्रदाता के लिए, या Allowed internal hosts के अंतर्गत सूचीबद्ध किसी आंतरिक गेटवे के लिए आउटबाउंड HTTPS।
  • ग्राहक आपके पैनल के डोमेन के माध्यम से गेटवे तक पहुँचते हैं।
  • किसी GPU और विशेष हार्डवेयर की आवश्यकता नहीं: NexCMP केवल आपके प्रदाताओं को अनुरोध अग्रेषित करता है।

NexCMP Free और Source में AI Models

AI Models अन्य मॉड्यूलों की तरह ही एक मॉड्यूल है और यह NexCMP Free और NexCMP Source दोनों में शामिल है। NexCMP इसके लिए कोई अतिरिक्त शुल्क नहीं लेता है और इसका कोई अलग प्लान नहीं है; आपके प्रदाताओं, आपके हार्डवेयर और पेमेंट-गेटवे शुल्क की लागत आपकी अपनी होगी।

NexCMP Free पहले वर्ष के लिए $0 है: प्रत्येक मॉड्यूल के साथ पूर्ण हस्ताक्षरित बिल्ड, 1 वर्ष के लिए बग फिक्स और अपडेट, और जितने चाहें उतने रीसेलर डोमेन। पहले वर्ष के बाद यह $99 प्रति वर्ष पर नवीनीकृत होता है, और यदि आप नवीनीकरण नहीं करते हैं तो भी सॉफ़्टवेयर चलता रहता है। NexCMP Free उन नेटवर्क ऑपरेटरों के लिए है जिनका अपना ASN है और अपने नाम पर पंजीकृत सबनेट है; आवेदनों की समीक्षा की जाती है। NexCMP Source $499 की एकमुश्त खरीदारी है जिसमें पूर्ण सोर्स कोड, आपके लिए निर्मित सभी ऐप्स और एक विशेषज्ञ इंजीनियर के साथ 30 कार्य दिवस शामिल हैं।

उपयुक्तता जांच

NexCMP AI Models आपके लिए उपयुक्त है यदि आप कोई होस्टिंग, क्लाउड या सॉफ़्टवेयर व्यवसाय चलाते हैं, आपके पास ऐसे मॉडल स्रोत हैं जिनका उपयोग करने और जिन्हें रीसेल करने के लिए आप अधिकृत हैं, और आप अपने डोमेन पर एक ही पैनल में कीज़, मूल्य, वॉलेट, उपयोग और ग्राहक बिलिंग चाहते हैं।

यह आपके लिए उपयुक्त नहीं है यदि आपको मॉडल, टोकन, API कीज़ या प्रदाता खाते उपलब्ध कराए जाने की आवश्यकता है, रेडीमेड मॉडल कैटलॉग या मूल्य सूची, OpenAI-संगत और Anthropic-संगत फ़ॉर्मेट के बीच रूपांतरण, फाइन-ट्यूनिंग, GPU होस्टिंग, या NexCMP से सर्विस-लेवल एग्रीमेंट चाहिए।

बिक्री शुरू करने से पहले: स्रोत, शर्तें और जिम्मेदारियां

NexCMP मॉडल, API कीज़, टोकन, प्रदाता खाते या कीमतें प्रदान नहीं करता है। आप ऐसे मॉडल स्रोतों को कनेक्ट करते हैं जिनका उपयोग करने और जिन्हें रीसेल करने के लिए आप अधिकृत हैं, और अपने स्रोतों की शर्तों और आप पर लागू होने वाले कानूनों का पालन करने के लिए आप स्वयं जिम्मेदार हैं।

कई मॉडल स्रोत रीसेल करने या तीसरे पक्ष को एक्सेस देने पर प्रतिबंध लगाते हैं। प्रत्येक स्रोत की शर्तें पढ़ें, और अपने ग्राहकों को उसके मॉडल पेश करने से पहले उस स्रोत से पूछें कि क्या आपको एक अलग समझौते की आवश्यकता है।

आपको अपने ग्राहकों के साथ एक स्वीकार्य-उपयोग नीति और दुरुपयोग रिपोर्टों को संभालने की व्यवस्था की भी आवश्यकता होगी। जो डेटा आप किसी स्रोत को भेजते हैं, उसके साथ वह क्या करता है, यह उस स्रोत की शर्तों द्वारा नियंत्रित होता है; NexCMP स्वयं प्रॉम्प्ट या प्रतिक्रियाओं को रिकॉर्ड नहीं करता है। यह पृष्ठ कोई कानूनी सलाह नहीं है।

AI API रीसेलर प्लेटफ़ॉर्म: अक्सर पूछे जाने वाले प्रश्न

AI API रीसेलर प्लेटफ़ॉर्म क्या है, और NexCMP AI Models क्या करता है?
यह आपके अपने API के माध्यम से AI मॉडलों की एक्सेस बेचने के लिए सॉफ़्टवेयर है। NexCMP AI Models आपके NexCMP पैनल पर एक गेटवे और बिलिंग लेयर है: आपके ग्राहकों को कीज़ मिलती हैं और वे आपके डोमेन पर एक ही एंडपॉइंट को कॉल करते हैं, आप प्रति मॉडल और प्रति 1 million टोकन मूल्य निर्धारित करते हैं, उपयोग मापा जाता है और प्रीपेड वॉलेट से शुल्क लिया जाता है, और अनुरोध आपके द्वारा जोड़े गए प्रदाताओं को रूट किए जाते हैं।
क्या NexCMP मॉडल, API कीज़ या टोकन प्रदान करता है?
नहीं। NexCMP बिना किसी प्रदाता, बिना किसी मॉडल, बिना किसी डिफ़ॉल्ट पते और बिना किसी मूल्य के आता है। आप ऐसे मॉडल स्रोत लाते हैं जिनका उपयोग करने के लिए आप अधिकृत हैं, और NexCMP गेटवे, कीज़, मूल्य निर्धारण और बिलिंग प्रदान करता है।
क्या मुझे अपने स्रोतों से मिलने वाले मॉडलों की एक्सेस को रीसेल करने की अनुमति है?
यह आपके स्रोतों की शर्तों पर निर्भर करता है, NexCMP पर नहीं। कई स्रोत रीसेल करने या तीसरे पक्ष को एक्सेस देने पर प्रतिबंध लगाते हैं, और कुछ एक अलग समझौते के तहत इसकी अनुमति देते हैं। उन शर्तों को पढ़ने और उनका तथा आप पर लागू होने वाले कानून का पालन करने के लिए आप स्वयं जिम्मेदार हैं। यह कोई कानूनी सलाह नहीं है।
मेरे ग्राहक किन API फ़ॉर्मेट का उपयोग कर सकते हैं?
/ai/v1/chat/completions पर OpenAI-संगत फ़ॉर्मेट और /ai/v1/messages पर Anthropic-संगत फ़ॉर्मेट, दोनों स्ट्रीमिंग के साथ। ग्राहक बेस URL को आपके डोमेन में बदलता है और आपके पैनल से एक की का उपयोग करता है। गेटवे दोनों फ़ॉर्मेट के बीच अनुवाद नहीं करता है, इसलिए किसी मॉडल तक उसी फ़ॉर्मेट के माध्यम से पहुँचा जाता है जिसे उसका प्रदाता सपोर्ट करता है।
मैं कीमतें कैसे निर्धारित करूँ?
प्रति मॉडल, प्रति 1 million tokens US डॉलर में, input, cached input और output के लिए अलग मूल्य के साथ। बिना बिक्री मूल्य वाले मॉडल को चालू नहीं किया जा सकता। दिन और मॉडल के अनुसार लाभ व हानि देखने के लिए आप अपनी लागत भी दर्ज कर सकते हैं।
वॉलेट बिलिंग कैसे काम करती है, और बैलेंस समाप्त होने पर क्या होता है?
उपयोग का शुल्क ग्राहक के प्रीपेड NexCMP वॉलेट से लिया जाता है। किसी प्रोवाइडर को रिक्वेस्ट भेजे जाने से पहले, NexCMP उसकी अधिकतम संभावित लागत के बराबर राशि रिज़र्व कर लेता है। यदि बैलेंस बहुत कम है, तो 402 insufficient_balance एरर के साथ रिक्वेस्ट अस्वीकार कर दी जाती है और किसी भी प्रोवाइडर को कॉल नहीं किया जाता।
ग्राहक की API keys पर कौन-सी सीमाएं तय की जा सकती हैं?
अनुमति प्राप्त मॉडल, समाप्ति तिथि, चेतावनी देने वाला सॉफ्ट बजट और ब्लॉक करने वाला हार्ड बजट, प्रति मिनट रिक्वेस्ट्स और प्रति मिनट tokens, तथा concurrent रिक्वेस्ट्स पर सीमा। पूरे खाते के लिए भी बजट और रेट लिमिट सेट की जा सकती हैं, और प्रति खाता keys की संख्या सीमित की जा सकती है।
क्या ग्राहक अपना उपयोग और रिक्वेस्ट लॉग्स देख सकते हैं? क्या प्रॉम्प्ट स्टोर किए जाते हैं?
हाँ, वे CSV एक्सपोर्ट के साथ मॉडल, key और दिन के अनुसार उपयोग तथा फ़िल्टर किए जा सकने वाले रिक्वेस्ट लॉग्स देख सकते हैं। लॉग्स में केवल मेटाडेटा होता है: समय, key, मॉडल, tokens, लागत, स्टेटस और लेटेंसी। NexCMP प्रॉम्प्ट्स या रिस्पॉन्स रिकॉर्ड नहीं करता है, और लॉग्स डिफ़ॉल्ट रूप से 90 दिनों तक रखे जाते हैं।
यदि कोई प्रोवाइडर विफल हो जाता है तो क्या होता है?
किसी मॉडल के लिए आपके द्वारा चुने गए क्रम में कई प्रोवाइडर्स के रूट्स हो सकते हैं। यदि कोई प्रोवाइडर सर्वर एरर, ऑथराइजेशन या बिलिंग एरर, मिसिंग मॉडल या रेट लिमिट लौटाता है, तो NexCMP अगले रूट का प्रयास करता है। भेजे जाने के बाद टाइम आउट हुई रिक्वेस्ट किसी दूसरे प्रोवाइडर को नहीं भेजी जाती है।
क्या मैं रीसेलर्स के माध्यम से AI मॉडल्स बेच सकता हूँ?
हाँ। एक व्हाइट-लेबल रीसेलर आपके बिक्री मूल्य पर अपने मार्कअप या डिस्काउंट के साथ अपने डोमेन पर AI Models बेच सकता है, जिसका भुगतान उसके होलसेल वॉलेट से किया जाता है। डिफ़ॉल्ट रूप से चालू रहने वाला प्रति-रीसेलर AI स्विच यह नियंत्रित करता है कि इसे कौन बेच सकता है।
क्या ग्राहक खरीदने से पहले मॉडल्स का परीक्षण कर सकते हैं?
ग्राहक पोर्टल में एक प्लेग्राउंड उपलब्ध है जहाँ ग्राहक किसी मॉडल के साथ चैट कर सकते हैं, कई मॉडल्स की साथ-साथ तुलना कर सकते हैं और संबंधित कोड कॉपी कर सकते हैं।
क्या यह सेल्फ-होस्टेड है, और इसकी लागत क्या है?
हाँ, यह आपके अपने NexCMP पैनल पर चलता है। AI Models बिना किसी अतिरिक्त शुल्क के NexCMP Free (पहले वर्ष $0, फिर $99 प्रति वर्ष) और NexCMP Source ($499 एकमुश्त) में शामिल है। यह डिफ़ॉल्ट रूप से बंद रहता है और आप इसे License & updates, Modules में जाकर चालू कर सकते हैं।
स्वीकार्य उपयोग और ग्राहक कंटेंट के लिए कौन ज़िम्मेदार है?
आप स्वयं हैं। आप अपने ग्राहकों के साथ स्वीकार्य-उपयोग नीति तय करते हैं, दुरुपयोग की रिपोर्ट संभालते हैं और अपने स्रोतों की शर्तों व लागू कानूनों का अनुपालन करते हैं। इसमें आपकी सहायता के लिए NexCMP आपको keys, लिमिट्स और लॉग्स प्रदान करता है।

स्रोत

AI Models मॉड्यूल के लिए NexCMP दस्तावेज़।

NexCMP मुफ़्त प्राप्त करें

मुफ़्त, जिसमें AI Models और अन्य सभी मॉड्यूल शामिल हैं। इसे आज ही अपने सर्वर पर इंस्टॉल करें।

NexCMP मुफ़्त प्राप्त करेंसेल्स से संपर्क करेंडेमो देखें

अंतिम अपडेट: