AI Models
Platform reseller AI API dan billing LLM Open Source
NexCMP AI Models adalah add-on untuk panel self-hosted NexCMP yang memungkinkan Anda menjual akses ke model AI di domain Anda sendiri. Anda menghubungkan sumber model yang berhak Anda gunakan, menetapkan harga untuk setiap model, dan pelanggan Anda memanggilnya dengan satu API key, dihitung per token, serta membayar dari wallet prabayar.
AI Models adalah bagian dari NexCMP dan tanpa biaya tambahan. Fitur ini dinonaktifkan sampai Anda mengaktifkannya. NexCMP tidak menyediakan model, API key, token, atau akun provider: Anda membawa sendiri sumber yang berhak Anda gunakan.NexCMP Source: kode sumber lengkap seharga $499, sekali bayar. Gunakan, modifikasi, dan self-host untuk bisnis Anda sendiri. Anda boleh menjual layanan yang Anda operasikan; Anda tidak boleh menjual kembali atau mendistribusikan ulang kode sumber maupun hasil kompilasinya. Ketentuan lisensi Source
Apa itu add-on NexCMP AI Models?
NexCMP sudah menagih virtual machine dari wallet prabayar. AI Models menambahkan gateway ke panel yang sama, sehingga wallet, pelanggan, reseller, dan tiket dukungan yang menjual server juga dapat menjual akses AI API.
Ini adalah lapisan penagihan dan kontrol, bukan penyedia model. Anda menambahkan provider yang berhak Anda gunakan, memilih model yang ingin ditawarkan beserta harganya, dan pelanggan Anda memanggil satu endpoint di domain Anda menggunakan kunci mereka sendiri. Pelanggan hanya melihat domain dan harga Anda, tanpa pernah mengetahui provider yang memproses permintaan tersebut.
Mencari AI Chat dan AI Agent? Itu adalah produk yang berbeda: asisten di dalam portal pelanggan dan agen yang bekerja di server pelanggan. Produk tersebut tidak menjual akses model, dan kedua modul ini tidak saling bergantung.
Cara pelanggan Anda menggunakan AI Models
Setiap layar merupakan tab dari halaman layanan di portal pelanggan, ditampilkan dengan data sampel. Pilih tab, gunakan tanda panah atau tombol kiri dan kanan, atau buka penampil layar penuh.
Dari pelanggan hingga provider Anda
Pelanggan memanggil domain Anda. NexCMP memeriksa kunci, batasan, dan wallet, lalu meneruskan permintaan ke provider yang Anda tambahkan.
Kebutuhan untuk menjual akses AI API
NexCMP menangani sisi perangkat lunak. Sisanya adalah milik Anda.
- Sumber model yang berhak Anda gunakan dan jual kembali: satu atau beberapa provider dengan API yang kompatibel dengan OpenAI atau Anthropic.
- Panel NexCMP dengan modul AI Models yang telah diaktifkan.
- Harga jual untuk setiap model yang Anda tawarkan, ditentukan oleh Anda sendiri.
- Layanan dukungan untuk pelanggan Anda serta kebijakan penggunaan wajar milik Anda sendiri.
- Panel yang dapat menjangkau provider Anda melalui HTTPS.
Satu kunci, banyak model
Klien pelanggan mengarah ke domain Anda dan menggunakan kunci dari panel Anda. Satu kunci dapat memanggil setiap model yang diizinkan. Gateway berjalan di domain panel itu sendiri dan melakukan streaming respons dalam kedua format.
- Klien yang kompatibel dengan Anthropic juga dapat menggunakan /ai/v1/messages/count_tokens.
- Penggunaan token diambil dari respons provider. Jika respons tidak memuatnya, NexCMP akan memperkirakannya dan menandai catatan tersebut sebagai estimasi.
- Gateway tidak melakukan translasi di antara kedua format tersebut. Model yang dilayani oleh provider yang kompatibel dengan OpenAI diakses melalui endpoint yang kompatibel dengan OpenAI, dan model dari provider yang kompatibel dengan Anthropic melalui endpoint yang kompatibel dengan Anthropic. Provider bertipe Both dapat melayani keduanya.
- Tools yang berjalan di sisi provider dan dikenai biaya per panggilan, seperti pencarian web, akan ditolak karena tidak dapat dihitung penggunaannya. Hanya daftar pendek parameter permintaan yang aman yang diteruskan.
POST https://your-domain/ai/v1/chat/completions OpenAI-compatible
POST https://your-domain/ai/v1/messages Anthropic-compatible
GET https://your-domain/ai/v1/models model list
GET https://your-domain/ai/v1/models/pricing public price list, no keyGunakan sumber model Anda sendiri
Tidak ada yang bawaan: tanpa provider, tanpa model, tanpa alamat default, dan tanpa daftar harga.
Tambahkan provider
Beri nama, tipe (kompatibel OpenAI, kompatibel Anthropic, atau Both), base URL, API key miliknya, prioritas, serta tombol aktif atau nonaktif. Kunci disimpan secara terenkripsi dan setelahnya hanya empat karakter terakhir yang ditampilkan.
Uji koneksi
Pengujian akan membaca daftar model provider dan melaporkan keberhasilan, atau penyebab kegagalannya: otorisasi, alamat terblokir, penagihan, atau host tidak dapat dijangkau.
Sinkronkan daftar model
NexCMP membaca daftar penyedia dan menambahkan model baru dalam keadaan nonaktif tanpa harga. Model yang ditarik oleh penyedia akan ditandai. Selama modul aktif, daftar akan disinkronkan secara otomatis setiap 6 jam secara default.
Alamat diperiksa
Alamat penyedia harus menggunakan HTTPS pada port 443 dan berupa domain publik. Host internal, port lain, serta HTTP biasa hanya diterima jika Anda mencantumkannya di Allowed internal hosts.
Harga sepenuhnya milik Anda
NexCMP tidak mengambil harga dari penyedia. Setiap harga jual ditentukan sendiri oleh Anda.
Penetapan harga per model
Anda menentukan biaya setiap model bagi pelanggan Anda.
Tiga komponen harga per model
Input, cached input, dan output, dalam dolar AS per 1 juta token. Model tanpa harga jual tidak dapat diaktifkan.
Cached input
Sebelum Anda menetapkan harga cached input, token yang di-cache akan dikenakan biaya sesuai harga input. Token tersebut tidak gratis.
Harga modal opsional
Masukkan biaya modal model jika Anda ingin melihat laporan laba rugi harian dan per model di halaman Profit. Jika diisi, harga jual di bawah biaya modal ditambah margin minimum akan ditolak, kecuali Anda mengonfirmasi kerugian yang disengaja.
Tetapkan harga berdasarkan modal
Tersedia tombol untuk menetapkan harga jual dari biaya modal ditambah markup pilihan Anda. Tidak ada markup default.
Daftar harga publik
Pelanggan dan pengunjung dapat melihat harga Anda tanpa key, di alamat daftar harga gateway Anda.
API key, limit, penggunaan, dan log
Setiap item dapat dikelola oleh pelanggan di portal, atau diatur oleh Anda untuk mereka.
Key
Buat, ganti nama, rotasi, nonaktifkan, dan hapus key. Nilai secret hanya ditampilkan satu kali, dan NexCMP hanya menyimpan hash-nya.
Model yang diizinkan dan masa kedaluwarsa
Batasi key ke daftar model tertentu dan tentukan tanggal kedaluwarsanya.
Anggaran
Soft budget memberikan peringatan melalui notifikasi dan email. Hard budget memblokir request dengan error 402. Keduanya berlaku per periode, baik untuk satu key maupun seluruh akun.
Rate limit
Request per menit dan token per menit, per key dan per akun, ditambah batasan concurrent request serta kuota jumlah key per akun.
Penggunaan
Penggunaan berdasarkan model, key, dan hari, disertai ekspor CSV.
Log
Log request yang dapat difilter berdasarkan waktu, key, model, token, biaya, status, dan latensi. NexCMP tidak mencatat prompt maupun respons. Log disimpan selama 90 hari secara default.
Penagihan wallet untuk LLM API
Penggunaan AI ditagihkan ke wallet prabayar pelanggan, wallet yang sama dengan yang digunakan untuk membayar semua layanan NexCMP lainnya. Anda menetapkan harga; pelanggan melakukan top up seperti biasa.
Sebelum request diteruskan ke penyedia, NexCMP mengalokasikan saldo dari wallet sebesar estimasi biaya maksimum request tersebut. Jika saldo berada di bawah batas minimum (secara default 20 sen) atau tidak mencukupi, request akan ditolak dengan error 402 insufficient_balance dan tidak ada penyedia yang dihubungi. Karena reservasi saldo dilakukan terlebih dahulu, request paralel tidak akan membuat saldo wallet menjadi minus.
Penggunaan dikumpulkan per akun dan dibukukan ke dalam entri buku besar wallet setelah satu jam berlalu, dengan proses sweep setiap 5 menit. Penggunaan yang belum dibukukan sudah langsung memotong saldo yang terbaca oleh gateway.
Routing dan failover antar penyedia
Beberapa route per model
Satu model dapat memiliki route ke beberapa penyedia sesuai urutan yang Anda tentukan, dan masing-masing dapat diaktifkan atau dinonaktifkan. Nama model yang dikirimkan ke penyedia dapat berbeda dari nama yang Anda publikasikan.
Failover
Saat penyedia mengalami kegagalan akibat server error, kendala otorisasi atau billing, model tidak ditemukan, atau rate limit, NexCMP akan mencoba route berikutnya.
Tanpa tagihan ganda
Jika pembacaan mengalami timeout setelah request terkirim, NexCMP tidak akan meneruskannya ke penyedia lain, sehingga Anda tidak membayar dua kali untuk satu request.
Pembatasan laju per penyedia
Request ke setiap penyedia dibatasi per menit, secara default 50, agar lonjakan trafik tidak menguras kuota sumber.
Peringatan
Jika penyedia terus mengembalikan error otorisasi atau penagihan, NexCMP akan memberi tahu administrator di Telegram jika Telegram telah dikonfigurasi.
Detail penyedia tetap tersembunyi
Error dibersihkan sebelum sampai ke pelanggan: nama penyedia, host, nama model upstream, dan alamat dihapus, serta header penyedia tidak diteruskan. Pelanggan tidak dapat melihat penyedia mana yang melayani permintaan.
Playground dan portal pelanggan
Setiap item adalah aktivitas yang dilakukan pelanggan di portal pada domain Anda.
Model dan harga
Lihat model yang Anda tawarkan beserta harganya, base URL, dan contoh perintah siap pakai.
Key, penggunaan, dan log
Buat key, pantau penggunaan berdasarkan model, key, dan hari, serta filter log permintaan. Log hanya menampilkan metadata, tidak pernah menampilkan isi permintaan.
Pengaturan
Atur anggaran akun dan alamat email penerima notifikasi.
Playground
Lakukan chat dengan model, bandingkan beberapa model secara berdampingan, dan salin kode terkait dengan Get Code.
Yang dapat Anda lakukan sebagai operator
Setiap item tersedia di konsol admin NexCMP.
Penyedia, model, dan rute
Tambahkan dan uji penyedia, sinkronkan daftar modelnya, tetapkan harga, aktifkan atau nonaktifkan model, serta pilih penyedia mana yang melayani setiap model dan dalam urutan apa.
Penggunaan dan keuntungan
Lihat penggunaan setiap akun pelanggan, serta pantau pendapatan versus biaya per hari dan per model untuk model yang telah Anda tentukan biayanya.
Audit
Setiap perubahan meminta alasan dan dicatat ke log audit. Key penyedia hanya dapat dimasukkan dari sesi administrator yang telah masuk.
Dua sakelar
Modul diaktifkan di License & updates, Modules. Sakelar penjualan terpisah di halaman admin AI Models dinonaktifkan secara default: selama nonaktif, pelanggan melihat bahwa layanan belum dibuka dan daftar harga publik melaporkannya sebagai tidak tersedia.
Menonaktifkannya
Saat modul dinonaktifkan, halaman pelanggan, halaman admin, dan gateway semuanya merespons 404, entri menu disembunyikan, dan sinkronisasi latar belakang berhenti memanggil penyedia.
Tampilan layar NexCMP AI Models
Tampilan layar asli dari instalasi NexCMP 1.5.0 dengan data sampel. Provider A, B, dan C adalah nama contoh.





Menjual melalui reseller
Reseller white-label dapat menjual AI Models di domain mereka sendiri dengan harga mereka sendiri. Markup atau diskon reseller diterapkan pada harga jual Anda, dan harga grosir dijaga agar tetap sama dengan atau di atas biaya modal Anda ditambah margin minimum jika Anda telah memasukkan biaya. Wholesale wallet reseller akan didebit sebesar harga grosir.
Sakelar AI untuk setiap reseller menentukan apakah reseller tersebut menjual AI Models. Sakelar ini aktif secara default.
Cara kerja
Dari modul nonaktif hingga permintaan pelanggan pertama.
Aktifkan modul
Di konsol admin, buka License & updates, Modules, lalu aktifkan AI Models.
Tambahkan penyedia dan uji koneksinya
Masukkan tipe, base URL, dan key penyedia, lalu jalankan pengujian koneksi.
Sinkronkan model dan tetapkan harga
Sinkronkan daftar model, tetapkan harga jual, tambahkan penyedia kedua sebagai rute cadangan jika ada, lalu aktifkan model tersebut.
Aktifkan switch penjualan
Nyalakan switch penjualan di halaman admin AI Models agar pelanggan dapat menggunakan layanan ini.
Pelanggan membuat key dan memanggil endpoint Anda
Pelanggan mengisi saldo wallet, membuat key di portal, dan mengarahkan klien ke domain Anda.
Persyaratan infrastruktur
Anda menjalankan panel NexCMP dan menyediakan sumber model sendiri. Daftar lengkap beserta langkah-langkah detailnya tersedia di dokumentasi pada https://nexcmp.com/docs/infrastructure/ai-models/.
- Panel NexCMP dengan modul AI Models yang telah diaktifkan.
- HTTPS outbound dari panel ke setiap penyedia Anda, atau ke gateway internal yang Anda cantumkan di bagian Allowed internal hosts.
- Pelanggan mengakses gateway melalui domain panel Anda.
- Tanpa GPU dan tanpa perangkat keras khusus: NexCMP hanya meneruskan permintaan ke penyedia Anda.
AI Models di NexCMP Free dan Source
AI Models adalah modul seperti yang lainnya dan disertakan dalam NexCMP Free maupun NexCMP Source. NexCMP tidak membebankan biaya tambahan untuk fitur ini dan tidak memiliki paket terpisah; biaya penyedia Anda, perangkat keras, dan biaya payment gateway sepenuhnya menjadi tanggungan Anda.
NexCMP Free berbiaya $0 untuk tahun pertama: build penuh bertanda tangan dengan setiap modul, perbaikan bug, dan pembaruan selama 1 tahun, serta domain reseller sebanyak yang Anda inginkan. Setelah tahun pertama, perpanjangan seharga $99 per tahun, dan perangkat lunak tetap berjalan jika Anda tidak memperpanjangnya. NexCMP Free ditujukan bagi operator jaringan dengan ASN sendiri dan subnet yang terdaftar atas nama sendiri; pengajuan akan ditinjau. NexCMP Source adalah pembelian satu kali seharga $499 dengan kode sumber lengkap, semua aplikasi dibuatkan untuk Anda, dan 30 hari kerja bersama teknisi ahli.
Cek kesesuaian
NexCMP AI Models cocok untuk Anda jika Anda menjalankan bisnis hosting, cloud, atau perangkat lunak, memiliki sumber model yang izin penggunaannya dan hak jual kembalinya sah, serta menginginkan pengelolaan key, harga, wallet, penggunaan, dan penagihan pelanggan dalam satu panel di domain Anda sendiri.
Modul ini tidak cocok jika Anda membutuhkan model, token, API keys, atau akun penyedia yang disediakan untuk Anda, katalog model atau daftar harga siap pakai, konversi antarformat yang kompatibel dengan OpenAI dan Anthropic, fine-tuning, GPU hosting, atau service-level agreement dari NexCMP.
Sebelum Anda menjual: sumber, ketentuan, dan tanggung jawab
NexCMP tidak menyediakan model, API keys, token, akun penyedia, maupun harga. Anda menghubungkan sumber model yang izin penggunaannya dan hak jual kembalinya sah, serta Anda tetap bertanggung jawab untuk mematuhi ketentuan dari sumber Anda dan hukum yang berlaku bagi Anda.
Banyak sumber model membatasi penjualan kembali atau penerusan akses ke pihak ketiga. Baca ketentuan dari masing-masing sumber, dan tanyakan kepada penyedia sumber apakah Anda memerlukan perjanjian terpisah sebelum menawarkan modelnya kepada pelanggan Anda.
Anda juga memerlukan acceptable-use policy bagi pelanggan Anda sendiri dan mekanisme penanganan laporan penyalahgunaan. Pengelolaan data yang Anda kirim ke penyedia diatur oleh ketentuan sumber tersebut; NexCMP sendiri tidak merekam prompt maupun respons. Halaman ini bukan merupakan nasihat hukum.
Platform reseller AI API: pertanyaan yang sering diajukan
Apa itu platform reseller AI API, dan apa yang dilakukan NexCMP AI Models?
Apakah NexCMP menyediakan model, API keys, atau token?
Apakah saya diizinkan untuk menjual kembali akses ke model dari sumber saya?
Format API apa saja yang dapat digunakan oleh pelanggan saya?
Bagaimana cara menetapkan harga?
Bagaimana cara kerja penagihan wallet, dan apa yang terjadi jika saldo habis?
Batasan apa saja yang dapat saya tetapkan pada API key pelanggan?
Dapatkah pelanggan melihat log permintaan dan penggunaan mereka? Apakah prompt disimpan?
Apa yang terjadi jika salah satu penyedia mengalami kegagalan?
Dapatkah saya menjual model AI melalui reseller?
Dapatkah pelanggan menguji model sebelum membeli?
Apakah ini self-hosted, dan berapa biayanya?
Siapa yang bertanggung jawab atas penggunaan yang dapat diterima dan konten pelanggan?
Sumber
Dokumentasi NexCMP untuk modul AI Models.
Dapatkan NexCMP gratis
Gratis, sudah mencakup AI Models dan semua modul lainnya. Pasang di server Anda hari ini.
Terakhir diperbarui:








