Lompat ke konten
ID
Dapatkan NexCMP gratis

Panduan

Cara menambahkan chatbot dukungan AI dan SSH agent ke cloud CloudStack

NexCMP adalah billing dan portal pelanggan self-hosted untuk Apache CloudStack dan Proxmox VE, dan versi 1.2.0 menyertakan dua modul AI: AI Chat, asisten di dalam portal pelanggan, dan AI Agent, yang menjalankan tugas pada VM milik pelanggan melalui SSH. Panduan ini mengonfigurasi keduanya dengan API key yang kompatibel dengan OpenAI, menggunakan tangkapan layar dari portal pelanggan dan konsol admin.

Dapatkan NexCMP gratisLihat demo

Waktu yang dibutuhkan: sekitar 15 menit pada instalasi NexCMP yang sudah ada.

Stack

Empat komponen, tiga di antaranya kemungkinan besar sudah Anda jalankan.

  • NexCMP 1.2.0

    Panel yang sudah digunakan pelanggan Anda, terinstal di Ubuntu 22.04 atau 24.04. AI Chat dan AI Agent sudah termasuk dalam lisensi — tanpa biaya tambahan.

  • Endpoint yang kompatibel dengan OpenAI

    API chat-completions apa pun yang mendukung tool (function) calling: penyedia hosting, atau proxy yang Anda jalankan di depan beberapa penyedia.

  • API key dengan batas pengeluaran

    Beri panel API key tersendiri dan tetapkan anggaran bulanan di penyedia atau di proxy Anda, agar biaya penggunaan tidak membengkak di luar kendali.

  • VM CloudStack Anda

    AI Agent mengakses VM pelanggan melalui SSH langsung dari server panel, menggunakan kredensial login yang disimpan pelanggan untuk VM tersebut.

Langkah demi langkah

  1. Perbarui panel ke 1.2.0

    Di konsol admin, buka License lalu tekan Update, atau jalankan sudo nexcmp update di server. Pembaruan telah ditandatangani dan diverifikasi sebelum dipasang.

  2. Buat API key dengan batas pengeluaran

    Di penyedia AI Anda (atau di proxy Anda), buat API key khusus untuk panel ini dan tetapkan anggaran bulanan. Model yang cepat dan hemat biaya sudah memadai untuk chat dukungan.

  3. Masukkan di Admin › Settings › AI provider

    Tempel URL endpoint, API key, dan nama model, lalu tekan Test connection. API key disimpan secara terenkripsi di basis data panel dan tidak akan ditampilkan kembali secara utuh.

  4. Aktifkan modul AI

    Di License › Modules, aktifkan AI. AI Chat dan AI Agent akan muncul di menu portal pelanggan setelah halaman dimuat ulang; menonaktifkan modul akan menyembunyikannya kembali.

  5. Pelanggan bertanya ke AI Chat

    AI Chat menjawab pertanyaan tentang paket dan harga Anda serta tentang layanan milik pelanggan itu sendiri. Saat pertanyaan membutuhkan bantuan manusia, pelanggan dapat mengalihkan percakapan ke tim dukungan Anda.

    Portal pelanggan, AI Chat menjawab pertanyaan tentang server pelanggan

  6. Pelanggan menjalankan AI Agent pada VM

    Pelanggan memilih salah satu VM mereka dan mendeskripsikan tugasnya dalam bahasa sehari-hari. Agent menjalankan perintah via SSH dan menampilkan setiap perintah beserta output-nya.

    Portal pelanggan, AI Agent menjalankan perintah di VM dan menampilkan outputnya

  7. Pantau penggunaan

    Penggunaan ditagih oleh penyedia AI Anda, bukan oleh NexCMP. Periksa pengeluaran di dashboard penyedia atau proxy dan sesuaikan anggaran API key seiring bertambahnya adopsi fitur oleh pelanggan Anda.

Persyaratan sebelum memulai

  • NexCMP 1.2.0 atau lebih baru, dengan modul AI di License › Modules.
  • Penyedia AI dengan endpoint chat/completions yang kompatibel dengan OpenAI dan model yang mendukung tool (function) calling: OpenAI, OpenRouter, gateway LiteLLM, atau server vLLM milik Anda sendiri dapat digunakan.
  • Untuk AI Agent, openssh-client di server panel (installer akan menambahkannya) dan rute jaringan dari server panel ke port SSH setiap VM, bawaannya 22.
  • Untuk AI Agent, VM Linux milik pelanggan yang sedang berjalan dan tidak terkunci, dengan kredensial tersimpan (disimpan saat VM dibuat atau kata sandinya direset) atau operations key milik panel. VM Windows ditolak.
  • Opsional untuk pengalihan staf AI Chat: bot Telegram dan chat ID di bawah Settings › Admin alerts.
ssh -V
nc -vz 198.51.100.10 22

Uji endpoint dari server panel terlebih dahulu

NexCMP menambahkan /chat/completions ke URL yang berakhiran /v1, dan /v1/chat/completions ke URL lainnya; URL yang sudah berakhiran /chat/completions akan digunakan apa adanya. Sebelum memasukkan endpoint, kirimkan satu permintaan dari server NexCMP. Respons JSON dengan choices[0].message.content menandakan bahwa endpoint dan model berfungsi.

curl -s https://ai.example.com/v1/chat/completions \
  -H "Authorization: Bearer XXXX" -H "Content-Type: application/json" \
  -d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"Reply with one word: OK"}]}'

Cara AI Agent menjalankan perintah, dan apa yang tidak akan dijalankannya secara otomatis

  • Perintah dijalankan dari server panel dengan ssh client bawaannya, satu perintah non-interaktif dalam satu waktu. Targetnya selalu alamat IP VM dari database, bukan dari permintaan.
  • Kata sandi yang tersimpan diteruskan melalui SSH_ASKPASS helper sekali pakai di environment proses: kata sandi tidak ditulis ke disk atau dicantumkan pada command line.
  • Output setiap perintah dibatasi hingga 200 KB, satu sesi berakhir setelah maksimal 10 langkah, dan pelanggan hanya dapat menjalankan maksimal 2 proses agent secara bersamaan.
  • Dalam mode Confirm, setiap perintah menunggu pelanggan menekan Run. Dalam mode Auto, hanya perintah dalam daftar read-only ketat, misalnya df -h, ps, atau journalctl, yang berjalan secara otomatis.
  • Perintah yang menimpa atau menghapus file, mengubah akun atau SSH keys, mengirim data ke server luar, mengunduh dan menjalankan skrip, atau mematikan maupun me-restart mesin akan selalu menampilkan Needs confirmation, bahkan dalam mode Auto.
  • Output perintah ditampilkan ke model sebagai data yang tidak tepercaya, dan instruksi di dalamnya tidak akan dijalankan.

Pemecahan masalah

Pesan yang paling sering ditemui dan hal-hal yang perlu diperiksa.

  • Test connection gagal dengan 401

    Kemungkinan penyebab
    API key salah untuk endpoint tersebut.
    Tindakan yang perlu dilakukan
    Periksa API key dan endpoint, lalu ketik ulang API key jika Anda mengubah base URL.

  • Test connection gagal dengan 404 atau model not found

    Kemungkinan penyebab
    Path atau model ID salah.
    Tindakan yang perlu dilakukan
    Pastikan base URL berakhiran /v1 dan gunakan model ID yang tepat dari penyedia.

  • Portal tidak menampilkan menu AI

    Kemungkinan penyebab
    Modul nonaktif, atau penyedia belum diaktifkan untuk digunakan.
    Tindakan yang perlu dilakukan
    Aktifkan modul AI di License › Modules dan aktifkan penyedia tersebut.

  • Agent tidak dapat masuk

    Kemungkinan penyebab
    Tidak ada kata sandi tersimpan dan tidak ada kunci operasi untuk VM tersebut.
    Tindakan yang perlu dilakukan
    Atur ulang kata sandi VM di portal agar tersimpan kembali.

  • Server tidak merespons tepat waktu

    Kemungkinan penyebab
    Firewall, SSH tidak listening, atau VM sedang sibuk.
    Tindakan yang perlu dilakukan
    Jalankan nc -vz <vm-ip> 22 dari server panel dan jalankan sshd di dalam VM.

  • AI merespons terlalu lambat

    Kemungkinan penyebab
    Penyedia atau model sedang lambat.
    Tindakan yang perlu dilakukan
    Gunakan model yang lebih cepat atau turunkan Reasoning effort di Settings › AI provider.

  • Masuk untuk menggunakan AI Chat

    Kemungkinan penyebab
    Pengunjung belum masuk.
    Tindakan yang perlu dilakukan
    Sesuai ketentuan: AI Chat hanya untuk pelanggan yang sudah masuk.

Privasi dan biaya

Pertanyaan pelanggan, serta data yang dibaca AI untuk pelanggan tersebut (read-only), dikirim ke penyedia AI Anda. Cantumkan hal ini dalam kebijakan privasi Anda.

NexCMP tidak membatasi biaya AI. Gunakan fitur anggaran penyedia Anda, dan turunkan pengaturan giliran AI per hari per pelanggan (default-nya 40, di bawah Customers › Support › Ticket › AI settings) untuk membatasi pengeluaran.

Langkah selanjutnya

AI Chat dan AI Agent tetap nonaktif hingga Anda menyimpan kunci penyedia, sehingga tidak ada yang ditagihkan kepada Anda atau dikirim ke mana pun sebelum Anda memutuskannya. Baca ringkasannya, atau jelajahi modul lainnya.

Pertanyaan seputar modul AI

Model AI mana saja yang kompatibel?
Model apa pun di balik endpoint chat-completions yang kompatibel dengan OpenAI serta mendukung pemanggilan tool (function). Anda dapat mengatur endpoint, kunci, dan model di Admin › Settings › AI provider.
Apakah agent dapat mengakses server milik pelanggan lain?
Tidak. AI Agent hanya berfungsi pada VM milik akun pelanggan yang sedang masuk, dengan menggunakan informasi login yang tersimpan untuk VM tersebut.
Apakah NexCMP memungut biaya untuk AI?
Tidak. Modul AI sudah termasuk dalam lisensi. Anda membayar ke penyedia AI Anda berdasarkan penggunaan kunci yang Anda konfigurasikan.
Bagaimana cara menguji koneksi penyedia AI?
Di Admin › Settings › AI provider, klik Save, lalu Test connection. Sistem akan mengirim satu pertanyaan singkat dan menampilkan Connected beserta nama model dan waktu yang dibutuhkan, atau menampilkan kesalahan yang dikembalikan penyedia.
Apakah AI Agent memerlukan gateway SSH terpisah?
Tidak. Pada instalasi default, panel menggunakan klien ssh bawaannya sendiri. Terminal web ssh-proxy opsional hanya digunakan ketika fitur web SSH diaktifkan.
Bisakah pengunjung yang belum masuk menggunakan AI Chat?
Tidak. AI Chat hanya untuk pelanggan yang sudah masuk; pengunjung yang belum masuk akan diminta untuk masuk terlebih dahulu.
Apakah AI Agent berfungsi pada VM Windows?
Tidak. Modul ini hanya berfungsi pada VM Linux yang sedang berjalan; VM Windows akan ditolak.
Bisakah saya menonaktifkannya?
Bisa. Nonaktifkan modul AI di License › Modules; AI Chat dan AI Agent akan hilang dari portal dan API-nya akan merespons bahwa modul tersebut dinonaktifkan.

Referensi

Spesifikasi yang disebutkan dalam panduan ini.

Tambahkan AI ke cloud Anda

AI Chat dan AI Agent tersedia di setiap lisensi NexCMP — gratis untuk tahun pertama, atau $499 sekali bayar dengan kode sumber.

Dapatkan NexCMP gratisHubungi salesLihat demo

Terakhir diperbarui: