Cách tích hợp AI support chatbot và SSH agent vào đám mây CloudStack

1. 1

   Cập nhật panel lên 1.2.0

   Trong bảng điều khiển quản trị, mở License và nhấn Update, hoặc chạy sudo nexcmp update trên máy chủ. Bản cập nhật được ký số và kiểm tra trước khi cài đặt.

2. 2

   Tạo API key có giới hạn chi tiêu

   Tại nhà cung cấp AI (hoặc trong proxy của bạn), hãy tạo một key dành riêng cho panel này và đặt ngân sách hàng tháng. Một mô hình nhanh, chi phí thấp là đã đủ cho chat hỗ trợ.

3. 3

   Nhập thông tin tại Admin › Settings › AI provider

   Dán URL endpoint, key và tên mô hình, sau đó nhấn Test connection. Key được lưu trữ mã hóa trong cơ sở dữ liệu của panel và sẽ không bao giờ hiển thị lại.

4. 4

   Bật module AI

   Trong License › Modules, hãy bật AI. AI Chat và AI Agent sẽ xuất hiện trên menu cổng khách hàng sau khi tải lại trang; tắt module sẽ ẩn chúng đi.

5. 5

   Khách hàng đặt câu hỏi với AI Chat

   AI Chat giải đáp các thắc mắc về gói dịch vụ, bảng giá cũng như các dịch vụ riêng của khách hàng. Khi câu hỏi cần người xử lý, khách hàng có thể chuyển tiếp cuộc trò chuyện cho đội ngũ hỗ trợ của bạn.

   

6. 6

   Khách hàng chạy AI Agent trên VM

   Khách hàng chọn một trong các VM của mình và mô tả tác vụ bằng ngôn ngữ tự nhiên. Agent sẽ thực thi các lệnh qua SSH và hiển thị từng lệnh kèm kết quả đầu ra.

   

7. 7

   Theo dõi mức sử dụng

   Mức sử dụng do nhà cung cấp AI của bạn tính phí, không phải NexCMP. Hãy kiểm tra chi phí trên bảng điều khiển của nhà cung cấp hoặc proxy và điều chỉnh ngân sách của khóa khi khách hàng bắt đầu sử dụng tính năng này.

NexCMP sẽ thêm /chat/completions vào URL kết thúc bằng /v1, và thêm /v1/chat/completions vào bất kỳ URL nào khác; URL đã kết thúc bằng /chat/completions sẽ được giữ nguyên. Trước khi nhập endpoint, hãy gửi một yêu cầu thử nghiệm từ máy chủ NexCMP. Phản hồi JSON chứa choices[0].message.content nghĩa là endpoint và model hoạt động bình thường.

curl -s https://ai.example.com/v1/chat/completions \
  -H "Authorization: Bearer XXXX" -H "Content-Type: application/json" \
  -d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"Reply with one word: OK"}]}'

• Test connection thất bại với lỗi 401

  Nguyên nhân có thể

  Khóa không hợp lệ cho endpoint đó.

  Cách xử lý

  Kiểm tra khóa và endpoint, đồng thời nhập lại khóa nếu bạn đã thay đổi base URL.

• Test connection thất bại với lỗi 404 hoặc model not found

  Nguyên nhân có thể

  Sai đường dẫn hoặc sai model id.

  Cách xử lý

  Kiểm tra xem base URL đã kết thúc bằng /v1 chưa và dùng chính xác model id của nhà cung cấp.

• Cổng khách hàng không hiển thị menu AI

  Nguyên nhân có thể

  Module đang tắt, hoặc nhà cung cấp chưa được bật để sử dụng.

  Cách xử lý

  Bật module AI trong License › Modules và kích hoạt nhà cung cấp.

• Agent không thể đăng nhập

  Nguyên nhân có thể

  Không có mật khẩu đã lưu và không có operations key cho VM đó.

  Cách xử lý

  Đặt lại mật khẩu VM trong portal để hệ thống lưu lại.

• Máy chủ không phản hồi kịp thời

  Nguyên nhân có thể

  Do firewall chặn, SSH chưa lắng nghe hoặc VM đang bận.

  Cách xử lý

  Chạy nc -vz <vm-ip> 22 từ máy chủ panel và khởi động sshd trong VM.

• AI phản hồi quá chậm

  Nguyên nhân có thể

  Nhà cung cấp hoặc model phản hồi chậm.

  Cách xử lý

  Sử dụng model nhanh hơn hoặc giảm Reasoning effort trong Settings › AI provider.

• Đăng nhập để sử dụng AI Chat

  Nguyên nhân có thể

  Khách truy cập chưa đăng nhập.

  Cách xử lý

  Hoạt động bình thường: AI Chat chỉ dành cho khách hàng đã đăng nhập.

AI Chat và AI Agent luôn ở trạng thái tắt cho đến khi bạn lưu key nhà cung cấp, vì vậy bạn sẽ không bị tính phí hay gửi dữ liệu đi bất cứ đâu trước khi đưa ra quyết định. Xem bài tổng quan, hoặc tìm hiểu các module khác.

• Tổng quan về AI Chat và AI Agent
• Khám phá nền tảng: toàn bộ module
• Bảng giá

• Tài liệu NexCMP: AI provider
• Tài liệu NexCMP: AI Chat
• Tài liệu NexCMP: AI Agent
• Tài liệu tham khảo API OpenAI — Chat Completions
• LiteLLM — khóa ảo và ngân sách