본문으로 건너뛰기
KO
NexCMP 무료로 시작하기

가이드

CloudStack 클라우드에 AI 지원 챗봇 및 SSH agent를 추가하는 방법

NexCMP는 Apache CloudStack 및 Proxmox VE를 위한 셀프 호스팅 빌링 및 고객 포털 솔루션이며, 1.2.0 버전에는 고객 포털 내 어시스턴트인 AI Chat과 SSH를 통해 고객 VM에서 작업을 수행하는 AI Agent 등 2가지 AI 모듈이 제공됩니다. 이 가이드에서는 고객 포털과 관리자 콘솔의 스크린샷을 통해 OpenAI 호환 API 키로 두 모듈을 설정하는 방법을 안내합니다.

NexCMP 무료로 시작하기데모 보기

소요 시간: 기존 NexCMP 설치 환경 기준 약 15분.

스택 구성

4가지 구성 요소 중 3가지는 이미 운영 중일 것입니다.

  • NexCMP 1.2.0

    Ubuntu 22.04 또는 24.04에 설치되어 고객이 이미 사용 중인 패널입니다. AI Chat 및 AI Agent는 라이선스에 기본 포함되어 있으며 추가 비용이 없습니다.

  • OpenAI 호환 엔드포인트

    도구(함수) 호출을 지원하는 모든 chat-completions API: 호스팅 제공업체 또는 여러 제공업체 앞단에서 직접 운영하는 프록시.

  • 지출 한도가 설정된 키

    패널 전용 키를 할당하고 제공업체 또는 프록시에서 월별 예산을 설정하여 사용량이 통제를 벗어나지 않도록 하십시오.

  • CloudStack VM

    AI Agent는 고객이 해당 VM에 저장한 로그인 정보를 바탕으로 패널 서버에서 SSH를 통해 고객 VM에 접속합니다.

단계별 절차

  1. 패널을 1.2.0으로 업데이트

    관리자 콘솔에서 License를 열고 Update를 누르거나, 서버에서 sudo nexcmp update를 실행하십시오. 업데이트는 서명 검증을 거친 후 설치됩니다.

  2. 한도가 설정된 API 키 생성

    AI 제공업체(또는 프록시)에서 본 패널 전용 키를 생성하고 월별 예산을 설정하십시오. 지원 챗봇에는 빠르고 저렴한 모델로도 충분합니다.

  3. Admin › Settings › AI provider에 입력

    엔드포인트 URL, 키, 모델명을 붙여넣은 뒤 Test connection을 누르십시오. 키는 패널 데이터베이스에 암호화되어 저장되며 이후 다시 표시되지 않습니다.

  4. AI 모듈 활성화

    License › Modules에서 AI를 켭니다. 페이지를 새로고침하면 고객 포털 메뉴에 AI Chat과 AI Agent가 표시되며, 모듈을 끄면 다시 숨겨집니다.

  5. 고객이 AI Chat에 문의

    AI Chat이 요금제 및 가격 정책, 고객의 개별 서비스 관련 질문에 답변합니다. 상담원의 도움이 필요한 경우, 고객이 대화를 지원 팀으로 인계할 수 있습니다.

    고객 포털, 고객 서버에 관한 질문에 답변하는 AI Chat

  6. 고객이 VM에서 AI Agent 실행

    고객이 자신의 VM 중 하나를 선택하고 일상적인 언어로 작업을 설명합니다. 에이전트는 SSH를 통해 명령을 실행하고 각 명령과 실행 결과를 함께 보여줍니다.

    VM에서 명령을 실행하고 결과를 표시하는 고객 포털의 AI Agent

  7. 사용량 모니터링

    사용량 요금은 NexCMP가 아닌 이용 중인 AI 제공업체에서 청구됩니다. 제공업체나 프록시 대시보드에서 지출 내역을 확인하고 고객의 기능 사용 추이에 맞춰 API 키 예산을 조정하십시오.

시작하기 전에 필요한 사항

  • License › Modules에 AI 모듈이 포함된 NexCMP 1.2.0 이상 버전.
  • OpenAI 호환 chat/completions 엔드포인트와 도구(함수) 호출을 지원하는 모델을 갖춘 AI 제공업체(OpenAI, OpenRouter, LiteLLM 게이트웨이, 자체 vLLM 서버 모두 사용 가능).
  • AI Agent의 경우: 패널 서버의 openssh-client(설치 프로그램이 자동 추가) 및 패널 서버에서 각 VM의 SSH 포트(기본값 22)로 이어지는 네트워크 라우트.
  • AI Agent의 경우: 고객 소유이며 실행 중이고 잠겨 있지 않은 Linux VM(VM 생성 시 또는 비밀번호 재설정 시 저장된 로그인 정보나 패널 운영 키 필요). Windows VM은 지원되지 않습니다.
  • AI Chat 상담원 인계 시 선택 사항: Settings › Admin alerts의 Telegram 봇 및 채팅 ID.
ssh -V
nc -vz 198.51.100.10 22

패널 서버에서 엔드포인트 먼저 테스트

NexCMP는 /v1로 끝나는 URL에는 /chat/completions를 추가하고, 그 외 URL에는 /v1/chat/completions를 추가하며, 이미 /chat/completions로 끝나는 URL은 그대로 사용합니다. 엔드포인트를 입력하기 전에 NexCMP 서버에서 요청을 한 번 전송해 보십시오. choices[0].message.content가 포함된 JSON 응답이 반환되면 엔드포인트와 모델이 정상 작동하는 것입니다.

curl -s https://ai.example.com/v1/chat/completions \
  -H "Authorization: Bearer XXXX" -H "Content-Type: application/json" \
  -d '{"model":"gpt-4o-mini","messages":[{"role":"user","content":"Reply with one word: OK"}]}'

AI Agent의 명령 실행 방식 및 자동 실행되지 않는 작업

  • 명령은 패널 서버 자체 ssh 클라이언트를 통해 비대화형 명령으로 한 번에 하나씩 실행됩니다. 대상 IP는 요청에서 가져오지 않고 항상 데이터베이스에 등록된 VM의 IP 주소를 사용합니다.
  • 저장된 비밀번호는 프로세스 환경의 일회성 SSH_ASKPASS 헬퍼를 통해 전달되며 디스크에 기록되거나 명령줄에 노출되지 않습니다.
  • 각 명령의 출력은 200 KB로 제한되고 대화 턴은 최대 10단계 후에 종료되며, 고객당 동시에 실행할 수 있는 에이전트 작업은 최대 2개입니다.
  • Confirm 모드에서는 모든 명령이 고객이 Run을 누를 때까지 대기합니다. Auto 모드에서는 df -h, ps, journalctl 등 엄격한 읽기 전용 목록에 포함된 명령만 자동으로 실행됩니다.
  • 파일을 덮어쓰거나 삭제하는 명령, 계정 또는 SSH Keys를 변경하는 명령, 외부 서버로 데이터를 전송하는 명령, 스크립트를 다운로드하여 실행하는 명령, 머신을 종료하거나 재부팅하는 명령은 Auto 모드에서도 항상 Needs confirmation이 표시됩니다.
  • 명령 출력은 신뢰할 수 없는 데이터로 모델에 전달되며, 출력 내용에 포함된 지침은 실행되지 않습니다.

문제 해결

자주 발생하는 메시지 및 확인 사항.

  • Test connection 실패(401)

    추정 원인
    해당 엔드포인트에 대한 키가 올바르지 않습니다.
    조치 방법
    키와 엔드포인트를 확인하고 기본 URL을 변경했다면 키를 다시 입력하십시오.

  • Test connection 실패(404 또는 model not found)

    추정 원인
    경로 또는 모델 ID가 잘못되었습니다.
    조치 방법
    기본 URL이 /v1로 끝나는지 확인하고 제공업체의 정확한 모델 ID를 사용하십시오.

  • 포털에 AI 메뉴가 표시되지 않음

    추정 원인
    모듈이 꺼져 있거나 제공업체가 사용 중으로 활성화되어 있지 않습니다.
    조치 방법
    License › Modules에서 AI 모듈을 켜고 제공업체를 활성화하십시오.

  • 에이전트가 로그인하지 못함

    추정 원인
    해당 VM에 저장된 비밀번호 및 operations key가 없습니다.
    조치 방법
    포털에서 VM 비밀번호를 재설정하여 다시 저장되도록 하십시오.

  • 서버가 제때 응답하지 않았습니다

    추정 원인
    방화벽, SSH 미수신 또는 VM 과부하가 원인일 수 있습니다.
    조치 방법
    패널 서버에서 nc -vz <vm-ip> 22 명령을 실행하고 VM에서 sshd를 시작하십시오.

  • AI 응답 속도가 너무 느립니다

    추정 원인
    제공업체 또는 모델의 응답 속도가 느립니다.
    조치 방법
    Settings › AI provider에서 더 빠른 모델을 사용하거나 Reasoning effort를 낮추십시오.

  • AI Chat을 사용하려면 로그인하십시오

    추정 원인
    방문자가 로그인하지 않았습니다.
    조치 방법
    정상 동작: AI Chat은 로그인한 고객만 사용할 수 있습니다.

개인정보 보호 및 비용

고객의 질문 및 AI가 해당 고객을 위해 읽은 데이터(읽기 전용)는 AI 제공업체로 전송됩니다. 이 내용을 개인정보 처리방침에 명시하십시오.

NexCMP는 AI 비용을 측정하지 않습니다. 비용 지출을 제한하려면 제공업체의 예산 관리 기능을 활용하고, 고객별 1일 AI 턴 수 설정(기본값 40회, Customers › Support › Ticket › AI settings)을 낮추십시오.

다음 단계

AI Chat 및 AI Agent는 공급자 키를 저장하기 전까지 비활성화 상태를 유지하므로, 설정하기 전에는 비용이 청구되거나 데이터가 외부로 전송되지 않습니다. 개요를 읽어보시거나 다른 모듈을 살펴보십시오.

AI 모듈 관련 자주 묻는 질문

어떤 AI 모델을 지원합니까?
tool(함수) 호출을 지원하는 OpenAI 호환 chat-completions 엔드포인트 기반의 모든 모델을 지원합니다. 엔드포인트, 키 및 모델은 Admin › Settings › AI provider에서 설정합니다.
에이전트가 다른 고객의 서버에 접근할 수 있습니까?
아닙니다. AI Agent는 로그인한 고객 계정에 속한 VM에서만 작동하며, 해당 VM에 저장된 로그인 정보를 사용합니다.
NexCMP에서 AI 사용 요금을 청구합니까?
아닙니다. AI 모듈은 라이선스에 포함되어 있습니다. 설정한 키의 사용량에 대해서만 AI 제공업체에 직접 지불하시면 됩니다.
AI 제공업체 연결은 어떻게 테스트합니까?
Admin › Settings › AI provider에서 Save를 누른 다음 Test connection을 누르십시오. 짧은 질문 하나를 전송한 후 모델 이름 및 소요 시간과 함께 Connected를 표시하거나, 제공업체가 반환한 오류를 표시합니다.
AI Agent에 별도의 SSH 게이트웨이가 필요합니까?
아닙니다. 기본 설치 환경에서 패널은 자체 ssh 클라이언트를 사용합니다. 선택 사항인 ssh-proxy 웹 터미널은 웹 SSH 기능이 활성화된 경우에만 사용됩니다.
로그인하지 않은 방문자도 AI Chat을 사용할 수 있습니까?
아닙니다. AI Chat은 로그인한 고객 전용입니다. 로그인하지 않은 방문자에게는 먼저 로그인하라는 안내가 표시됩니다.
AI Agent가 Windows VM에서도 작동합니까?
아닙니다. 실행 중인 Linux VM에서만 작동하며, Windows VM은 거부됩니다.
비활성화할 수 있습니까?
예. License › Modules에서 AI 모듈을 끄면 포털에서 AI Chat 및 AI Agent가 사라지며, 관련 API도 모듈이 비활성화되었다고 응답합니다.

참고 자료

본 가이드에 언급된 기술 사양입니다.

클라우드에 AI를 도입하십시오

AI Chat 및 AI Agent는 모든 NexCMP 라이선스에 포함되어 있습니다. 첫해는 무료로 제공되며, 소스 코드가 포함된 라이선스는 일회성 $499입니다.

NexCMP 무료로 시작하기영업팀 문의데모 보기

최종 업데이트: