오픈소스 AI API 리셀러 및 LLM 빌링 플랫폼

NexCMP는 이미 선불 지갑을 통해 가상 머신 과금을 지원하고 있습니다. AI Models는 동일한 패널에 게이트웨이를 추가하므로, 서버를 판매하던 동일한 지갑, 고객, 리셀러 및 지원 티켓 시스템을 통해 AI API 액세스도 함께 판매할 수 있습니다.

본 기능은 과금 및 제어 레이어일 뿐 모델 공급자가 아닙니다. 사용 권한이 있는 공급업체를 추가하고 제공할 모델과 요금을 설정하면, 고객은 자체 키를 사용하여 자체 도메인의 단일 엔드포인트를 호출합니다. 고객에게는 자체 도메인과 자체 요금만 표시되며, 요청을 처리한 실제 공급업체는 전혀 노출되지 않습니다.

AI Chat 및 AI Agent를 찾고 계신가요? 이는 고객 포털 내의 어시스턴트 및 고객 서버에서 실행되는 에이전트로 구성된 별개의 제품입니다. 모델 액세스를 판매하는 기능이 아니며, 두 모듈은 서로 독립적으로 작동합니다.

• AI Chat 및 AI Agent
• 시간당 과금, 지갑 및 청구서
• 요금제: 무료, Source $499

고객의 클라이언트는 자체 도메인을 가리키며 패널에서 발급한 키를 사용합니다. 하나의 키로 사용 권한이 부여된 모든 모델을 호출할 수 있습니다. 게이트웨이는 패널의 자체 도메인에서 실행되며 두 가지 형식 모두 스트리밍 응답을 지원합니다.

• Anthropic 호환 클라이언트는 /ai/v1/messages/count_tokens 엔드포인트도 사용할 수 있습니다.
• 토큰 사용량은 공급업체의 응답에서 가져옵니다. 응답에 토큰 정보가 없는 경우 NexCMP가 이를 추정하여 기록에 추정치로 표시합니다.
• 게이트웨이는 두 형식 간 상호 변환을 수행하지 않습니다. OpenAI 호환 공급업체가 제공하는 모델은 OpenAI 호환 엔드포인트를 통해 접근하며, Anthropic 호환 공급업체가 제공하는 모델은 Anthropic 호환 엔드포인트를 통해 접근합니다. Both 유형의 공급업체는 두 형식을 모두 지원합니다.
• 웹 검색 등 공급업체 측에서 실행되고 호출당 과금되는 도구는 사용량을 측정할 수 없으므로 거부됩니다. 안전한 소수의 요청 매개변수만 전달됩니다.

POST https://your-domain/ai/v1/chat/completions   OpenAI-compatible
POST https://your-domain/ai/v1/messages            Anthropic-compatible
GET  https://your-domain/ai/v1/models              model list
GET  https://your-domain/ai/v1/models/pricing      public price list, no key

• 모델당 3가지 가격

  1 million 토큰당 US dollars 기준의 입력, 캐시된 입력 및 출력 가격입니다. 판매 가격이 없는 모델은 활성화할 수 없습니다.

• 캐시된 입력

  캐시된 입력 가격을 설정하기 전까지 캐시된 토큰은 입력 가격으로 청구됩니다. 무료로 제공되지 않습니다.

• 선택적 원가 입력

  Profit 페이지에서 일별 및 모델별 손익을 확인하려면 모델 원가를 입력하십시오. 원가를 입력하면 의도적인 손실 판매임을 확인하지 않는 한, 원가에 최소 마진을 더한 금액 미만의 판매 가격은 등록이 거부됩니다.

• 원가 기준 가격 설정

  원가에 직접 선택한 마크업을 더해 판매 가격을 설정하는 버튼을 제공합니다. 기본 마크업은 설정되어 있지 않습니다.

• 공개 가격표

  고객과 방문자는 키가 없어도 게이트웨이의 가격표 주소에서 요금을 확인할 수 있습니다.

AI 사용 요금은 고객의 선불 월렛에서 차감되며, 이는 다른 모든 NexCMP 서비스 결제에 사용되는 것과 동일한 월렛입니다. 가격은 관리자가 설정하며, 고객은 일반적인 방식으로 잔액을 충전합니다.

공급자에게 요청이 전달되기 전에 NexCMP는 해당 요청에서 발생할 수 있는 최대 비용만큼 월렛에서 금액을 사전 예약합니다. 잔액이 최소 금액(기본 20 cents) 미만이거나 부족한 경우 402 insufficient_balance 오류와 함께 요청이 거부되며 공급자는 호출되지 않습니다. 사전 예약이 먼저 이루어지므로 병렬 요청으로 인해 월렛 잔액이 0 미만으로 내려가지 않습니다.

사용량은 계정별로 집계되며 1시간이 지나면 5분마다 실행되는 스위프를 통해 월렛 원장 항목으로 정산됩니다. 아직 정산되지 않은 사용량도 게이트웨이가 참조하는 잔액에서 이미 차감되어 있습니다.

• 모델 및 요금

  제공하는 모델과 해당 요금, 기본 URL, 미리 준비된 예제 명령을 확인할 수 있습니다.

• 키, 사용량 및 로그

  키를 생성하고, 모델별·키별·일별 사용량을 확인하며, 요청 로그를 필터링할 수 있습니다. 로그에는 메타데이터만 표시되며 요청 내용은 일절 표시되지 않습니다.

• 설정

  계정 예산과 알림을 수신할 이메일 주소를 설정합니다.

• Playground

  모델과 대화하고, 여러 모델을 나란히 비교하며, Get Code로 해당 코드를 복사할 수 있습니다.

1. 1

   모듈 활성화

   관리자 콘솔에서 License & updates, Modules를 열고 AI Models를 켭니다.

2. 2

   공급자 추가 및 테스트

   공급자의 유형, 기본 URL 및 키를 입력한 다음 연결 테스트를 실행합니다.

3. 3

   모델 동기화 및 요금 설정

   모델 목록을 동기화하고 판매 가격을 설정한 뒤, 대체 라우트로 사용할 보조 프로바이더가 있다면 추가하고 모델을 활성화합니다.

4. 4

   판매 스위치 활성화

   고객이 서비스를 이용할 수 있도록 AI Models 관리자 페이지에서 판매 스위치를 켭니다.

5. 5

   고객의 키 생성 및 엔드포인트 호출

   고객이 지갑을 충전하고 포털에서 키를 생성한 다음, 클라이언트의 엔드포인트를 귀하의 도메인으로 지정합니다.

AI Models는 다른 기능과 동일한 모듈이며 NexCMP Free 및 NexCMP Source 모두에 포함되어 있습니다. NexCMP는 이에 대해 추가 요금을 청구하지 않으며 별도의 플랜도 없습니다. 프로바이더 비용, 하드웨어 비용 및 결제 게이트웨이 수수료는 직접 부담하셔야 합니다.

NexCMP Free는 첫해 $0입니다. 모든 모듈이 포함된 서명된 정식 빌드, 1년간의 버그 수정 및 업데이트, 무제한 리셀러 도메인을 제공합니다. 첫해 이후에는 연간 $99로 갱신되며, 갱신하지 않더라도 소프트웨어는 계속 실행됩니다. NexCMP Free는 자체 ASN 및 본인 명의로 등록된 서브넷을 보유한 네트워크 운영자를 대상으로 하며, 신청 후 심사가 진행됩니다. NexCMP Source는 $499 1회 구매로 전체 소스 코드, 빌드 완료된 모든 앱, 전문 엔지니어와의 30 영업일 지원을 제공합니다.

• 요금제 및 플랜
• AI Chat 및 AI Agent
• 플랫폼 전체 둘러보기
• 자주 묻는 질문

NexCMP는 모델, API 키, 토큰, 프로바이더 계정 또는 가격을 제공하지 않습니다. 사용 및 재판매 권한이 있는 모델 소스를 직접 연결해야 하며, 해당 소스의 이용약관과 적용되는 법률을 준수할 책임은 전적으로 귀하에게 있습니다.

다수의 모델 소스가 재판매나 제3자에 대한 접근 권한 부여를 제한합니다. 각 소스의 이용약관을 검토하고, 고객에게 모델을 제공하기 전에 별도 계약이 필요한지 해당 소스에 문의하십시오.

또한 자체 고객을 위한 이용 정책(AUP)과 어뷰징 신고 처리 방안을 마련해야 합니다. 전송된 데이터에 대한 소스 측의 처리는 해당 소스의 약관에 따르며, NexCMP 자체는 프롬프트나 응답을 기록하지 않습니다. 본 페이지의 내용은 법률적 조언이 아닙니다.

• nexcmp.com/docs/infrastructure/ai-models/
• nexcmp.com/docs/infrastructure/modules/