コンテンツへスキップ

AI Models

オープンソースのAI APIリセラーおよびLLM課金プラットフォーム

NexCMP AI Modelsは、独自ドメイン上でAIモデルへのアクセスを販売できるようにする、セルフホスト型NexCMPパネル向けのアドオンです。利用権限のあるモデルソースを接続し、モデルごとに価格を設定するだけで、お客様は1つのAPIキーでそれらを呼び出し、トークン単位で従量課金され、プリペイドウォレットから支払うことができます。

AI ModelsはNexCMPの一部であり、追加費用はかかりません。有効にするまでオフになっています。NexCMPはモデル、APIキー、トークン、プロバイダーアカウントを提供しません。利用権限のあるソースをご自身でご用意いただく必要があります。NexCMP Source:買い切り$499で完全なソースコードを提供。 自社事業のために利用、改変、セルフホストが可能です。運営するサービスを販売することはできますが、ソースコードやビルドを転売または再配布することはできません。 Sourceライセンス規約

NexCMP AI Modelsアドオンとは?

NexCMPはすでにプリペイドウォレットから仮想マシンへの課金を行っています。AI Modelsは同一パネルにゲートウェイを追加するため、サーバー販売に利用しているウォレット、顧客、リセラー、サポートチケットの仕組みを使って、AI APIアクセスも同様に販売できます。

本機能は課金および制御レイヤーであり、モデルの供給元ではありません。利用権限を持つプロバイダーを追加し、提供するモデルとその価格を選択すると、お客様は各自のキーを使って独自ドメイン上の1つのエンドポイントを呼び出します。お客様にはお客様のドメインと価格のみが表示され、リクエストを処理した実際のプロバイダーが知られることはありません。

AI ChatやAI Agentをお探しですか?これらは別の製品です。カスタマーポータル内のアシスタント機能、およびお客様のサーバー上で動作するエージェント機能であり、モデルへのアクセスを販売するものではありません。また、これら2つのモジュールは互いに依存していません。

顧客によるAI Modelsの利用方法

各画面はカスタマーポータルのサービス詳細ページにあるタブを、サンプルデータとともに表示したものです。タブの選択、矢印ボタンや左右キーによる操作、または全画面ビューアーで確認できます。

モデル

カスタマーポータル、AI Modelsのモデルタブ:料金APIリンクと、タグ、コンテキストサイズ、入力価格、出力価格を含むモデル一覧表。
100万トークンあたりの価格が設定された提供モデルと、料金APIへのリンク。

APIキー

カスタマーポータル、AI ModelsのAPIキータブ:マスクされたシークレット、最終利用日時、ステータス、予算に対する利用額のキー一覧と、OpenAI互換およびAnthropic互換のベースURL。
キーの作成、キーごとの予算設定、OpenAI互換およびAnthropic互換クライアント向けのベースURLのコピーが可能です。

使用量

カスタマーポータル、AI Modelsの利用状況タブ:総利用額、リクエスト数、成功/失敗リクエスト数、トークン数、日次利用額グラフ。
日別、モデル別、キー別の利用額、リクエスト数、トークン数。

ログ

カスタマーポータル、AI Modelsのログタブ:時間、タイプ、ステータス、リクエストID、コスト、所要時間、キーを含むリクエスト一覧。
リクエストごとにステータス、コスト、所要時間を1行で表示。プロンプトと回答は保存されません。

設定

カスタマーポータル、AI Modelsの設定タブ:当期利用額、ソフト/ハード予算ルール、アラートメール、レート制限。
アラートを送信するソフト予算、リクエストをブロックするハード上限、およびレート制限。

Playground

カスタマーポータル、AI ModelsのPlaygroundタブ:モデル選択と高度なパラメータを備えたチャット。
コードから呼び出す前に、ブラウザ上でモデルを試すことができます。

お客様からプロバイダーへの流れ

お客様はお客様のドメインを呼び出します。NexCMPがキー、制限事項、ウォレットを確認した上で、追加されたプロバイダーへリクエストを転送します。

Provider AおよびProvider Bは、ご自身で追加するモデルソースを表しています。NexCMPはこれらを提供しません。

AI APIアクセスの販売に必要なもの

NexCMPがソフトウェア面を担当します。それ以外はお客様自身でご用意いただきます。

  • 利用および再販の権限を持つモデルソース:OpenAI互換またはAnthropic互換のAPIを備えた1つ以上のプロバイダー。
  • AI Modelsモジュールが有効化されたNexCMPパネル。
  • ご自身で設定した、提供する各モデルの販売価格。
  • エンドユーザー向けのサポート体制および独自の利用規約(AUP)。
  • HTTPS経由で各プロバイダーと通信可能なパネル。

1つのキーで複数モデルに対応

顧客のクライアントは独自ドメインを向き、パネルから発行されたキーを使用します。1つのキーで、利用が許可されたすべてのモデルを呼び出すことができます。ゲートウェイはパネル自身のドメイン上で稼働し、両方の形式でレスポンスをストリーミングします。

  • Anthropic互換クライアントは、/ai/v1/messages/count_tokensも利用できます。
  • トークン使用量はプロバイダーの応答から取得されます。応答に含まれない場合、NexCMPが見積もりを行い、そのレコードに見積もり済みとしてマークを付けます。
  • ゲートウェイは2つの形式間で相互変換を行いません。OpenAI互換プロバイダーが提供するモデルへはOpenAI互換エンドポイント経由で、Anthropic互換プロバイダーが提供するモデルへはAnthropic互換エンドポイント経由でアクセスします。タイプが「Both」のプロバイダーはいずれのリクエストにも対応します。
  • プロバイダー側で実行され、呼び出しごとに課金されるWeb検索などのツールは、使用量を計測できないため拒否されます。安全性が確認された一部のリクエストパラメーターのみが転送されます。
POST https://your-domain/ai/v1/chat/completions   OpenAI-compatible
POST https://your-domain/ai/v1/messages            Anthropic-compatible
GET  https://your-domain/ai/v1/models              model list
GET  https://your-domain/ai/v1/models/pricing      public price list, no key

独自のモデルソースを持ち込み可能

プロバイダー、モデル、デフォルトアドレス、価格表など、事前に組み込まれているものは一切ありません。

  • プロバイダーの追加

    名前、タイプ(OpenAI互換、Anthropic互換、またはBoth)、ベースURL、APIキー、優先度、および有効/無効スイッチを設定します。キーは暗号化されて保存され、設定後は末尾4文字のみが表示されます。

  • 接続テスト

    テストによってプロバイダーのモデル一覧を読み込み、成功、または失敗の原因(認証エラー、ブロックされたアドレス、課金エラー、ホスト到達不能など)をレポートします。

  • モデル一覧の同期

    NexCMPはプロバイダーのリストを読み込み、新しいモデルを無効状態かつ価格未設定で追加します。プロバイダー側で提供終了されたモデルにはフラグが付けられます。モジュールが有効な間、リストはデフォルトで6時間ごとに自動同期されます。

  • アドレスの検証

    プロバイダーのアドレスはポート443のHTTPSかつパブリックドメインである必要があります。内部ホスト、その他のポート、平文HTTPは、「Allowed internal hosts」に登録されている場合のみ許可されます。

  • 自由な価格設定

    NexCMPがプロバイダーから価格を読み込むことはありません。すべての販売価格は管理者が設定します。

モデル別の価格設定

各モデルの顧客向け提供価格は自由に決定できます。

  • モデルごとに3種類の価格

    100万トークン(1M)あたりの入力、キャッシュ済み入力、出力(米ドル)。販売価格が設定されていないモデルは有効化できません。

  • キャッシュ入力

    キャッシュ入力価格を設定するまで、キャッシュされたトークンには通常の入力価格が適用されます。無料にはなりません。

  • 原価の設定(任意)

    「Profit」ページで日別およびモデル別の損益を確認したい場合は、モデルの仕入れ原価を入力します。設定した場合、意図的な赤字販売を明示的に承認しない限り、原価に最低マージンを加えた額を下回る販売価格は拒絶されます。

  • 原価から価格を設定

    ボタン操作により、原価に任意のマージンを加算した販売価格を一括設定できます。デフォルトのマージン率は設定されていません。

  • 公開価格表

    顧客や訪問者は、APIキーがなくてもゲートウェイの価格表アドレスから価格一覧を閲覧できます。

APIキー、制限、使用量、ログ

各項目は、顧客自身がポータルで操作するか、管理者が設定するものです。

  • キー

    キーの作成、名前変更、ローテーション、無効化、削除が可能です。シークレットは一度だけ表示され、NexCMPにはそのハッシュ値のみが保存されます。

  • 許可モデルと有効期限

    キーが利用可能なモデルを制限し、有効期限を設定できます。

  • 予算

    ソフト予算は通知やメールで警告を発します。ハード予算は402エラーを返してリクエストをブロックします。どちらも期間ごと、個別キー単位、またはアカウント全体に適用できます。

  • レート制限

    キーごとおよびアカウントごとの1分あたりのリクエスト数とトークン数に加え、同時リクエスト数の制限やアカウントごとのキー保持数の上限を設定できます。

  • 使用量

    モデル別、キー別、日別の使用状況を確認でき、CSVエクスポートにも対応しています。

  • ログ

    日時、キー、モデル、トークン数、コスト、ステータス、レイテンシを含むフィルタリング可能なリクエストログを提供します。NexCMPはプロンプトやレスポンスの内容を記録しません。ログはデフォルトで90日間保持されます。

LLM APIのウォレット課金

AIの使用料金は顧客のプリペイドウォレットに請求されます。これはNexCMPの他のすべてのサービスと同じウォレットです。管理者が価格を設定し、顧客は通常通りの方法で残高をチャージします。

プロバイダーへリクエストが送信される前に、NexCMPはリクエストの最大想定コスト分の金額をウォレットから仮押さえ(リザーブ)します。残高が最低額(デフォルトで20セント)未満または不足している場合、リクエストは402 insufficient_balanceエラーで拒絶され、プロバイダーへの呼び出しは行われません。事前予約が行われるため、並行リクエストによってウォレットの残高がマイナスになることはありません。

使用量はアカウントごとに集計され、1時間が経過するとウォレットの台帳エントリとして決済されます(5分ごとのスイープ処理)。まだ決済されていない使用分も、ゲートウェイが参照する残高からはあらかじめ差し引かれています。

プロバイダー間のルーティングとフェイルオーバー

  • モデルごとの複数ルート設定

    1つのモデルに対して複数のプロバイダーへのルートを任意の優先順位で設定し、それぞれ有効/無効を切り替えることができます。プロバイダーに送信するモデル名は、公開する名前と異なるものに設定可能です。

  • フェイルオーバー

    プロバイダーがサーバーエラー、認証または請求エラー、モデル不在、レート制限などで失敗した場合、NexCMPは次のルートを自動的に試行します。

  • 二重請求の防止

    リクエスト送信後に読み取りタイムアウトが発生した場合、NexCMPは別のプロバイダーに再送しないため、1回のリクエストに対して二重に支払いが発生することはありません。

  • プロバイダーごとのペース制御

    各プロバイダーへのリクエスト数は1分単位で制限されており(デフォルトで50件)、一時的なトラフィック集中によるソースの枯渇を防ぎます。

  • アラート

    プロバイダーが認証エラーや請求エラーを返し続ける場合、Telegramが設定されていれば、NexCMPはTelegram経由で管理者に通知します。

  • プロバイダーの詳細は非公開

    エラーは顧客に届く前にサニタイズされます。プロバイダー名、ホスト、アップストリームのモデル名、アドレスは削除され、プロバイダーのヘッダーも転送されません。顧客はどのプロバイダーがリクエストを処理したかを確認できません。

Playgroundとカスタマーポータル

各項目は、顧客が独自ドメイン上のポータルで実行する操作です。

  • モデルと価格

    提供モデル一覧、価格、ベースURL、すぐに使えるサンプルコマンドを確認できます。

  • キー、利用状況、ログ

    キーの作成、モデル別・キー別・日別の利用状況の確認、リクエストログのフィルタリングが可能です。ログにはメタデータのみが表示され、リクエストの内容は記録されません。

  • 設定

    アカウントの予算とアラート通知先のメールアドレスを設定します。

  • Playground

    モデルとのチャット、複数モデルの並列比較、および「Get Code」による対応コードのコピーが可能です。

事業者ができること

各項目はNexCMPの管理コンソールから設定できます。

  • プロバイダー、モデル、ルーティング

    プロバイダーの追加とテスト、モデル一覧の同期、価格設定、モデルの有効化/無効化、各モデルをどのプロバイダーがどの順序で処理するかの選択が行えます。

  • 利用状況と収益

    各顧客アカウントの利用状況を確認できるほか、原価を入力したモデルについては、日別およびモデル別の売上と原価の対比を確認できます。

  • 監査ログ

    すべての変更時に理由の入力が求められ、監査ログに記録されます。プロバイダーのキーは、サインイン済みの管理者セッションからのみ入力できます。

  • 2つのスイッチ

    モジュールは「License & updates」の「Modules」で有効化します。AI Modelsの管理ページにある個別の販売スイッチはデフォルトでオフになっており、オフの間は顧客向けにサービス提供前である旨が表示され、公開価格表には利用不可と表示されます。

  • モジュールの無効化

    モジュールを無効にすると、顧客ページ、管理ページ、ゲートウェイがすべて404を返すようになり、メニュー項目は非表示になり、バックグラウンド同期によるプロバイダーへの呼び出しも停止します。

NexCMP AI Modelsの画面

サンプルデータを含むNexCMP 1.5.0環境の実際の画面です。Provider A、B、Cはサンプル名です。

タイプ、優先度、ステータス、接続テストボタン、モデル同期ボタンとともにProvider A、Provider B、Provider Cを一覧表示したNexCMP管理コンソールのAI Models Providersページ
プロバイダー: 追加したモデル提供元の一覧(タイプ、優先度、ステータス付き)。Provider A、B、Cはサンプル名です。
入力、キャッシュ入力、出力の1Mトークンあたりの販売価格とオン/オフスイッチを備えたモデルを一覧表示するNexCMP管理画面のAI Modelsページ
モデルと価格: 管理者が設定するモデルごとの3つの販売価格と、各モデルの有効/無効スイッチ。
合計利用額、リクエスト数、トークン数、日別利用額チャート、上位のAPIキーとモデルを表示したNexCMPカスタマーポータルのAI利用状況ページ
モデル別、キー別、日別の利用状況。
キー名、最終アクティビティ、有効期限、ステータス、リセット周期、予算に対する現在の利用額、および両方のAPI形式のベースURLを表示したNexCMPカスタマーポータルのAI Models用API Keysページ
顧客のAPIキー一覧。有効期限、ステータス、予算に対する利用額、ベースURLを確認できます。
チャット、モデル選択メニュー、応答で消費されたトークン数を表示したNexCMPカスタマーポータルのAI Playground
カスタマーポータル内のPlayground。

リセラー経由の販売

ホワイトラベルリセラーは、自社ドメイン上で独自の価格を設定してAI Modelsを販売できます。リセラー独自のマージンや割引はお客様の販売価格に適用され、原価が設定されている場合、卸値はお客様の原価に最低マージンを加えた額以上に維持されます。リセラーの卸売ウォレットから卸値が引き落とされます。

各リセラーのAIスイッチにより、そのリセラーがAI Modelsを販売するかどうかを設定できます。デフォルトでオンになっています。

仕組み

モジュールの有効化から顧客の最初のリクエスト処理まで。

  1. モジュールの有効化

    管理コンソールで「License & updates」の「Modules」を開き、AI Modelsを有効にします。

  2. プロバイダーの追加とテスト

    プロバイダーのタイプ、ベースURL、キーを入力し、接続テストを実行します。

  3. モデルの同期と価格設定

    モデル一覧を同期し、販売価格を設定し、フォールバックルート用のセカンダリプロバイダーがあれば追加して、モデルを有効にします。

  4. 販売スイッチをオンにする

    お客様がサービスを利用できるように、AI Modelsの管理画面で販売スイッチをオンにします。

  5. お客様がキーを作成してエンドポイントを呼び出す

    お客様がウォレットにチャージし、ポータルでキーを作成して、クライアントから貴社のドメインを指定してリクエストを送信します。

インフラストラクチャ要件

NexCMPパネルを運用し、モデルソースをご用意ください。詳細な手順を含む全リストは、ドキュメント https://nexcmp.com/docs/infrastructure/ai-models/ に記載されています。

  • AI Modelsモジュールが有効化されたNexCMPパネル。
  • パネルから各プロバイダー、または「Allowed internal hosts」に指定した内部ゲートウェイへのアウトバウンドHTTPS通信。
  • お客様はパネルのドメイン経由でゲートウェイにアクセスします。
  • GPUや特殊なハードウェアは不要です。NexCMPはプロバイダーへリクエストを転送するだけです。

NexCMP FreeおよびNexCMP SourceにおけるAI Models

AI Modelsは他の機能と同様のモジュールであり、NexCMP FreeとNexCMP Sourceの両方に含まれています。NexCMP側での追加料金や別プランはなく、プロバイダーの利用料金、ハードウェア費用、決済代行手数料のみお客様のご負担となります。

NexCMP Freeは初年度$0です。すべてのモジュールが含まれる完全な署名済みビルド、1年間のバグ修正とアップデート、無制限のリセラー用ドメインが利用可能です。2年目以降は年間$99で更新されますが、更新しなくてもソフトウェアはそのまま動作し続けます。NexCMP Freeは自社所有のASNおよび自社名義で登録されたサブネットを運用しているネットワーク事業者が対象であり、利用には審査があります。NexCMP Sourceは$499の買い切りプランで、完全なソースコード、事前ビルドされた全アプリ、専任エンジニアによる30営業日のサポートが含まれます。

導入適性チェック

ホスティング、クラウド、またはソフトウェア事業を運営しており、利用および再販が許可されたモデルソースを所有し、キー管理、価格設定、ウォレット、利用状況、顧客への請求処理を自社ドメイン上の単一パネルで一括管理したい場合に、NexCMP AI Modelsは最適です。

モデル、トークン、APIキー、プロバイダーアカウント自体の提供を必要とする場合や、既成のモデルカタログや価格表、OpenAI互換とAnthropic互換フォーマット間の自動相互変換、ファインチューニング、GPUホスティング、またはNexCMPによるサービスレベルアグリーメント(SLA)を求める場合には適していません。

販売を開始する前に:モデルソース、利用規約、および責任

NexCMPはモデル、APIキー、トークン、プロバイダーアカウント、価格情報を提供しません。利用および再販が許可されたモデルソースをお客様自身で接続していただき、ソース元の利用規約および適用される法令を遵守する責任はお客様自身にあります。

多くのモデル提供元では、再販や第三者へのアクセス提供が制限されています。各モデルソースの利用規約を確認し、顧客へモデルを提供する前に別途契約が必要かどうかを各提供元にお問い合わせください。

また、エンドユーザー向けの利用許諾方針(AUP)や不正利用報告への対応体制も必要です。送信したデータが提供元でどのように扱われるかは各提供元の規約に従います。NexCMP自体はプロンプトやレスポンスを記録しません。なお、本ページの内容は法的助言ではありません。

AI APIリセラープラットフォーム:よくある質問

AI APIリセラープラットフォームとは何ですか?また、NexCMP AI Modelsは何ができますか?
自社のAPIを通じてAIモデルへのアクセスを販売するためのソフトウェアです。NexCMP AI Modelsは、NexCMPパネル上のゲートウェイおよび請求レイヤーとして機能します。顧客はキーを取得して自社ドメインのエンドポイントを呼び出し、モデルごとおよび 100万トークン(1 million tokens)ごとに価格を設定できます。利用量は従量計測されてプリペイドウォレットに請求され、リクエストは追加したプロバイダーへとルーティングされます。
NexCMPはモデル、APIキー、トークンを提供しますか?
いいえ。NexCMPにはプロバイダー、モデル、デフォルトアドレス、価格は一切含まれていません。利用許可のあるモデルソースをご自身で用意していただき、NexCMPはゲートウェイ、キー管理、価格設定、および課金機能を提供します。
契約しているソースのモデルへのアクセスを再販することは許可されていますか?
それはNexCMPではなく、各モデルソースの規約によって異なります。多くの提供元は再販や第三者へのアクセス提供を制限しており、別途個別契約によって許可している場合もあります。お客様ご自身でそれらの規約を確認し、適用される法令とともに遵守する責任があります。なお、これは法的助言ではありません。
顧客はどのAPIフォーマットを利用できますか?
/ai/v1/chat/completions のOpenAI互換フォーマットと、/ai/v1/messages のAnthropic互換フォーマットの両方が利用可能で、ストリーミングにも対応しています。利用者はベースURLを貴社のドメインに変更し、パネルから取得したキーを使用します。ゲートウェイは2つのフォーマット間の変換を行わないため、各モデルはそのプロバイダーが対応しているフォーマットで呼び出す必要があります。
価格はどのように設定しますか?
モデルごとに、入力、キャッシュ済み入力、出力それぞれの価格を100万トークン(1 million tokens)あたりの米ドル単位で設定します。販売価格が設定されていないモデルは有効化できません。また、原価を入力して日別およびモデル別の損益を確認することも可能です。
ウォレット請求はどのように機能し、残高がなくなるとどうなりますか?
利用料金はお客様の前払い式NexCMPウォレットに請求されます。リクエストがプロバイダーに送信される前に、NexCMPは想定される最大費用分の残高を仮押さえします。残高が不足している場合、リクエストは402 insufficient_balanceエラーで拒否され、プロバイダーは呼び出されません。
お客様のAPIキーにどのような制限を設定できますか?
許可するモデル、有効期限、警告を出すソフト予算とリクエストをブロックするハード予算、1分あたりのリクエスト数およびトークン数、同時実行リクエスト数の制限が設定可能です。予算やレート制限はアカウント全体にも設定でき、アカウントあたりのキー数も上限を設定できます。
お客様は利用状況やリクエストログを確認できますか?プロンプトは保存されますか?
はい、モデル別、キー別、日別の利用状況(CSVエクスポート対応)や、フィルター可能なリクエストログを確認できます。ログにはメタデータ(日時、キー、モデル、トークン数、費用、ステータス、レイテンシ)のみが保持されます。NexCMPはプロンプトやレスポンスを記録せず、ログはデフォルトで90日間保持されます。
プロバイダーに障害が発生した場合はどうなりますか?
1つのモデルに対して、指定した順序で複数のプロバイダーへのルートを設定できます。プロバイダーがサーバーエラー、認証または請求エラー、モデル不在、レート制限を返した場合、NexCMPは次のルートを試行します。送信後にタイムアウトしたリクエストは、別のプロバイダーには再送信されません。
リセラー経由でAIモデルを販売できますか?
はい。ホワイトラベルリセラーは自社ドメイン上で、販売価格に対する独自のマージンや割引を設定してAI Modelsを販売でき、卸売ウォレットから支払われます。デフォルトでオンになっているリセラーごとのAIスイッチにより、販売の可否を制御できます。
お客様は購入前にモデルをテストできますか?
カスタマーポータルにはPlaygroundがあり、お客様はモデルとチャットしたり、複数のモデルを並べて比較したり、対応するコードをコピーしたりできます。
セルフホスト可能ですか?費用はいくらですか?
はい、ご自身のNexCMPパネル上で稼働します。AI ModelsはNexCMP Free(初年度$0、以降年間$99)およびNexCMP Source(買い切り$499)に追加費用なしで含まれています。デフォルトでは無効になっており、「License & updates」の「Modules」から有効化できます。
利用規定やお客様のコンテンツに対する責任は誰にありますか?
事業者様にあります。お客様との間で利用規定を定め、不正利用の通報に対応し、モデル提供元の利用規約および適用される法令を遵守してください。NexCMPはこれらを管理するためのキー、制限機能、ログを提供します。

出典

AI Modelsモジュールに関するNexCMPドキュメント。

NexCMP を無料で入手

AI Modelsを含むすべてのモジュールが無料。今すぐサーバーにインストールしましょう。

最終更新: