非審査LLMの統合のためのステップバイステップガイド

アンセンサードモデルにOpenAI互換エンドポイントを使用する理由

OpenAI互換エンドポイントにより、モデル統合の学習コストが不要になります。SDKやパラメータはすでに熟知しているはずです。主要プロバイダの多くは、新しいJSON構造の習得や独自ライブラリの使用を強制しますが、ここでは標準的なchat-completionsペイロードを送信するだけです。違いはベースURLとモデルIDのみです。フィルタリングのない生のテキスト応答が得られ、クリエイティブライティングやロールプレイシナリオをブロックする隠れたモデレーションレイヤーはありません。この互換性により、アプリケーションロジックの書き換えなしで無制限機能を組み込めます。

前提条件：SDKのインストールとAPIキーの設定

まずは、お好みの言語用の公式SDKをインストールしてください。Pythonの場合はpipを、JavaScriptの場合はnpmを使用します。ダッシュボードから有効なAPIキーが必要です。電話番号は不要です。メールアドレスまたはGoogleアカウントでログインするだけです。サインアップ直後にキーが発行され、画面上に表示されます。安全に保管してください。本番環境のコードにハードコードしないでください。環境変数を使用してください。これにより、ローカルで統合テストを行う間も資格情報を安全に保つことができます。このキーは、単一のuncensoredモデルへのアクセス権限を与えます。リクエストを送信するために必要なのはこれだけです。

ステップ1：検閲なしエンドポイントのベースURLを設定

SDKクライアントを正しいベースURLにポイントしてください。デフォルトのOpenAIエンドポイントは、無制限モデルが存在する場所ではありません。指定する必要があります https://api.aiabliterated.cc/v1これはSDKがPOSTリクエストを送信する先を指定します。この変更を行わないと、標準的なOpenAIサーバーにアクセスすることになります。それらは異なるモデルと異なる価格を持っています。当社のエンドポイントは特定の無制限の大規模言語モデルを提供します。成人向けにチューニングされており、標準的なコンテンツフィルタを無視します。データを送信する前にクライアント設定が正しいことを確認してください。このステップは、適切な応答形式を取得するために不可欠です。

ステップ2: 最初のチャット完了リクエストを送信する

POSTリクエストを以下に送信 /v1/chat/completions. モデルパラメータを"uncensored"に設定します。これが利用可能な唯一のモデルIDです。システムプロンプトとユーザーメッセージを含めます。APIはテキストレスポンスを返します。合法的な成人向けコンテンツを拒否しません。論争的なトピックをブロックしません。レスポンスはプレーンテキストです。ストリーミングする場合、最終チャンクにトークン使用データが得られます。ストリーミングしない場合は、全文が1回で得られます。コンテキストウィンドウは100,000トークンです。長い物語を書くことができます。大きなコードブロックを貼り付けることができます。モデルはそれらすべてを処理します。

ステップ3: リアルタイムのトークン表示のためにストリーミングを有効にする

ストリーミングを有効にするには、streamパラメータをtrueに設定します。APIはテキストのチャンクを返します。各チャンクには部分的な応答が含まれています。これらのトークンをリアルタイムで表示できます。これによりアプリが高速に感じられます。最終チャンクには完全なトークン使用統計情報が含まれています。これには入力トークンと出力トークンが含まれます。請求とモニタリングにはこのデータが必要です。ストリーミングなしでは、ユーザーは完全な応答を待ちます。ストリーミングでは、進行状況が表示されます。これは長編のクリエイティブライティングにより適しています。デバッグにも適しています。クライアントでデフォルトで有効にしてください。

ステップ4: 関数呼び出しとツールの使用を処理する

制限なしモデルでファンクション呼び出しを使用できます。リクエストでツールを定義します。モデルはJSON形式でツール呼び出しを返します。ツールを実行します。結果を戻します。モデルは会話を続けます。これはOpenAI APIと全く同じように動作します。カスタムパーサーは不要です。モデルはツールスキーマを理解し、有効なJSONを返します。エージェントを構築できます。タスクを自動化できます。モデルはアダルトな機能に対してツール呼び出しを拒否しません。指示を正確に実行します。これは複雑なワークフローにとって強力です。

ステップ5: JSONモードでパフォーマンスを最適化する

モデルに有効なJSONを出力させます。response_formatパラメータをjson_objectに設定します。これによりパースエラーが減少し、コードが構造化されたデータを受け取ることが保証されます。これは情報の抽出に有用です。設定ファイルの生成にも有用です。モデルは切り替えるまでJSONモードを維持します。これは自然にJSONを要求するよりも高速です。モデルは制約を理解し、流れよりも構造を優先します。これはバックエンドサービスに最適です。正規表現によるクリーニングの必要性を減らし、統合を堅牢にします。厳密なデータ形式が必要な場合に使用してください。

ステップ6: レート制限とリトライを管理する

レート制限を尊重してください。キーあたり1分あたり300リクエストが利用可能です。キーあたり最大8つの同時リクエストが可能です。リクエストボディは8 MBに制限されます。これらの制限を超えるとエラーが発生します。コードに指数バックオフを実装してください。エンドポイントにスパムを送らないでください。これにより安定したパフォーマンスが確保されます。必要に応じて新しいキーを生成できます。アカウントあたり1つのアクティブキー。新しいキーは古いキーを置き換えます。これはキーのローテーションに役立ちます。これによりサービスが円滑に稼働し続けます。使用状況を監視してください。最後のストリーミングチャンクにはトークン数が含まれます。これを使用して使用状況を追跡してください。暗号通貨での支払いにより、これが容易になります。

一般的な統合エラーのトラブルシューティング

401エラーが発生した場合は、APIキーを確認してください。有効である必要があります。404エラーが発生した場合は、ベースURLを確認してください。正しいものである必要があります。429エラーが発生した場合は、レートリミットに達しました。待機して再試行してください。500エラーが発生した場合は、サーバーにエラーが発生しました。1回再試行してください。モデルIDを確認してください。「uncensored」である必要があります。ペイロードを確認してください。有効なJSONである必要があります。サポートされていないパラメータを送信していないことを確認してください。このAPIは画像や音声をサポートしていません。ファインチューニングもサポートしていません。チャット完了エンドポイントに限定してください。これによりシンプルに保てます。エラーは通常、設定の問題です。すぐに修正して、コンテンツ生成に戻りましょう。