Przewodnik integracji: API uzupełnień czatu

Bazowy URL i autoryzacja

API abliterated działa jako bezpośrednia zamiennik standardowych endpointów OpenAI. Przekierujesz żądania pod https://api.aiabliterated.cc/v1 i uwierzytelnij się za pomocą tokenu Bearer w Authorization Nagłówek. To rozwiązanie działa z dowolnym klientem obsługującym protokół OpenAI.

• URL bazowy: https://api.aiabliterated.cc/v1
• Nagłówek Auth: Authorization: Bearer YOUR_API_KEY
• ID modelu: uncensored

Uwierzytelnianie jest ścisłe. Jeśli wyślesz nieprawidłowy klucz, system natychmiast zwraca błąd 401.

Endpoint /v1/chat/completions

Wyślij dane promptu do /v1/chat/completions endpoint do otrzymywania odpowiedzi tekstowych. System oczekuje ładunku JSON zawierającego identyfikator modelu i historię wiadomości. Jest to interfejs tylko tekstowy; nie oczekuj generowania obrazów ani audio.

Model przetwarza dane wejściowe i wyjściowe w oknie kontekstowym o rozmiarze 100 000 tokenów. Jeśli nie określisz limitu, system domyślnie generuje 2048 tokenów na żądanie. Możesz zwiększyć tę wartość do maksymalnego limitu 16 000 tokenów.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiabliterated.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Odpowiedzi strumieniowe i zużycie tokenów

Włącz strumieniowanie, ustawiając stream: true w ciele żądania. API zwraca strumień zdarzeń wysyłanych serwerowo (SSE) z częściowymi tokenami. Zmniejsza to postrzeganą opóźnienie znacząco dla aplikacji interaktywnych.

Dane o zużyciu tokenów nie są wysyłane z każdym fragmentem. Zamiast tego, ostatni fragment strumienia zawiera pełne statystyki zużycia dla tego żądania. Ta konstrukcja utrzymuje strumień lekkim, zapewniając jednocześnie dokładne dane do rozliczeń. Błędy podczas strumieniowania są obsługiwane przez zamknięcie połączenia z obiektem JSON błędu.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Wywoływanie funkcji i tryb JSON

Model abliterated obsługuje dane strukturalne poprzez response_format parametr. Ustaw to na {"type": "json_object"} aby wymusić ścisłą zgodność z JSON. Jest to niezbędne do niezawodnej integracji z systemami backendowymi.

Wywoływanie funkcji jest również dostępne. Zdefiniuj narzędzia w żądaniu, a model zwróci poprawny JSON pasujący do Twojego schematu. System nie waliduje Twoich definicji narzędzi, więc upewnij się, że schematy są poprawne przed wysłaniem żądań. Ta możliwość pozwala na złożone architektury agentów bez zewnętrznych warstw parsujących.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiabliterated.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parametry: Temperatura, Top-P, Seed

Steruj losowością swoich outputów za pomocą standardowych parametrów próbkowania. The temperature wartość reguluje kreatywność, podczas gdy top_p ogranicza próbkowanie jądra. Użyj seed do deterministycznych wyników, gdy potrzebujesz odtwarzalnych rezultatów do debugowania.

Inne dostępne parametry obejmują stop sekwencji, presence_penalty, a także frequency_penalty. Pozwalają na precyzyjną kontrolę nad powtarzalnością tokenów i trzymaniem się tematu. Model uncensored dobrze reaguje na niskie ustawienia temperatury przy generowaniu kodu i wysokie temperatury przy pisaniu kreatywnym.

Limity szybkości i ograniczenia

API narzuca ścisłe limity, aby zapewnić stabilność dla wszystkich użytkowników. Jesteś ograniczony do 300 żądań na minutę na klucz. Żądania współbieżne są ograniczone do 8 jednocześnie. Każda treść żądania nie może przekraczać 8 MB.

Jeśli przekroczysz te limity, system zwraca błąd 429 Too Many Requests. Rozliczenie opiera się na rzeczywistym użyciu tokenów. Błędy i odrzucenia nie zużywają Twojego kredytu z góry. Możesz zarządzać swoim kluczem bezpośrednio z panelu, jeśli musisz rotować poświadczenia z powodu tych ograniczeń.

cURL

Copycurl https://api.aiabliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this 500 word technical document"}]
  }'