Průvodce integrací: API Chat Completions

Základní URL a ověření

API abliterated funguje jako přímá náhrada za standardní endpointy OpenAI. Vaše požadavky směrujete na https://api.aiabliterated.cc/v1 a autentizovat pomocí Bearer tokenu v Authorization hlavička. Toto nastavení funguje s jakýmkoli klientem, který podporuje protokol OpenAI.

• Základní URL: https://api.aiabliterated.cc/v1
• Hlavička Auth: Authorization: Bearer YOUR_API_KEY
• ID modelu: uncensored

Ověření je přísné. Pokud odešlete neplatný klíč, systém okamžitě vrátí chybu 401.

Endpoint /v1/chat/completions

Pošlete svá data podnětu do /v1/chat/completions endpoint pro přijetí textových odpovědí. Systém očekává JSON payload obsahující identifikátor modelu a historii vašich zpráv. Toto je textové rozhraní; neočekávejte generování obrázků nebo audia.

Model zpracovává vstup i výstup v kontextovém okně o velikosti 100 000 tokenů. Pokud nezadáte limit, systém ve výchozím nastavení generuje 2 048 tokenů na požadavek. Toto číslo můžete zvýšit až na tvrdý maximální limit 16 000 tokenů.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiabliterated.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamované odpovědi a spotřeba tokenů

Povolte streamování nastavením stream: true v těle požadavku. API vrací stream Server-Sent Events (SSE) částečných tokenů. To významně snižuje vnímanou latenci pro interaktivní aplikace.

Data o použití tokenů nejsou odesílána s každým chunkem. Místo toho finální chunk streamu obsahuje kompletní statistiky použití pro daný požadavek. Tento design udržuje stream lehkým a zároveň poskytuje přesná data pro fakturaci. Chyby během streamování jsou řešeny uzavřením připojení s chybovým JSON objektem.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Volání funkcí a režim JSON

Model ablivered podporuje strukturované výstupy prostřednictvím response_format parametr. Nastavte toto na {"type": "json_object"} abyste vynutili přísnou shodu s JSON. To je zásadní pro spolehlivou integraci s backendovými systémy.

Volání funkcí je také k dispozici. Definujte nástroje ve svém požadavku a model bude outputovat platné JSON odpovídající vašemu schématu. Systém nevaliduje vaše definice nástrojů, takže se ujistěte, že jsou schémata správná před odesláním požadavků. Tato možnost umožňuje složité architektury agentů bez vrstev externího parsování.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiabliterated.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parametry: Teplota, Top-P a Seed

Ovládejte náhodnost svých výstupů pomocí standardních vzorkovacích parametrů. The temperature hodnota ovlivňuje kreativitu, zatímco top_p omezuje vzorkování jádra. Použijte seed pro deterministické výstupy, když potřebujete reprodukovatelné výsledky pro ladění.

Mezi další dostupné parametry patří stop sekvence, presence_penalty, a frequency_penalty. Tyto parametry umožňují jemné nastavení opakování tokenů a dodržování tématu. Neomezený model dobře reaguje na nízké hodnoty teploty pro generování kódu a vysoké teploty pro kreativní psaní.

Limity rychlosti a omezení

API vynucuje přísné limity pro zajištění stability pro všechny uživatele. Jste omezeni na 300 požadavků za minutu na klíč. Souběžné požadavky jsou omezeny na 8 najednou. Tělo každého požadavku nesmí překročit 8 MB.

Pokud překročíte tyto limity, systém vrátí chybu 429 Too Many Requests. Zpoplatnění je založeno na reálném využití tokenů. Chyby a odmítnutí nespotřebují váš předplacený kredit. Klíč můžete spravovat přímo z ovládacího panelu, pokud potřebujete prohodit přihlašovací údaje kvůli těmto omezením.

cURL

Copycurl https://api.aiabliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this 500 word technical document"}]
  }'