Посібник з інтеграції: API завершення чату

Базова URL-адреса та аутентифікація

API abliterated працює як пряма заміна стандартним ендпоінтам OpenAI. Ви спрямовуєте запити на https://api.aiabliterated.cc/v1 та автентифікуйтеся за допомогою Bearer-токена в Authorization header. Ця конфігурація працює з будь-яким клієнтом, що підтримує протокол OpenAI.

• Базовий URL: https://api.aiabliterated.cc/v1
• Заголовок Auth: Authorization: Bearer YOUR_API_KEY
• Ідентифікатор моделі: uncensored

Аутентифікація суворий. Якщо ви надсилаєте недійсний ключ, система миттєво повертає помилку 401.

Ендпоінт /v1/chat/completions

Надішліть дані промпту до /v1/chat/completions ендпоінт для отримання текстових відповідей. Система очікує JSON-корисне навантаження, що містить ідентифікатор моделі та історію ваших повідомлень. Це текстовий інтерфейс; не очікуйте генерації зображень або аудіо.

Модель обробляє вхідні та вихідні дані в межах контекстного вікна на 100 000 токенів. Якщо ви не вказуєте ліміт, система за замовчуванням генерує 2048 токенів за запит. Ви можете збільшити це значення до абсолютного максимуму в 16 000 токенів.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiabliterated.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Потокові відповіді та використання токенів

Увімкніть потокову передачу, встановивши stream: true у тілі запиту. API повертає потік подій Server-Sent Events (SSE) часткових токенів. Це значно зменшує сприйняту затримку для інтерактивних додатків.

Дані про використання токенів не надсилаються з кожним чанком. Натомість фінальний чанк потоку містить повну статистику використання для цього запиту. Така архітектура робить потік легшим, забезпечуючи точні дані для білінгу. Помилки під час потокової передачі обробляються шляхом закриття з'єднання з об'єктом помилки у форматі JSON.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Function Calling та режим JSON

Модель abliterated підтримує структуровані виводи через response_format параметр. Встановіть це на {"type": "json_object"} щоб забезпечити суворе дотримання формату JSON. Це суттєво для надійної інтеграції з бекенд-системами.

Виклик функцій також доступний. Визначте інструменти в своєму запиті, і модель виведе дійсний JSON, що відповідає вашій схемі. Система не перевіряє ваші визначення інструментів, тому переконайтеся, що ваші схеми правильні перед надсиланням запитів. Ця можливість дозволяє створювати складні архітектури агентів без зовнішніх шарів парсингу.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiabliterated.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Параметри: Temperature, Top-P, Seed

Керуйте випадковістю ваших виводів за допомогою стандартних параметрів вибірки. The temperature значення регулює креативність, тоді як top_p обмежує вибір ядра (nucleus sampling). Використовуйте seed для детермінованих результатів, коли вам потрібні відтворювані дані для налагодження.

Інші доступні параметри включають stop послідовності, presence_penalty, а також frequency_penalty. Це дозволяє точно регулювати повторення токенів та дотримання теми. uncensored модель добре реагує на низькі значення temperature для генерації коду та високі значення для творчого письма.

Ліміти частоти та обмеження

API встановлює суворі ліміти для забезпечення стабільності для всіх користувачів. Вам дозволено 300 запитів на хвилину на ключ. Паралельні запити обмежені 8 одночасно. Розмір тіла запиту не повинен перевищувати 8 МБ.

Якщо ви перевищите ці ліміти, система поверне помилку 429 Too Many Requests. Билінг базується на реальному використанні токенів. Помилки та відмови не споживають ваш передоплачений кредит. Ви можете керувати своїм ключем безпосередньо з панелі керування, якщо вам потрібно змінити облікові дані через ці обмеження.

cURL

Copycurl https://api.aiabliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this 500 word technical document"}]
  }'