Integraatio-opas: Chat-completions API

Perus-URL ja todennus

abliterated API toimii suoraan korvaavana ratkaisuna tavallisille OpenAI-päätepisteille. Ohjaat pyynnöt osoitteeseen https://api.aiabliterated.cc/v1 ja todentaa Bearer-tokenilla otsikossa Authorization header. Tämä kokoonpano toimii minkä tahansa OpenAI-protokollaa tukevan asiakkaan kanssa.

• Base URL: https://api.aiabliterated.cc/v1
• Auth-otsake: Authorization: Bearer YOUR_API_KEY
• Mallin tunnus: uncensored

Todennus on tiukkaa. Jos lähetät virheellisen avaimen, järjestelmä palauttaa 401-virheen välittömästi.

Päätepiste /v1/chat/completions

Lähetä prompt-tietosi kohtaan /v1/chat/completions päätepiste tekstimäisten vastausten saamiseen. Järjestelmä odottaa JSON-syötettä, joka sisältää mallin tunnisteen ja viestihistoriasi. Tämä on tekstipohjainen käyttöliittymä; älä odota kuvien tai äänen generointia.

Malli käsittelee syötteen ja tuloksen 100 000 tokenin konteksti-ikkunan sisällä. Jos et määrittele rajaa, järjestelmä olettaa automaattisesti 2 048 tokenin tuoton pyyntöä kohden. Voit säätää tätä arvoa korkeintaan 16 000 tokeniin asti.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiabliterated.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Streamausvastaukset & merkkikäyttö

Ota streamaus käyttöön asettamalla stream: true pyyntöpayloadissasi. Sovellusliittymä palauttaa Server-Sent Events (SSE) -virran osittaisista tokenista. Tämä vähentää koettua viiveellisyyttä merkittävästi interaktiivisissa sovelluksissa.

Token-käyttötiedot eivät lähetä jokaisen palan yhteydessä. Sen sijaan streamin viimeinen palas sisältää koko pyynnön käyttötilastot. Tämä suunnittelu pitää streamin kevyenä ja tarjoaa samalla tarkan laskutustiedon. Virheet streamauksen aikana käsitellään suljettua yhteyttä virhe-JSON-objektilla.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Funktikutsut ja JSON-tila

abliterated malli tukee rakenteistettuja tuloksia käyttämällä response_format parametri. Aseta tämä arvoksi {"type": "json_object"} pakottaa tiukan JSON-yhteensopivuuden. Tämä on välttämätöntä luotettavalle integraatiolle backend-järjestelmien kanssa.

Toimintokutsu on myös saatavilla. Määrittele työkalut pyynnössäsi, ja malli tuottaa kelvollisen JSON-tiedoston, joka vastaa skeemaasi. Järjestelmä ei validoi työkalumäärittelyjäsi, joten varmista, että skeemasi ovat oikein ennen pyyntöjen lähettämistä. Tämä mahdollistaa monimutkaisten agenttiarkkitehtuurien luomisen ilman ulkoisia jäsentokerroksia.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiabliterated.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parametrit: lämpötila, Top-P ja siemenluku

Ohjaa tulostesi satunnaisuutta käyttämällä yleisiä otantaparametreja. The temperature arvo säätää luovuutta, kun taas top_p rajoittaa ydinotetta. Käytä seed deterministisiin tuloksiin, kun tarvitset toistettavia tuloksia vianmääritykseen.

Muut saatavilla olevat parametrit sisältävät stop sekvenssit, presence_penalty, ja frequency_penalty. Nämä mahdollistavat hienosäätöisen hallinnan tokenien toistumisen ja aiheeseen sitoutumisen suhteen. Epärasistinen malli reagoi hyvin alhaisiin lämpötila-asetuksiin koodin generoinnissa ja korkeisiin lämpötiloihin luovaan kirjoittamiseen.

Nopeusrajoitukset ja rajoitukset

API asettaa tiukat rajat varmistamaan vakauden kaikille käyttäjille. Sinulla on oikeus 300 pyyntöön minuutissa avainta kohti. Samanaikaisia pyyntöjä voi olla enintään 8 samanaikaisesti. Pyyntöjen rungon koko ei saa ylittää 8 Mt.

Jos ylität nämä rajat, järjestelmä palauttaa virheen 429 Too Many Requests. Laskutus perustuu todelliseen token-käyttöön. Virheet ja hylkäykset eivät kuluta esimaksukredittiäsi. Voit hallita avaintasi suoraan hallintapaneelista, jos sinun on vaihdettava kirjautumistietoja näiden rajoitusten vuoksi.

cURL

Copycurl https://api.aiabliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this 500 word technical document"}]
  }'