מדריך אינטגרציה: ממשק API להשלחות צ'אט

כתובת URL בסיסית ואימות

ה-API של abliterated פועל כהחלפה ישירה לנקודות הקצה הסטנדרטיות של OpenAI. אתה מפנה בקשות ל https://api.aiabliterated.cc/v1 והתאמת אימות באמצעות אסימון Bearer ב Authorization header. תצורה זו עובדת עם כל לקוח התומך בפרוטוקול OpenAI.

• כתובת בסיס: https://api.aiabliterated.cc/v1
• כותרת Auth: Authorization: Bearer YOUR_API_KEY
• מזהה מודל: uncensored

האימות הוא קפדני. אם תשלחו מפתח לא חוקי, המערכת תחזיר שגיאת 401 מיד.

נקודת הקצה /v1/chat/completions

שלחו את נתוני הפרומפט שלכם אל /v1/chat/completions נקודת קצה (endpoint) לקבלת תגובות טקסט. המערכת מצפה למטען JSON הכולל את מזהה המודל ואת היסטוריית ההודעות שלך. זהו ממשק טקסט בלבד; אל צפה ליצירת תמונות או אודיו.

המודל מעבד קלט ופלט בתוך חלון הקשר של 100,000 טוקנים. אם אינך מציב מגבלה, המערכת מוגדרת כברירת מחדל לייצר 2,048 טוקנים לכל בקשה. ניתן להתאים הגדרה זו עד למקסימום קשיח של 16,000 טוקנים.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.aiabliterated.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

תגובות בסטרימינג וצריכת טוקנים

אפשרו זרימה על ידי הגדרת stream: true בפלט הבקשה שלך. ה-API מחזיר זרם אירועים שנשלחים מהשרת (SSE) של אסימונים חלקיים. זה מפחית משמעותית את תחומת הזמן המוחשית עבור יישומים אינטראקטיביים.

נתוני צריכת הטוקנים אינם נשלחים עם כל פסגה. במקום זאת, הפסגה האחרונה של הזרם מכילה את סטטיסטיקות הצריכה המלאות לבקשה זו. עיצוב זה שומר על הזרם קליל תוך מתן נתוני חיוב מדויקים. שגיאות במהלך סטרימינג מטופלות על ידי סגירת החיבור עם אובייקט JSON של שגיאה.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

פקודות פונקציה ומצב JSON

מודל ה-abliterated תומך בפלטות מבניות דרך ה response_format פרמטר. הגדירו את זה ל {"type": "json_object"} כדי לכפות עמידה קפדנית ב-JSON. זה חיוני לשילוב אמין עם מערכות בק-אנד.

קריאת פונקציות זמינה גם כן. הגדר כללים בבקשה שלך, והמודל יפיק JSON תקין התואם לסכמה שלך. המערכת אינה מאמתת את הגדרות הכלים שלך, כך ודא שהסכמות שלך נכונות לפני שליחת בקשות. יכולת זו מאפשרת ארכיטקטורות סוכנים מורכבות ללא שכבות ניקוי חיצוניות.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.aiabliterated.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

פרמטרים: טמפרטורה, Top-P, ו-seed

שלוץ באקראיות של הפלט שלך באמצעות פרמטרי דגימה סטנדרטיים. ה- temperature ערך מתאים את יצירתיות, בעוד ש- top_p מגביל את דגימת הגרעין. השתמש ב seed לפלט דטרמיניסטי כשאתה צריך תוצאות ניתנות לשחזור לניפוי באגים.

פרמטרים אחרים זמינים כוללים stop רצפים, presence_penalty, וכן frequency_penalty. אלו מאפשרים שליטה עדינה על חזרתיות של טוקנים והיצמדות לנושא. המודל ללא צנזורה מגיב היטב להגדרות טמפרטורה נמוכה ליצירת קוד וטמפרטורות גבוהות לכתיבה יצירתית.

מגבלות קצב ואילוצים

ה-API קובע מגבלות קשיחות כדי להבטיח יציבות לכל המשתמשים. אתה מוגבל ל-300 בקשות לדקה לכל מפתח. מספר הבקשות המקבילות מוגבל ל-8 בו זמנית. גוף כל בקשה לא יכול לעלות על 8 MB.

אם תחרוג ממגבלות אלו, המערכת תחזיר שגיאת 429 Too Many Requests. החיוב מבוסס על שימוש אמיתי בטוקנים. שגיאות ודחייות אין צורכות את האשראי שלך. ניתן לנהל את המפתח שלך ישירות מהלוח אם תצטרך לסובב אישורי גישה עקב מגבלות אלו.

cURL

Copycurl https://api.aiabliterated.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize this 500 word technical document"}]
  }'