คู่มือทีละขั้นตอนสำหรับการผสานรวม Uncensored LLMs

ทำไมต้องใช้เอนด์พอยต์ที่เข้ากันได้กับ OpenAI สำหรับโมเดลแบบไม่มีเซ็นเซอร์?

การใช้เอนด์พอยต์ที่เข้ากันได้กับ OpenAI ช่วยขจัดเส้นโค้งการเรียนรู้สำหรับการผสานโมเดล abliterated คุณคุ้นเคยกับ SDK อยู่แล้ว คุณคุ้นเคยกับพารามิเตอร์แล้ว ผู้ให้บริการรายใหญ่ส่วนใหญ่บังคับให้คุณเรียนรู้โครงสร้าง JSON ใหม่หรือใช้ไลบรารีที่เป็นกรรมสิทธิ์ ที่นี่คุณส่ง payload chat-completions มาตรฐาน ความแตกต่างอยู่ที่ URL พื้นฐานและ ID ของโมเดล คุณจะได้รับข้อความตอบกลับแบบดิบที่ไม่มีการกรอง ไม่มีชั้นการตรวจสอบเนื้อหาที่ซ่อนอยู่ซึ่งขัดขวางการเขียนเชิงสร้างสรรค์หรือสถานการณ์บทบาทของคุณ ความเข้ากันได้นี้หมายความว่าคุณสามารถสลับความสามารถแบบ uncensored ได้โดยไม่ต้องเขียนตรรกะแอปพลิเคชันทั้งหมดของคุณใหม่

ข้อกำหนดเบื้องต้น: การติดตั้ง SDK และการตั้งค่าคีย์ API

เริ่มด้วยการติดตั้ง official SDK สำหรับภาษาที่คุณต้องการ สำหรับ Python ใช้ pip สำหรับ JavaScript ใช้ npm คุณต้องการ API key ที่ถูกต้องจากแดชบอร์ด ไม่จำเป็นต้องใช้หมายเลขโทรศัพท์ เพียงอีเมลหรือเข้าสู่ระบบด้วย Google รับคีย์ของคุณทันทีหลังจากสมัครสมาชิก มันจะปรากฏบนหน้าจอ เก็บรักษาอย่างปลอดภัย อย่า hardcode它在โค้ดการผลิต ใช้ตัวแปรสภาพแวดล้อม สิ่งนี้จะเก็บข้อมูลรับรองของคุณให้ปลอดภัยในขณะที่คุณทดสอบการผสานรวมในเครื่อง คีย์นี้จะให้สิทธิ์เข้าถึงโมเดล uncensored เพียงตัวเดียว สิ่งที่คุณต้องการเพื่อเริ่มส่ง request

ขั้นตอนที่ 1: กำหนดค่า Base URL สำหรับจุดปลาย uncensored

ชี้ SDK client ของคุณไปยัง URL พื้นฐานที่ถูกต้อง endpoint มาตรฐานของ OpenAI ไม่ใช่ที่ที่โมเดลแบบไม่มีเซนเซอร์ของคุณอาศัยอยู่ คุณต้องระบุ https://api.aiabliterated.cc/v1. สิ่งนี้บอก SDK ว่าควรส่งคำขอ POST ไปยังที่ใด หากไม่มีการเปลี่ยนแปลงนี้ คุณจะเข้าถึงเซิร์ฟเวอร์ OpenAI มาตรฐาน ซึ่งมีโมเดลและราคาที่แตกต่างกัน endpoint ของเราให้บริการโมเดลภาษาขนาดใหญ่ uncensored เฉพาะ ซึ่งปรับแต่งสำหรับการใช้งานผู้ใหญ่ มันละทิ้งตัวกรองเนื้อหามาตรฐาน ตรวจสอบให้แน่ใจว่าการกำหนดค่าไคลเอนต์ของคุณถูกต้องก่อนส่งข้อมูลใด ๆ ขั้นตอนนี้สำคัญมากสำหรับการรับรูปแบบการตอบกลับที่ถูกต้อง

ขั้นตอนที่ 2: กำลังส่งคำขอ Chat Completion ครั้งแรกของคุณ

ส่งคำขอ POST ไปยัง /v1/chat/completions. ตั้งค่าพารามิเตอร์โมเดลเป็น "uncensored" นี่คือ ID โมเดลที่มีอยู่เพียงอย่างเดียว รวมคำขอระบบและข้อความผู้ใช้ของคุณ API จะส่งกลับข้อความตอบกลับ มันไม่ปฏิเสธเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย มันไม่บล็อกหัวข้อที่ถกเถียง ผลลัพธ์คือข้อความธรรมดา คุณได้รับข้อมูลการใช้โทเค็นในชิ้นสุดท้ายหากสตรีม หากคุณไม่สตรีม คุณจะได้รับข้อความเต็มในครั้งเดียว หน้าต่างบริบทคือ 100,000 โทเค็น คุณสามารถเขียนเรื่องราวที่ยาวได้ คุณสามารถวางบล็อกโค้ดขนาดใหญ่ได้ โมเดลจัดการทุกอย่าง

ขั้นตอนที่ 3: การเปิดใช้งาน streaming เพื่อแสดงโทเค็นแบบเรียลไทม์

การสตรีมจำเป็นต่อประสบการณ์ผู้ใช้ที่ดี ตั้งค่าพารามิเตอร์ stream เป็น true API ส่งชิ้นข้อความ แต่ละชิ้นประกอบด้วยคำตอบบางส่วน คุณสามารถแสดงโทเค็นเหล่านี้แบบเรียลไทม์ ซึ่งทำให้แอปพลิเคชันรู้สึกเร็ว ชิ้นสุดท้ายรวมถึงสถิติการใช้โทเค็นที่สมบูรณ์ ซึ่งรวมถึงโทเค็นอินพุตและเอาต์พุต คุณต้องการข้อมูลนี้สำหรับการเรียกเก็บเงินและการตรวจสอบ หากไม่มีการสตรีม ผู้ใช้จะต้องรอคำตอบทั้งหมด ด้วยการสตรีม พวกเขาเห็นความคืบหน้า ซึ่งดีกว่าสำหรับการเขียนเชิงสร้างสรรค์รูปแบบยาว และดีกว่าสำหรับการดีบัก เปิดใช้งานเป็นค่าเริ่มต้นในไคลเอนต์ของคุณ

ขั้นตอนที่ 4: การจัดการ function calling และการใช้งาน tools

คุณสามารถใช้การเรียกใช้ฟังก์ชันกับโมเดลไร้การเซ็นเซอร์ได้ โดยกำหนดเครื่องมือของคุณในคำขอ โมเดลจะส่งกลับการเรียกใช้เครื่องมือในรูปแบบ JSON คุณดำเนินการตามเครื่องมือ แล้วส่งผลลัพธ์กลับ โมเดลจะสนทนาต่อ ทำงานเหมือนกับ API ของ OpenAI ทุกประการ คุณไม่ต้องการตัวแยกวิเคราะห์แบบกำหนดเอง โมเดลเข้าใจสคีมาของเครื่องมือ และส่งกลับ JSON ที่ถูกต้อง คุณสามารถสร้างเอเจนต์ได้ คุณสามารถทำงานอัตโนมัติได้ โมเดลไม่ปฏิเสธการเรียกใช้เครื่องมือสำหรับฟังก์ชันผู้ใหญ่ ปฏิบัติตามคำแนะนำอย่างแม่นยำ ซึ่งเป็นพลังสำคัญสำหรับเวิร์กโฟลที่ซับซ้อน

ขั้นตอนที่ 5: การปรับปรุงประสิทธิภาพด้วย JSON mode

บังคับให้โมเดลส่งออก JSON ที่ถูกต้อง ตั้งค่าพารามิเตอร์ response_format เป็น json_object ซึ่งช่วยลดข้อผิดพลาดในการแยกวิเคราะห์ และรับประกันว่าโค้ดของคุณจะได้รับข้อมูลที่มีโครงสร้าง ซึ่งเหมาะสำหรับการดึงข้อมูลและการสร้างไฟล์กำหนดค่า โมเดลจะอยู่ในโหมด JSON จนกว่าคุณจะเปลี่ยนโหมด ซึ่งเร็วกว่าการขอ JSON แบบธรรมชาติ โมเดลเข้าใจข้อจำกัดนี้และให้ความสำคัญกับโครงสร้างมากกว่าความลื่นไหล ซึ่งเหมาะสำหรับบริการแบ็กเอนด์ และลดความจำเป็นในการทำความสะอาดด้วย regex ทำให้การอินทิเกรชันของคุณมีความแข็งแกร่ง ใช้เมื่อคุณต้องการรูปแบบข้อมูลที่เข้มงวด

ขั้นตอนที่ 6: การจัดการขีดจำกัดอัตราและการลองใหม่

เคารพขีดจำกัดอัตราส่วน คุณได้รับอนุญาตให้ส่งคำขอได้ 300 คำขอต่อนาทีต่อคีย์ คุณสามารถทำคำขอพร้อมกันได้ 8 คำขอ body คำขอจำกัดขนาดไว้ที่ 8 MB หากเกินขีดจำกัดเหล่านี้ คุณจะได้รับข้อผิดพลาด ให้ใช้ exponential backoff ในโค้ดของคุณ อย่าส่งคำขอซ้ำๆ ไปยัง endpoint นี้ เพื่อให้ประสิทธิภาพเสถียร คุณสามารถสร้างคีย์ใหม่ได้หากจำเป็น มีคีย์ที่ใช้งานอยู่ได้หนึ่งคีย์ต่อบัญชี คีย์ใหม่จะแทนที่คีย์เก่า ซึ่งเหมาะสำหรับการหมุนเวียนคีย์ เพื่อให้การบริการของคุณทำงานได้อย่างราบรื่น ตรวจสอบการใช้งานของคุณ chunk การสตรีมสุดท้ายจะแสดงจำนวน tokens ที่ใช้ ซึ่งคุณสามารถใช้ติดตามการใช้จ่ายได้ การชำระเงินด้วยคริปโตทำให้เรื่องนี้ทำได้ง่าย

การแก้ปัญหาข้อผิดพลาดการผสานรวมทั่วไป

หากคุณได้รับข้อผิดพลาด 401 ให้ตรวจสอบคีย์ API ต้องเป็นคีย์ที่ถูกต้อง หากคุณได้รับ 404 ให้ตรวจสอบ URL พื้นฐาน ต้องถูกต้อง หากคุณได้รับ 429 แสดงว่าคุณเกินขีดจำกัดอัตราการใช้งาน ให้รอและลองใหม่ หากคุณได้รับ 500 แสดงว่าเซิร์ฟเวอร์มีข้อผิดพลาด ให้ลองใหม่หนึ่งครั้ง ตรวจสอบ ID โมเดลของคุณ ต้องเป็น "uncensored" ตรวจสอบ payload ของคุณ ต้องเป็น JSON ที่ถูกต้อง ตรวจสอบว่าคุณไม่ได้ส่งพารามิเตอร์ที่ไม่รองรับ API นี้ไม่รองรับรูปภาพหรือเสียง ไม่รองรับการปรับแต่งเฉพาะ (fine-tuning) ให้ใช้เฉพาะ endpoint chat-completions เพื่อความเรียบง่าย ข้อผิดพลาดส่วนใหญ่เกิดจากการกำหนดค่า แก้ไขให้เร็วแล้วกลับไปสร้างเนื้อหาต่อ