Moderasyonsuz LLM'lerin Entegrasyonu İçin Adım Adım Rehber

Neden sansürsüz modeller için OpenAI-uyumlu uç nokta kullanmalı?

OpenAI-uyumlu bir uç nokta, abliterated modellerin entegrasyonu için öğrenme eğrisini ortadan kaldırır. Zaten SDK'ları biliyorsunuz. Zaten parametreleri biliyorsunuz. Çoğu büyük sağlayıcı yeni JSON yapıları öğrenmenizi veya özel kütüphaneler kullanmanızı zorlar. Burada standart bir chat-completions yükü gönderirsiniz. Farklılık temel URL ve model kimliğindedir. Ham, filtrelenmemiş bir metin yanıtı alırsınız. Gizli denetim katmanları yaratıcı yazınızı veya rol yapma senaryolarınızı engellemez. Bu uyumluluk, tüm uygulama mantığınızı yeniden yazmadan uncensored yetenekleri entegre etmenizi sağlar.

Önkoşullar: SDK'yı yükleme ve API anahtarınızı ayarlama

Tercih ettiğiniz dil için resmi SDK'yı yükleyin. Python için pip, JavaScript için npm kullanın. Panodan geçerli bir API anahtarına ihtiyacınız vardır. Telefon numarası gerekmez. Sadece e-posta veya Google girişi. Kayıt olduktan hemen sonra anahtarınızı alın. Ekranda görünür. Güvenli bir şekilde saklayın. Üretim kodunda sabit kod olarak kullanmayın. Ortam değişkenlerini kullanın. Bu, yerel olarak entegrasyonu test ederken kimlik bilgilerinizi güvende tutar. Anahtar, tek sansürsüz modele erişim sağlar. İstek göndermeye başlamak için ihtiyacınız olan tek şey budur.

Adım 1: Sansürsüz uç nokta için Temel URL'yi Yapılandırın

SDK istemcinizi doğru temel URL'ye işaretleyin. Varsayılan OpenAI uç noktası sansürsüz modelinizin bulunduğu yer değildir. Şunu belirtmeniz gerekir https://api.aiabliterated.cc/v1. Bu, SDK'nın POST isteklerinizi nereye göndereceğini belirtir. Bu değişikliği yapmazsanız standart OpenAI sunucularına ulaşırsınız. Farklı modeller ve farklı fiyatlandırmaları vardır. Uç noktamız özel uncensored büyük dil modelini hizmete sunar. Yetişkin kullanımı için ayarlanmıştır. Standart içerik filtrelerini yok sayar. Veri göndermeden önce istemci yapılandırmanızın doğru olduğundan emin olun. Bu adım, doğru yanıt formatını almak için kritiktir.

Adım 2: İlk sohbet tamamlama isteğinizi gönderme

Şuraya bir POST isteği gönderin /v1/chat/completionsModel parametresini "uncensored" olarak ayarlayın. Bu tek mevcut model kimliğidir. Sistem isteminizi ve kullanıcı mesajını dahil edin. API bir metin yanıtı döndürür. Yasal yetişkin içeriği reddetmez. Tartışmalı konuları engellemez. Yanıt düz metindir. Akış yapıyorsanız, son parçada token kullanım verisi alırsınız. Akış yapmazsanız, tam metni tek seferde alırsınız. Bağlam penceresi 100,000 token'dır. Uzun hikayeler yazabilirsiniz. Büyük kod bloklarını yapıştırabilirsiniz. Model her şeyi halleder.

Adım 3: Gerçek Zamanlı Token Gösterimi İçin Akışı Etkinleştirme

Akış, iyi bir kullanıcı deneyimi için esastır. stream parametresini true olarak ayarlayın. API metin parçalarını döndürür. Her parça kısmi bir yanıt içerir. Bu tokenları gerçek zamanlı görüntüleyebilirsiniz. Bu, uygulamanın hızlı hissetmesini sağlar. Son parça, tam token kullanım istatistiklerini içerir. Bu, giriş ve çıktı tokenlarını içerir. Bu veriyi faturalandırma ve izleme için ihtiyacınız vardır. Akış olmadan kullanıcı tüm yanıtı bekler. Akış ile ilerlemeyi görürler. Uzun formatlı yaratıcı yazım için daha iyidir. Hata ayıklama için daha iyidir. İstemcinizde varsayılan olarak etkinleştirin.

Adım 4: Fonksiyon çağrısını ve araç kullanımını yönetme

Sansürsüz modelle işlev çağırma kullanabilirsiniz. Araçlarınızı istekte tanımlayın. Model, araç çağrılarını JSON formatında döndürür. Aracı yürütün. Sonucu geri gönderin. Model konuşmaya devam eder. Bu, OpenAI API'si ile tam olarak aynı şekilde çalışır. Özel bir ayrıştırıcıya ihtiyacınız yoktur. Model, araç şemasını anlar. Geçerli JSON döndürür. Ajanlar oluşturabilirsiniz. Görevleri otomatikleştirebilirsiniz. Model, yetişkin işlevler için araçları çağırmayı reddetmez. Talimatları tam olarak takip eder. Bu, karmaşık iş akışları için güçlüdür.

Adım 5: JSON modu ile performansı optimize et

Modelin geçerli JSON çıktısı vermesini sağlayın. response_format parametresini json_object olarak ayarlayın. Bu, ayrıştırma hatalarını azaltır. Kodunuzun yapılandırılmış veri almasını sağlar. Bu, bilgi çıkarma için kullanışlıdır. Yapılandırma dosyası oluşturma için kullanışlıdır. Model, değiştirene kadar JSON modunda kalır. Bu, JSON'u doğal olarak istemekten daha hızlıdır. Model kısıtlamayı anlar. Akış yerine yapıya öncelik verir. Bu, arka uç hizmetleri için idealdir. Regex temizleme ihtiyacını azaltır. Entegrasyonunuzu sağlamlaştırır. Sıkı veri formatlarına ihtiyacınız olduğunda kullanın.

Adım 6: Hız limitlerini ve yeniden denemeleri yönetme

Hız sınırlarına dikkat edin. Anahtar başına dakikada 300 istek alırsınız. 8 eşzamanlı istek yapabilirsiniz. İstek gövdesi 8 MB ile sınırlıdır. Bu sınırları aşarsanız bir hata alırsınız. Kodunuzda üstel geri çekilme uygulayın. Uç noktayı spam yapmayın. Bu, stabil performansı sağlar. Gerekirse yeni bir anahtar oluşturabilirsiniz. Hesap başına bir aktif anahtar. Yeni anahtar eskisini değiştirir. Bu, anahtarları döndürmek için kullanışlıdır. Hizmetinizin sorunsuz çalışmasını sağlar. Kullanımınızı izleyin. Son akış parçası size token sayısını verir. Harcamalarınızı izlemek için bunu kullanın. Kripto ödemeler bunu kolaylaştırır.

Yaygın entegrasyon hatalarında sorun giderme

401 hatası alırsanız API anahtarınızı kontrol edin. Geçerli olması gerekir. 404 alırsanız, temel URL'yi kontrol edin. Doğru olması gerekir. 429 alırsanız, hız sınırına takıldınız. Bekleyin ve yeniden deneyin. 500 alırsanız, sunucuda bir hata oluştu. Bir kez yeniden deneyin. Model kimliğinizi kontrol edin. "uncensored" olması gerekir. Payload'ınızı kontrol edin. Geçerli JSON olması gerekir. Desteklenmeyen parametreler göndermediğinizden emin olun. Bu API görüntüleri veya sesleri desteklemez. İnce ayarlamayı desteklemez. Sadece chat-completions uç noktasını kullanın. Bu, işleri basit tutar. Hatalar genellikle yapılandırma sorunlarıdır. Bunları hızla düzeltin. İçerik üretmeye devam edin.