LLM Non CensureRehber
Ücretsiz LLM API: kontrol edilecek limitler ve token başına maliyet
Ücretsiz bir LLM API'si bir prototip için yeterli olabilir ancak neredeyse her zaman limitleri vardır. Kontrol edilecek noktaların listesi ve token başına ödemelerle sayısal bir karşılaştırma aşağıdadır.


Temel noktalar
- Üzerine inşa etmeden önce
Ücretsiz denilen şey ve arkasındakiler
ücretsiz llm api yazdığınızda, oldukça farklı türde tekliflerle karşılaşırsınız. Temel bir modelde günlük ücretsiz kota. Tükenen bir karşılama kredisi. Kendi barındırdığınız, indirmesi ücretsiz ama çalıştırması ücretsiz olmayan bir yerel model. Sınırlı süreli bir deneme sürümü. Her birinin kendi koşulları vardır, bunlar değişir, bu yüzden seçim yaptığınız anda sağlayıcının resmi sayfasını okuyun.
Ortak nokta: GPU'ları biri finanse ediyor. Eğer siz değilseniz, sağlayıcıdır; bunu limitlerle, veri toplama veya sizi ücretli bir teklife geçmeye umut ederek telafi eder. Bunun utanılacak bir yanı yok ancak bu durum, API'yi bir ürüne entegre etmeden önce koşulları okumanızı haklı kılar.
Güvenmeden önce kontrol edilecek yedi nokta
- Hız limiti. Dakikada istek, günde istek, dakikada token. Düşük bir günlük kota, önemli olduğu gün demo'yu bozar.
- Eşzamanlı istekler. Aynı anda kaç istek? Bu, çok kullanıcılı bir sohbet botunun akıcılığını belirler.
- Süre. Birkaç günlük bir deneme, üretim planı değildir.
- İsteme kullanımınız. Bir modeli eğitmek için mi kullanılıyor? Bu, reklamda değil, koşullarda yazar.
- İçerik filtreleri. Yasal kullanım durumlarınızı reddeden bir model, fiyatı ne olursa olsun kullanılamaz.
- Model stabilitesi. Bir model habersizce kaldırılabilir veya değiştirilebilir.
- Uyumluluk. OpenAI uyumlu format, sağlayıcı değiştirdiğinizde kodu yeniden yazmaktan kaçınmanızı sağlar.
Düşündüğünüz her teklifi bu ızgaradan geçirin. Yanıtları not edin, çünkü koşullar değişir ve ileride karşılaştırmak isteyeceksiniz.
Token başına ödeme rakamlarla
Kullanım başına ödeme, hesaplanmadıkça korkutucudur. Burada oran, giriş için milyon token başına 0,15 $ ve çıkış için milyon token başına 0,50 $'dır. Giriş için 1 000 token ve çıkış için 500 token içeren bir istek alalım: 0,00015 $ + 0,00025 $ = 0,0004 $.
| Hacim | Hesaplama | Aylık maliyet |
|---|---|---|
| Günde 100 istek | 3 000 × 0,0004 $ | 1,20 $ |
| Günde 1 000 istek | 30 000 × 0,0004 $ | 12 $ |
| Günde 10 000 istek | 300 000 × 0,0004 $ | 120 $ |
Daha ağır bir üretim durumu: 500 giriş tokenı ve 3 000 çıkış tokenı (uzun bir metin). Giriş: 500 × 0,15 / 1 000 000 = 0,000075 $. Çıkış: 3 000 × 0,50 / 1 000 000 = 0,0015 $. Toplam 0,001575 $, yani 1 000 metin için 1,575 $. Bu profilde çıkış, girişten çok daha ağırdır çünkü token başına üç katından fazla ücretlendirilir.
Çoğu başlangıç projesi için fatura çok mütevazı kalır. Gerçek risk birim fiyat değil, isteklerde sonsuz döngüye giren bir hatadır. max_tokens değerini sınırlandırın ve bakiyeyi izleyin.
Ödemeden test etme: deneme kredisi
Taahhüt olmadan bir fikir edinmek için, yeni kullanıcılar Google veya e-posta ve şifre ile giriş yaptıktan sonra API anahtarı sayfasında tek tıkla 0,50 $ deneme kredisi talep edebilir. 7 gün boyunca geçerlidir, kişi başı birle sınırlıdır ve herhangi bir ödeme yöntemi gerektirmez. Yukarıdaki fiyatla, bu 0,50 / 0,0004 = 1 250 istek temsil eder, her biri 1 000 token giriş ve 500 token çıkış içerir.
Deneme anahtarları eşzamanlı olarak 2 istek ve dakikada 60 istek ile sınırlıdır; tam anahtar için bu sayılar 8 ve 300'dür. Bir istemi, bir çıkış formatını veya bir entegrasyonu doğrulamak için yeterlidir. API anahtarı al sayfasından anahtarınızı isteyebilirsiniz.
Servis, uncensored kimliğiyle OpenAI uyumlu, yalnızca metin modelidir: yasal yetişkin kullanımı kapsamında içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır. Görüntü, ses veya embedding yoktur.
Limitleri iyi yöneten bir istemci
Hangi API olursa olsun, iyi bir istemci 429 durumunu yönetir. Burada API, dakikada çok fazla istek (rate_limited) veya çok fazla eşzamanlı istek (concurrency) nedeniyle 429 yanıtı döndürür ve geçici aşırı yüklenmelerde Retry-After: 5 başlığını ekler. İşte Python ile basit bir örnek.
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.llmnoncensure.com/v1", api_key="VOTRE_CLE")
def appeler(messages, essais=4):
for n in range(essais):
try:
r = client.chat.completions.create(
model="uncensored",
messages=messages,
max_tokens=400,
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 * (n + 1))
raise RuntimeError("Trop de refus 429, réessayez plus tard")
print(appeler([{"role": "user", "content": "Donne cinq idées de titres pour un roman policier."}]))
Ayrıca bir harcama sayacı ekleyin: her yanıtın X-Balance-USD başlığı size bakiyeyi verir ve GET /v1/balance isteği de aynı şekilde talep üzerine bakiyeyi döndürür. Başarısız veya reddedilen istekler faturalandırılmaz.
Hangi profil için hangi seçenek
Genel bir sıralamadan ziyade, ne yaptığınıza göre karar kriterleri şunlardır:
- Bu hafta sonu bir fikir araştırıyorsunuz. Ücretsiz bir kota veya deneme kredisi yeterlidir. Üzerine kalıcı bir şey inşa etmeyin.
- Bir müşteri için demo yapıyorsunuz. Öngörülebilir limitlere ve stabil bir modele ihtiyacınız var. Birkaç dolarlık ücretli kredi, bu öngörülebilirliği satın alır.
- Gerçek kullanıcılarınız var. Token başı ödeme ciddi bir seçenek haline geliyor: harcamayı siz kontrol edersiniz, kota kesintilerinden kaçınırsınız ve istek başına maliyeti gelirinizle karşılaştırabilirsiniz.
- Hassas metinler veya standart filtrelerin reddettiği konular üzerinde çalışıyorsunuz. İçerik politikasını önce kontrol edin: Yasal durumlarınızı reddeden ücretsiz bir model size yaramaz.
Karar vermeden önce ihtiyaçlarınızı ölçmek için bir hafta boyunca istek sayısını, giriş ve çıkış tokenlarını ve eşzamanlı istek zirvelerini günlüğe kaydedin. Her yanıtın usage alanı bu sayıları verir. Ardından bunları fiyatla çarpın: aylık toplam birkaç dolar içinde kalıyorsa, ücretsiz olma argümanı buharlaşır. Artarsa, istemleri kısaltmak, max_tokens değerini sınırlamak veya tekrarlanan yanıtları önbelleğe almak gibi hangi düğmeye basacağınızı bilirsiniz.
Acısız geçiş ücretsizden ödemeliye
Prototip işler durumda olduğunda, devamı basittir. Abonelik yok: kripto ile (TRC20 üzerinde USDT veya Base üzerinde USDC) 20 $ ile 500 $ arasında tam bir miktar yüklersiniz ve kredi asla sona ermez. Bonuslar: 50 $'dan itibaren +%5, 100 $'dan itibaren +%10, 200 $'dan itibaren +%15. Örneğin, 100 $ 110 $ kredi verir, bu da 110 / 0,0004 = 275 000 standart istektir.
Fiyatlandırma sayfası bu koşulları tekrar eder; dokümantasyon /v1/chat/completions, /v1/responses ve /v1/models uç noktalarını, akışı, araçları ve JSON modunu açıklar. Entegrasyon tarafındaki hizmetin daha geniş bir panoraması için API ile sansürsüz bir yapay zeka entegre etme rehberine bakın.
Ayrıca temel kuralı da aklınızda tutun: Yalnızca yasal yetişkin kullanımı ve reşit olmayanları içeren cinsel içerik asla kabul edilmez. İstemler model eğitimi için kullanılmaz.
Diğer kılavuzlar
Sıkça sorulan sorular
Gerçekten ücretsiz ve hacim sınırlaması olmayan bir LLM API'si var mı?
Kalıcı bir biçimde bildiğim kadarıyla hayır: ücretsiz teklifler bir üst sınıra, süreye veya karşılığa sahiptir. Her sağlayıcının mevcut koşullarını kontrol edin.
Burada tipik bir istek ne kadar tutar?
Yaklaşık 0,0004 $ giriş için 1 000 token ve 500 token çıkış için, token başına 0,15 $ ve 0,50 $ fiyatla.
Deneme kredisi için bir ödeme yöntemi gerekli mi?
Hayır. 0,50 $'lık kredi kayıttan sonra tek tıkla talep edilir, 7 gün boyunca geçerlidir, kişi başı bir kez.
429 hatası alırsam ne yapmalıyım?
Bekleyin ve tekrar deneyin. rate_limited kodu dakikada çok fazla istek, concurrency paralel isteklerde çok fazla istek ve Retry-After: 5 geçici bir aşırı yük bildirir.
Anahtarınız bir adım uzaktadır
Bir hesap oluşturun, anahtarı kopyalayın, temel URL'yi düzenleyin. Hepsi bu.