RU ▾
Получить API-ключ

LLM Non CensureГайд

Бесплатный LLM API: лимиты и стоимость за токен

Бесплатный LLM API может хватить для прототипа, но почти всегда есть ограничения. Вот список пунктов для проверки и сравнение с оплатой за токен.

Модель без цензуры: пошаговое руководство по интеграции API

Обновлено

Стеклянная трубка с потоком деталей, счетчик стоимости за токен по сравнению с бесплатными предложениями

Ключевые моменты

Что называют бесплатным и что скрывается

При поиске бесплатного LLM API вы встретите несколько совершенно разных предложений. Ежедневный бесплатный лимит на базовой модели. Приветственный баланс, который расходуется. Локальная модель, которую вы размещаете самостоятельно: её можно скачать бесплатно, но за работу придётся платить. Ограниченная по времени пробная версия. У каждой свои условия, которые меняются, поэтому читайте официальную страницу провайдера в момент выбора.

Общее: кто-то финансирует GPU. Если это не вы, то провайдер, который компенсирует это ограничениями, сбором данных или надеждой, что вы перейдете на платный тариф. В этом нет ничего постыдного, но это оправдывает чтение условий перед интеграцией API в продукт.

Семь пунктов для проверки перед использованием

  1. Лимит запросов. Запросы в минуту, в день, токены в минуту. Низкий дневный лимит может сломать демо в тот день, когда оно понадобится.
  2. Параллельные запросы. Сколько запросов может выполняться одновременно? Это определяет плавность работы чат-бота с несколькими пользователями.
  3. Срок действия. Пробный период на несколько дней — это не план для продакшена.
  4. Использование ваших промптов. Используются ли они для обучения модели? Это указано в условиях, а не в рекламе.
  5. Фильтры контента. Модель, которая блокирует ваши законные сценарии использования, бесполезна, независимо от её цены.
  6. Стабильность моделей. Модель могут удалить или изменить без предварительного уведомления.
  7. Совместимость. Формат, совместимый с OpenAI, позволяет избежать переписывания кода при смене поставщика.

Пропустите каждое рассматриваемое предложение через эту сетку. Запишите ответы, так как условия меняются, и вам захочется сравнить их позже.

Оплата за токен в цифрах

Оплата по факту использования пугает, пока вы не посчитаете расходы. Здесь тариф составляет 0,15 $ за миллион входных токенов и 0,50 $ за миллион выходных токенов. Возьмём запрос на 1 000 входных и 500 выходных токенов: 0,00015 $ + 0,00025 $ = 0,0004 $.

ОбъемРасчетЕжемесячная стоимость
100 запросов в день3 000 × 0,0004 $1,20 $
1 000 запросов в день30 000 × 0,0004 $12 $
10 000 запросов в день300 000 × 0,0004 $120 $

Более тяжёлый сценарий генерации: 500 входных и 3 000 выходных токенов (длинный текст). Вход: 500 × 0,15 / 1 000 000 = 0,000075 $. Выход: 3 000 × 0,50 / 1 000 000 = 0,0015 $. Итого 0,001575 $, то есть 1 000 текстов за 1,575 $. В этом профиле выходной объём значительно превышает входной, так как он стоит более чем в три раза дороже за токен.

Для большинства стартап-проектов счёт остаётся очень небольшим. Настоящий риск — не цена за токен, а баг, который зацикливает вызовы. Подумайте о том, чтобы ограничить max_tokens и следить за балансом.

Тестирование без оплаты: пробный кредит

Чтобы оценить продукт без обязательств, новые пользователи могут получить 0,50 $ бесплатного пробного баланса в один клик на странице API-ключа после входа через Google или по электронной почте и паролю. Он действителен 7 дней, ограничен одним на человека и не требует способа оплаты. По указанному тарифу он составляет 0,50 / 0,0004 = 1 250 запросов с 1 000 токенами на входе и 500 на выходе.

Пробные ключи ограничены 2 одновременными запросами и 60 запросами в минуту, в то время как полный ключ поддерживает 8 и 300 соответственно. Этого достаточно, чтобы проверить промпт, формат вывода или интеграцию. Вы можете запросить ключ на странице получить API-ключ.

Сервис представляет собой текстовую модель, совместимую с OpenAI, с идентификатором модели uncensored: она настроена на ответы без блокировки контента в рамках законного использования для взрослых. Изображений, аудио или эмбеддингов нет.

Клиент, который корректно обрабатывает лимиты

Независимо от API, хороший клиент обрабатывает 429. Здесь API возвращает 429 с кодом rate_limited (слишком много запросов в минуту) или concurrency (слишком много одновременных запросов), а также заголовком Retry-After: 5 при временной перегрузке. Вот простая версия на Python.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.llmnoncensure.com/v1", api_key="VOTRE_CLE")

def appeler(messages, essais=4):
    for n in range(essais):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (n + 1))
    raise RuntimeError("Trop de refus 429, réessayez plus tard")

print(appeler([{"role": "user", "content": "Donne cinq idées de titres pour un roman policier."}]))

Добавьте также счётчик расходов: заголовок X-Balance-USD в каждом ответе показывает баланс, а запрос GET /v1/balance делает то же самое по запросу. Отказанные или неудачные запросы не оплачиваются.

Какой профиль для какой опции

Вместо общего рейтинга вот критерии выбора в зависимости от ваших задач:

  • Вы исследуете идею в выходные. Вам хватит бесплатной квоты или пробного кредита. Не стройте на этом что-то окончательное.
  • Вы создаёте демо для клиента. Вам нужны предсказуемые лимиты и стабильная модель. Несколько долларов за кредит покупают эту предсказуемость.
  • У вас есть реальные пользователи. Оплата за токен становится единственным серьёзным вариантом: вы контролируете расходы, избегаете остановки из-за лимитов и сравниваете стоимость запроса со своей выручкой.
  • Вы обрабатываете чувствительные тексты или темы, которые стандартные фильтры блокируют. Сначала проверьте политику в отношении контента: бесплатная модель, которая блокирует ваши законные сценарии, вам не пригодится.

Чтобы оценить свои потребности перед принятием решения, ведите журнал в течение недели: количество запросов, входные и выходные токены, а также пиковое количество одновременных запросов. Поле usage в каждом ответе предоставляет эти данные. Затем умножьте их на тариф: если общая месячная сумма укладывается в несколько долларов, аргумент «бесплатно» исчезает. Если она растёт, вы будете знать, какой рычаг использовать: сократить промпты, ограничить max_tokens или кэшировать повторяющиеся ответы.

Безболезненный переход от бесплатного к платному

Когда прототип работает надёжно, дальнейшие шаги просты. Никакой подписки: вы пополняете баланс на сумму от 20 $ до 500 $ криптовалютой (USDT в сети TRC20 или USDC в сети Base), и кредит не сгорает. Бонусы: +5 % от 50 $, +10 % от 100 $, +15 % от 200 $. Например, 100 $ дают 110 $ кредита, что составляет 110 / 0,0004 = 275 000 типовых запросов.

Страница тарифы повторяет эти условия, а документация описывает эндпоинты /v1/chat/completions, /v1/responses и /v1/models, потоковую передачу, вызов функций и JSON-режим. Для более широкого обзора сервиса в части интеграции есть руководство интеграция API без цензуры.

Также имейте в виду основное правило: только легальное взрослое использование и никогда контент сексуального характера с участием несовершеннолетних. Промпты не используются для обучения модели.

Другие руководства

Часто задаваемые вопросы

Существует ли API LLM, который действительно бесплатен и не имеет ограничений?

Насколько мне известно, нет в устойчивой форме: бесплатные предложения имеют лимиты, ограничены по времени или имеют скрытые условия. Проверьте текущие условия каждого провайдера.

Сколько стоит типичный запрос здесь?

Около 0,0004 $ за 1 000 входных и 500 выходных токенов по тарифу 0,15 $ и 0,50 $ за миллион токенов.

Нужен ли способ оплаты для получения пробного кредита?

Нет. Кредит на 0,50 $ можно получить в один клик после регистрации, срок действия — 7 дней, один раз на человека.

Что делать, если я получаю ошибку 429?

Подождите и повторите попытку. Код rate_limited означает превышение запросов в минуту, concurrency — превышение параллельных запросов, а Retry-After: 5 указывает на временную перегрузку.

Ваш ключ — на один шаг ближе

Создайте аккаунт, скопируйте ключ, измените базовый URL. Вот и всё.

Получить API-ключПрочитать документацию