繁中 ▾
取得 API 金鑰

LLM Non Censure指南

免費 LLM API:需檢查的限制與 token 成本

免費 LLM API 足以應付原型開發,但幾乎總有上限。以下是需檢查的項目清單,以及與按 token 付費的數字比較。

無審查 AI:逐步 API 整合指南

更新於

玻璃管與硬幣流入計數器的圖像,展示 token 成本與免費方案的對比

重點摘要

所謂的免費,及其隱藏條件

當您搜尋 免費 LLM API 時,會看到多種截然不同的方案。基礎模型的每日免費配額、耗盡即止的歡迎額度、您自行託管的免費本地模型(可下載但需自行運行),以及限時試用版。每種方案都有其條件且會隨時間變化,因此請在選擇時閱讀供應商的官方頁面說明。

共同點是:有人為 GPU 付費。如果不是您,就是供應商,他們透過限制、數據收集或希望您升級付費方案來彌補成本。這並非什麼羞恥之事,但這足以說明在將 API 整合到產品前閱讀條款的重要性。

在使用前應檢查的七個要點

  1. 速率限制上限。 每分鐘請求數、每日請求數、每分鐘 token 數。過低的每日配額會在關鍵時刻導致演示失敗。
  2. 並行請求。 同時有多少請求?這決定了多用戶聊天機器人的流暢度。
  3. 期限。 幾天的試用期不等於生產環境方案。
  4. 提示詞的使用方式。 您的提示詞是否用於訓練模型?這寫在條款中,而非廣告裡。
  5. 內容過濾器。 一個拒絕您合法使用情境的模型,無論多便宜都無法使用。
  6. 模型穩定性。 模型可能會在無預警的情況下被移除或變更。
  7. 相容性。 OpenAI 相容格式可讓您在更換供應商時避免重寫程式碼。

將您考慮的每個方案代入此表格。記錄答案,因為條件會變化,您稍後可能需要比較。

以數字表示的 token 計費

未計算前,按用量付費常令人卻步。此處費率為輸入每百萬 token 0,15 $,輸出每百萬 token 0,50 $。假設一次請求輸入 1 000 token、輸出 500 token:0,00015 $ + 0,00025 $ = 0,0004 $。

量計算每月成本
每天 100 次請求3 000 × 0,0004 $1,20 $
每天 1,000 次請求30 000 × 0,0004 $12 $
每天 10,000 次請求300 000 × 0,0004 $120 $

較重的生成情境:500 token 輸入、3 000 token 輸出(長文本)。輸入:500 × 0,15 / 1 000 000 = 0,000075 $。輸出:3 000 × 0,50 / 1 000 000 = 0,0015 $。總計 0,001575 $,即 1 000 篇文本需 1,575 $。在此情境下,輸出比輸入重得多,因為輸出每 token 的費率是輸入的三倍以上。

對於大多數初創專案,帳單金額仍非常低。真正的風險不是單次價格,而是導致呼叫迴圈的錯誤。請限制 max_tokens 並監控餘額。

零成本測試:試用額度

為在不綁約的情況下了解情況,新用戶可在註冊(使用 Google 或電子郵件與密碼)後,在 API 金鑰頁面一鍵領取 0,50 $ 的試用額度。該額度有效期為 7 天,每人限領一次,且無需任何付款方式。按上述費率計算,它代表 0,50 / 0,0004 = 1 250 次請求,每次請求輸入 1 000 個 token,輸出 500 個 token。

試用金鑰限制為同時 2 個請求,每分鐘 60 個請求,而完整金鑰為同時 8 個請求,每分鐘 300 個請求。這足以驗證提示詞、輸出格式或整合。你可以在 取得 API 金鑰 頁面申請你的金鑰。

該服務為僅支援文字的模型,與 OpenAI 相容,模型 ID 為 uncensored:設定為在合法成人用途範圍內不拒絕內容。不支援圖片、音訊或嵌入。

能妥善處理速率限制的客戶端

無論使用何種 API,良好的客戶端都應處理 429 錯誤。此 API 會以 rate_limited(每分鐘請求過多)或 concurrency(同時請求過多)回應 429,並在暫時過載時返回 Retry-After: 5。以下是 Python 的簡單版本。

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.llmnoncensure.com/v1", api_key="VOTRE_CLE")

def appeler(messages, essais=4):
    for n in range(essais):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (n + 1))
    raise RuntimeError("Trop de refus 429, réessayez plus tard")

print(appeler([{"role": "user", "content": "Donne cinq idées de titres pour un roman policier."}]))

另請新增支出計數器:每個回應的 X-Balance-USD 標頭會顯示餘額,GET /v1/balance 也可按需查詢。失敗或被拒絕的請求不會計費。

不同情境對應不同方案

與其提供總體排名,以下根據您的使用情境提供決策標準:

  • 你正在週末探索一個想法。免費配額或試用額度即可。不要以此為基礎建立最終產品。
  • 您正在為客戶構建演示。 您需要可預測的限制和穩定的模型。幾美元的付費額度即可換取這種可預測性。
  • 你擁有真實的使用者。按 token 計費成為唯一嚴肅的選擇:你掌控支出,避免配額中斷,並比較每筆請求的成本與你的收益。
  • 你處理敏感文本或標準過濾器拒絕的主題。先檢查內容政策:一個拒絕你合法用例的免費模型對你毫無幫助。

在決定之前,若要評估你的需求,請記錄一週內的請求數量、輸入與輸出的 token 數量,以及並行請求的峰值。每個回應的 usage欄位會提供這些數字。接著乘以費率:如果月度總額僅需幾美元,免費的吸引力就會消失。如果總額飆升,你就知道該調整哪個開關,無論是縮短提示詞、限制 max_tokens,還是快取重複的回應。

無痛從免費轉向付費

當原型運作良好,後續就很簡單。沒有訂閱制:你以加密貨幣(TRC20 上的 USDT 或 Base 上的 USDC)儲值 20 $ 至 500 $的整數金額,且額度永不失效。贈額:滿 50 $ 贈 5%,滿 100 $ 贈 10%,滿 200 $ 贈 15%。例如,100 $ 可獲得 110 $ 額度,相當於 110 / 0,0004 = 275 000 次標準請求。

定價 頁面列出了這些條件,文件 描述了 /v1/chat/completions、/v1/responses 和 /v1/models 端點,以及串流輸出、工具和 JSON 模式。若要更廣泛地了解服務在整合方面的概況,請參考 透過 API 整合無審查 AI 指南。

請記住基本規則:僅限合法成人用途,且禁止涉及未成年人的性內容。提示詞不用於模型訓練。

其他指南

常見問題

是否存在真正免費且無限制的 LLM API?

據我所知,沒有長期有效的形式:免費方案設有上限、期限或對價條件。請查閱各供應商目前的條件。

這裡的典型請求成本是多少?

約 0,0004 $ 用於 1 000 個輸入 token 和 500 個輸出 token,費率為每百萬 token 0,15 $ 和 0,50 $。

試用額度需要付款方式嗎?

不需要。0,50 $ 的額度在註冊後一鍵領取,有效期 7 天,每人限領一次。

如果我收到 429 錯誤該怎麼辦?

等待後重試。rate_limited 代碼表示每分鐘請求過多,concurrency 表示並行請求過多,Retry-After: 5 表示暫時過載。

你的金鑰只需一步即可取得

建立帳戶、複製金鑰、修改 Base URL。就這些。

取得 API 金鑰閱讀文件