免費 LLM API:需檢查的限制與 token 成本
免費 LLM API 足以應付原型開發,但幾乎總有上限。以下是需檢查的項目清單,以及與按 token 付費的數字比較。


重點摘要
所謂的免費,及其隱藏條件
當您搜尋 免費 LLM API 時,會看到多種截然不同的方案。基礎模型的每日免費配額、耗盡即止的歡迎額度、您自行託管的免費本地模型(可下載但需自行運行),以及限時試用版。每種方案都有其條件且會隨時間變化,因此請在選擇時閱讀供應商的官方頁面說明。
共同點是:有人為 GPU 付費。如果不是您,就是供應商,他們透過限制、數據收集或希望您升級付費方案來彌補成本。這並非什麼羞恥之事,但這足以說明在將 API 整合到產品前閱讀條款的重要性。
在使用前應檢查的七個要點
- 速率限制上限。 每分鐘請求數、每日請求數、每分鐘 token 數。過低的每日配額會在關鍵時刻導致演示失敗。
- 並行請求。 同時有多少請求?這決定了多用戶聊天機器人的流暢度。
- 期限。 幾天的試用期不等於生產環境方案。
- 提示詞的使用方式。 您的提示詞是否用於訓練模型?這寫在條款中,而非廣告裡。
- 內容過濾器。 一個拒絕您合法使用情境的模型,無論多便宜都無法使用。
- 模型穩定性。 模型可能會在無預警的情況下被移除或變更。
- 相容性。 OpenAI 相容格式可讓您在更換供應商時避免重寫程式碼。
將您考慮的每個方案代入此表格。記錄答案,因為條件會變化,您稍後可能需要比較。
以數字表示的 token 計費
未計算前,按用量付費常令人卻步。此處費率為輸入每百萬 token 0,15 $,輸出每百萬 token 0,50 $。假設一次請求輸入 1 000 token、輸出 500 token:0,00015 $ + 0,00025 $ = 0,0004 $。
| 量 | 計算 | 每月成本 |
|---|---|---|
| 每天 100 次請求 | 3 000 × 0,0004 $ | 1,20 $ |
| 每天 1,000 次請求 | 30 000 × 0,0004 $ | 12 $ |
| 每天 10,000 次請求 | 300 000 × 0,0004 $ | 120 $ |
較重的生成情境:500 token 輸入、3 000 token 輸出(長文本)。輸入:500 × 0,15 / 1 000 000 = 0,000075 $。輸出:3 000 × 0,50 / 1 000 000 = 0,0015 $。總計 0,001575 $,即 1 000 篇文本需 1,575 $。在此情境下,輸出比輸入重得多,因為輸出每 token 的費率是輸入的三倍以上。
對於大多數初創專案,帳單金額仍非常低。真正的風險不是單次價格,而是導致呼叫迴圈的錯誤。請限制 max_tokens 並監控餘額。
零成本測試:試用額度
為在不綁約的情況下了解情況,新用戶可在註冊(使用 Google 或電子郵件與密碼)後,在 API 金鑰頁面一鍵領取 0,50 $ 的試用額度。該額度有效期為 7 天,每人限領一次,且無需任何付款方式。按上述費率計算,它代表 0,50 / 0,0004 = 1 250 次請求,每次請求輸入 1 000 個 token,輸出 500 個 token。
試用金鑰限制為同時 2 個請求,每分鐘 60 個請求,而完整金鑰為同時 8 個請求,每分鐘 300 個請求。這足以驗證提示詞、輸出格式或整合。你可以在 取得 API 金鑰 頁面申請你的金鑰。
該服務為僅支援文字的模型,與 OpenAI 相容,模型 ID 為 uncensored:設定為在合法成人用途範圍內不拒絕內容。不支援圖片、音訊或嵌入。
能妥善處理速率限制的客戶端
無論使用何種 API,良好的客戶端都應處理 429 錯誤。此 API 會以 rate_limited(每分鐘請求過多)或 concurrency(同時請求過多)回應 429,並在暫時過載時返回 Retry-After: 5。以下是 Python 的簡單版本。
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.llmnoncensure.com/v1", api_key="VOTRE_CLE")
def appeler(messages, essais=4):
for n in range(essais):
try:
r = client.chat.completions.create(
model="uncensored",
messages=messages,
max_tokens=400,
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 * (n + 1))
raise RuntimeError("Trop de refus 429, réessayez plus tard")
print(appeler([{"role": "user", "content": "Donne cinq idées de titres pour un roman policier."}]))
另請新增支出計數器:每個回應的 X-Balance-USD 標頭會顯示餘額,GET /v1/balance 也可按需查詢。失敗或被拒絕的請求不會計費。
不同情境對應不同方案
與其提供總體排名,以下根據您的使用情境提供決策標準:
- 你正在週末探索一個想法。免費配額或試用額度即可。不要以此為基礎建立最終產品。
- 您正在為客戶構建演示。 您需要可預測的限制和穩定的模型。幾美元的付費額度即可換取這種可預測性。
- 你擁有真實的使用者。按 token 計費成為唯一嚴肅的選擇:你掌控支出,避免配額中斷,並比較每筆請求的成本與你的收益。
- 你處理敏感文本或標準過濾器拒絕的主題。先檢查內容政策:一個拒絕你合法用例的免費模型對你毫無幫助。
在決定之前,若要評估你的需求,請記錄一週內的請求數量、輸入與輸出的 token 數量,以及並行請求的峰值。每個回應的 usage欄位會提供這些數字。接著乘以費率:如果月度總額僅需幾美元,免費的吸引力就會消失。如果總額飆升,你就知道該調整哪個開關,無論是縮短提示詞、限制 max_tokens,還是快取重複的回應。
無痛從免費轉向付費
當原型運作良好,後續就很簡單。沒有訂閱制:你以加密貨幣(TRC20 上的 USDT 或 Base 上的 USDC)儲值 20 $ 至 500 $的整數金額,且額度永不失效。贈額:滿 50 $ 贈 5%,滿 100 $ 贈 10%,滿 200 $ 贈 15%。例如,100 $ 可獲得 110 $ 額度,相當於 110 / 0,0004 = 275 000 次標準請求。
定價 頁面列出了這些條件,文件 描述了 /v1/chat/completions、/v1/responses 和 /v1/models 端點,以及串流輸出、工具和 JSON 模式。若要更廣泛地了解服務在整合方面的概況,請參考 透過 API 整合無審查 AI 指南。
請記住基本規則:僅限合法成人用途,且禁止涉及未成年人的性內容。提示詞不用於模型訓練。
其他指南
常見問題
是否存在真正免費且無限制的 LLM API?
據我所知,沒有長期有效的形式:免費方案設有上限、期限或對價條件。請查閱各供應商目前的條件。
這裡的典型請求成本是多少?
約 0,0004 $ 用於 1 000 個輸入 token 和 500 個輸出 token,費率為每百萬 token 0,15 $ 和 0,50 $。
試用額度需要付款方式嗎?
不需要。0,50 $ 的額度在註冊後一鍵領取,有效期 7 天,每人限領一次。
如果我收到 429 錯誤該怎麼辦?
等待後重試。rate_limited 代碼表示每分鐘請求過多,concurrency 表示並行請求過多,Retry-After: 5 表示暫時過載。