VI ▾
Lấy khóa API

LLM Non CensureHướng dẫn

API LLM miễn phí: giới hạn cần kiểm tra và chi phí theo token

Một API LLM miễn phí có thể đủ cho nguyên mẫu, nhưng nó hầu như luôn có các giới hạn. Dưới đây là danh sách các điểm cần kiểm tra và so sánh số liệu với thanh toán theo token.

AI Không kiểm duyệt: Hướng dẫn tích hợp API từng bước

Cập nhật

Cửa kính dẫn dòng tiền vào bộ đếm, hình ảnh minh họa chi phí theo token so với các gói miễn phí

Điểm chính

Cái gọi là miễn phí, và những gì nó che giấu

Khi bạn tìm kiếm api llm gratuit, bạn sẽ gặp nhiều loại gói dịch vụ rất khác nhau. Một hạn ngạch miễn phí hàng ngày trên một mô hình cơ sở. Tín dụng chào mừng sẽ cạn dần. Một mô hình cục bộ do bạn tự lưu trữ, miễn phí tải xuống nhưng không miễn phí khi chạy. Một bản dùng thử có giới hạn thời gian. Mỗi loại đều có điều kiện riêng, thay đổi theo thời gian, vì vậy bạn hãy đọc trang chính thức của nhà cung cấp tại thời điểm bạn lựa chọn.

Điểm chung: ai đó đang tài trợ cho GPU. Nếu không phải bạn, thì là nhà cung cấp, người bù đắp bằng các giới hạn, bằng việc thu thập dữ liệu, hoặc hy vọng bạn sẽ chuyển sang gói trả phí. Không có gì đáng xấu hổ ở đây, nhưng điều này giải thích lý do bạn nên đọc điều kiện trước khi tích hợp API vào sản phẩm.

Bảy điểm cần kiểm tra trước khi tin tưởng

  1. Giới hạn tốc độ truyền dữ liệu. Số yêu cầu mỗi phút, mỗi ngày, số token mỗi phút. Hạn ngạch hàng ngày thấp có thể làm gián đoạn một bản demo vào đúng thời điểm nó quan trọng.
  2. Độ đồng thời. Bao nhiêu yêu cầu cùng lúc? Điều này quyết định độ mượt mà của chatbot khi có nhiều người dùng.
  3. Thời gian dùng thử. Một bản dùng thử vài ngày không phải là kế hoạch cho môi trường sản xuất.
  4. Cách dùng prompt của bạn. Chúng có được dùng để huấn luyện mô hình không? Điều này được ghi trong điều khoản, không phải trong quảng cáo.
  5. Bộ lọc nội dung. Một mô hình từ chối các trường hợp sử dụng hợp pháp của bạn thì không thể dùng được, bất kể giá bao nhiêu.
  6. Sự ổn định của mô hình. Một mô hình có thể bị gỡ bỏ hoặc thay đổi mà không báo trước.
  7. Sự tương thích. Định dạng tương thích OpenAI giúp bạn không phải viết lại mã khi đổi nhà cung cấp.

Bạn hãy đưa mọi gói bạn đang xem xét vào bảng này. Ghi lại các câu trả lời, vì điều kiện thay đổi và bạn sẽ muốn so sánh sau này.

Thanh toán theo token bằng số

Thanh toán theo token khiến bạn lo ngại cho đến khi bạn tính toán nó. Ở đây, giá là 0,15 $ cho mỗi triệu token đầu vào và 0,50 $ cho mỗi triệu token đầu ra. Hãy lấy một yêu cầu với 1 000 token đầu vào và 500 token đầu ra: 0,00015 $ + 0,00025 $ = 0,0004 $.

Khối lượngTính toánChi phí hàng tháng
100 yêu cầu mỗi ngày3 000 × 0,0004 $1,20 $
1 000 yêu cầu mỗi ngày30 000 × 0,0004 $12 $
10 000 yêu cầu mỗi ngày300 000 × 0,0004 $120 $

Một trường hợp tạo văn bản nặng hơn: 500 token đầu vào và 3 000 token đầu ra (một đoạn văn dài). Đầu vào: 500 × 0,15 / 1 000 000 = 0,000075 $. Đầu ra: 3 000 × 0,50 / 1 000 000 = 0,0015 $. Tổng cộng 0,001575 $, tức là 1 000 văn bản với giá 1,575 $. Trong hồ sơ này, đầu ra chiếm trọng lượng lớn hơn nhiều so với đầu vào vì nó được tính phí cao hơn ba lần mỗi token.

Đối với hầu hết các dự án khởi động, hóa đơn rất nhỏ. Rủi ro thực sự không nằm ở giá đơn vị, mà là một lỗi lặp vô hạn các yêu cầu. Hãy đặt giới hạn max_tokens và theo dõi số dư.

Kiểm tra không trả tiền: tín dụng dùng thử

Để có ý tưởng mà không ràng buộc, người dùng mới có thể yêu cầu 0,50 $ tín dụng dùng thử bằng một cú nhấp chuột trên trang khóa API, sau khi đăng ký bằng Google hoặc bằng e-mail và mật khẩu. Nó có giá trị trong 7 ngày, giới hạn một lần cho mỗi người và không yêu cầu phương thức thanh toán nào. Với mức giá trên, nó tương đương 0,50 / 0,0004 = 1 250 yêu cầu, mỗi yêu cầu có 1 000 token đầu vào và 500 token đầu ra.

Các khóa dùng thử bị giới hạn ở 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút, so với 8 và 300 cho khóa đầy đủ. Điều này đủ để xác thực một prompt, định dạng đầu ra hoặc tích hợp. Bạn có thể yêu cầu khóa trên trang lấy khóa API.

Dịch vụ là một mô hình văn bản thuần túy, tương thích OpenAI, với ID mô hình uncensored : nó được cấu hình để phản hồi mà không từ chối nội dung trong phạm vi sử dụng hợp pháp của người trưởng thành. Không có hình ảnh, âm thanh hay embedding.

Một client quản lý tốt các giới hạn

Bất kể API nào, một client tốt sẽ xử lý lỗi 429. Ở đây, API trả về 429 với mã rate_limited (quá nhiều yêu cầu mỗi phút) hoặc concurrency (quá nhiều yêu cầu đồng thời), và với Retry-After: 5 khi quá tải tạm thời. Đây là một phiên bản đơn giản bằng Python.

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.llmnoncensure.com/v1", api_key="VOTRE_CLE")

def appeler(messages, essais=4):
    for n in range(essais):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=messages,
                max_tokens=400,
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 * (n + 1))
    raise RuntimeError("Trop de refus 429, réessayez plus tard")

print(appeler([{"role": "user", "content": "Donne cinq idées de titres pour un roman policier."}]))

Hãy thêm một bộ đếm chi tiêu: tiêu đề X-Balance-USD trong mỗi phản hồi cho bạn biết số dư, và GET /v1/balance làm tương tự khi được yêu cầu. Các yêu cầu thất bại hoặc bị từ chối không được tính phí.

Hồ sơ nào cho tùy chọn nào

Thay vì xếp hạng chung, dưới đây là các tiêu chí quyết định dựa trên những gì bạn làm:

  • Bạn đang khám phá một ý tưởng vào cuối tuần. Một hạn mức miễn phí hoặc tín dụng dùng thử là đủ. Đừng xây dựng gì đó vĩnh viễn dựa trên đó.
  • Bạn đang xây dựng một bản demo cho khách hàng. Bạn cần các giới hạn dự đoán được và một mô hình ổn định. Vài đô la tín dụng trả phí sẽ mua được sự dự đoán được đó.
  • Bạn có người dùng thực. Thanh toán theo token trở thành lựa chọn nghiêm túc duy nhất: bạn kiểm soát chi tiêu, tránh việc cắt giảm hạn ngạch và so sánh chi phí trên mỗi yêu cầu với doanh thu của mình.
  • Bạn xử lý văn bản nhạy cảm hoặc các chủ đề mà bộ lọc tiêu chuẩn từ chối. Hãy kiểm tra chính sách nội dung trước: một mô hình miễn phí từ chối các trường hợp hợp pháp của bạn thì chẳng có ích gì cho bạn.

Để đo lường nhu cầu của bạn trước khi quyết định, hãy ghi lại trong một tuần số lượng yêu cầu, số token đầu vào và đầu ra, cũng như đỉnh điểm của các yêu cầu đồng thời. Trường hợp usage trong mỗi phản hồi cung cấp các số liệu này. Sau đó, nhân chúng với giá: nếu tổng chi phí hàng tháng chỉ nằm trong vài đô la, lập luận về gói miễn phí sẽ tan biến. Nếu nó tăng lên, bạn sẽ biết cần kích hoạt đòn bẩy nào, dù là rút ngắn prompt, giới hạn max_tokens hay lưu cache các phản hồi lặp lại.

Chuyển từ miễn phí sang trả phí mà không gặp khó khăn

Khi nguyên mẫu hoạt động ổn định, các bước tiếp theo rất đơn giản. Không cần đăng ký gói: bạn nạp một khoản tiền nguyên từ 20 $ đến 500 $ bằng tiền mã hóa (USDT trên TRC20 hoặc USDC trên Base), và số dư tín dụng không bao giờ hết hạn. Các ưu đãi: +5 % khi từ 50 $, +10 % khi từ 100 $, +15 % khi từ 200 $. Ví dụ, 100 $ mang lại 110 $ tín dụng, tương đương 110 / 0,0004 = 275 000 yêu cầu loại.

Trang bảng giá liệt kê các điều kiện này, còn tài liệu mô tả các endpoint /v1/chat/completions, /v1/responses và /v1/models, tính năng truyền phát (streaming), công cụ và chế độ JSON. Để có cái nhìn tổng quan hơn về dịch vụ khi tích hợp, bạn có thể tham khảo hướng dẫn tích hợp AI không kiểm duyệt qua API.

Bạn cũng hãy nhớ nguyên tắc cơ bản: chỉ sử dụng cho người trưởng thành hợp pháp, và không bao giờ có nội dung tình dục liên quan đến người chưa thành niên. Các prompt không được dùng để huấn luyện mô hình.

Các hướng dẫn khác

Câu hỏi thường gặp

Có API LLM thực sự miễn phí và không giới hạn không?

Theo tôi biết là không dưới dạng bền vững: các gói miễn phí có giới hạn, thời hạn hoặc điều kiện kèm theo. Hãy kiểm tra các điều kiện hiện tại của từng nhà cung cấp.

Một yêu cầu điển hình ở đây tốn bao nhiêu?

Khoảng 0,0004 $ cho 1 000 token đầu vào và 500 token đầu ra, với mức giá 0,15 $ và 0,50 $ cho mỗi triệu token.

Có cần phương thức thanh toán để nhận tín dụng dùng thử không?

Không. Tín dụng 0,50 $ được nhận chỉ bằng một cú nhấp chuột sau khi đăng ký, có giá trị trong 7 ngày, mỗi người một lần.

Tôi phải làm gì nếu nhận được lỗi 429?

Hãy đợi rồi thử lại. Mã rate_limited báo hiệu quá nhiều yêu cầu mỗi phút, concurrency báo hiệu quá nhiều yêu cầu song song, và Retry-After: 5 là quá tải tạm thời.

Khóa của bạn chỉ còn một bước nữa

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Thế là xong.

Lấy khóa APIĐọc tài liệu