VI ▾
Lấy khóa API

LLM Non CensureHướng dẫn

Chatbot AI không kiểm duyệt: xây dựng bằng Python

Một chatbot AI không kiểm duyệt chỉ cần khoảng 60 dòng Python. Dưới đây là mã, quản lý lịch sử, truyền phát, chi phí cho mỗi cuộc hội thoại và các quy tắc cần tuân thủ.

AI Không Kiểm duyệt: Hướng dẫn Tích hợp API Từng bước

Cập nhật

Bong bóng trò chuyện sáng trên băng chuyền hướng tới terminal, minh họa một chatbot được xây dựng qua API

Điểm chính

Những gì bạn sẽ xây dựng

Mục tiêu: một chatbot AI không kiểm duyệt dòng lệnh, giữ mạch hội thoại, hiển thị câu trả lời từng phần và không bị lỗi khi gặp lỗi mạng đầu tiên. Khi logic đã có, nó dễ dàng chuyển sang ứng dụng web, bot nhắn tin hoặc trò chơi nhập vai.

Yêu cầu: Python 3.9 trở lên, gói openai (pip install openai) và một khóa đã tạo trên trang lấy khóa API. Tín dụng dùng thử 0,50 $, không cần phương thức thanh toán, là đủ cho hướng dẫn này. Tên mô hình là uncensored : đây là mô hình văn bản, được cấu hình để trả lời mà không từ chối nội dung trong khuôn khổ người lớn hợp pháp. Mô hình không tạo hình ảnh.

Bước 1: một cuộc trao đổi đầu tiên

Trước khi viết mã vòng lặp, hãy kiểm tra xem mọi thứ có phản hồi với một lệnh gọi curl đơn giản không:

curl https://api.llmnoncensure.com/v1/chat/completions   -H "Authorization: Bearer VOTRE_CLE"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Présente-toi en deux phrases."}]}'

Bạn phải nhận được JSON với choices[0].message.content. Nếu 401, khóa sai; nếu 404, URL không đầy đủ. Giữ khóa trong biến môi trường và không bao giờ trong mã bạn công bố.

Bước 2: lịch sử hội thoại

API không nhớ giữa hai lời gọi. Để chatbot « nhớ », chương trình của bạn giữ danh sách tin nhắn và trả lại toàn bộ trong mỗi lượt: một tin nhắn system ở đầu, sau đó là các trao đổi user và assistant theo thứ tự. Đây là điểm người mới thường quên nhất.

Tin nhắn hệ thống xác định tính cách của bot. Hãy chính xác về giọng điệu và ngôn ngữ, và về những gì bot phải làm khi người dùng vượt khung. Các tham số temperature và top_p được truyền đến mô hình: tăng nhiệt độ khoảng 0,9 cho bot nói nhiều, giảm nó cho bot thực tế.

Một tin nhắn hệ thống giữ vững

Bốn yếu tố là đủ: bot là ai, nó nói thế nào, độ dài câu trả lời và nó làm gì trong các trường hợp giới hạn. Ví dụ: « Bạn là người kể chuyện nhập vai. Bạn viết ở ngôi thứ hai, dưới năm câu. Nếu người dùng yêu cầu phá vỡ khung, bạn chỉ ra bằng một dòng rồi tiếp tục. » Tránh danh sách cấm hai mươi dòng: chúng làm tăng đầu vào mỗi lượt và mô hình hiếm khi tuân thủ tất cả. Kiểm tra với mười tin nhắn đẩy bot vào thế khó, sau đó điều chỉnh một câu tại một thời điểm để biết điều gì đã thay đổi hành vi.

Lưu trữ hội thoại

Trong hướng dẫn này, lịch sử tồn tại trong bộ nhớ. Đối với ứng dụng thực tế, hãy lưu nó cho từng người dùng trong cơ sở dữ liệu, với ID phiên. Tải các tin nhắn cuối cùng ở đầu mỗi yêu cầu, áp dụng cùng cửa sổ ngữ cảnh, sau đó lưu câu trả lời khi luồng kết thúc.

Bước 3: chương trình đầy đủ với truyền phát

Đây là chương trình. Nó giữ 12 tin nhắn cuối cùng cộng với tin nhắn hệ thống, hiển thị token khi chúng đến và thử lại sau khi nhận mã 429.

import os
import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmnoncensure.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

SYSTEME = {
    "role": "system",
    "content": "Tu es Margaux, une conteuse sarcastique. Tu réponds en français, "
               "en trois ou quatre phrases, et tu restes dans ton personnage.",
}
historique = []

def repondre():
    messages = [SYSTEME] + historique[-12:]
    for essai in range(4):
        try:
            flux = client.chat.completions.create(
                model="uncensored",
                messages=messages,
                temperature=0.9,
                max_tokens=400,
                stream=True,
            )
            texte = ""
            for morceau in flux:
                if morceau.choices and morceau.choices[0].delta.content:
                    partie = morceau.choices[0].delta.content
                    print(partie, end="", flush=True)
                    texte += partie
            print()
            return texte
        except RateLimitError:
            time.sleep(5)
    return "(trop de requêtes, réessayez dans un instant)"

while True:
    entree = input("Vous : ").strip()
    if entree in ("", "quit", "exit"):
        break
    historique.append({"role": "user", "content": entree})
    print("Margaux : ", end="")
    historique.append({"role": "assistant", "content": repondre()})

Mỗi dòng có lý do. Việc cắt historique[-12:] giới hạn kích thước đầu vào. max_tokens=400 tránh câu trả lời vô tận. Vòng lặp thử lại xử lý trường hợp 429: API trả mã này với rate_limited hoặc concurrency, và với Retry-After: 5 khi quá tải tạm thời. Một luồng đang chạy chiếm vị trí của nó đến khi kết thúc, vì vậy không bắt đầu hai câu trả lời song song với khóa thử, giới hạn 2 yêu cầu đồng thời và 60 mỗi phút.

Chi phí một cuộc hội thoại, tính toán

Với giá 0,15 $ cho mỗi triệu token đầu vào và 0,50 $ cho mỗi triệu token đầu ra, hãy tính toán một cuộc hội thoại 30 lượt. Giả định: tin nhắn hệ thống 200 token, 150 token mỗi tin nhắn người dùng, 250 token mỗi câu trả lời.

  • Không giới hạn lịch sử, đầu vào tại lượt k là 200 + 400 × (k − 1) + 150 token. Trong 30 lượt: 6 000 + 4 500 + 400 × 435 = 184 500 token, tức 0,0277 $.
  • Đầu ra: 30 × 250 = 7 500 token, tức 0,00375 $.
  • Với cửa sổ giới hạn đầu vào khoảng 2 600 token (mã ở trên giữ 12 tin nhắn), tổng đầu vào không vượt quá 30 × 2 600 = 78 000 token, tức tối đa 0,0117 $.

Việc cắt ngắn giảm đầu vào hơn một nửa trong ví dụ này (0,0277 $ so với tối đa 0,0117 $), với giá là bot quên phần đầu hội thoại. Để giữ phần chính, hãy tóm tắt thường xuyên các tin nhắn cũ thành một đoạn ngắn đặt trong tin nhắn hệ thống. Cửa sổ mô hình đạt 100 000 token, nhưng sử dụng đầy đủ tốn kém mỗi lượt. Chi tiết giá trên trang bảng giá.

Quy tắc cần tuân thủ cho bot không kiểm duyệt

Không có bộ lọc không có nghĩa là không có quy tắc. Khi bot được sử dụng bởi người khác, nhiều điểm thuộc về bạn:

  • Chỉ sử dụng cho người lớn hợp pháp. Bạn nên thiết lập xác minh độ tuổi phù hợp với quốc gia và đối tượng của bạn.
  • Nội dung liên quan đến người chưa thành niên: loại trừ. Đây là giới hạn nghiêm ngặt của dịch vụ, không ngoại lệ, và bạn cũng phải cấm nó trong điều khoản sử dụng của riêng mình.
  • Khóa ở phía máy chủ. Không bao giờ gửi khóa đến trình duyệt. Chuyển các yêu cầu qua backend của bạn.
  • Giới hạn theo người dùng. Không có giới hạn, một khách truy cập duy nhất có thể tiêu thụ tín dụng của bạn. Thêm giới hạn tin nhắn mỗi giờ.
  • Minh bạch. Hãy nói rõ ràng rằng đối tượng trò chuyện là một AI và nó có thể sai lầm.

Các prompt không được sử dụng để huấn luyện mô hình, nhưng hãy đọc chính sách bảo mật trước khi thu thập dữ liệu người dùng của bạn.

Đi xa hơn

Ba hướng để mở rộng chương trình này. Chế độ JSON (response_format với {"type":"json_object"}) cho phép bot trả về dữ liệu có cấu trúc. Gọi công cụ (tools, tool_choice) cho phép bot kích hoạt hàm từ mã của bạn, như tung xúc xắc hoặc tra cứu hồ sơ nhân vật. Cuối cùng, tham số seed giúp tái tạo câu trả lời trong khi kiểm tra. Tất cả được mô tả trong tài liệu.

Số dư được đọc trong header X-Balance-USD hoặc qua GET /v1/balance : hãy in nó vào nhật ký phát triển của bạn. Khi nguyên mẫu hoạt động, hãy nạp tiền từ 20 $ đến 500 $ bằng tiền mã hóa (USDT trên TRC20 hoặc USDC trên Base). Hướng dẫn tích hợp AI không kiểm duyệt qua API bổ sung cho hướng dẫn kiến trúc này.

Các hướng dẫn khác

Câu hỏi thường gặp

Chatbot của tôi có tự nhớ các tin nhắn trước đó không?

Không. API không giữ trạng thái: mã của bạn phải gửi lại lịch sử trong mỗi yêu cầu.

Làm thế nào để hiển thị câu trả lời từng phần?

Hãy đặt stream=True trong lời gọi. Các token đến qua SSE và thông tin sử dụng được cung cấp ở cuối luồng.

Kích thước tối đa của cuộc trò chuyện là bao nhiêu?

Cửa sổ là 100 000 token, bao gồm cả prompt và câu trả lời. Việc cắt ngắn lịch sử vẫn được khuyến nghị để giảm chi phí.

Tôi có thể thêm khả năng tạo ảnh vào chatbot không?

Không với API này, vì API chỉ xử lý văn bản. Bạn sẽ cần một dịch vụ khác cho ảnh.

Khóa của bạn chỉ còn một bước

Tạo tài khoản, sao chép khóa, sửa đổi URL cơ sở. Chỉ có vậy thôi.

Lấy khóa APIĐọc tài liệu