TH ▾
รับคีย์ API

LLM Non Censureคู่มือ

แชทบอท AI ไม่เซ็นเซอร์: สร้างด้วย Python

แชทบอท AI แบบไม่มีตัวกรองมีโค้ดประมาณ 60 บรรทัดของ Python นี่คือโค้ด การจัดการประวัติ การสตรีม ค่าใช้จ่ายต่อการสนทนา และกฎที่ต้องปฏิบัติตาม

AI ไม่เซ็นเซอร์: คู่มือการผสาน API แบบทีละขั้นตอน

อัปเดต

ฟองแชทสว่างบนสายพานส่งไปยังเทอร์มินัล แสดงถึงแชทบอทที่สร้างผ่าน API

จุดสำคัญ

สิ่งที่คุณจะสร้าง

เป้าหมายคือ แชทบอท AI แบบไม่เซ็นเซอร์แบบใช้คำสั่ง (command line) ที่ติดตามการสนทนา แสดงผลคำตอบแบบเรียลไทม์ และไม่ล้มลงเมื่อเจอข้อผิดพลาดทางเครือข่ายเป็นครั้งแรก เมื่อวางโครงสร้างพื้นฐานเสร็จแล้ว สามารถนำไปใช้กับเว็บแอปพลิเคชัน บอทแชท หรือเกมบทบาทสมมติได้อย่างง่ายดาย

ข้อกำหนดเบื้องต้น: Python 3.9 ขึ้นไป แพ็คเกจ openai (pip install openai) และคีย์ที่สร้างบนหน้า รับคีย์ API เครดิตทดลองใช้ 0,50 $ ซึ่งไม่ต้องใช้วิธีการชำระเงินก็เพียงพอสำหรับคู่มือนี้ โมเดลชื่อ uncensored ซึ่งเป็นโมเดลข้อความ ตั้งค่าให้ตอบกลับโดยไม่มีการปฏิเสธเนื้อหาในบริบทของผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่มีการสร้างรูปภาพ

ขั้นตอนที่ 1 : การสนทนาครั้งแรก

ก่อนเริ่มเขียนโค้ด ให้ตรวจสอบว่าทุกอย่างทำงานผ่านคำสั่ง curl ง่ายๆ นี้:

curl https://api.llmnoncensure.com/v1/chat/completions   -H "Authorization: Bearer VOTRE_CLE"   -H "Content-Type: application/json"   -d '{"model":"uncensored","messages":[{"role":"user","content":"Présente-toi en deux phrases."}]}'

คุณต้องรับ JSON ที่มี choices[0].message.content หากเกิด 401 แสดงว่าคีย์ไม่ถูกต้อง หากเกิด 404 แสดงว่า URL ไม่สมบูรณ์ เก็บคีย์ไว้ในตัวแปรสิ่งแวดล้อมและไม่เก็บไว้ในโค้ดที่คุณเผยแพร่

ขั้นตอนที่ 2 : ประวัติการสนทนา

API ไม่เก็บข้อมูลระหว่างคำขอสองครั้ง เพื่อให้แชทบอท "จำ" ได้ โปรแกรมของคุณต้องเก็บรายการข้อความและส่งกลับทั้งหมดในทุกๆ รอบ: ข้อความ system ที่เริ่มต้น จากนั้นเป็นข้อความ user และ assistant ตามลำดับ นี่คือจุดที่มือใหม่มักลืมมากที่สุด

ข้อความระบบกำหนดลักษณะของบอท ให้ชัดเจนเกี่ยวกับน้ำเสียง ภาษา และสิ่งที่บอทควรทำเมื่อผู้ใช้เบี่ยงเบนไปจากกรอบที่กำหนด พารามิเตอร์ temperature และ top_p จะถูกส่งไปยังโมเดล: ปรับอุณหภูมิให้สูงประมาณ 0,9 สำหรับบอทที่พูดมาก และลดลงสำหรับบอทที่เน้นข้อเท็จจริง

ข้อความระบบที่รักษาขอบเขตไว้

สี่องค์ประกอบนี้เพียงพอ: บอทคือใคร พูดอย่างไร ความยาวของคำตอบ และสิ่งที่ควรทำในกรณีขอบเขต ตัวอย่างเช่น: "คุณเป็นผู้เล่าเรื่องเกมบทบาทสมมติ คุณเขียนโดยใช้สรรพนามบุรุษที่สอง ในความยาวไม่เกินห้าประโยค หากผู้ใช้ขอให้ทำลายกรอบเรื่อง ให้คุณระบุในหนึ่งบรรทัดแล้วกลับเข้าสู่เรื่องต่อ" หลีกเลี่ยงรายการข้อห้ามที่ยาวหลายบรรทัด เพราะมันทำให้ขนาดอินพุตเพิ่มขึ้นในทุกๆ รอบ และโมเดลมักจะไม่ปฏิบัติตามทั้งหมด ให้ทดสอบด้วยสิบข้อความที่ท้าทายบอท แล้วปรับแก้ทีละประโยคเพื่อหาสาเหตุที่เปลี่ยนพฤติกรรม

การบันทึกการสนทนา

ในคู่มือนี้ ประวัติการสนทนาจะถูกเก็บไว้ในหน่วยความจำ สำหรับแอปพลิเคชันจริง ให้บันทึกประวัติตามผู้ใช้ในฐานข้อมูล โดยใช้ session ID โหลดข้อความล่าสุดที่ต้นของแต่ละคำขอ ใช้หน้าต่างบริบทเดียวกัน แล้วบันทึกคำตอบเมื่อสตรีมเสร็จสิ้น

ขั้นตอนที่ 3: โปรแกรมเต็มรูปแบบพร้อมสตรีมมิง

นี่คือโปรแกรม มันเก็บข้อความล่าสุด 12 ข้อความนอกเหนือจากข้อความระบบ แสดงโทเคนทันทีที่ถึง และลองใหม่หลังจากเกิด 429

import os
import time
from openai import OpenAI, RateLimitError

client = OpenAI(
    base_url="https://api.llmnoncensure.com/v1",
    api_key=os.environ["LLM_API_KEY"],
)

SYSTEME = {
    "role": "system",
    "content": "Tu es Margaux, une conteuse sarcastique. Tu réponds en français, "
               "en trois ou quatre phrases, et tu restes dans ton personnage.",
}
historique = []

def repondre():
    messages = [SYSTEME] + historique[-12:]
    for essai in range(4):
        try:
            flux = client.chat.completions.create(
                model="uncensored",
                messages=messages,
                temperature=0.9,
                max_tokens=400,
                stream=True,
            )
            texte = ""
            for morceau in flux:
                if morceau.choices and morceau.choices[0].delta.content:
                    partie = morceau.choices[0].delta.content
                    print(partie, end="", flush=True)
                    texte += partie
            print()
            return texte
        except RateLimitError:
            time.sleep(5)
    return "(trop de requêtes, réessayez dans un instant)"

while True:
    entree = input("Vous : ").strip()
    if entree in ("", "quit", "exit"):
        break
    historique.append({"role": "user", "content": entree})
    print("Margaux : ", end="")
    historique.append({"role": "assistant", "content": repondre()})

แต่ละบรรทัดมีเหตุผล การตัด historique[-12:] จำกัดขนาดของข้อมูลนำเข้า max_tokens=400 ป้องกันการตอบกลับที่ยาวไม่สิ้นสุด ลูปการลองใหม่จัดการกรณี 429: API ส่งโค้ดนี้พร้อม rate_limited หรือ concurrency และพร้อม Retry-After: 5 เมื่อมีการโหลดเกินชั่วคราว สตรีมมิงที่กำลังทำงานจะครอบครองตำแหน่งจนกว่าจะเสร็จสิ้น ดังนั้นอย่าส่งการตอบกลับสองรายการแบบขนานด้วยคีย์ทดลอง ซึ่งจำกัดไว้ที่ 2 คำขอพร้อมกันและ 60 คำขอต่อนาที

ต้นทุนของการสนทนาที่คำนวณแล้ว

ที่อัตรา 0,15 $ ต่อล้านโทเคนสำหรับอินพุต และ 0,50 $ ต่อล้านโทเคนสำหรับเอาต์พุต มาคำนวณการสนทนา 30 รอบ สมมติฐาน: ข้อความระบบ 200 โทเคน 150 โทเคนต่อข้อความผู้ใช้ และ 250 โทเคนต่อคำตอบ

  • โดยไม่มีขีดจำกัดประวัติ ข้อมูลนำเข้าในรอบ k คือ 200 + 400 × (k − 1) + 150 โทเคน ใน 30 รอบ: 6 000 + 4 500 + 400 × 435 = 184 500 โทเคน คิดเป็น 0,0277 $
  • ข้อมูลส่งออก: 30 × 250 = 7 500 โทเคน คิดเป็น 0,00375 $
  • ด้วยหน้าต่างที่จำกัดข้อมูลนำเข้าไว้ที่ประมาณ 2 600 โทเคน (โค้ดด้านบนเก็บข้อความ 12 ข้อความ) ข้อมูลนำเข้ารวมจะไม่เกิน 30 × 2 600 = 78 000 โทเคน คิดเป็น 0,0117 $ สูงสุด

การตัดทอนจึงลดข้อมูลนำเข้าลงมากกว่าครึ่งในตัวอย่างนี้ (0,0277 $ เทียบกับ 0,0117 $ สูงสุด) โดยแลกกับบอทที่ลืมส่วนต้นของการสนทนา เพื่อเก็บเนื้อหาสำคัญไว้ ให้สรุปข้อความเก่าเป็นย่อหน้าสั้นๆ แล้วใส่ลงในข้อความระบบ หน้าต่างบริบทของโมเดลรองรับ 100 000 โทเคน แต่การใช้ทั้งหมดนั้นแพงในแต่ละรอบ รายละเอียดราคาอยู่ที่หน้า อัตราค่าบริการ

กฎที่ต้องปฏิบัติตามสำหรับบอทแบบไม่เซ็นเซอร์

การไม่มีตัวกรองไม่ได้หมายความว่าไม่มีกฎ ทันทีที่บอทถูกใช้งานโดยบุคคลอื่น ประเด็นหลายอย่างอยู่ภายใต้ความรับผิดชอบของคุณ:

  • การใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมายเท่านั้น เตรียมการตรวจสอบอายุที่เหมาะสมกับประเทศและกลุ่มเป้าหมายของคุณ
  • เนื้อหาที่เกี่ยวข้องกับผู้เยาว์: ห้ามใช้ นี่คือขีดจำกัดที่เข้มงวดของบริการ โดยไม่มีข้อยกเว้น และคุณต้องห้ามใช้เนื้อหาประเภทนี้ในข้อกำหนดการใช้งานของคุณเองด้วย
  • คีย์ฝั่งเซิร์ฟเวอร์ อย่าส่งคีย์ไปยังเบราว์เซอร์ ให้ส่งคำขอผ่านแบ็กเอนด์ของคุณ
  • ขีดจำกัดต่อผู้ใช้ หากไม่มีขีดจำกัด ผู้เยี่ยมชมรายเดียวอาจใช้เครดิตของคุณจนหมด ให้เพิ่มขีดจำกัดจำนวนข้อความต่อชั่วโมง
  • ความโปร่งใส แจ้งให้ชัดเจนว่าคู่สนทนาเป็น AI และอาจทำผิดพลาดได้

พรอมต์ไม่ได้ถูกนำไปใช้ในการฝึกโมเดล แต่ควรอ่าน นโยบายความเป็นส่วนตัว ก่อนรวบรวมข้อมูลจากผู้ใช้ของคุณ

ไปให้ไกลกว่านี้

สามแนวทางเพื่อขยายโปรแกรมนี้ โหมด JSON (response_format พร้อม {"type":"json_object"}) ช่วยให้คุณทำให้บอทส่งข้อมูลที่มีโครงสร้างกลับมา การเรียกใช้เครื่องมือ (tools, tool_choice) เปิดโอกาสให้บอทเรียกใช้ฟังก์ชันจากโค้ดของคุณ เช่น การสุ่มลูกเต๋าหรือการดูข้อมูลตัวละคร นอกจากนี้ พารามิเตอร์ seed ช่วยให้การตอบกลับสามารถทำซ้ำได้ระหว่างการทดสอบ รายละเอียดทั้งหมดมีอยู่ใน เอกสารประกอบ

ยอดคงเหลือสามารถอ่านได้จากเฮดเดอร์ X-Balance-USD หรือผ่าน GET /v1/balance: แสดงผลในบันทึกการพัฒนาระบบของคุณ เมื่อต้นแบบทำงานได้แล้ว ให้เติมเงินระหว่าง 20 $ ถึง 500 $ ด้วยคริปโต (USDT บน TRC20 หรือ USDC บน Base) คู่มือ การผสานรวม AI แบบไม่เซ็นเซอร์ผ่าน API ช่วยเสริมบทช่วยสอนนี้ในด้านการออกแบบสถาปัตยกรรม

คู่มืออื่นๆ

คำถามที่พบบ่อย

แชทบอทของฉันจดจำข้อความก่อนหน้าได้เองหรือไม่?

ไม่ API ไม่เก็บสถานะใดๆ: รหัสของคุณต้องส่งประวัติกลับในทุกคำขอ

จะแสดงคำตอบแบบเรียลไทม์ได้อย่างไร?

ส่ง stream=True ในการเรียกใช้ โทเคนจะถูกส่งผ่าน SSE และข้อมูลการใช้งานจะถูกแสดงที่ท้ายสตรีม

ขนาดการสนทนาสูงสุดคือเท่าใด?

หน้าต่างบริบทคือ 100 000 โทเคน รวมพรอมต์และคำตอบ การตัดประวัติออกยังแนะนำอยู่เพื่อจำกัดค่าใช้จ่าย

ฉันสามารถเพิ่มการสร้างภาพให้กับแชทบอทได้หรือไม่?

ไม่ได้กับ API นี้ซึ่งประมวลผลเฉพาะข้อความ คุณต้องใช้บริการอื่นสำหรับภาพ

คีย์ของคุณอยู่ห่างออกไปหนึ่งขั้นตอน

สร้างบัญชี คัดลอกคีย์ แก้ไข URL พื้นฐาน แค่นั้นเอง

รับคีย์ APIอ่านเอกสาร