LLM Non CensureGids
LLM ongecensureerd: lokaal of gehoste API, wat kies je?
Een ongecensureerd LLM lokaal draaien of een gehoste API betalen: beide wegen werken, en de juiste keuze hangt af van je hardware, volume en geduld.


Kernpunten
De keuze in één tabel
Een ongecensureerd LLM kun je op twee manieren krijgen: je downloadt de weights van een open-weight model en draait het op je machine, of je roept een model aan dat door iemand anders wordt gehost. Hier is de vergelijking, zonder omwegen.
| Criterium | Lokaal | Gehoste API |
|---|---|---|
| Opstarten | Installatie, downloaden van grote weights, instellingen | Een sleutel, een URL, een call |
| Hardware | GPU of krachtige machine, afhankelijk van de modelgrootte | Geen, een eenvoudige computer volstaat |
| Kosten | Hardwareaankoop plus stroomkosten | Betaling per token, geen abonnement |
| Privacy | De gegevens blijven bij jou | De prompts passeren een derde partij |
| Offline | Ja | Nee |
| Onderhoud | Eigen verantwoordelijkheid: updates, drivers, kwantisering | Gewaarborgd door de host |
| Schaalbaarheid | Beperkt door je machine | Tot 8 gelijktijdige verzoeken en 300 per minuut |
Wanneer lokaal de beste keuze is
Lokaal wint in drie situaties. Ten eerste als privacy absoluut voorop staat: teksten die je niet naar een server wilt sturen. Ten tweede als je offline werkt of op een gesloten netwerk. Ten derde als je graag zelf aan de slag gaat: je kwantisering kiezen, tien modelvarianten testen, parameters op laag niveau aanpassen.
Tools zoals Ollama, llama.cpp of LM Studio maken dit haalbaar, en sommige bieden zelfs een lokale OpenAI-compatible API, waardoor je dezelfde code kunt hergebruken. De grootte van het model dat je kunt laden hangt echter af van het geheugen van je GPU of machine. Raadpleeg de specificaties van elk model en de documentatie van de tool voor de exacte vereisten, deze variëren sterk.
Het nadeel: een klein lokaal model schrijft over het algemeen minder goed dan een groot gehost model, en de generatiesnelheid hangt af van je apparatuur. Tot je het hebt getest op je eigen teksten, wees dan voorzichtig met kant-en-klare vergelijkingen.
Wanneer de gehoste API redelijker is
De API is geschikt als je snel een resultaat wilt zonder hardware aan te schaffen of in te stellen. Dit geldt ook als je een product bouwt voor anderen: een interactieve fictie-app, een companion voor volwassenen, een interne tool. Je hoeft geen GPU-storingen of updates te beheren.
De hier beschreven service is een OpenAI-compatible API met één open-weight model, uncensored, beheerd door een onafhankelijke provider en ingesteld om zonder inhoudsfilter te antwoorden binnen een wettelijk volwassen kader. Het biedt een contextvenster van 100 000 tokens, streaming, function calling en JSON-modus. Het genereert alleen tekst, en seksuele inhoud met minderjarigen is uitgesloten. De gids een ongecensureerde AI via API integreren beschrijft de implementatie aan de applicatiekant.
Een kostenberekening om te beslissen
De prijs is $0,15 per miljoen tokens voor invoer en $0,50 per miljoen voor uitvoer. Een verzoek van 1 000 invoertokens en 500 uitvoertokens kost 1 000 × 0,15 / 1 000 000 + 500 × 0,50 / 1 000 000 = 0,00015 + 0,00025 = 0,0004 $.
Stel je voor dat je een machine van $1 000 alleen voor dit doel zou kopen. Dat bedrag komt overeen met 1 000 / 0,0004 = 2 500 000 verzoeken van deze grootte via de API, exclusief stroomkosten en je eigen onderhoudstijd lokaal. Als je gebruik rond een paar duizend verzoeken per maand ligt, is de API veel goedkoper. Als je er miljoenen continu draait, kan de rekening omslaan, zeker als de machine ook voor andere taken wordt gebruikt.
Als je al beschikt over een geschikte GPU, zijn de meerkosten van lokaal gebruik beperkt tot stroom, en wordt de API vooral een noodoplossing of een manier om op te schalen. Doe de berekening met je eigen cijfers: werkelijk volume, promptgrootte, en de prijzen van hardware en energie bij jou.
Code schrijven die in beide gevallen werkt
Omdat de API het OpenAI-formaat volgt, kun je één keer coderen en de hosting wijzigen via configuratie. Hier is een client die de URL, de sleutel en het model uit de omgeving leest, met de standaard API-hosting.
import os
from openai import OpenAI
client = OpenAI(
base_url=os.getenv("LLM_BASE_URL", "https://api.llmnoncensure.com/v1"),
api_key=os.getenv("LLM_API_KEY", "VOTRE_CLE"),
)
MODELE = os.getenv("LLM_MODEL", "uncensored")
def demander(texte):
r = client.chat.completions.create(
model=MODELE,
messages=[{"role": "user", "content": texte}],
temperature=0.8,
)
return r.choices[0].message.content
print(demander("Propose trois idées de nouvelles noires, une phrase chacune."))
Om naar lokaal te schakelen, hoef je alleen LLM_BASE_URL, LLM_API_KEY en LLM_MODEL in te stellen volgens wat je lokale server verwacht. De namen van lokale modellen verschillen en hangen af van wat je hebt geïnstalleerd: controleer ze in de documentatie van de tool. Deze scheiding voorkomt dat je vastzit aan één keuze. Zie ook de API-documentatie voor de routes /v1/chat/completions en /v1/responses.
De hybride aanpak, vaak het meest verstandig
Niets dwingt je om je tot één kamp te beperken. Veel ontwikkelaars combineren beide:
- Lokaal voor privéwerk: concepten, notities, teksten die je niet elders wilt versturen.
- API voor kwaliteit of belasting: pieken in gebruik, demo's, tests met gebruikers, lange taken die je machine verzadigen.
- API voor prototyping: je valideert het idee in een uur en beslist dan of een lokale implementatie zinvol is.
Voor schaalbaarheid onthoud je de limieten: een volledige sleutel staat 8 gelijktijdige verzoeken en 300 per minuut toe, een proefsleutel 2 en 60. Daarboven retourneert de API een 429 met de code rate_limited of concurrency. Een goed geschreven client wacht en probeert het opnieuw in plaats van crashen.
Een laatste budgetindicator: $20 aan opwaardering dekt 20 / 0,0004 = 50 000 verzoeken van de hierboven genoemde grootte, en $100 geeft $110 aan tegoed met de bonus van 10 %, wat neerkomt op 275 000 verzoeken. Mislukte of geweigerde verzoeken worden niet gefactureerd. Met deze cijfers wordt vergelijken met je werkelijke kosten voor hardware en energie een simpele rekensom.
Wat aan geen van beide wegen verandert
Een model dat niet principieel weigert ontslaat je niet van de wet of gezond verstand. Of het model nu bij jou draait of op een server, jij bent verantwoordelijk voor wat je genereert en publiceert. Seksuele inhoud met betrekking tot minderjarigen blijft uitgesloten, en een dienst voor het publiek moet een eigen leeftijdsverificatie voorzien.
Wat betreft de privacy van de gehoste optie, een specifiek feit: prompts worden niet gebruikt om het model te trainen. Voor de rest, lees het privacybeleid voordat je gevoelige gegevens verstuurt. Als dit punt voor jou doorslaggevend is, is lokaal de veiligste keuze.
Om zonder verplichtingen te beginnen, vraag 0,50 $ aan proeftegoed aan op de API-sleutel verkrijgen-pagina, zonder betaalmiddel. Als je deze test hebt gedaan, weet je of de antwoordkwaliteit rechtvaardigt om verder te gaan, of om lokaal te blijven. De prijzen voor opwaarderingen staan op de tarievenpagina, met betaling in crypto (USDT op TRC20 of USDC op Base).
Andere gidsen
Veelgestelde vragen
Is een lokaal ongecensureerd LLM beter dan een API?
Niet per se. Het is beter voor privacy en offline gebruik, maar minder goed voor eenvoud, kwaliteit met bescheiden hardware en schaalbaarheid.
Kan ik van lokaal naar API schakelen zonder mijn code te herschrijven?
Ja, als je code het OpenAI SDK gebruikt. Je hoeft alleen de basis-URL, de sleutel en de modelnaam aan te passen.
Bewaart de gehoste API mijn prompts om het model te trainen?
Nee, prompts worden niet gebruikt voor training.
Wat zijn de kosten van de gehoste API?
$0,15 per miljoen tokens voor invoer en $0,50 per miljoen voor uitvoer, zonder abonnement, met een tegoed dat nooit verloopt.
Je sleutel is nog één stap verwijderd
Maak een account aan, kopieer de sleutel, pas de basis-URL aan. Dat is alles.