NL ▾
API-sleutel verkrijgen

LLM Non CensureGids

LLM ongecensureerd: lokaal of gehoste API, wat kies je?

Een ongecensureerd LLM lokaal draaien of een gehoste API betalen: beide wegen werken, en de juiste keuze hangt af van je hardware, volume en geduld.

Ongecensureerde AI: API-integratie stap voor stap

Laatst bijgewerkt

Schaal die een lokale computer en een cloudserver vergelijkt om een LLM te kiezen

Kernpunten

De keuze in één tabel

Een ongecensureerd LLM kun je op twee manieren krijgen: je downloadt de weights van een open-weight model en draait het op je machine, of je roept een model aan dat door iemand anders wordt gehost. Hier is de vergelijking, zonder omwegen.

CriteriumLokaalGehoste API
OpstartenInstallatie, downloaden van grote weights, instellingenEen sleutel, een URL, een call
HardwareGPU of krachtige machine, afhankelijk van de modelgrootteGeen, een eenvoudige computer volstaat
KostenHardwareaankoop plus stroomkostenBetaling per token, geen abonnement
PrivacyDe gegevens blijven bij jouDe prompts passeren een derde partij
OfflineJaNee
OnderhoudEigen verantwoordelijkheid: updates, drivers, kwantiseringGewaarborgd door de host
SchaalbaarheidBeperkt door je machineTot 8 gelijktijdige verzoeken en 300 per minuut

Wanneer lokaal de beste keuze is

Lokaal wint in drie situaties. Ten eerste als privacy absoluut voorop staat: teksten die je niet naar een server wilt sturen. Ten tweede als je offline werkt of op een gesloten netwerk. Ten derde als je graag zelf aan de slag gaat: je kwantisering kiezen, tien modelvarianten testen, parameters op laag niveau aanpassen.

Tools zoals Ollama, llama.cpp of LM Studio maken dit haalbaar, en sommige bieden zelfs een lokale OpenAI-compatible API, waardoor je dezelfde code kunt hergebruken. De grootte van het model dat je kunt laden hangt echter af van het geheugen van je GPU of machine. Raadpleeg de specificaties van elk model en de documentatie van de tool voor de exacte vereisten, deze variëren sterk.

Het nadeel: een klein lokaal model schrijft over het algemeen minder goed dan een groot gehost model, en de generatiesnelheid hangt af van je apparatuur. Tot je het hebt getest op je eigen teksten, wees dan voorzichtig met kant-en-klare vergelijkingen.

Wanneer de gehoste API redelijker is

De API is geschikt als je snel een resultaat wilt zonder hardware aan te schaffen of in te stellen. Dit geldt ook als je een product bouwt voor anderen: een interactieve fictie-app, een companion voor volwassenen, een interne tool. Je hoeft geen GPU-storingen of updates te beheren.

De hier beschreven service is een OpenAI-compatible API met één open-weight model, uncensored, beheerd door een onafhankelijke provider en ingesteld om zonder inhoudsfilter te antwoorden binnen een wettelijk volwassen kader. Het biedt een contextvenster van 100 000 tokens, streaming, function calling en JSON-modus. Het genereert alleen tekst, en seksuele inhoud met minderjarigen is uitgesloten. De gids een ongecensureerde AI via API integreren beschrijft de implementatie aan de applicatiekant.

Een kostenberekening om te beslissen

De prijs is $0,15 per miljoen tokens voor invoer en $0,50 per miljoen voor uitvoer. Een verzoek van 1 000 invoertokens en 500 uitvoertokens kost 1 000 × 0,15 / 1 000 000 + 500 × 0,50 / 1 000 000 = 0,00015 + 0,00025 = 0,0004 $.

Stel je voor dat je een machine van $1 000 alleen voor dit doel zou kopen. Dat bedrag komt overeen met 1 000 / 0,0004 = 2 500 000 verzoeken van deze grootte via de API, exclusief stroomkosten en je eigen onderhoudstijd lokaal. Als je gebruik rond een paar duizend verzoeken per maand ligt, is de API veel goedkoper. Als je er miljoenen continu draait, kan de rekening omslaan, zeker als de machine ook voor andere taken wordt gebruikt.

Als je al beschikt over een geschikte GPU, zijn de meerkosten van lokaal gebruik beperkt tot stroom, en wordt de API vooral een noodoplossing of een manier om op te schalen. Doe de berekening met je eigen cijfers: werkelijk volume, promptgrootte, en de prijzen van hardware en energie bij jou.

Code schrijven die in beide gevallen werkt

Omdat de API het OpenAI-formaat volgt, kun je één keer coderen en de hosting wijzigen via configuratie. Hier is een client die de URL, de sleutel en het model uit de omgeving leest, met de standaard API-hosting.

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.llmnoncensure.com/v1"),
    api_key=os.getenv("LLM_API_KEY", "VOTRE_CLE"),
)
MODELE = os.getenv("LLM_MODEL", "uncensored")

def demander(texte):
    r = client.chat.completions.create(
        model=MODELE,
        messages=[{"role": "user", "content": texte}],
        temperature=0.8,
    )
    return r.choices[0].message.content

print(demander("Propose trois idées de nouvelles noires, une phrase chacune."))

Om naar lokaal te schakelen, hoef je alleen LLM_BASE_URL, LLM_API_KEY en LLM_MODEL in te stellen volgens wat je lokale server verwacht. De namen van lokale modellen verschillen en hangen af van wat je hebt geïnstalleerd: controleer ze in de documentatie van de tool. Deze scheiding voorkomt dat je vastzit aan één keuze. Zie ook de API-documentatie voor de routes /v1/chat/completions en /v1/responses.

De hybride aanpak, vaak het meest verstandig

Niets dwingt je om je tot één kamp te beperken. Veel ontwikkelaars combineren beide:

  • Lokaal voor privéwerk: concepten, notities, teksten die je niet elders wilt versturen.
  • API voor kwaliteit of belasting: pieken in gebruik, demo's, tests met gebruikers, lange taken die je machine verzadigen.
  • API voor prototyping: je valideert het idee in een uur en beslist dan of een lokale implementatie zinvol is.

Voor schaalbaarheid onthoud je de limieten: een volledige sleutel staat 8 gelijktijdige verzoeken en 300 per minuut toe, een proefsleutel 2 en 60. Daarboven retourneert de API een 429 met de code rate_limited of concurrency. Een goed geschreven client wacht en probeert het opnieuw in plaats van crashen.

Een laatste budgetindicator: $20 aan opwaardering dekt 20 / 0,0004 = 50 000 verzoeken van de hierboven genoemde grootte, en $100 geeft $110 aan tegoed met de bonus van 10 %, wat neerkomt op 275 000 verzoeken. Mislukte of geweigerde verzoeken worden niet gefactureerd. Met deze cijfers wordt vergelijken met je werkelijke kosten voor hardware en energie een simpele rekensom.

Wat aan geen van beide wegen verandert

Een model dat niet principieel weigert ontslaat je niet van de wet of gezond verstand. Of het model nu bij jou draait of op een server, jij bent verantwoordelijk voor wat je genereert en publiceert. Seksuele inhoud met betrekking tot minderjarigen blijft uitgesloten, en een dienst voor het publiek moet een eigen leeftijdsverificatie voorzien.

Wat betreft de privacy van de gehoste optie, een specifiek feit: prompts worden niet gebruikt om het model te trainen. Voor de rest, lees het privacybeleid voordat je gevoelige gegevens verstuurt. Als dit punt voor jou doorslaggevend is, is lokaal de veiligste keuze.

Om zonder verplichtingen te beginnen, vraag 0,50 $ aan proeftegoed aan op de API-sleutel verkrijgen-pagina, zonder betaalmiddel. Als je deze test hebt gedaan, weet je of de antwoordkwaliteit rechtvaardigt om verder te gaan, of om lokaal te blijven. De prijzen voor opwaarderingen staan op de tarievenpagina, met betaling in crypto (USDT op TRC20 of USDC op Base).

Andere gidsen

Veelgestelde vragen

Is een lokaal ongecensureerd LLM beter dan een API?

Niet per se. Het is beter voor privacy en offline gebruik, maar minder goed voor eenvoud, kwaliteit met bescheiden hardware en schaalbaarheid.

Kan ik van lokaal naar API schakelen zonder mijn code te herschrijven?

Ja, als je code het OpenAI SDK gebruikt. Je hoeft alleen de basis-URL, de sleutel en de modelnaam aan te passen.

Bewaart de gehoste API mijn prompts om het model te trainen?

Nee, prompts worden niet gebruikt voor training.

Wat zijn de kosten van de gehoste API?

$0,15 per miljoen tokens voor invoer en $0,50 per miljoen voor uitvoer, zonder abonnement, met een tegoed dat nooit verloopt.

Je sleutel is nog één stap verwijderd

Maak een account aan, kopieer de sleutel, pas de basis-URL aan. Dat is alles.

API-sleutel verkrijgenDocumentatie lezen