Rychlý start: Integrujte API LLM Uncensored

Nastavení základní URL a ověření

Nasměrujte klienta na náš vyhrazený koncový bod pro zahájení komunikace. Základní URL je https://api.apillmopen.com/v1. Tato konfigurace funguje s jakýmkoli standardním SDK OpenAI aktualizací base_url parameter a poskytnutí vašeho unikátního API klíče. Tento klíč obdržíte okamžitě po registraci přes Google nebo e-mail. Není vyžadováno ověření telefonním číslem. Systém vynucuje přísný limit jednoho aktivního klíče na účet. Vygenerování nového klíče automaticky zneplatní předchozí. To zjednodušuje řízení přístupu pro váš vývojářský pracovní postup.

Odeslání vašeho prvního požadavku na dokončení chatu

Pošlete standardní požadavek POST na /v1/chat/completions generovat text. Musíte zadat ID modelu jako uncensored. Systém přijímá standardní parametry jako temperature a top_p pro ovládání náhodnosti. Váš vstupní prompt je zpracován prostřednictvím našeho hostovaného velkého jazykového modelu. Výsledky se vracejí jako čistý text bez zbytečné metadata. Tento přímý přístup zajišťuje, že platíte pouze za skutečně využitá inference tokeny. Chyby během zpracování nespotřebují váš předplacený kredit. To činí testování velmi ekonomickým v raných fázích vývoje.

Integrace Python SDK

Použijte oficiální knihovnu Pythonu pro bezproblémovou interakci s koncovým bodem. Nakonfigurujte klienta s vaší základní URL a API klíčem. Knihovna automaticky řeší serializaci JSON a HTTP přenos. Můžete předat seznam zpráv definujících historii konverzace. Odpovědní objekt poskytuje snadný přístup k vygenerovanému obsahu. Tato metoda je ideální pro backendové služby nebo lokální skripty. Výrazně snižuje množství boilerplate kódu ve srovnání s hrubými HTTP požadavky. Můžete také nastavit specifické parametry pro jemnější kontrolu nad stylem výstupu.

Integrace SDK pro Node

Inicializujte klienta Node.js se svými přihlašovacími údaji a základní URL. Asynchronní povaha SDK dobře zapadá do moderních webových serverů. Výsledek odpovědi můžete přímo očekávat (await) v obslužných rutinách tras. Tento přístup udržuje kód čistý a čitelný. SDK efektivně spravuje poolování připojení a opakované pokusy. Lze jej snadno integrovat do aplikací Express nebo Fastify. Podporuje jak streamování, tak nestreamované odpovědi. Vyberte režim, který nejlépe odpovídá architektuře vaší aplikace.

Povolování streamování a zpracování využití tokenů

Povolte streamování nastavením stream parameter na true. API vrací data prostřednictvím Server-Sent Events (SSE). Každá část obsahuje částečný text a metadata. Poslední část obsahuje celkové využití tokenů pro požadavek. To vám umožňuje sledovat náklady v reálném čase. Streamování výrazně snižuje vnímanou latenci pro koncové uživatele. Text můžete zobrazovat, jak se generuje. To je zásadní pro chatová rozhraní, kde záleží na responzivitě. SDK automaticky za vás zpracovávají parsování událostí.

Okna kontextu, limity a chyby

Model podporuje kontextové okno o velikosti 100 000 tokenů pro kombinaci vstupu a výstupu. Můžete vygenerovat až 16 000 tokenů na požadavek. Pokud vynecháte max_tokens, výchozí hodnota je 2 048 tokenů. Máte limit 300 požadavků za minutu a osm souběžných požadavků na klíč. Velikost těla požadavku musí zůstat pod 8 MB. Chyby ověření vracejí stavový kód 401. Nedostatečné prostředky spustí chybu 402. Limity rychlosti mají za následek odpověď 429. Zvládněte tyto kódy slušně, abyste udrželi hladký uživatelský zážitek.

cURL

Copycurl https://api.apillmopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List dependencies for React 18."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apillmopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)