Gyors bevezetés: Integálja az uncensored LLM API-t

Base URL és hitelesítési beállítás

Irányítsd ügyfeledet a dedikált végpontra a kommunikáció megkezdéséhez. Az alap URL: https://api.apillmopen.com/v1. Ez a konfiguráció bármelyik szabványos OpenAI SDK-val működik a base_url parameter and providing your unique API key. You receive this key instantly after signing up with Google or email. No phone number verification is required. The system enforces a strict limit of one active key per account. Generating a new key automatically invalidates the previous one. This simplifies access control for your development workflow.

Az első chat befejezési kérés küldése

Küldjön egy szabványos POST kérést a következőhöz: /v1/chat/completions szöveg generálására. Meg kell adnia a modellsazonosítót uncensored. A rendszer elfogadja a szabványos paramétereket, mint például temperature és top_p a véletlenszerűség vezérlését. A bemeneti promptot a hosztolt nagy nyelvi modellünkön keresztül dolgozzuk fel. Az eredmények tiszta szövegként térnek vissza felesleges metaadat-tömeggel. Ez a közvetlen megközelítés biztosítja, hogy csak a ténylegesen használt inferencia tokenekért fizessen. A feldolgozás közbeni hibák nem fogyasztják az előre fizetett kreditjét. Ez rendkívül gazdaságossá teszi a tesztelést a korai fejlesztési szakaszban.

Python SDK integráció

Használja a hivatalos Python-könyvtárat az endpoint zökkenőmentes eléréséhez. Konfigurálja a klienst az alap URL-címmel és az API-kulccsal. A könyvtár automatikusan kezeli a JSON-sorozatosítást és az HTTP-közlekedést. Átadhat egy üzenetekből álló listát a beszélgetés előzményeinek meghatározásához. A válaszobjektum könnyen hozzáférést biztosít a generált tartalomhoz. Ez a módszer ideális háttérszolgáltatásokhoz vagy helyi szkriptekhez. Jelentősen csökkenti a boilerplate kódot a nyers HTTP-kérésekhez képest. Specifikus paramétereket is megadhat a kimenet stílusának finomhangolásához.

Node SDK integráció

Inicializálja a Node.js klienst a hitelesítő adataival és a bázis URL-lel. Az SDK aszinkron jellege jól illeszkedik a modern webkiszolgálókhoz. Közvetlenül várhatja a befejezési választ az útvonalkezelőiben. Ez a megközelítés tiszta és olvasható kódot eredményez. A SDK hatékonyan kezeli a kapcsolati poolozást és az újrapróbálkozást. Könnyen integrálható Express vagy Fastify alkalmazásokba. Támogatja mind a streamelő, mind a nem streamelő válaszokat. Válassza ki azt a módot, amely a legjobban illeszkedik az alkalmazás architektúrájához.

A streamelés és a tokenhasználat kezelése

A streamelés engedélyezéséhez állítsa a stream paramétert állítsa true-ra. Az API Server-Sent Events (SSE) formátumban ad vissza adatokat. Minden rész részleges szöveget és metaadatokat tartalmaz. Az utolsó rész tartalmazza a kérés teljes token-használatát. Ez lehetővé teszi a költségek valós idejű nyomon követését. A streamelés jelentősen csökkenti a végfelhasználók számára észlelt késést. Megjelenítheti a szöveget generálás közben. Ez kritikus fontosságú a chat felületek esetén, ahol a gyorsaság számít. Az SDK-k automatikusan kezelik az események elemzését.

Kontextusablakok, limitek és hibák

A modell 100 000 tokenes kontextusablakot támogat a bemenet és a kimenet együttesen. Kérésenként legfeljebb 16 000 token generálható. Ha elhagyja max_tokens, az alapértelmezett érték 2 048 token. Percenként 300 kérésre és nyolc párhuzamos kérésre van korlátja kulcsonként. A kérelem törzsmérete nem haladhatja meg a 8 MB-ot. A hitelesítési hibák 401-es státuskódot adnak vissza. A elégtelen egyenleg 402-es hibát vált ki. Az átfolyási korlátok 429-es választ eredményeznek. Kezelje ezeket a kódokat gracefully, hogy sima felhasználói élményt biztosítson.

cURL

Copycurl https://api.apillmopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List dependencies for React 18."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apillmopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)