Pengenalan: Integrasikan API LLM tanpa sensor

Persediaan pengesahan URL Asas

Arahkan klien anda ke hujung khusus kami untuk memulakan komunikasi. URL asas ialah https://api.apillmopen.com/v1. Konfigurasi ini berfungsi dengan mana-mana SDK OpenAI standard dengan mengemas kini base_url parameter dan menyediakan kunci API unik anda. Anda menerima kunci ini serta-merta selepas mendaftar dengan Google atau e-mel. Tiada pengesahan nombor telefon diperlukan. Sistem mengenakan had ketat satu kunci aktif per akaun. Penjanaan kunci baharu secara automatik membatalkan kunci sebelumnya. Ini memudahkan kawalan akses untuk aliran kerja pembangunan anda.

Menghantar permintaan penyiapan sembang pertama anda

Hantar permintaan POST standard ke /v1/chat/completions untuk menjana teks. Anda mesti menentukan ID model sebagai uncensored. Sistem menerima parameter standard seperti temperature dan top_p untuk mengawal rawakan. Prompt input anda diproses melalui model bahasa besar yang dihoskan kami. Keputusan dikembalikan sebagai teks tulen tanpa bloat metadata yang tidak perlu. Pendekatan langsung ini memastikan anda hanya membayar untuk token inferensi sebenar yang digunakan. Ralat semasa pemprosesan tidak menggunakan kredit prabayar anda. Ini menjadikan pengujian sangat ekonomik semasa peringkat pembangunan awal.

Python SDK integration

Gunakan pustaka Python rasmi untuk berinteraksi dengan endpoint dengan lancar. Konfigurasikan klien dengan URL asas dan kunci API anda. Pustaka ini mengendalikan pengeseran JSON dan pengangkutan HTTP secara automatik. Anda boleh menghantar senarai mesej yang menentukan sejarah perbualan. Objek respons memberikan akses mudah kepada kandungan yang dijana. Kaedah ini sesuai untuk perkhidmatan backend atau skrip tempatan. Ia mengurangkan kod boilerplate dengan ketara berbanding permintaan HTTP mentah. Anda juga boleh menetapkan parameter khusus untuk kawalan halus terhadap gaya output.

Integrasi SDK Node

Mulakan klien Node.js dengan kelayakan dan URL asas anda. Sifat asinkron SDK sesuai dengan pelayan web moden. Anda boleh menunggu respons penyelesaian secara langsung dalam pengendali laluan anda. Pendekatan ini mengekalkan kod anda bersih dan mudah dibaca. SDK menguruskan pengumpulan sambungan dan percubaan semula dengan cekap. Anda boleh mengintegrasikannya ke dalam aplikasi Express atau Fastify dengan mudah. Ia menyokong kedua-dua respons aliran dan bukan aliran. Pilih mod yang paling sesuai dengan seni bina aplikasi anda.

Membolehkan penstriman dan mengendalikan penggunaan token

Aktifkan penstriman dengan menetapkan stream parameter kepada true. API mengembalikan data melalui Acara Dikirim Pelayan (SSE). Setiap pecahan mengandungi teks separa dan metadata. Pecahan akhir mengandungi jumlah penggunaan token untuk permintaan. Ini membolehkan anda menjejak kos secara masa nyata. Aliran mengurangkan latensi yang dirasakan untuk pengguna akhir dengan ketara. Anda boleh memaparkan teks semasa penjanaan. Ini penting untuk antara muka perbualan di mana responsiviti amat penting. SDK mengendalikan penguraian acara untuk anda secara automatik.

Tingkap konteks, had, dan ralat

Model ini menyokong tetingkap konteks 100,000 token untuk input dan output digabungkan. Anda boleh menjana sehingga 16,000 token per permintaan. Jika anda membiarkan max_tokens, nilai lalai ialah 2,048 token. Anda terhad kepada 300 permintaan setiap minit dan lapan permintaan serentak setiap kunci. Saiz badan permintaan mesti kekal di bawah 8 MB. Kesilapan pengesahan mengembalikan kod status 401. Dana tidak mencukupi mencetuskan ralat 402. Had kadar menghasilkan respons 429. Tangani kod-kod ini dengan baik untuk mengekalkan pengalaman pengguna yang lancar.

cURL

Copycurl https://api.apillmopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List dependencies for React 18."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apillmopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)