Швидкий старт: Інтегруйте API необмеженої LLM

Налаштування аутентифікації базової URL-адреси

Направте клієнта до нашого виділеного кінцевого пункту для початку спілкування. Базова URL-адреса — https://api.apillmopen.com/v1. Ця конфігурація працює з будь-якою стандартною SDK OpenAI, оновивши base_url параметр та надайте свій унікальний API-ключ. Ви отримуєте цей ключ одразу після реєстрації через Google або електронну пошту. Верифікація номером телефону не потрібна. Система суворо обмежує кількість активних ключів одним на обліковий запок. Генерація нового ключа автоматично робить попередній недійсним. Це спрощує контроль доступу для вашого процесу розробки.

Надсилання вашого першого запиту на завершення чату

Відправте стандартний POST-запит до /v1/chat/completions для генерації тексту. Ви повинні вказати ID моделі як uncensored. Система приймає стандартні параметри, такі як temperature та top_p для контролю випадковості. Ваш вхідний запит обробляється через наш розміщений великий мовний модель. Результати повертаються як чистий текст без зайвого метаданих. Цей прямий підхід гарантує, що ви платите лише за фактичні токени інференсу. Помилки під час обробки не споживають ваш попередньо оплачений кредит. Це робить тестування дуже економічним на ранніх етапах розробки.

Інтеграція Python SDK

Використовуйте офіційну бібліотеку Python для безперешкодної взаємодії з кінцевою точкою. Налаштуйте клієнт, вказавши базовий URL та API-ключ. Бібліотека автоматично виконує серіалізацію JSON та HTTP-транспортування. Ви можете передати список повідомлень, що визначають історію розмови. Об'єкт відповіді надає зручний доступ до згенерованого вмісту. Цей метод ідеально підходить для бекенд-сервісів або локальних скриптів. Він значно зменшує кількість шаблонного коду порівняно з прямими HTTP-запитами. Ви також можете вказати конкретні параметри для тонкого керування стилем виводу.

Інтеграція Node SDK

Ініціалізуйте клієнт Node.js з вашими обліковими даними та базовим URL. Асинхронна природа SDK добре поєднується з сучасними веб-серверами. Ви можете використовувати await для отримання відповіді безпосередньо в обробниках маршрутів. Цей підхід робить ваш код чистим і зрозумілим. SDK ефективно керує пулом з'єднань та повторними спробами. Ви можете легко інтегрувати це в додатки Express або Fastify. Він підтримує як потокові, так і непотокові відповіді. Оберіть режим, який найкраще відповідає архіктурі вашого додатка.

Увімкнення потокової передачі та обробки використання токенів

Увімкніть потокову передачу, встановивши stream параметр на true. API повертає дані через Server-Sent Events (SSE). Кожен чанк містить частковий текст та метадані. Останній чанк містить загальне використання токенів для запиту. Це дозволяє відстежувати витрати в реальному часі. Потокова передача значно зменшує сприйнятну затримку для кінцевих користувачів. Ви можете відображати текст по мірі його генерації. Це критично важливо для чат-інтерфейсів, де важлива відгукливість. SDK автоматично обробляють парсинг подій для вас.

Контекстні вікна, ліміти та помилки

Модель підтримує вікно контексту обсягом 100,000 токенів для спільного вводу та виводу. Ви можете згенерувати до 16,000 токенів за запит. Якщо ви пропустите max_tokens, за замовчуванням — 2048 токенів. Ви обмежені 300 запитами на хвилину та вісьмома одночасними запитами на ключ. Розмір тіла запиту має залишатися менше 8 МБ. Помилки автентифікації повертають статус 401. Нестача коштів викликає помилку 402. Перевищення лімітів швидкості призводить до відповіді 429. Обробляйте ці коди коректно, щоб підтримувати плавний користувацький досвід.

cURL

Copycurl https://api.apillmopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List dependencies for React 18."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apillmopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)