Szybki start: Zintegruj API LLM bez cenzury

Konfiguracja autoryzacji bazowego URL

Wskaż klientowi nasz dedykowany punkt końcowy, aby rozpocząć komunikację. Adres bazowy to https://api.apillmopen.com/v1.Ta konfiguracja działa z dowolnym standardowym SDK OpenAI, aktualizując base_url parameter i podaj swój unikalny klucz API. Otrzymujesz ten klucz natychmiast po rejestracji przez Google lub e-mail. Nie jest wymagana weryfikacja numeru telefonu. System narzuca ścisły limit jednego aktywnego klucza na konto. Wygenerowanie nowego klucza automatycznie unieważnia poprzedni. Upraszcza to kontrolę dostępu dla Twojego procesu deweloperskiego.

Wysyłanie twojego pierwszego żądania chat completion

Wyślij standardowe żądanie POST do /v1/chat/completions generowanie tekstu. Musisz określić ID modelu jako uncensored. System akceptuje standardowe parametry takie jak temperature i top_p do kontrolowania losowości. Twój wejściowy prompt jest przetwarzany przez nasz hostowany duży model językowy. Wyniki zwracane są jako czysty tekst bez zbędnego narzutu metadanych. To bezpośrednie podejście zapewnia, że płacisz tylko za faktyczne tokeny wnioskowania. Błędy podczas przetwarzania nie zużywają Twojego z góry opłaconego kredytu. Dzięki temu testowanie jest bardzo ekonomiczne na wczesnych etapach rozwoju.

Integracja Python SDK

Użyj oficjalnej biblioteki Pythona, aby bezproblemowo komunikować się z punktem końcowym. Skonfiguruj klienta, podając adres URL bazowy i klucz API. Biblioteka automatycznie zajmuje się serializacją JSON i transportem HTTP. Możesz przekazać listę wiadomości definiujących historię rozmowy. Obiekt odpowiedzi zapewnia łatwy dostęp do wygenerowanej treści. Metoda ta jest idealna dla usług backendowych lub lokalnych skryptów. Znacznie redukuje ilość kodu szkieletowego w porównaniu do surowych żądań HTTP. Możesz również ustawić konkretne parametry, aby uzyskać dokładną kontrolę nad stylem outputu.

Integracja SDK Node

Zainicjuj klienta Node.js z poświadczeniami i podstawowym adresem URL. Asynchroniczna natura SDK dobrze współgra z nowoczesnymi serwerami internetowymi. Możesz oczekiwać odpowiedzi na ukończenie czatu bezpośrednio w handlerach tras. To podejście utrzymuje czystość i czytelność kodu. SDK efektywnie zarządza pulą połączeń i ponownymi próbami. Możesz łatwo zintegrować to z aplikacjami Express lub Fastify. Obsługuje zarówno odpowiedzi strumieniowe, jak i niestrumieniowe. Wybierz tryb, który najlepiej pasuje do architektury Twojej aplikacji.

Włączanie strumieniowania i obsługi zużycia tokenów

Włącz strumieniowanie, ustawiając stream ustaw na true. API zwraca dane za pośrednictwem zdarzeń wysłanych przez serwer (SSE). Każdy fragment zawiera częściowy tekst i metadane. Ostatni fragment zawiera całkowite użycie tokenów dla żądania. Pozwala to na śledzenie kosztów w czasie rzeczywistym. Strumieniowanie zmniejsza postrzeganą latencję dla użytkowników końcowych. Możesz wyświetlać tekst, gdy jest generowany. Jest to kluczowe dla interfejsów czatu, gdzie liczy się responsywność. SDK automatycznie obsługują analizę zdarzeń.

Okna kontekstowe, limity i błędy

Model obsługuje okno kontekstowe o rozmiarze 100 000 tokenów dla łącznego promptu i uzupełnienia. Możesz wygenerować do 16 000 tokenów na żądanie. Jeśli pominię max_tokens, domyślnie to 2 048 tokenów. Jesteś ograniczony do 300 żądań na minutę i ośmiu żądań współbieżnych na klucz. Rozmiar ciała żądania musi pozostać poniżej 8 MB. Błędy uwierzytelniania zwracają kod statusu 401. Niewystarczające środki wywołują błąd 402. Limity szybkości skutkują odpowiedzią 429. Obsługuj te kody grzecznie, aby utrzymać płynne doświadczenie użytkownika.

cURL

Copycurl https://api.apillmopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List dependencies for React 18."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apillmopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)