Pika-aloitus: Integroi uncensored LLM -API

Perus-URL:n todennusmääritys

Osoita asiakkaasi omalle päätepisteeseen aloittaaksesi viestinnän. Perusosoite on https://api.apillmopen.com/v1. Tämä määritys toimii minkä tahansa standardin OpenAI-SDK:n päivittämällä base_url parametri ja yksilöllinen API-avaimesi. Saat tämän avaimen välittömästi kirjautumisen jälkeen Googlella tai sähköpostilla. Puhelinvarmennusta ei vaadita. Järjestelmä asettaa tiukan rajan yhdestä aktiivisesta avaimesta per tili. Uuden avaimen luominen mitätöi automaattisesti edellisen avaimen. Tämä yksinkertaistaa pääsyn hallintaa kehitysvuorosi aikana.

Lähettämällä ensimmäinen chat-completion-pyyntö

Issue a standard POST request to /v1/chat/completions tuottaa tekstiä. Sinun on määritettävä mallitunnukseksi uncensored. Järjestelmä hyväksyy standardiparametreja kuten temperature ja top_p hallitsemaan satunnaisuutta. Syöttökehotteesi käsitellään isännöidyn suurtekoälymallimme kautta. Tulokset palautetaan puhtaana tekstinä ilman tarpeetonta metadataa. Tämä suoraviivainen lähestymistapa varmistaa, että maksat vain todellisesta päättelytokenien käytöstä. Käsittelyn aikana tapahtuvat virheet eivät kuluta esimaksusaldoasi. Tämä tekee testaamisesta erittäin taloudellista varhaisessa kehitysvaiheessa.

Python SDK -integraatio

Käytä virallista Python-kirjastoa vuorovaikutukseen päätepisteen kanssa saumattomasti. Määritä asiakas perus-URL-osoitteen ja API-avaimen avulla. Kirjasto hoitaa JSON-sarjallistamisen ja HTTP-liikenteen automaattisesti. Voit välittää viestilistan, joka määrittää keskusteluhistorian. Vastausolio tarjoaa helpon pääsyn luotuun sisältöön. Tämä menetelmä on ihanteellinen taustapalveluihin tai paikallisiin skripteihin. Se vähentää runkokoodia merkittäävästi raakoihin HTTP-kutsuihin verrattuna. Voit myös asettaa tiettyjä parametreja hienosäätääksesi tuotostyyliä.

Node SDK -integraatio

Alusta Node.js-asiakirjaimisto tunnusluvuillasi ja perus-URL-osoitteella. SDK:n asynkroninen luonne sopii hyvin nykyaikaisiin web-palvelimiin. Voit odottaa päättelyvastauksen suoraa reittikäsittelijöissäsi. Tämä lähestymistapa pitää koodisi siistinä ja luettavana. SDK hallitsee yhteyksien hallintaa ja uudelleenyrityksiä tehokkaasti. Voit integroida tämän Express- tai Fastify-sovelluksiin helposti. Se tukee sekä streamaus- että ei-streamausvastauksia. Valitse tila, joka sopii parhaiten sovelluksesi arkkitehtuuriin.

Suoratoiston ja tokenkäytön käsittely

Ota virtauskäyttöön asettamalla stream parametri arvoon true. API palauttaa dataa Server-Sent Events (SSE) -muodossa. Jokainen osa sisältää osittaista tekstiä ja metatietoja. Viimeinen osa sisältää pyynnön kokonaistokenkäytön. Tämä mahdollistaa kustannusten seurannan reaaliajassa. Streamaus vähentää havaittua viivettä pääkäyttäjille merkittävästi. Voit näyttää tekstiä sen generoitessa. Tämä on kriittistä chat-liittymille, joissa responsiivisuus on tärkeää. SDK:t käsittelevät tapahtumien jäsentämisen puolestasi automaattisesti.

Kontekstikkoneet, rajat ja virheet

Malli tukee 100 000 tokenin kontekstiikkunaa yhdistettynä syötteeseen ja tulokseen. Voit luoda enintään 16 000 tokenia pyyntöä kohden. Jos jätät max_tokens, oletusarvo on 2 048 tokenia. Sinulla on rajoitus 300 pyyntöä minuutissa ja kahdeksaan samanaikaiseen pyyntöön per avain. Pyyntörungon koon on pysyttävä alle 8 Mt. Autentikointivirheet palauttavat tilakoodin 401. Riittämättömät varat laukaisevat virhekoodin 402. Nopeusrajoitukset johtavat vastaukseen 429. Käsittele nämä koodit joustavasti ylläpitääksesi sujuvaa käyttäjäkokemusta.

cURL

Copycurl https://api.apillmopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List dependencies for React 18."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apillmopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)