Lépésről lépésre: Váltás az OpenRouterről a mi API-nkra

Miért hagyják el a fejlesztők az OpenRouter-t a szűrőmentes modellekért?

Az OpenRouter kiváló a modell-diverzitás szempontjából, de alapértelmezett beállításai gyakran a biztonságot részesítik előnyben a hűség helyett. Elképzelhető, hogy elküld egy promptot egy érett fikciós jelenethez, csak hogy elutasítást kapjon, mert az aggregátor egy általános szűrőt alkalmazott. Ez megtöri az immersiót szerepjáték-botoknál, vagy blokkolja a finom elemzést kutatási feladatoknál. Sok fejlesztő ma már egyetlen, dedikált, cenzúratlan végpontot részesít előnyben. Konzisztens viselkedést kap, anélkül, hogy találgatnia kellene, melyik modellverziót éri el a kérése. API-nk egy nagy nyelvi modellt szolgál fel, amelyet kifejezetten arra hangoltak, hogy tartalom-elutasítás nélkül válaszoljon törvényes felnőtt felhasználás esetén. Elkerüli a többmodell-es útvonalválasztás véletlenszerűségét. Minden token a végrehajtáshoz járul hozzá, nem egy olyan csomagolt funkcióhoz, amelyet soha nem használ. Ez a megközelítés leegyszerűsíti a hibakeresést. Pontos tudja, mit futtat.

1. lépés: Ismerje meg az alap URL-k különbségeit

Az alap URL a legkritikusabb változás migráció során. Az Open Router specifikus domain-struktúrát használ. API-nk dedikált végpontot biztosít az uncensored generáláshoz. Frissítenie kell az SDK konfigurációját a helyes alap URL-re. Ez biztosítja, hogy a kérések a megfelelő szerverhez érjenek. A változás minimális, de elengedhetetlen a helyes irányításhoz.

• Open Router Base URL: HTTPS://openrouter.ai/api/v1
• Uncenzúrázatlan API alap URL: HTTPS://api.apillmopen.com/v1

Ez a változó frissítése minden további hívást átirányít. A meglévő kódszerkezet érintetlen marad. Nem kell átírnia a kéréstörzseket. A /v1 elérési út változatlan marad. Ez a konzisztencia jelentősen csökkenti a migrációs súrlódást.

2. lépés: Az SDK konfiguráció frissítése

Az SDK konfigurációja két kulcsfontosságú frissítést igényel. Módosítania kell az alap URL-t és az API-kulcsot. API-kulcsunk azonnali generálással érhető el regisztrációkor. Kezdheti Google vagy e-mail hitelesítéssel. Nem szükséges telefonszám. A kulcs hozzáférést biztosít az uncensored modellhez.

Cserélje le meglévő Open Router kulcsát az új API-kulcsára. Frissítse a kódban az alap URL változót. Ez a kis módítás átirányítja a forgalmat. A lekérdezései most a szervereinkre érkeznek. A váltás zökkenőmentes a legtöbb OpenAI-kompatibilis kliensnél. A kapcsolatot a rendelkezésre álló modellek listázásával ellenőrizheti. Az endpoint helyes modellazonosítót ad vissza. Ez megerősíti, hogy a konfiguráció helyes.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

3. lépés: Modellszámok és streamelési különbségek kezelése

A modell ID-k határozzák meg, melyik motor dolgozza fel a szöveget. Az Open Router komplex azonosítókat használ, mint például anthropic/claude-3.5-sonnet. API-nk egyszerű, konzisztens azonosítót használ. Frissítenie kell a kódját a helyes modellazonosító használatához.

• Modellazonosítónk: uncensored

A streamelés hasonlóan működik az OpenAI szabványokhoz. Server-Sent Eventeket kap. Az utolsó darab tartalmazza a token használati részleteket. Ez lehetővé teszi a válaszok valós idejű megjelenítését. A függvényhívás és a JSON mód várt módon működik. Beállíthat response_format a json_object. A temperature és top_p paraméterek normálisan működnek. A kontextus ablak 100,000 tokenig támogatott. Ez lehetővé teszi a hosszú beszélgetéseket gyakori levágás nélkül. A max output 16,000 token kérésenként.

4. lépés: Árazás és tokenfelhasználás ellenőrzése

Az árazási struktúrák jelentősen eltérnek a szolgáltatók között. Az Open Router modellfüggően számít fel díjat, és nékki felárat is számít fel. API-nk tisztán token-gazdaságot használ. Csak a felhasznált mennyiségért fizet. Nincsenek havi díjak. A hitel előlegesen fizetett és nem jár le.

• Bemeneti tokenek: $0,15 / 1M token
• Kimenet tokenek: $0,50 / 1M token

A hibák és a visszautasítások ingyenesek. Nem fizet sikertelen kérésekért. Ez védi a költségvetését. Kriptovalutával töltheti fel a számláját. Elfogadott fizetőeszközök: USDT a TRC20 hálózaton vagy USDC a Base hálózaton. A minimális feltöltési összeg $20. Nagyobb összegek esetén bónuszhitel érvényes. Ez a modell biztosítja, hogy minden cent inference-re menjen. Elkerüli a tétlen kapacitásért való fizetést.

5. lépés: Tesztelés meglévő promptokkal

A tesztelés biztosítja, hogy a promptok várt módon működjenek. Használja meglévő prompt sablonjait. Küldje el őket az új végpontra. Ellenőrizze a válasz struktúráját. Ellenőrizze a tartalmi elutasításokat. Modellünk úgy lett hangolva, hogy elutasítás nélkül válaszoljon jogszerű felnőtt felhasználásra. Konzisztens kimeneteket kell látnia. A streamelt válaszoknak helyesen kell megjelenniük. A függvényhívásnak helyesen kell parzolódnia. A JSON módnak érvényes objektumokat kell visszaadnia. Ez az ellenőrzési lépés megerősíti a kompatibilitást. Ezután folytathatja a produkcióval. Tartsa meg régi konfigurációja másolatát. Visszaállíthatja, ha szükséges. Ez a biztonsági háló csökkenti a kockázatot a migráció során.

6. lépés: Elutasítások és tartalom-szűrők figyelése

Figyelje szorosan az első néhány kérését. Ellenőrizze a váratlan elutasításokat. A modellünk engedélyezi az NSFW tartalmakat törvényes felhasználás esetén. Azonban egy szigorú korlát mindig érvényesül. A kiskorúakkal kapcsolatos szexuális tartalmak elutasításra kerülnek. Ez egy szabványos biztonsági alap. Minden más felnőtt, fikciós vagy vitatott téma megengedett. Ezt teszt prompt küldésével ellenőrizheti. A válasznak tartalmaznia kell a várt tartalmat. Nem kell további szűrőknek blokkolniuk a kérését. Ez a következetesség kritikus a szerepjáték botok számára. Biztosítja a megszakítás nélküli merültséget. A paramétereket, például a hőmérsékletet, finomhangolhatja a hangulat módosítására. A szűrők hiánya kreatívabb kimeneteket tesz lehetővé.

7. lépés: Optimalizálás költségre és sebességre

Az optimalizálás a tokenhasználat csökkentését jelenti. Rövidebb promptok kevesebbe kerülnek. Használjon hatékony rendszerutasításokat. Kerülje a redundáns kontextust. API-ink percenként 8 párhuzamos kérést támogatnak kulcsonként. Ez párhuzamos feldolgozást tesz lehetővé a gyorsabb eredmények érdekében. Több felhasználói kérést kezelhet egyszerre. Az átfogási korlátok percenként 300 kérésre vannak állítva. Ez elegendő a legtöbb alkalmazás számára. Figyelje tokenhasználatát a műszerfalon. Állítsa be a költségkeretét ennek megfelelően. A kriptó feltöltések gyorsan feldolgozódnak. Fenntarthat egy stabil hitel egyenleget. Ez biztosítja a megszakítás nélküli szolgáltatást. Alkalmazásai zökkenőmentesen fognak futni váratlan leállások nélkül.

Gyakran Ismételt Kérdések a szolgáltatóváltásról