Hướng dẫn nhanh: Tích hợp API LLM không kiểm duyệt

Thiết lập Base URL và xác thực

Điểm client của bạn đến điểm cuối chuyên dụng để bắt đầu giao tiếp. URL gốc là https://api.apillmopen.com/v1. Cấu hình này hoạt động với bất kỳ SDK OpenAI tiêu chuẩn nào bằng cách cập nhật base_url tham số và cung cấp khóa API độc đáo của bạn. Bạn nhận được khóa này ngay lập tức sau khi đăng ký bằng Google hoặc email. Không cần xác minh số điện thoại. Hệ thống áp dụng giới hạn nghiêm ngặt một khóa hoạt động cho mỗi tài khoản. Việc tạo một khóa mới sẽ tự động vô hiệu hóa khóa trước đó. Điều này đơn giản hóa việc kiểm soát truy cập cho quy trình phát triển của bạn.

Gửi yêu cầu hoàn thành trò chuyện đầu tiên của bạn

Issue a standard POST request to /v1/chat/completions để tạo văn bản. Bạn phải chỉ định ID mô hình là uncensored. Hệ thống chấp nhận các tham số tiêu chuẩn như temperature và top_p để kiểm soát tính ngẫu nhiên. Lời nhắc đầu vào của bạn được xử lý thông qua mô hình ngôn ngữ lớn được lưu trữ của chúng tôi. Kết quả trả về dưới dạng văn bản thuần túy mà không có sự dư thừa metadata không cần thiết. Cách tiếp cận trực tiếp này đảm bảo bạn chỉ trả tiền cho các token suy luận thực tế đã sử dụng. Lỗi trong quá trình xử lý không tiêu thụ tín dụng trả trước của bạn. Điều này khiến việc kiểm tra rất kinh tế trong các giai đoạn phát triển sớm.

Tích hợp Python SDK

Sử dụng thư viện Python chính thức để tương tác với điểm cuối một cách liền mạch. Cấu hình client với URL cơ sở và khóa API của bạn. Thư viện tự động xử lý việc tuần tự hóa JSON và truyền tải HTTP. Bạn có thể truyền một danh sách các thông báo xác định lịch sử hội thoại. Đối tượng phản hồi cung cấp quyền truy cập dễ dàng vào nội dung được tạo. Phương pháp này lý tưởng cho các dịch vụ backend hoặc các tập lệnh cục bộ. Nó giảm đáng kể mã boilerplate so với các yêu cầu HTTP thô. Bạn cũng có thể đặt các tham số cụ thể để kiểm soát tinh tế hơn đối với phong cách đầu ra.

Tích hợp SDK Node

Khởi tạo client Node.js với thông tin xác thực và URL cơ sở của bạn. Bản chất không đồng bộ của SDK phù hợp tốt với các máy chủ web hiện đại. Bạn có thể chờ phản hồi hoàn thành trực tiếp trong các trình xử lý tuyến của mình. Cách tiếp cận này giữ cho mã của bạn sạch sẽ và dễ đọc. SDK quản lý việc kết nối nhóm và thử lại hiệu quả. Bạn có thể tích hợp điều này vào các ứng dụng Express hoặc Fastify một cách dễ dàng. Nó hỗ trợ cả phản hồi luồng và không luồng. Hãy chọn chế độ phù hợp nhất với kiến trúc ứng dụng của bạn.

Bật streaming và xử lý dữ liệu sử dụng token

Bật chế độ streaming bằng cách đặt stream tham số thành true. API trả về dữ liệu thông qua Sự kiện gửi bởi máy chủ (SSE). Mỗi chunk chứa văn bản một phần và siêu dữ liệu. Chunk cuối cùng bao gồm tổng số token sử dụng cho yêu cầu. Điều này cho phép bạn theo dõi chi phí theo thời gian thực. Streaming giảm đáng kể độ trễ cảm nhận cho người dùng cuối. Bạn có thể hiển thị văn bản khi nó được tạo. Điều này rất quan trọng cho các giao diện trò chuyện nơi tính phản hồi quan trọng. Các SDK xử lý việc phân tích cú pháp sự kiện cho bạn một cách tự động.

Khung ngữ cảnh, giới hạn và lỗi

Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token cho tổng đầu vào và đầu ra. Bạn có thể tạo tối đa 16.000 token mỗi yêu cầu. Nếu bạn bỏ qua max_tokens, mặc định là 2.048 token. Bạn bị giới hạn ở 300 yêu cầu mỗi phút và tám yêu cầu đồng thời mỗi khóa. Kích thước thân yêu cầu phải dưới 8 MB. Lỗi xác thực trả về mã trạng thái 401. Thiếu tiền kích hoạt lỗi 402. Giới hạn tốc độ dẫn đến phản hồi 429. Xử lý các mã này một cách duyên dáng để duy trì trải nghiệm người dùng mượt mà.

cURL

Copycurl https://api.apillmopen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List dependencies for React 18."}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apillmopen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)