Hướng dẫn từng bước: Chuyển từ OpenRouter sang API của chúng tôi

Tại sao các nhà phát triển đang rời OpenRouter để chuyển sang các mô hình không bộ lọc

OpenRouter rất tuyệt vời cho sự đa dạng của mô hình, nhưng các cài đặt mặc định của nó thường ưu tiên tính an toàn hơn độ trung thực. Bạn có thể gửi một lời nhắc cho một cảnh hư cấu trưởng thành, nhưng chỉ nhận được một lời từ chối vì bộ tổng hợp đã áp dụng một bộ lọc chung. Điều này làm gián đoạn sự nhập vai cho các bot đóng vai hoặc chặn phân tích tinh tế trong các nhiệm vụ nghiên cứu. Nhiều nhà phát triển hiện thích một điểm cuối không kiểm duyệt chuyên dụng duy nhất. Bạn nhận được hành vi nhất quán mà không cần đoán phiên bản mô hình nào yêu cầu của bạn sẽ chạm vào. API của chúng tôi phục vụ một mô hình ngôn ngữ lớn được tinh chỉnh đặc biệt để trả lời mà không có từ chối nội dung cho việc sử dụng người lớn hợp pháp. Bạn tránh được tính ngẫu nhiên của việc định tuyến đa mô hình. Mọi token đều đóng góp vào quá trình suy luận, không phải cho một tính năng được gói lại mà bạn không bao giờ sử dụng. Cách tiếp cận này đơn giản hóa việc gỡ lỗi. Bạn biết chính xác những gì mình đang chạy.

Bước 1: Hiểu sự khác biệt giữa các URL cơ sở

URL cơ sở là thay đổi quan trọng nhất khi di chuyển. Open Router sử dụng cấu trúc miền cụ thể. API của chúng tôi sử dụng điểm cuối chuyên dụng cho việc tạo nội dung không kiểm duyệt. Bạn phải cập nhật cấu hình SDK của mình để trỏ đến URL cơ sở chính xác. Điều này đảm bảo các yêu cầu của bạn đến đúng máy chủ. Thay đổi rất nhỏ nhưng thiết yếu cho việc định tuyến chính xác.

• URL cơ sở Open Router: HTTPS://openrouter.ai/api/v1
• URL cơ sở API không kiểm duyệt của chúng tôi: HTTPS://api.apillmopen.com/v1

Việc cập nhật biến này sẽ chuyển hướng tất cả các cuộc gọi tiếp theo. Cấu trúc mã hiện tại của bạn vẫn được giữ nguyên. Bạn không cần phải viết lại các thân yêu cầu. Đường dẫn /v1 vẫn giữ nguyên. Sự nhất quán này giúp giảm đáng kể ma sát khi di chuyển.

Bước 2: Cập nhật cấu hình SDK của bạn

Cấu hình SDK yêu cầu hai cập nhật chính. Bạn phải thay đổi URL cơ sở và khóa API. Khóa API của chúng tôi được tạo ngay lập tức khi đăng ký. Bạn có thể bắt đầu với xác thực bằng Google hoặc email. Không cần số điện thoại. Khóa này cấp quyền truy cập vào mô hình không kiểm duyệt.

Thay thế khóa Open Router hiện có bằng khóa API mới của bạn. Cập nhật biến URL cơ sở trong mã của bạn. Thay đổi nhỏ này định tuyến lại lưu lượng truy cập. Các lời nhắc của bạn bây giờ sẽ gửi đến máy chủ của chúng tôi. Quá trình chuyển đổi diễn ra liền mạch đối với hầu hết các máy khách tương thích OpenAI. Bạn có thể xác minh kết nối bằng cách liệt kê các mô hình có sẵn. Điểm cuối trả về định danh mô hình chính xác. Điều này xác nhận cấu hình của bạn là chính xác.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apillmopen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Bước 3: Xử lý sự khác biệt về model IDs và streaming

ID Mô hình xác định động cơ nào xử lý văn bản của bạn. Open Router sử dụng các định danh phức tạp như anthropic/claude-3.5-sonnet. API của chúng tôi sử dụng một ID nhất quán và đơn giản. Bạn cần cập nhật mã của mình để sử dụng đúng định danh mô hình.

• ID Model của chúng tôi: uncensored

Streaming hoạt động tương tự như các tiêu chuẩn OpenAI. Bạn nhận được các Sự kiện do Máy chủ Gửi. Mảnh cuối cùng bao gồm chi tiết sử dụng token. Điều này cho phép hiển thị phản hồi theo thời gian thực. Gọi hàm và chế độ JSON hoạt động như mong đợi. Bạn có thể đặt response_format để json_object. Các tham số Temperature và top_p hoạt động bình thường. Cửa sổ ngữ cảnh hỗ trợ lên đến 100,000 token. Điều này cho phép các cuộc hội thoại dài mà không cần cắt ngắn thường xuyên. Đầu ra tối đa là 16,000 token mỗi yêu cầu.

Bước 4: Xác minh giá và mức sử dụng token

Cấu trúc giá cả khác biệt đáng kể giữa các nhà cung cấp. Open Router tính phí theo mô hình và đôi khi thêm phí gia tăng. API của chúng tôi sử dụng kinh tế token thuần túy. Bạn chỉ trả những gì sử dụng. Không có phí hàng tháng. Tín dụng được trả trước và không bao giờ hết hạn.

• Số token đầu vào: $0.15 cho mỗi 1M token
• Token Đầu ra: $0.50 cho mỗi 1M token

Lỗi và từ chối đều miễn phí. Bạn không phải trả tiền cho các yêu cầu thất bại. Điều này bảo vệ ngân sách của bạn. Bạn có thể nạp tiền bằng tiền điện tử. Chúng tôi chấp nhận USDT trên TRC20 hoặc USDC trên Base. Nạp tối thiểu là $20. Số dư bổ sung áp dụng cho các khoản nạp lớn. Mô hình này đảm bảo mọi cent đều mua được suy luận. Bạn tránh phải trả tiền cho dung lượng nhàn rỗi.

Bước 5: Kiểm tra với các prompt hiện có của bạn

Kiểm thử đảm bảo các prompt của bạn hoạt động như mong đợi. Sử dụng các mẫu prompt hiện có của bạn. Gửi chúng đến điểm cuối mới. Xác minh cấu trúc phản hồi. Kiểm tra các lời từ chối nội dung. Mô hình của chúng tôi được tinh chỉnh để trả lời mà không từ chối cho việc sử dụng người lớn hợp pháp. Bạn nên thấy các đầu ra nhất quán. Các phản hồi streaming nên hiển thị đúng. Gọi hàm nên được phân tích cú pháp đúng. Chế độ JSON nên trả về các đối tượng hợp lệ. Bước xác nhận này xác nhận tính tương thích. Bạn sau đó có thể chuyển sang sản xuất. Hãy giữ một bản sao lưu của cấu hình cũ của bạn. Bạn có thể hoàn nguyên nếu cần. Mạng an toàn này giảm thiểu rủi ro trong quá trình di chuyển.

Bước 6: Theo dõi các lần từ chối và bộ lọc nội dung

Theo dõi kỹ vài yêu cầu đầu tiên của bạn. Kiểm tra xem có từ chối không mong muốn nào không. Mô hình của chúng tôi cho phép nội dung NSFW cho mục đích hợp pháp. Tuy nhiên, luôn có một giới hạn cứng. Nội dung tình dục liên quan đến trẻ vị thành niên sẽ bị từ chối. Đây là mức cơ bản về an toàn tiêu chuẩn. Tất cả các chủ đề người trưởng thành, hư cấu hoặc gây tranh cãi khác đều được phép. Bạn có thể xác minh điều này bằng cách gửi một yêu cầu thử nghiệm. Phản hồi nên chứa nội dung dự kiến. Không có bộ lọc bổ sung nào chặn yêu cầu của bạn. Sự nhất quán này rất quan trọng đối với các bot nhập vai. Nó đảm bảo trải nghiệm nhập vai không bị gián đoạn. Bạn có thể điều chỉnh các tham số như nhiệt độ để tinh chỉnh giọng điệu. Việc không có bộ lọc cho phép đầu ra sáng tạo hơn.

Bước 7: Tối ưu hóa cho chi phí và tốc độ

Tối ưu hóa liên quan đến việc giảm việc sử dụng token. Các prompt ngắn hơn sẽ tốn ít chi phí hơn. Sử dụng hướng dẫn hệ thống hiệu quả. Tránh ngữ cảnh dư thừa. API của chúng tôi hỗ trợ tối đa 8 yêu cầu đồng thời trên mỗi khóa. Điều này cho phép xử lý song song để có kết quả nhanh hơn. Bạn có thể xử lý nhiều yêu cầu của người dùng cùng một lúc. Giới hạn tốc độ được đặt ở mức 300 yêu cầu mỗi phút. Điều này là đủ cho hầu hết các ứng dụng. Theo dõi việc sử dụng token của bạn qua bảng điều khiển. Điều chỉnh ngân sách của bạn cho phù hợp. Nạp tiền bằng tiền điện tử được xử lý nhanh chóng. Bạn có thể duy trì số dư tín dụng ổn định. Điều này đảm bảo dịch vụ không bị gián đoạn. Các ứng dụng của bạn sẽ chạy mượt mà mà không có thời gian chết không mong đợi.

Câu hỏi thường gặp về việc chuyển nhà cung cấp