Tham chiếu API LLm-api-key-proxy
Đây là tài liệu API LLM không kiểm duyệt dành cho các nhà phát triển muốn có một điểm cuối tương thích OpenAI dễ dàng tích hợp. Thay đổi URL cơ sở và khóa API của bạn để chuyển đổi nhà cung cấp mà không cần viết lại mã.
Xác thực và Base URL
The llm-api-key-proxy sử dụng xác thực khóa api tiêu chuẩn. Bạn truyền khóa của mình trong Authorization header. Đăng ký bằng Google hoặc email để nhận khóa ngay lập tức. Không yêu cầu số điện thoại cho bản dùng thử. Sử dụng URL cơ sở này cho tất cả các yêu cầu: https://api.llmapikeyproxy.com/v1. Khóa của bạn được liên kết với một tài khoản. Khóa mới sẽ thay thế khóa cũ ngay lập tức.
Yêu cầu đầu tiên
Gửi yêu cầu POST đến /v1/chat/completions. ID mô hình luôn là uncensored. Đây là một API chỉ văn bản. Bạn nhận được văn bản vào và văn bản ra. Không hỗ trợ embedding hoặc hình ảnh. Mô hình trả lời mà không có từ chối cho nội dung người trưởng thành hợp pháp. Kiểm tra các giới hạn trước khi gửi các yêu cầu hàng loạt.
curl https://api.llmapikeyproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current date?"}]
}'
Tích hợp SDK Python
Sử dụng thư viện Python chính thức của OpenAI. Đặt base URL đến endpoint của chúng tôi. Truyền API key của bạn. Client tự động xử lý serialization. Bạn có thể stream kết quả hoặc nhận phản hồi đầy đủ. Model ID vẫn uncensored trong tất cả các lệnh gọi. Điều này đảm bảo tương thích với các cơ sở mã hiện có. Bạn chỉ cần thay đổi URL và khóa.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmapikeyproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Sử dụng SDK Node.js
Khởi tạo client OpenAI với URL cơ sở tùy chỉnh của bạn. Truyền khóa API. Định dạng yêu cầu phù hợp với lược đồ OpenAI tiêu chuẩn. Bạn có thể sử dụng mẫu async/await để có mã sạch sẽ. Phản hồi bao gồm văn bản được tạo và việc sử dụng token. Điều này hoạt động với bất kỳ môi trường Node.js nào. Đây là một giải pháp thay thế đơn giản, có thể tích hợp ngay.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmapikeyproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Phản hồi luồng
Bật phát trực tiếp bằng cách đặt stream: true. API trả về dữ liệu chunk thông qua các Sự kiện gửi qua máy chủ (SSE). Mỗi chunk chứa một phần của phản hồi. Chunk cuối cùng bao gồm tổng số token được sử dụng. Điều này giảm độ trễ cảm nhận đối với các phản hồi dài. Bạn có thể xử lý token theo thời gian thực. Điều này hữu ích cho các ứng dụng tương tác.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Giới hạn và Xử lý lỗi
Giới hạn tốc độ là 300 yêu cầu mỗi phút mỗi khóa. Yêu cầu đồng thời được giới hạn ở 8. Thân yêu cầu phải dưới 8 MB. Lỗi 401 có nghĩa là khóa của bạn không hợp lệ. Lỗi 402 cho biết số dư không đủ. Lỗi 429 báo hiệu giới hạn tốc độ. Cửa sổ ngữ cảnh là 100.000 token. Đầu ra tối đa 16.000 token. Lỗi và từ chối không tiêu thụ số dư.
Các câu hỏi thường gặp
Cửa sổ ngữ cảnh cho llm-api-key-proxy là gì?
Cửa sổ ngữ cảnh là 100.000 token, tính cả prompt và completion. Bạn có thể tạo tối đa 16.000 token mỗi yêu cầu. Nếu bạn không đặt max_tokens, mức mặc định là 2.048 token.
Làm thế nào để xử lý giới hạn tốc độ và lỗi?
Bạn bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng bộ. Lỗi 429 có nghĩa là bạn đã đạt giới hạn tốc độ. Lỗi 401 cho biết khóa không hợp lệ, trong khi lỗi 402 có nghĩa là bạn cần nạp thêm số dư.
API này có hỗ trợ streaming không?
Có, bạn có thể bật streaming bằng cách đặt tham số stream thành true. API trả dữ liệu qua Server-Sent Events (SSE). Chunk cuối cùng bao gồm tổng số token đã sử dụng cho yêu cầu.
Tạo khóa của bạn ngay bây giờ
Đăng ký, lấy khóa và cập nhật URL base của bạn. Cấu hình đơn giản.