LLM-api-key-proxy API संदर्भ
यह डेवलपर्स के लिए एक अनसेंसर्ड LLM API दस्तावेज़ है जो एक ड्रॉप-इन OpenAI कम्पैटिबल एंडपॉइंट चाहते हैं। कोड फिर से लिखे बिना प्रदाता बदलने के लिए अपना बेस URL और API कुंजी बदलें।
प्रमाणीकरण और बेस यूआरएल
The llm-api-key-proxy मानक API कुंजी प्रमाणीकरण का उपयोग करता है। आप अपनी कुंजी पास करते हैं Authorization हेडर। Google या ईमेल के साथ साइनअप करें ताकि आपको तुरंत कुंजी मिल सके। ट्रायल के लिए फ़ोन नंबर की आवश्यकता नहीं है। सभी अनुरोधों के लिए इस बेस यूआरएल का उपयोग करें: https://api.llmapikeyproxy.com/v1. आपकी कुली एक खाते से जुड़ी होती है। एक नई कुली तुरंत पुरानी कुली को प्रतिस्थापित कर देती है।
पहला अनुरोध
एक POST अनुरोध भेजें /v1/chat/completions. मॉडल आईडी हमेशा uncensored. यह एक टेक्स्ट-ओनली API है। आपको टेक्स्ट इन और टेक्स्ट आउट मिलता है। एम्बेडिंग्स या इमेजेज सपोर्टेड नहीं हैं। मॉडल कानूनी वयस्क सामग्री के लिए बिना अस्वीकृति के उत्तर देता है। बल्क अनुरोध भेजने से पहले लिमिट्स जांचें।
curl https://api.llmapikeyproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current date?"}]
}'
Python SDK इंटीग्रेशन
आधिकारिक OpenAI Python लाइब्रेरी का उपयोग करें। बेस यूआरएल को हमारे एंडपॉइंट पर सेट करें। अपनी एपीआई कुंजी पास करें। क्लाइंट सीरियलाइजेशन स्वचालित रूप से संभालता है। आप परिणाम स्ट्रीम कर सकते हैं या पूर्ण प्रतिक्रियाएं प्राप्त कर सकते हैं। मॉडल आईडी बनी रहती है uncensored सभी कॉलों में। यह मौजूदा कोडबेस के साथ संगतता सुनिश्चित करता है। आपको केवल URL और कुंजी बदलनी होती है।
from openai import OpenAI
client = OpenAI(base_url="https://api.llmapikeyproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Node.js SDK उपयोग
अपने कस्टम बेस यूआरएल के साथ ओपनएआई क्लाइंट को इनिशियलाइज़ करें। अपनी कुंजी पास करें। अनुरूप प्रारूप मानक ओपनएआई स्कीमा से मेल खाता है। आप साफ़ कोड के लिए async/await पैटर्न का उपयोग कर सकते हैं। प्रतिक्रिया में उत्पन्न पाठ और टोकन उपयोग शामिल है। यह किसी भी नोड.जेएस वातावरण के साथ काम करता है। यह एक सरल ड्रॉप-इन प्रतिस्थापन है।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmapikeyproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
स्ट्रीमिंग रिस्पॉन्सेस
सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true. API सर्वर-सेंट इवेंट्स (SSE) के माध्यम से डेटा चंक लौटाता है। प्रत्येक चंक प्रतिक्रिया के एक हिस्से को रखता है। अंतिम चंक में कुल टोकन उपयोग शामिल है। यह लंबे आउटपुट के लिए अनुभव की जाने वाली विलंबता को कम करता है। आप टोकन को रियल-टाइम में प्रोसेस कर सकते हैं। यह इंटरैक्टिव एप्लिकेशन के लिए उपयोगी है।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
सीमाएं और त्रुटि हैंडलिंग
रेट लिमिट्स प्रति कुंजी प्रति मिनट 300 अनुरोध हैं। समवर्ती अनुरोध 8 तक सीमित हैं। अनुरोध बॉडी 8 MB से कम होनी चाहिए। 401 त्रुटि का अर्थ है कि आपकी कुंजी अमान्य है। 402 त्रुटि अपर्याप्त क्रेडिट को दर्शाती है। 429 त्रुटि रेट लिमिटिंग को संकेत करती है। कॉन्टेक्स्ट विंडो 100,000 टोकन है। आउटपुट 16,000 टोकन तक सीमित है। त्रुटियां और अस्वीकृतियां क्रेडिट खर्च नहीं करतीं।
सामान्य प्रश्न
llm-api-key-proxy के लिए संदर्भ विंडो क्या है?
संदर्भ विंडो 100,000 टोकन की है, जिसमें प्रॉम्प्ट और कंप्लीशन दोनों गिने जाते हैं। आप प्रति अनुरोध 16,000 टोकन तक जनरेट कर सकते हैं। यदि आप max_tokens सेट नहीं करते हैं, तो डिफ़ॉल्ट 2,048 टोकन है।
मैं रेट लिमिट्स और त्रुटियों को कैसे हैंडल करूं?
आप प्रति मिनट 300 अनुरोधों और 8 समवर्ती अनुरोधों तक सीमित हैं। एक 429 त्रुटि का अर्थ है कि आपने रेट लिमिट छू ली है। एक 401 त्रुटि अमान्य कुंजी को इंगित करती है, जबकि एक 402 त्रुटि का अर्थ है कि आपको अपने क्रेडिट को टॉप अप करने की आवश्यकता है।
क्या यह API स्ट्रीमिंग का समर्थन करती है?
हाँ, आप stream पैरामीटर को true पर सेट करके स्ट्रीमिंग सक्षम कर सकते हैं। API Server-Sent Events (SSE) के माध्यम से डेटा लौटाता है। अंतिम चंक में अनुरोध के लिए कुल टोकन उपयोग शामिल होता है।
अभी अपनी कुंजी जनरेट करें
रजिस्टर करें, कुंजी प्राप्त करें, और अपनी बेस URL अपडेट करें। सरल कॉन्फ़िगरेशन।