Referenční dokumentace API LLM-api-key-proxy
Jedná se o dokumentaci API pro neomezené LLM pro vývojáře, kteří chtějí endpoint kompatibilní s OpenAI, který lze snadno vložit. Změnou základní URL a API klíče přepnete poskytovatele bez přepisování kódu.
Autentizace a základní URL
The llm-api-key-proxy používá standardní ověřování API klíči. Klíč předáte v Authorization hlavička. Registrovejte se přes Google nebo e-mail a okamžitě získejte klíč. Pro zkušební verzi není vyžadováno telefonní číslo. Pro všechny požadavky použijte tuto základní URL: https://api.llmapikeyproxy.com/v1. Klíč je vázán na jeden účet. Nový klíč okamžitě nahrazuje ten starý.
První požadavek
Odeslat požadavek POST na /v1/chat/completions. ID modelu je vždy uncensored. Toto je API pouze pro text. Dostanete text na vstupu a text na výstupu. Embeddingy ani obrázky nejsou podporovány. Model odpovídá bez odmítnutí pro zákonný obsah pro dospělé. Před odesláním hromadných požadavků zkontrolujte limity.
curl https://api.llmapikeyproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current date?"}]
}'
Integrace Python SDK
Použijte oficiální knihovnu OpenAI pro Python. Nastavte základní URL na náš endpoint. Předejte svůj API klíč. Klient automaticky zpracovává serializaci. Výsledky můžete streamovat nebo získat plné odpovědi. ID modelu zůstává uncensored ve všech voláních. To zajišťuje kompatibilitu s existujícími kódy. Změníte pouze URL a klíč.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmapikeyproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Využití SDK Node.js
Inicializujte klienta OpenAI pomocí vaší vlastní základní URL. Předajte API klíč. Formát požadku odpovídá standardnímu schématu OpenAI. Pro čistý kód můžete použít vzor async/await. Odpověď obsahuje vygenerovaný text a využití tokenů. To funguje v jakémkoli prostředí Node.js. Je to jednoduchá náhrada typu drop-in.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmapikeyproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Streamované odpovědi
Povolte streamování nastavením stream: true. API vrací data prostřednictvím Server-Sent Events (SSE). Každý chunk obsahuje část odpovědi. Poslední chunk obsahuje celkové využití tokenů. To snižuje vnímanou latenci pro dlouhé výstupy. Tokeny můžete zpracovávat v reálném čase. To je užitečné pro interaktivní aplikace.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Limity a zpracování chyb
Limity rychlosti jsou 300 požadavků za minutu na klíč. Současný počet požadavků je omezen na 8. Tělo požadavku musí být menší než 8 MB. Chyba 401 znamená, že váš klíč je neplatný. Chyba 402 indikuje nedostatek kreditu. Chyba 429 signalizuje překročení limitu rychlosti. Kontextové okno má 100,000 tokenů. Výstup je omezen na 16,000 tokenů. Chyby a odmítnutí nespotřebovávají kredit.
Časté otázky
Jaká je mezera kontextu pro llm-api-key-proxy?
Okno kontextu má 100 000 tokenů, které počítají jak prompt, tak completion. Na požadavek můžete vygenerovat až 16 000 tokenů. Pokud nenastavíte max_tokens, výchozí hodnota je 2 048 tokenů.
Jak řešit limity rychlosti a chyby?
Jste omezeni na 300 požadavků za minutu a 8 souběžných požadavků. Chyba 429 znamená, že jste dosáhli limitu rychlosti. Chyba 401 označuje neplatný klíč, zatímco chyba 402 znamená, že potřebujete doplnit svůj kredit.
Podporuje toto API streamování?
Ano, můžete povolit streamování nastavením parametru stream na true. API vrací data prostřednictvím Server-Sent Events (SSE). Poslední část zahrnuje celkové využití tokenů pro žádost.
Vygenerujte svůj klíč nyní
Registrovat, získat klíč a aktualizovat základní URL. Jednoduchá konfigurace.