LLM-api-key-proxy API-viite
Tämä on sensuroimattoman LLM-API-dokumentaatio kehittäjille, jotka haluavat suoraan OpenAI-yhteensopivan päätepisteen. Vaihda base URL ja API-avain vaihtaaksesi toimittajaa ilman koodin uudelleenkirjoittamista.
Todennus ja base URL
The llm-api-key-proxy käyttää standardia API-avaimen todennusta. Sinä välität avaimesi Authorization header. Rekisteröidy Google- tai sähköpostitilillä saadaksesi avaimen välittömästi. Puhelinnumeroa ei tarvita kokeilujaksoon. Käytä tätä base URLia kaikkiin pyyntöihin: https://api.llmapikeyproxy.com/v1. Avain on sidottu yhteen tiliin. Uusi avain korvaa vanhan välittömästi.
Ensimmäinen pyyntö
Lähetä POST-pyyntö osoitteeseen /v1/chat/completions. Mallin tunnus on aina uncensored. Tämä on tekstipainotteinen API. Saat tekstiä sisään ja tekstiä ulos. Ei tueta upotuksia tai kuvia. Malli vastaa ilman hylkäyksiä lailliseen aikuis sisältöön. Tarkista rajat ennen massapyyntöjen lähettämistä.
curl https://api.llmapikeyproxy.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current date?"}]
}'
Python SDK -integraatio
Käytä virallista OpenAI:n Python-kirjastoa. Aseta base URL osoittamaan päätepisteeseemme. Välitä API-avaimesi. Asiakas käsittelee serialisoinnin automaattisesti. Voit streamata tuloksia tai saada täydet vastaukset. Mallin tunnus pysyy uncensored kaikissa pyynnöissä. Tämä varmistaa yhteensopivuuden olemassa olevien koodikantojen kanssa. Muutat vain URL-osoitteen ja avaimen.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmapikeyproxy.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Node.js SDK:n käyttö
Alusta OpenAI-asiakasohjelma mukautetulla base URL:llä. Välitä API-avain. Pyynnön muotoilu vastaa standardia OpenAI-skeemaa. Voit käyttää async/await-kuvioita siistimpään koodiin. Vastaus sisältää luodun tekstin ja token-käytön. Tämä toimii missä tahansa Node.js-ympäristössä. Se on yksinkertainen suoraan korvattava komponentti.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmapikeyproxy.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Streamausvastaukset
Ota streamaus käyttöön asettamalla stream: true. API palauttaa datapalautusosia Server-Sent Events (SSE) -virran kautta. Jokainen palautusosuus sisältää osan vastauksesta. Viimeinen palautusosuus sisältää kokonaistokenkäytön. Tämä vähentää kokemaa viivettä pitkissä tulosteissa. Voit käsitellä tokenit reaaliajassa. Tämä on hyödyllistä interaktiivisissa sovelluksissa.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Rajoitukset ja virheenkäsittely
Pyyntörajoitukset ovat 300 pyyntöä minuutissa avainta kohti. Samanaikaisia pyyntöjä on enintään 8. Pyyntöruumiin koon on oltava alle 8 Mt. Virhekoodi 401 tarkoittaa, että avainta ei ole voimassa. Virhekoodi 402 tarkoittaa, että rahavarat eivät riitä. Virhekoodi 429 tarkoittaa, että pyyntörajoitukset ylittyivät. Kontesttilaakson koko on 100 000 tokeniä. Vastauksen maksimipituus on 16 000 tokeniä. Virheet ja hylkäykset eivät kuluta rahavaroja.
Yleiset kysymykset
Mikä on kontekstiruutu llm-api-key-proxy:lle?
Kontekstiikkoni on 100 000 tokenia, joka lasketaan sekä promptin että vastauksen yhteenlaskuna. Voit tuottaa jopa 16 000 tokenia pyyntöä kohden. Jos et aseta max_tokens-arvoa, oletusarvo on 2 048 tokenia.
Miten käsittelemme nopeusrajoituksia ja virheitä?
Sinulla on rajoitus 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä. Virhekoodi 429 tarkoittaa, että olet ylittänyt nopeusrajoituksen. Virhekoodi 401 viittaa virheelliseen avaimeseen, ja virhekoodi 402 tarkoittaa, että sinun täytyy lisätä saldoasi.
Tukeeko tämä API streamausta?
Kyllä, voit ottaa streamauksen käyttöön asettamalla stream-parametrin arvoksi true. API palauttaa dataa Server-Sent Events (SSE) -tekniikalla. Viimeinen palikka sisältää pyynnön kokonaistoken-käytön.
Luo avimesi nyt
Rekisteröidy, hae avain ja päivitä perus-URL-osoitteesi. Helppo konfiguraatio.