API Referencia: Chat Completions

Base URL és Hitelesítés

Használja a megadott base URL-t a kérések irányításához az uncensored LLM felé. Tartalmazza API-kulcsát a Authorization fejléc minden kéréshez. Ez biztosítja, hogy hívásai hitelesítve legyenek, és az előre fizetett kredithez legyenek elszámolva. Kulcsot azonnal generálhat Google-fiókkal vagy e-mail címmel a regisztrációs oldalon.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

A végpont standard JSON payloadokat fogad. Ha harmadik féltől származó klienst használ, frissítse az alap URL-t erre a címre. Az API-kulcsa fiókja egyetlen hitelesítő eszköze.

Chat Completions végpont

Küldjön üzeneteket a POST /v1/chat/completions endpoint szöveggenerálásra. A modell azonosítója mindig uncensored. Ez a végpont szövegbemenetet fogad, és szöveges kimenetet ad vissza extra módusok nélkül. Szerepjátékhoz, íráshoz vagy kódolási feladatokhoz készült, amelyekhez nincs szükség elutasításra.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmonline.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurálja az ügyféli könyvtárat a helyes alap URL-vel. Az SDK kezeli a JSON szerializációt. Streamelheti a válaszokat, vagy várhatja a teljes kiegészítést. A modell a szervereinkön fut, így nincs szükség helyi GPU erőforrásokra.

Streamelési válaszok és tokenfelhasználás

Engedélyezze a streamelést úgy, hogy stream: true a kérésben. Az API Server-Sent Events segítségével ad vissza darabokat. Az utolsó darab tartalmazza a teljes token-felhasználási statisztikát. Ez lehetővé teszi a költségek valós idejű nyomon követését extra API-hívások nélkül. A streamelés ideális interaktív alkalmazásokhoz, ahol a késleltetés számít.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Elemzze a streamet a tokenek megjelenítéséhez azok érkezésekor. Az utolsó blokk tartalmazza a usage object. Ezeket a számokat halmozhatja fel a saját számlázási dashboardjához. A streamelés közbeni hibák gracefully kezelve vannak.

Függvényhívás és JSON mód

Használja a tools paraméter a függvényhíváshoz. A modell strukturált kimenetet támogat a response_format beállítva json_object. Ez biztosítja a konzisztens feldolgozást a háttérlogikájához. Az alkalmazásához komplex sémákat definiálhat.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmonline.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Határozza meg a függvényeket a kérés törzsében. A modell meghívja őket, vagy JSON adatot ad vissza. Ez a funkció az uncensored modellel ugyanúgy működik, mint a szabványos OpenAI API-k. Szükség szerint kombinálhatja az eszközöket és a JSON módot.

Sebességkorlátok és hibakódok

Az API szigorú korlátokat alkalmaz a stabilitás biztosítására. Percenként 300 kérést tehetsz és kulcsonként 8 egyidejű kérést futtathatsz. A kérések törzse nem haladhatja meg a 8 MB-ot. A hibák szabványos HTTP státuskódokat adnak vissza. A 401-es hiba azt jelenti, hogy az érvénytelen a kulcsod. A 402-es hiba elégtelen kreditet jelez. A 429-es hiba azt jelzi, hogy elérted az átfutási korlátot.

Modell paraméterek és kontextus ablak

A kontextusablak 100 000 token támogatását nyújtja a prompt és a kiegészítés együttesen. Beállíthatja temperature, top_p, és seed vezérléshez. A maximális kimenet 16,000 token kérésenként. Ezek a paraméterek lehetővé teszik a kreativitás és determinizmus finomhangolását. Állítsd be az értékeket a felhasználási eseted alapján.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Adja át ezeket a paramétereket a JSON törzsben. A modell a beállításai szerint válaszol. Használja seed a reprodukálható eredményekhez. Az uncensored modell ezeket a korlátokat ugyanúgy tiszteletben tartja, mint bármely más LLM.

Költségszámítás és tokenmennyiségek

Csak azt fizeti, amit használ. Az ár $0,15 per 1M bemeneti token és $0,50 per 1M kimeneti token. A hibák és a visszautasítások ingyenesek. Az előrefizetett kreditje sosem jár le. Bármikor töltheti fel kriptovalutával. Az API tokenmennyiséget ad vissza minden válaszban. Kövesse nyomon a felhasználást a usage object.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Kövesse nyomon az egyenlegét a műszerfalon. A hitel minden kérés után kerül felszámolásra. Nincsenek havi díjak vagy előfizetések. Kezdhet ingyenes próbaidőszakkal. Használja az API-t magabiztosan, rejtett költségek nélkül.