Referenční příručka API: Chat Completions

Základní URL a ověření

Použijte poskytnutou základní URL pro směrování požadavků k našemu modelu LLM uncensored. Zahrňte svůj klíč API v Authorization hlavička pro každý požadavek. To zajišťuje, že jsou vaše volání autentizována a správně zpoplatněna z vašeho předplaceného kreditu. Klíč můžete vygenerovat okamžitě přes Google nebo e-mail na registrační stránce.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Endpoint přijímá standardní payloady ve formátu JSON. Pokud používáte klienta třetí strany, aktualizujte základní URL tak, aby ukazovala sem. Vaše API klíč slouží jako jediný prokazatelný prostředek pro váš účet.

Endpoint Chat Completions

Pošlete zprávy na POST /v1/chat/completions endpoint pro generování textu. ID modelu je vždy uncensored. Tento endpoint zpracovává textový vstup a vrací textový výstup bez dalších modalit. Je určen pro roleplay, psaní nebo úkoly v programování, které nevyžadují odmítnutí obsahu.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmonline.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Nastavte svou knihovnu klienta se správnou základní URL adresou. SDK za vás zpracuje serializaci JSON. Můžete streamovat odpovědi nebo počkat na úplné dokončení. Model běží na našich serverech, takže nepotřebujete místní zdroje GPU.

Streamované odpovědi a spotřeba tokenů

Povolte streamování nastavením stream: true ve vaší žádosti. API vrací bloky pomocí událostí zaslaných serverem. Poslední blok obsahuje statistiky celkového využití tokenů. To vám umožňuje sledovat náklady v reálném čase bez dalších volání API. Streamování je ideální pro interaktivní aplikace, kde záleží na latenci.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Parsovejte stream pro zobrazení tokenů při jejich příchodu. Poslední chunk obsahuje usage object. Tyto počty můžete akumulovat pro svou vlastní fakturační dashboard. Chyby během streamování jsou řešeny elegantně.

Volání funkcí a režim JSON

Použijte tools parameter pro volání funkcí. Model podporuje strukturovaný výstup přes response_format nastaveno na json_object. To zajišťuje konzistentní parsování pro vaši backendovou logiku. Můžete definovat komplexní schémata pro svou aplikaci.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmonline.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Definujte své funkce v těle žádosti. Model je vyvolá nebo vrátí data ve formátu JSON. Tato funkce funguje s bezceznurným modelem stejně jako standardní API OpenAI. Můžete kombinovat nástroje a režim JSON podle potřeby.

Limity rychlosti a kódy chyb

API vynucuje přísné limity pro zajištění stability. Můžete provést 300 požadavků za minutu a 8 souběžných požadavků na klíč. Tělo požadavku nesmí překročit 8 MB. Chyby vracejí standardní stavové kódy HTTP. Chyba 401 znamená, že je váš klíč neplatný. Chyba 402 indikuje nedostatečný kredit. Chyba 429 signalizuje, že jste dosáhli limitu rychlosti.

Parametry modelu a okno kontextu

Okno kontextu podporuje 100 000 tokenů pro prompt i completion dohromady. Můžete nastavit temperature, top_p, a seed pro kontrolu. Max výstup je 16 000 tokenů na požadavek. Tyto parametry umožňují jemné ladění kreativity a determinismu. Upravte nastavení na základě vašeho případu použití.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Předložte tyto parametry v JSON těle. Model odpovídá podle vašich nastavení. Použijte seed pro reprodukovatelné výsledky. Bezlimitní model respektuje tato omezení stejně jako jakýkoli jiný LLM.

Výpočet nákladů a počty tokenů

Platíte pouze za to, co skutečně využijete. Sazba je $0.15 za 1M vstupních tokenů a $0.50 za 1M výstupních tokenů. Chyby a odmítnutí jsou zdarma. Váš předplacený kredit nikdy nevyprší. Doplnění můžete provést kdykoli pomocí kryptoměn. API vrací počty tokenů v každé odpovědi. Sledujte svou spotřebu prostřednictvím usage object.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Sledujte svůj zůstatek na dashboardu. Kredit je účtován po každém požadavku. Žádné měsíční poplatky ani předplatné. Můžete začít s bezplatnou zkušební verzí. Používejte API s jistotou bez skrytých nákladů.