API-viite: Chat Completions

Perus-URL ja todennus

Käytä annettua perus-URL-osoitetta ohjataksesi pyynnöt uncensored-LLM:äämme. Sisällytä API-avaimesi kenttään Authorization header jokaista pyyntöä varten. Tämä varmistaa, että kutsusi autentikoidaan ja laskutetaan oikein esimaksattuun luottoosi. Voit luoda avaimen välittömästi Googlen tai sähköpostin kautta rekisteröitymissivulla.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Pääte hyväksyy standardit JSON-payloadit. Jos käytät kolmannen osapuolen asiakasohjelmaa, päivitä base URL osoittamaan tähän. API-avaimesi toimii ainoana kirjautumistietona tilillesi.

Chat Completions Endpoint

Lähetä viestit osoitteeseen POST /v1/chat/completions päätepiste tekstin generointiin. Mallin ID on aina uncensored. Tämä päätepiste käsittelee tekstisyötteen ja palauttaa tekstitulosteen ilman lisämooduksia. Se on suunniteltu roolipeliin, kirjoittamiseen tai koodaustehtäviin, jotka eivät vaadi kieltoja.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmonline.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Määritä asiakasohjelmistokirjasto oikealla base URLilla. SDK hoitaa JSON-sarjoituksen puolestasi. Voit streamata vastauksia tai odottaa koko valmistumista. Malli toimii palvelimillamme, joten sinun ei tarvitse paikallisia GPU-resursseja.

Streamausvastaukset ja merkkikäyttö

Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API palauttaa osia Server-Sent Events -tekniikalla. Viimeinen osa sisältää kokonaistilastot tokenien käytöstä. Tämä mahdollistaa kustannusten seurannan reaaliajassa ilman lisä-API-kutsuja. Streamaus on ihanteellinen interaktiivisiin sovelluksiin, joissa viiveellä on väliä.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Jaa streami tokenien näyttämiseksi niiden saapuessa. Viimeinen palsta sisältää usage object. Voit kerätä nämä laskelmat omaan laskutuspaneeliisi. Virheet streamauksen aikana käsitellään sujuvasti.

Funktikutsut ja JSON-tila

Käytä tools parametri toimintokutsuihin. Malli tukee rakenteellista syötelähtöä response_format asetettuna json_object. Tämä varmistaa johdonmukaisen jäsentämisen taustajärjestelmiesi logiikalle. Voit määrittää monimutkaisia skeemoja sovelluksellesi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmonline.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Määrittele funktiosi pyynnön runkossa. Malli kutsuu niitä tai palauttaa JSON-dataa. Tämä ominaisuus toimii sensuroimattoman mallin kanssa aivan kuten standardit OpenAI API:t. Voit yhdistää työkalut ja JSON-tilan tarpeen mukaan.

Nopeusrajoitukset ja virhekoodit

API asettaa tiukat rajat varmistamaan vakauden. Voit tehdä 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä avainta kohti. Pyyntöjen rungon koko ei saa ylittää 8 Mt. Virheet palauttavat standardit HTTP-tilakoodit. Virhekoodi 401 tarkoittaa, että avain on virheellinen. Virhekoodi 402 tarkoittaa, että saldo on riittämätön. Virhekoodi 429 tarkoittaa, että nopeusraja on ylitetty.

Malliparametrit ja kontekstilaakso

Konteksti-ikkuna tukee 100 000 tokenia syötteelle ja vastaukselle yhteensä. Voit asettaa temperature, top_p, ja seed hallintaan. Maksimi tuloksena on 16 000 tokeniä pyyntöä kohti. Nämä parametrit mahdollistavat luovuuden ja determinismin hienosäädön. Säädä asetuksia käyttötarkoituksesi mukaan.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Välitä nämä parametrit JSON-runkoon. Malli vastaa asetuksiesi mukaisesti. Käytä seed toistuvien tulosten saamiseksi. Epärajattu malli noudattaa näitä rajoituksia kuten mikä tahansa muu LLM.

Kustannuslaskelma ja tokenimäärät

Maksa vain käytöstä. Hinta on $0,15 per 1M syöttötokeniä ja $0,50 per 1M tulostustokeniä. Virheet ja hylkäykset ovat ilmaisia. Esimaksukrediittisi vanhenee koskaan. Voit täydentää kryptolla milloin tahansa. API palauttaa token-määrät jokaisessa vastauksessa. Seuraa käyttöäsi usage object.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Seuraa saldoasi hallintapaneelista. Luottokrediitit laskutetaan pyynnön jälkeen. Ei kuukausimaksuja tai tilauksia. Voit aloittaa ilmaisella kokeilujaksolla. Käytä API:ta varmuudella ilman piilokuluja.