Referencje API: Chat Completions

Bazowy URL i autoryzacja

Użyj podanego adresu URL bazowego, aby kierować żądania do naszego LLM uncensored. Dołącz swój klucz API w Authorization nagłówek dla każdego żądania. Zapewnia to uwierzytelnienie Twoich wywołań i prawidłowe rozliczenie ich do Twojego kredytu z góry opłaconego. Możesz natychmiast wygenerować klucz za pomocą Google lub e-mail na stronie rejestracji.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Punkt końcowy akceptuje standardowe ładunki JSON. Jeśli używasz klienta strony trzeciej, zaktualizuj bazowy URL, aby wskazywał tutaj. Twój klucz API działa jako jedyne poświadczenie Twojego konta.

Punkt końcowy Uzupełnień Czat

Wyślij wiadomości do POST /v1/chat/completions endpoint do generowania tekstu. Identyfikator modelu to zawsze uncensored. Ten endpoint obsługuje wejście tekstowe i zwraca wyjście tekstowe bez dodatkowych modalności. Jest przeznaczony do zadań roleplay, pisania lub kodowania, które nie wymagają odmów.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmonline.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Skonfiguruj bibliotekę klienta z prawidłowym bazowym adresem URL. SDK zajmuje się serializacją JSON za Ciebie. Możesz strumieniować odpowiedzi lub czekać na pełne uzupełnienie. Model działa na naszych serwerach, więc nie potrzebujesz lokalnych zasobów GPU.

Odpowiedzi strumieniowe i zużycie tokenów

Włącz strumieniowanie, ustawiając stream: true w Twoim żądaniu. API zwraca fragmenty za pomocą zdarzeń wysłanych przez serwer. Ostatni fragment zawiera całkowite statystyki użycia tokenów. Pozwala to na śledzenie kosztów w czasie rzeczywistym bez dodatkowych wywołań API. Strumieniowanie jest idealne dla aplikacji interaktywnych, gdzie liczy się opóźnienie.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Przeanalizuj strumień, aby wyświetlać tokeny w miarę ich przybywania. Ostatni chunk zawiera usage obiekt. Możesz akumulować te liczby dla własnego panelu rozliczeniowego. Błędy podczas strumieniowania są obsługiwane w sposób zgrany.

Wywoływanie funkcji i tryb JSON

Korzystaj z tools parametr wywoływania funkcji. Model obsługuje wyjścia strukturalne poprzez response_format ustawione na json_object. To zapewnia spójne parsowanie dla logiki Twojego backendu. Możesz zdefiniować złożone schematy dla swojej aplikacji.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmonline.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Zdefiniuj swoje funkcje w ciele żądania. Model je wywoła lub zwróci dane JSON. Ta funkcja działa z modelem uncensored tak samo, jak ze standardowymi API OpenAI. Możesz mieszać narzędzia i tryb JSON według potrzeb.

Limity szybkości i kody błędów

API narzuca ścisłe limity, aby zapewnić stabilność. Możesz wysyłać 300 żądań na minutę i 8 jednoczesnych żądań na klucz. Rozmiar treści żądania nie może przekraczać 8 MB. Błędy zwracają standardowe kody statusu HTTP. Błąd 401 oznacza, że Twój klucz jest nieprawidłowy. Błąd 402 oznacza niewystarczające środki. Błąd 429 oznacza, że osiągnąłeś limit szybkości.

Parametry modelu i okno kontekstowe

Okno kontekstowe obsługuje 100 000 tokenów dla promptu i uzupełnienia łącznie. Możesz ustawić temperature, top_p, a także seed dla kontroli. Maksymalna liczba outputu to 16 000 tokenów na żądanie. Te parametry pozwalają na precyzyjne dostosowanie kreatywności i determinizmu. Dostosuj ustawienia w zależności od przypadku użycia.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Przekaż te parametry w ciele JSON. Model odpowiada zgodnie z Twoimi ustawieniami. Użyj seed dla odtwarzalnych wyników. Model uncensored respektuje te ograniczenia tak samo jak dowolny inny LLM.

Obliczenia kosztów i liczby tokenów

Płać tylko za to, czego używasz. Stawka wynosi $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych. Błędy i odrzucenia są darmowe. Twój kredyt z góry nigdy nie wygasa. Możesz dołaczyć kryptowalutą w dowolnym momencie. API zwraca liczbę tokenów w każdej odpowiedzi. Śledź swoje zużycie poprzez usage obiekt.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Monitoruj swoje saldo w panelu. Kredyt jest naliczany po każdym żądaniu. Bez miesięcznych opłat ani subskrypcji. Możesz zacząć od darmowego okresu próbnego. Korzystaj z API pewnie, bez ukrytych kosztów.