Tài liệu tham khảo API: Chat Completions

Base URL và Xác thực

Sử dụng URL gốc để định tuyến yêu cầu đến mô hình LLM không kiểm duyệt của chúng tôi. Bao gồm khóa API của bạn trong Authorization header cho mọi yêu cầu. Điều này đảm bảo các lệnh gọi của bạn được xác thực và tính phí chính xác vào tín dụng trả trước của bạn. Bạn có thể tạo khóa ngay lập tức qua Google hoặc email trên trang đăng ký.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Điểm cuối chấp nhận các tải trọng JSON tiêu chuẩn. Nếu bạn sử dụng một khách hàng bên thứ ba, hãy cập nhật URL cơ sở để trỏ đến đây. Khóa API của bạn đóng vai trò là thông tin xác thực duy nhất cho tài khoản của bạn.

Endpoint Hoàn thành Trò chuyện

Gửi tin nhắn đến POST /v1/chat/completions endpoint để tạo văn bản. ID mô hình luôn là uncensored. Điểm cuối này xử lý đầu vào văn bản và trả về đầu ra văn bản mà không có các phương thức khác. Nó được thiết kế cho các nhiệm vụ đóng vai, viết lách hoặc lập trình yêu cầu không có sự từ chối.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmonline.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cấu hình thư viện client của bạn với URL gốc chính xác. SDK xử lý việc tuần tự hóa JSON cho bạn. Bạn có thể phát trực tiếp phản hồi hoặc chờ đợi phần hoàn tất đầy đủ. Mô hình chạy trên máy chủ của chúng tôi, vì vậy bạn không cần tài nguyên GPU cục bộ.

Phản hồi luồng và sử dụng token

Bật phát trực tiếp bằng cách đặt stream: true trong yêu cầu của bạn. API trả về các chunk thông qua Sự kiện gửi máy chủ. Chunk cuối cùng chứa thống kê sử dụng token tổng cộng. Điều này cho phép bạn theo dõi chi phí theo thời gian thực mà không cần thêm lệnh gọi API. Streaming rất lý tưởng cho các ứng dụng tương tác nơi độ trễ quan trọng.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Phân tích stream để hiển thị token khi chúng đến. Chunk cuối cùng bao gồm usage object. Bạn có thể tích lũy các số lượng này cho bảng điều khiển tính phí của riêng mình. Lỗi trong quá trình phát trực tiếp được xử lý một cách mượt mà.

Function Calling và chế độ JSON

Sử dụng tools tham số cho gọi hàm. Mô hình hỗ trợ đầu ra có cấu trúc thông qua response_format được đặt thành json_object. Điều này đảm bảo việc phân tích cú pháp nhất quán cho logic backend của bạn. Bạn có thể xác định các schema phức tạp cho ứng dụng của mình.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmonline.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Xác định các hàm của bạn trong thân yêu cầu. Mô hình sẽ gọi chúng hoặc trả về dữ liệu JSON. Tính năng này hoạt động với mô hình không kiểm duyệt giống như các API OpenAI tiêu chuẩn. Bạn có thể kết hợp các công cụ và chế độ JSON khi cần.

Giới hạn tốc độ và Mã lỗi

API áp dụng các giới hạn nghiêm ngặt để đảm bảo sự ổn định. Bạn có thể thực hiện 300 yêu cầu mỗi phút và 8 yêu cầu đồng bộ mỗi khóa. Thân yêu cầu không được vượt quá 8 MB. Lỗi trả về các mã trạng thái HTTP tiêu chuẩn. Lỗi 401 có nghĩa là khóa của bạn không hợp lệ. Lỗi 402 cho biết không đủ tín dụng. Lỗi 429 báo hiệu bạn đã đạt giới hạn tốc độ.

Tham số Mô hình và Cửa sổ ngữ cảnh

Cửa sổ ngữ cảnh hỗ trợ 100.000 token cho tổng prompt và completion. Bạn có thể đặt temperature, top_p, và seed để kiểm soát. Đầu ra tối đa là 16.000 token mỗi yêu cầu. Các tham số này cho phép tinh chỉnh sự sáng tạo và xác định. Điều chỉnh cài đặt dựa trên trường hợp sử dụng của bạn.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Định nghĩa các tham số này trong thân JSON. Mô hình phản hồi theo cài đặt của bạn. Sử dụng seed để có kết quả có thể tái lập. Mô hình không giới hạn tuân thủ các ràng buộc này giống như bất kỳ LLM nào khác.

Tính toán chi phí và số lượng token

Chỉ trả tiền cho những gì bạn sử dụng. Giá là $0.15 cho 1M token đầu vào và $0.50 cho 1M token đầu ra. Lỗi và từ chối đều miễn phí. Số dư trả trước của bạn không bao giờ hết hạn. Bạn có thể nạp thêm bằng tiền điện tử bất cứ lúc nào. API trả về số lượng token trong mọi phản hồi. Theo dõi mức sử dụng của bạn thông qua usage object.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

Theo dõi số dư của bạn trên bảng điều khiển. Tín dụng được tính phí sau mỗi yêu cầu. Không có phí hàng tháng hoặc đăng ký. Bạn có thể bắt đầu với bản dùng thử miễn phí. Sử dụng API một cách tự tin mà không có chi phí ẩn.