API रेफरेंस: चैट कंप्लीशन्स

बेस URL और प्रमाणीकरण

अपने अनसंसेर्ड LLM को अनुरोध रूट करने के लिए प्रदान किए गए बेस URL का उपयोग करें। अपने API कुंजी को Authorization हर रिक्वेस्ट के लिए हेडर। यह सुनिश्चित करता है कि आपकी कॉल प्रमाणीकृत हैं और सही ढंग से आपकी प्रीपेड क्रेडिट पर बिल की गई हैं। आप साइनअप पेज पर Google या ईमेल के माध्यम से तुरंत कुकी जनरेट कर सकते हैं।

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

एंडपॉइंट मानक JSON पेलोड स्वीकार करता है। यदि आप किसी थर्ड-पार्टी क्लाइंट का उपयोग कर रहे हैं, तो बेस URL को यहाँ इंगित करने के लिए इसे अपडेट करें। आपकी API कुंजी आपके खाते के लिए एकमात्र प्रमाणीकरण के रूप में कार्य करती है।

चैट कंप्लीशंस एंडपॉइंट

को संदेश भेजें POST /v1/chat/completions टेक्स्ट जनरेट करने के लिए एंडपॉइंट। मॉडल ID हमेशा uncensored. यह एंडपॉइंट टेक्स्ट इनपुट स्वीकार करता है और बिना एक्स्ट्रा मोडैलिटीज के टेक्स्ट आउटपुट लौटाता है। यह रोलप्ले, राइटिंग, या कोडिंग टास्क के लिए डिज़ाइन किया गया है जिनमें कोई रिफ्यूज़ल की आवश्यकता नहीं है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmonline.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

अपने क्लाइंट लाइब्रेरी को सही base URL के साथ कॉन्फ़िगर करें। SDK JSON serializaion को आपके लिए हैंडल करता है। आप प्रतिक्रियाओं को स्ट्रीम कर सकते हैं या पूर्ण समाप्ति का इंतजार कर सकते हैं। मॉडल हमारे सर्वरों पर चलता है, इसलिए आपको स्थानीय GPU संसाधनों की आवश्यकता नहीं है।

स्ट्रीमिंग रिस्पॉन्सेस और टोकन उपयोग

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true आपके अनुरोध में। API सर्वर-सेंट इवेंट्स के माध्यम से चंक लौटाता है। अंतिम चंक में कुल टोकन उपयोग सांख्यिकीय आंकड़े होते हैं। इससे आपको अतिरिक्त API कॉल किए बिना रियल-टाइम में लागत की निगरानी करने की सुविधा मिलती है। स्ट्रीमिंग उसी समय अंतर्क्रियात्मक एप्लिकेशन के लिए आदर्श है जहां विलंबता मायने रखती है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

टोकन को आते ही प्रदर्शित करने के लिए स्ट्रीम को पार्स करें। अंतिम चंक में usage object। आप इन काउंट्स को अपने बिलिंग डैशबोर्ड के लिए एक्क्यूम्युलेट कर सकते हैं। स्ट्रीमिंग के दौरान त्रुटियों को सहजता से हैंडल किया जाता है।

फंक्शन कॉलिंग और JSON मोड

का उपयोग करें tools फ़ंक्शन कॉलिंग के लिए पैरामीटर। मॉडल संरचित आउटपुट का समर्थन करता है response_format सेट json_object. आपके बैकएंड लॉजिक के लिए स्थिर पार्सिंग सुनिश्चित करता है। आप अपने ऐप के लिए जटिल स्कीमा परिभाषित कर सकते हैं।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmonline.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

अनुरोध बॉडी में अपने फ़ंक्शंस परिभाषित करें। मॉडल उन्हें आमंत्रित करेगा या JSON डेटा लौटाएगा। यह सुविधा अनसेंसर्ड मॉडल के साथ मानक OpenAI APIs की तरह ही काम करती है। आप आवश्यकतानुसार टूल्स और JSON मोड को मिला सकते हैं।

रेट लिमिट्स और त्रुटि कोड

API स्थिरता सुनिश्चित करने के लिए कठोर सीमाएं लागू करता है। आप प्रति मिनट 300 अनुरोध और प्रति कुंजी 8 समवर्ती अनुरोध कर सकते हैं। अनुरोध बॉई 8 MB से अधिक नहीं होनी चाहिए। त्रुटियां मानक HTTP स्टेटस कोड लौटाती हैं। 401 त्रुटि का अर्थ है कि आपकी कुंजी अमान्य है। 402 त्रुटि अपर्याप्त क्रेडिट को संकेत देती है। 429 त्रुटि संकेत देती है कि आपने रेट लिमिट पर पहुंच गए हैं।

मॉडल पैरामीटर और कॉन्टेक्स्ट विंडो

संदर्भ विंडो प्रॉम्प्ट और पूर्णता के संयोजन के लिए 100,000 टोकन का समर्थन करती है। आप सेट temperature, top_p, और seed नियंत्रण के लिए। मैक्स आउटपुट प्रति रिक्वेस्ट 16,000 टोकन है। ये पैरामीटर रचनात्मकता और निर्धारणशीलता (determinism) को फाइन-ट्यून करने की अनुमति देते हैं। अपने उपयोग के मामले के आधार पर सेटिंग्स समायोजित करें।

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

JSON बॉडी में ये पैरामीटर पास करें। मॉडल आपकी सेटिंग्स के अनुसार प्रतिक्रिया देता है। उपयोग करें seed पुनरुत्पादनीय परिणामों के लिए। अनकैप्सर्ड मॉडल इन बाधाओं का सम्मान करता है जैसे कि कोई अन्य LLM करता है।

लागत गणना और टोकन गणना

केवल उतने के लिए भुगतान करें जितना आपका उपयोग होता है। दर $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। त्रुटियां और अस्वीकृतियां मुफ्त हैं। आपका प्रीपेड क्रेडिट कभी समाप्त नहीं होता है। आप किसी भी समय क्रिप्टो के साथ टॉप-अप कर सकते हैं। API प्रत्येक प्रतिक्रिया में टोकन गणना लौटाता है। अपने उपयोग को ट्रैक करने के लिए usage object।

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

डैशबोर्ड पर अपने बैलेंस की निगरानी करें। प्रत्येक अनुरोध के बाद क्रेडिट चार्ज किया जाता है। कोई मासिक शुल्क या सदस्यता नहीं। आप एक मुफ्त परीक्षण के साथ शुरू कर सकते हैं। छिपे हुए लागत के बिना API का उपयोग आत्मविश्वास से करें।