מאגר API: השלמות צ'אט

כתובת URL בסיסית ואימות

השתמשו בכתובת הבסיס כדי להפנות בקשות ל-LLM ללא צנזורה שלנו. כללו את מפתח ה-API ב- Authorization header לכל בקשה. זה מבטיח שהקריאות שלכם מאומתות ומחושבות נכון מול האשראי ששולם מראש שלכם. ניתן ליצור מפתח מיד דרך Google או אימייל בלוח הבקרה.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

נקודת הקצה מקבלת מטעני JSON סטנדרטיים. אם אתם משתמשים בלקוח צד שלישי, עדכנו את כתובת הבסיס (Base URL) כך שתצביע לכאן. מפתח ה-API שלכם משמש כאישור היחיד לחשבון שלכם.

נקודת קצה להשלמות צ'אט

שלם הודעות ל POST /v1/chat/completions נקודת קצה (endpoint) ליצירת טקסט. מזהה המודל הוא תמיד uncensored. נקודת הקבלה הזו מטפלת בקלט טקסט ומחזירה פלט טקסט ללא מודאליות נוספות. היא עוצבה למשימות משחק תפקידים, כתיבה או קידוד הדורשות ללא סירובים.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedllmonline.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

הגדר את ספריית הלקוח שלך עם כתובת ה-URL הבסיסית הנכונה. ה-SDK מטפל ביישור JSON עבורך. אתה יכול לסטרים תגובות או לחכות להשלמה מלאה. המודל פועל בשרתים שלנו, כך שאינך צריך משאבי GPU מקומיים.

תגובות בסטרימינג וצריכת טוקנים

אפשרו זרימה על ידי הגדרת stream: true בבקשה שלך. ה-API מחזיר קטעים באמצעות אירועים שנשלחו על ידי השרת. הקטע הסופי מכיל את סטטיסטיקות השימוש הכוללות באסימונים. זה מאפשר לך לעקוב אחר עלויות בזמן אמת ללא קריאות API נוספות. סטרימינג אידיאלי לאפליקציות אינטראקטיביות שבהן עיכוב הוא קריטי.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

נתח את הזרם כדי להציג טוקנים כפי שהם מגיעים. הנתח האחרון כולל את usage אובייקט. ניתן לצבור מניאות אלו לדשבורד החיוב שלך. שגיאות במהלך הזרמה מטופלות בצורה חלקה.

פקודות פונקציה ומצב JSON

השתמשו ב tools פרמטר לקריאת פונקציות. המודל תומך בפלט מבני דרך response_format מוגדר ל json_object. זה מבטיח פיענוח עקסי ללוגיקה של ה-backend שלך. ניתן להגדיר סכמות מורכבות ליישום שלך.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedllmonline.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

הגדירו את הפונקציות שלכם בגוף הבקשה. המודל יפעיל אותן או יחזיר נתוני JSON. תכונה זו עובדת עם המודל ללא הצנזורה בדיוק כמו עם APIs סטנדרטיים של OpenAI. אתם יכולים לערבב כלים ומצב JSON לפי הצורך.

מגבלות קצב וקודי שגיאה

ה-API קובע מגבלות קשיחות כדי להבטיח יציבות. ניתן לבצע 300 בקשות לדקה ו-8 בקשות מקבילות לכל מפתח. גוף הבקשה לא יכול לעלות על 8 MB. שגיאות מחזירות קודי סטטוס HTTP סטנדרטיים. שגיאת 401 פירושה שהמפתח שלך לא חוקי. שגיאת 402 מציינת חוסר באשראי. שגיאת 429 מציינת שהגעת למגבלת הקצב.

פרמטרי מודל וחלון הקשר

חלון ההקשר תומך ב-100,000 טוקנים לשילוב של פלט ושלמה. ניתן להגדיר temperature, top_p, וכן seed לשליטה. פלט מקסימלי הוא 16,000 טוקנים לבקשה. פרמטרים אלו מאפשרים עדינות יצירתיות ודטרמיניזם. התאם הגדרות בהתבסס על מקרה השימוש שלך.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

העבר פרמטרים אלו בגוף ה-JSON. המודל מגיב בהתאם להגדרות שלך. השתמש seed לשם תוצאות שחזוריות. המודל ללא ההגבלות מכבד אילוצים אלה בדיוק כמו כל LLM אחר.

חישוב עלויות וספירת טוקנים

שלם רק על מה שאתה משתמש. הקצבה היא $0.15 למיליון אסימוני קלט ו-$0.50 למיליון אסימוני פלט. שגיאות ודחיות חינם. האשראי המקודם שלך לא פג תוקף. ניתן להטעין עם קריפטו בכל עת. ממשק ה-API מחזיר ספירת אסימונים בכל תגובה. עקוב אחר השימוש שלך דרך ה usage אובייקט.

Copycurl https://api.abliteratedllmonline.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the python dependencies for this flask app"}]
  }'

עקבו אחר יתרת החשבון בלוח הבקרה. האשראי נגבה לאחר כל בקשה. ללא עמלות חודשיות או מנויים. ניתן להתחיל עם ניסיון חינם. השתמשו ב-API בביטחון ללא עלויות נסתרות.