מדריך התחלה מהירה ל-API Gemma

כתובת הבסיס ואימות

התחל על ידי יצירת המפתח שלך בדשבורד. השתמש בכתובת הבסיס שסופקה כדי להפנות בקשות למודל הלא-צנזור שלנו. האימות מסתמך על כותרת סטנדרטית.

כתובת URL בסיסית: HTTPS://api.apigemma.com/v1

כותרת: הרשאה: Bearer YOUR_API_KEY

רק מפתח פעיל אחד לכל חשבון. החלפתו מבטלת את הישן מיד. לא נדרש מספר טלפון להרשמה.

נקודת קצה להשלמות צ'אט

שלח הנחיות טקסט לנקודת הקצה של השלמות צ'אט. המודל מחזיר טקסט ללא סירובי תוכן לשימוש מבוגר חוקי.

חלון הקשר: 100,000 טוקנים. פלט מקסימלי: 16,000 טוקנים. שגיאות ודחיות עולות כלום.

תומך בקריאת פונקציות, במצב JSON וב-streaming באמצעות SSE.

תגובות בזרם עם SSE

אפשרו זרמת נתונים על ידי הגדרת ה stream flag ל-true. קבלו טוקנים בזמן אמת באמצעות אירועים משרתים (SSE).

שימוש בטוקנים מדווח בפריסה הסופית. זה אידיאלי לממשקי צ'אט ולזרמי עיבוד קול.

אירועי זרם אמינים ועוקבים אחר פורמטים סטנדרטיים של OpenAI.

מצב JSON וקריאת פונקציות

כף פלט מבני על ידי הגדרת response_format אל json_object. זה מבטיח פיענוח עקבי ליישומים downstream.

שימוש tools לקריאת פונקציות. המודל מטפל בביצוע כלי בצורה חלקה.

פרמטרים כמו temperature וגם top_p שליטה ביצירתיות ובאקראיות.

פרמטרים: טמפרטורה, top_p, ו-seed

שלוו את השונות בפלט באמצעות temperature (0-2), top_p (0-1), ו- seed לשחזור.

שימוש stop רצפים לחיתוך התגובות. presence_penalty וגם frequency_penalty הפחת חזרתיות.

פרמטרים אלו עובדים בדיוק כמו ב-OpenAI SDK.

מגבלות, שגיאות וחלון ההקשר

גבול קצב: 300 בקשות/דקה, 8 בקשות מקבילות. גודל גוף מקסימלי: 8 MB.

401: מפתח לא חוקי. 402: ללא קרדיט. 429: חריגת מגבלת קצב.

חלון הקשר הוא 100,000 טוקנים. מקסימום פלט הוא 16,000 טוקנים.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)