Gemma api क्विकस्टार्ट गाइड

प्रमाणीकरण और बेस URL

डैशबोर्ड पर अपनी कुंजी जनरेट करें। अनुरोधों को हमारे अनसेंसर्ड मॉडल की ओर रूट करने के लिए प्रदान किए गए बेस URL का उपयोग करें। प्रमाणीकरण एक मानक हेडर पर निर्भर करता है।

बेस URL: HTTPS://api.apigemma.com/v1

हेडर: Authorization: Bearer YOUR_API_KEY

प्रति खाता केवल एक सक्रिय कुंजी। इसे बदलने से पुरानी तुरंत रद्द हो जाती है। साइनअप के लिए फोन नंबर की आवश्यकता नहीं है।

चैट कंप्लीशंस एंडपॉइंट

चैट पूर्णता एंडपॉइंट पर टेक्स्ट प्रॉम्प्ट भेजें। मॉडल कानूनी वयस्तु उपयोग के लिए कंटेंट अस्वीकृतियों के बिना टेक्स्ट लौटाता है।

संदर्भ विंडो: 100,000 टोकन. अधिकतम आउटपुट: 16,000 टोकन. त्रुटियां और अस्वीकृतियां मुफ्त हैं।

SSE के माध्यम से फ़ंक्शन कॉलिंग, JSON मोड और स्ट्रीमिंग का समर्थन करता है।

SSE के साथ स्ट्रीमिंग प्रतिक्रियाएं

स्ट्रीमिंग को सक्षम करने के लिए stream flag को true पर सेट करें। Server-Sent Events के माध्यम से रियल-टाइम टोकन प्राप्त करें।

टोकन उपयोग अंतिम चंक में रिपोर्ट किया जाता है। यह चैट इंटरफेस और वॉइस सिंथेसिस पाइपलाइनों के लिए आदर्श है।

स्ट्रीम इवेंट्स विश्वसनीय हैं और मानक OpenAI फॉर्मेट्स का पालन करते हैं।

JSON मोड और फंक्शन कॉलिंग

सेट करके संरचित आउटपुट फ़ोर्स करें response_format को json_object. डाउनस्ट्रीम एप्लिकेशन के लिए स्थिर पार्सिंग सुनिश्चित करता है।

उपयोग करें tools फ़ंक्शन कॉलिंग के लिए। मॉडल टूल निष्पादन को सहज रूप से संभालता है।

तापमान जैसे पैरामीटर temperature और top_p रचनात्मकता और यादृच्छिकता को नियंत्रित करें।

पैरामीटर: तापमान, top_p, और सीड

आउटपुट विविधता को temperature (0-2), top_p (0-1), और seed पुनरुत्पादन के लिए।

उपयोग करें stop प्रतिक्रियाओं को ट्रंक करने के लिए अनुक्रम। presence_penalty और frequency_penalty दोहराव कम करें।

ये पैरामीटर बिल्कुल वैसे ही काम करते हैं जैसे OpenAI SDK।

सीमाएं, त्रुटियां, और संदर्भ विंडो

रेट लिमिट: 300 अनुरोध/मिनट, 8 समानांतर अनुरोध। अधिकतम बॉडी आकार: 8 MB।

401: अमान्य की। 402: कोई क्रेडिट नहीं। 429: दर सीमा से अधिक हो गया है।

संदर्भ विंडो 100,000 टोकन है। अधिकतम आउटपुट 16,000 टोकन है।

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)