Gemma api Quickstart Guide

Πιστοποίηση και base URL

Ξεκινήστε δημιουργώντας το κλειδί σας στον πίνακα ελέγχου. Χρησιμοποιήστε τη παρεχόμενη βασική διεύθυνση URL για να κατευθύνετε αιτήσεις στο μοντέλο uncensored μας. Η αυθεντικοποίηση βασίζεται σε μια τυπική κεφαλίδα.

Βασικό URL: HTTPS://api.apigemma.com/v1

Header: Authorization: Bearer YOUR_API_KEY

Μόνο ένα ενεργό κλειδί ανά λογαριασμό. Η αντικατάστασή του ανακαλεί αμέσως το παλιό. Δεν απαιτείται αριθμός τηλεφώνου για την εγγραφή.

Τερματικό συμπληρώματος συζήτησης

Στείλτε prompts κειμένου στο endpoint chat completions. Το μοντέλο επιστρέφει κείμενο χωρίς απορρίψεις περιεχομένου για νόμιμη χρήση ενηλίκων.

Παράθυρο συμφραζομένων: 100.000 tokens. Μέγιστη έξοδος: 16.000 tokens. Τα σφάλματα και οι απορρίψεις κοστίζουν τίποτα.

Υποστηρίζει κλήση συναρτήσεων, λειτουργία JSON και streaming μέσω SSE.

Ροή αποκρίσεων με SSE

Ενεργοποιήστε τη ροή δεδομένων (streaming) ορίζοντας το stream flag to true. Λάβετε tokens σε πραγματικό χρόνο μέσω Server-Sent Events.

Η χρήση tokens αναφέρεται στο τελικό chunk. Αυτό είναι ιδανικό για διεπαφές συνομιλίας και αλυσίδες συνθέσης φωνής.

Τα γεγονότα ροής είναι αξιόπιστα και ακολουθούν τα τυπικά σχήματα της OpenAI.

Λειτουργία JSON και κλήση συναρτήσεων

Εξαναγκασμός δομημένης εξόδου ορίζοντας response_format για json_object. Αυτό εξασφαλίζει συνεπή ανάλυση για εφαρμογές downstream.

Χρήση tools για κλήση λειτουργιών. Το μοντέλο χειρίζεται την εκτέλεση εργαλείων ομαλά.

Παράμετροι όπως temperature και top_p έλεγχος της δημιουργικότητας και της τυχαιότητας.

Παράμετροι: θερμοκρασία, top_p, και seed

Ελέγξτε την παραλλαγή εξόδου με temperature (0-2), top_p (0-1), και seed για αναπαραγωγιμότητα.

Χρήση stop ακολουθίες για να περικόψετε τις απαντήσεις. presence_penalty και frequency_penalty μειώστε την επανάληψη.

Αυτές οι παράμετροι λειτουργούν ακριβώς όπως η SDK OpenAI.

Όρια, σφάλματα και context window

Περιορισμός ρυθμού: 300 αιτήματα/λεπτό, 8 ταυτόχρονα αιτήματα. Μέγιστο μέγεθος σώματος: 8 MB.

401: Μη έγκυρο κλειδί. 402: Χωρίς πιστωτικό. 429: Υπέρβαση ορίου ρυθμού (Rate limit exceeded).

Το context window είναι 100.000 tokens. Μέγιστη έξοδος είναι 16.000 tokens.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)