Gemma API gyors kezdési útmutató

Hitelesítés és base URL

Kezdje a kulcs generálását a műszerfalon. Használja a megadott alap URL-t a kérések irányításához az uncensored modellünkhöz. A hitelesítés egy standard fejlécen alapul.

Base URL: HTTPS://api.apigemma.com/v1

Fejléc: Authorization: Bearer YOUR_API_KEY

Fiókonként csak egy aktív kulcs. A cseréje azonnal érvényteleníti a régit. Nem szükséges telefonszám a regisztrációhoz.

Chat completions végpont

Szövegpromptok küldése a chat-kiegészítési végpontra. A modell szöveget ad vissza tartalom-visszautasítás nélkül törvényes felnőtt felhasználás esetén.

Kontextusablak: 100 000 token. Max kimenet: 16 000 token. A hibák és a visszautasítások ingyenesek.

Támogatja a függvényhívást, a JSON módot és a streamelést SSE-n keresztül.

Streamelt válaszok SSE-vel

A streamelés engedélyezéséhez állítsa a stream flag true értékre. Kapjon tokeneket valós időben Server-Sent Events (SSE) formátumban.

A tokenfelhasználás a végső tömbben kerül jelentésre. Ez ideális chat felületekhez és hangszintézis folyamatokhoz.

A stream események megbízhatóak és követik a szabványos OpenAI formátumokat.

JSON mód és függvényhívás

Strukturált kimenet kényszerítése a response_format a json_object. Ez biztosítja a konzisztens feldolgozást az utólagos alkalmazásokhoz.

Használat tools funkcióhíváshoz. A modell zökkenőmentesen kezeli az eszköz végrehajtását.

Paraméterek, mint például temperature és top_p irányítsd a kreativitást és a véletlenszerűséget.

Paraméterek: Hőmérséklet, top_p és seed

Kimeneti variáció szabályozása temperature (0-2), top_p (0-1), és seed a reprodukálhatósághoz.

Használat stop szekvenciák a válaszok csonkolásához. presence_penalty és frequency_penalty csökkentse az ismétlést.

Ezek a paraméterek pontosan úgy működnek, mint az OpenAI SDK.

Korlátok, hibák és kontextus ablak

Sebességkorlát: 300 kérelem/perc, 8 párhuzamos kérés. Max. törzsméret: 8 MB.

401: Érvénytelen kulcs. 402: Nincs kredit. 429: Átlépted a sebességkorlátot.

A kontextus ablak 100,000 token. Max kimenet 16,000 token.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamelés

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)