Ghid de început rapid API Gemma

Autentificare și URL de bază

Începeți prin a genera cheia pe panoul de control. Utilizați URL-ul de bază furnizat pentru a ruta solicitările către modelul nostru necenzurat. Autentificarea se bazează pe un antet standard.

URL de bază: HTTPS://api.apigemma.com/v1

Header: Authorization: Bearer YOUR_API_KEY

O singură cheie activă per cont. Înlocuirea acesteia revocă imediat cea veche. Nu este necesar un număr de telefon pentru înregistrare.

Endpoint Completări Chat

Trimite prompturi text către endpoint-ul de completări chat. Modelul returnează text fără refuzuri de conținut pentru uz adult legal.

Fereastră de context: 100.000 de tokeni. Ieșire maximă: 16.000 de tokeni. Erorile și refuzurile nu costă nimic.

Suportă apelarea funcțiilor, modul JSON și streaming prin SSE.

Răspunsuri în flux cu SSE

Activați fluxul de date setând stream flag setat la true. Primește tokeni în timp real prin Evenimente trimise de server (SSE).

Utilizarea tokenilor este raportată în ultimul fragment. Acest lucru este ideal pentru interfețele de chat și fluxurile de sinteză vocală.

Evenimentele de streaming sunt fiabile și urmează formatele standard OpenAI.

mod JSON și apelarea funcțiilor

Forțează ieșire structurată setând response_format pentru json_object. Acest lucru asigură o analiză consistentă pentru aplicațiile downstream.

Utilizare tools pentru apelarea funcțiilor. Modelul gestionează execuția instrumentelor fără probleme.

Parametri precum temperature și top_p controlați creativitatea și aleatorietatea.

Parametri: temperatură, top_p și seed

Controlează variația ieșirii cu temperature (0-2), top_p (0-1), și seed pentru reproducibilitate.

Utilizare stop secvențe pentru a trunca răspunsurile. presence_penalty și frequency_penalty reduce repetiția.

Acești parametri funcționează exact ca SDK-ul OpenAI.

Limitări, erori și fereastră de context

Limită de rată: 300 de cereri/minut, 8 cereri concurente. Dimensiune maximă corp: 8 MB.

401: Cheie invalidă. 402: Fără credit. 429: Limita de rată depășită.

Fereastra de context este de 100.000 de tokeni. Output-ul maxim este de 16.000 de tokeni.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)