Gemma-API-Schnellstartanleitung

Authentifizierung und Basis-URL

Erstellen Sie zunächst Ihren Schlüssel im Dashboard. Verwenden Sie die angegebene Base-URL, um Anfragen an unser unzensiertes Modell zu leiten. Die Authentifizierung basiert auf einem Standard-Header.

Basis-URL: HTTPS://api.apigemma.com/v1

Header: Authorization: Bearer YOUR_API_KEY

Nur ein aktiver Schlüssel pro Konto. Beim Ersetzen wird der alte sofort widerrufen. Für die Registrierung ist keine Telefonnummer erforderlich.

Chat-Vervollständigungs-Endpunkt

Senden Sie Textprompts an den Chat-Vervollständigungs-Endpunkt. Das Modell gibt Text ohne Inhaltsablehnungen für die rechtliche Erwachsenennutzung zurück.

Kontextfenster: 100.000 Tokens. Max. Ausgabe: 16.000 Tokens. Fehler und Ablehnungen kosten nichts.

Unterstützt Function-Calling, den JSON-Modus und Streaming über SSE.

Streaming-Antworten mit SSE

Aktivieren Sie das Streaming, indem Sie den stream Flag auf true setzen. Erhalten Sie Tokens in Echtzeit über Server-Sent Events.

Die Token-Nutzung wird im finalen Chunk gemeldet. Dies ist ideal für Chat-Oberflächen und Voice-Synthesis-Pipelines.

Stream-Ereignisse sind zuverlässig und folgen den Standardformaten von OpenAI.

JSON-Modus und Funktionsaufruf

Erzwingen Sie strukturierte Ausgabe, indem Sie response_format zu json_object. Dies gewährleistet ein konsistentes Parsing für nachgelagerte Anwendungen.

Verwenden tools für Function Calling. Das Modell verarbeitet die Tool-Ausführung nahtlos.

Parameter wie temperature und top_p Steuerung von Kreativität und Zufälligkeit.

Parameter: Temperatur, Top-p und Seed

Steuern Sie die Ausgabevariation mit temperature (0-2), top_p (0-1), und seed für Reproduzierbarkeit.

Verwenden stop Sequenzen, um die Antworten zu kürzen. presence_penalty und frequency_penalty Wiederholungen reduzieren.

Diese Parameter funktionieren genau wie das OpenAI SDK.

Limits, Fehler und Kontextfenster

Rate-Limit: 300 Anfragen/Minute, 8 gleichzeitige Anfragen. Maximale Körpergröße: 8 MB.

401: Ungültiger Schlüssel. 402: Kein Guthaben. 429: Rate Limit überschritten.

Das Kontextfenster beträgt 100.000 Tokens. Max Output beträgt 16.000 Tokens.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)