Gemma api Quickstart Guide

Autentificering og base URL

Start med at generere din nøgle på dashboardet. Brug den angivne base-URL til at dirigere anmodninger til vores uncensored-model. Autentificering afhænger af en standard header.

Base URL: HTTPS://api.apigemma.com/v1

Header: Authorization: Bearer YOUR_API_KEY

Kun én aktiv nøgle per konto. Erstatning af den inddrager den gamle øjeblikkeligt. Intet telefonnummer er påkrævet for tilmelding.

Chat completions endpoint

Send tekstprompts til chat completions endpoint. Modellen returnerer tekst uden content afvisninger til lovligt voksenbrug.

Kontekstvinduet: 100.000 tokens. Maks output: 16.000 tokens. Fejl og afslag koster ingenting.

Understøtter funktionssamtale, JSON-tilstand og streaming via SSE.

Streaming-respons med SSE

Aktivér streaming ved at indstille stream flag til true. Modtag tokens i realtid via Server-Sent Events.

Tokenforbrug rapporteres i den sidste chunk. Dette er ideelt til chatgrænseflader og voice synthesis-pipelines.

Stream-events er pålidelige og følger standard OpenAI-formater.

JSON-tilstand og funktionskald

Tving struktureret output ved at indstille response_format til json_object. Dette sikrer konsistent parsing til downstream-applikationer.

Brug tools til function calling. Modellen håndterer tool-eksekvering sømløst.

Parameters like temperature og top_p styr kreativitet og tilfældighed.

Parametre: temperatur, top_p og seed

Styr variationen i outputtet med temperature (0-2), top_p (0-1), og seed for reproducerbarhed.

Brug stop sekvenser til at forkorte svar. presence_penalty og frequency_penalty reducer gentagelse.

Disse parametre fungerer præcis som OpenAI SDK.

Begrænsninger, fejl og kontekstvindue

Rate limit: 300 anmodninger/minut, 8 samtidige anmodninger. Maks. kropstørrelse: 8 MB.

401: Ugyldig nøgle. 402: Ingen kredit. 429: Rate limit overskredet.

Kontekstvinduet er 100.000 tokens. Output max er 16.000 tokens.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)