Panduan Cepat Mulai API Gemma

Pengesahan dan url asas

Mula dengan menjana kunci anda di papan pemuka. Gunakan URL asas yang disediakan untuk mengarahkan permintaan ke model tanpa sensor kami. Pengesahan bergantung pada header standard.

URL Asas: HTTPS://api.apigemma.com/v1

Header: Authorization: Bearer YOUR_API_KEY

Hanya satu kunci aktif bagi setiap akaun. Menggantinya akan membatalkan kunci lama serta-merta. Tiada nombor telefon diperlukan untuk pendaftaran.

Hujung sambungan penyelesaian sembang

Hantar prompt teks ke hujung penyelesaian chat. Model mengembalikan teks tanpa penolakan kandungan untuk penggunaan dewasa yang sah.

Tetingkap konteks: 100,000 token. Output maksimum: 16,000 token. Ralat dan penolakan tidak menelan kos.

Menyokong pemanggilan fungsi, mod JSON, dan penstriman melalui SSE.

Respons penstriman dengan SSE

Aktifkan penstriman dengan menetapkan stream flag kepada true. Terima token secara masa nyata melalui Acara yang Dihantar Pelayan.

Penggunaan token dilaporkan dalam segmen akhir. Ini sesuai untuk antara muka sembang dan saluran sintesis suara.

Peristiwa aliran adalah boleh dipercayai dan mengikut format OpenAI piawai.

mod JSON dan pemanggilan fungsi

Paksa output terstruktur dengan menetapkan response_format ke json_object. Ini memastikan penguraian yang konsisten untuk aplikasi downstream.

Gunakan tools untuk pemanggilan fungsi. Model mengendalikan pelaksanaan alat dengan lancar.

Parameter seperti temperature dan top_p kawal kreativiti dan rawak.

Parameter: suhu, top_p, dan seed

Kawal variasi output dengan temperature (0-2), top_p (0-1), dan seed untuk boleh direplikasi.

Gunakan stop urutan untuk memendekkan respons. presence_penalty dan frequency_penalty kurangkan pengulangan.

Parameter ini berfungsi tepat seperti SDK OpenAI.

Had, ralat, dan tetingkap konteks

Had kadar: 300 permintaan/minit, 8 permintaan serentak. Saiz badan maksimum: 8 MB.

401: Kunci tidak sah. 402: Tiada kredit. 429: Had kadar melebihi.

Tetingkap konteks ialah 100,000 token. Output maksimum ialah 16,000 token.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)