Посібник швидкого старту Gemma api

Автентифікація та базовий URL

Почніть із генерації вашого ключа на панелі керування. Використовуйте надану базову URL-адресу для маршрутизації запитів до нашої моделі без цензури. Автентифікація базується на стандартному заголовку.

Базова URL-адреса: HTTPS://api.apigemma.com/v1

Заголовок: Authorization: Bearer YOUR_API_KEY

Лише один активний ключ на обліковий запис. Його заміна миттєво анулює старий. Для реєстрації не потрібен номер телефону.

Ендпоінт Chat Completions

Надсилайте текстові промпти до кінцевого пункту chat completions. Модель повертає текст без відмов у контенті для законного дорослого використання.

Контекстне вікно: 100,000 токенів. Максимальний вивід: 16,000 токенів. Помилки та відмови коштують нічого.

Підтримує виклик функцій, режим JSON та потокове передавання через SSE.

Потокова передача відповідей з SSE

Увімкніть потокову передачу, встановивши stream флаг на true. Отримуйте токони в реальному часі через події, надані сервером (SSE).

Використання токенів повідомляється в кінцевому чанку. Це ідеально підходить для чат-інтерфейсів та конвеєрів синтезу мовлення.

Потокові події надійні та відповідають стандартним форматам OpenAI.

режим JSON та виклик функцій

Примусовий структурований вивід шляхом встановлення response_format до json_object. Це забезпечує послідовне розбирання для додатків нижнього рівня.

Використовувати tools для виклику функцій. Модель бездоганно обробляє виконання інструментів.

Parameters like temperature та top_p контролюйте креативність та випадковість.

Параметри: temperature, top_p та seed

Керуйте варіативністю виводу з temperature (0-2), top_p (0-1), та seed для відтворюваності.

Використовувати stop послідовності для обрізання відповідей. presence_penalty та frequency_penalty зменшити повторення.

Ці параметри працюють так само, як і SDK OpenAI.

Ліміти, помилки та контекстне вікно

Ліміт швидкості: 300 запитів/хв, 8 паралельних запитів. Максимальний розмір тіла: 8 МБ.

401: Недійсний ключ. 402: Немає кредиту. 429: Перевищено ліміт швидкості.

Контекстне вікно становить 100 000 токенів. Максимальний вивід становить 16 000 токенів.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)