Руководство по быстрому старту API Gemma

Аутентификация и базовый URL

Начните с генерацией вашего ключа на панели управления. Используйте предоставленный базовый URL для маршрутизации запросов к нашей модели без цензуры. Аутентификация опирается на стандартный заголовок.

Базовый URL: HTTPS://api.apigemma.com/v1

Заголовок: Authorization: Bearer YOUR_API_KEY

Один активный ключ на аккаунт. Замена отзывает старый немедленно. Для регистрации не требуется номер телефона.

Эндпоинт Chat Completions

Отправляйте текстовые промпты на эндпоинт chat completions. Модель возвращает текст без отказов по контенту для законного взрослого использования.

Контекстное окно: 100,000 токенов. Максимальный объем вывода: 16,000 токенов. Ошибки и отказы ничего не стоят.

Поддерживает вызов функций, режим JSON и потоковую передачу через SSE.

Потоковая передача ответов с SSE

Включите потоковую передачу, установив stream флаг в true. Получайте токены в реальном времени через Server-Sent Events.

Использование токенов указывается в финальном чанке. Это идеально подходит для интерфейсов чата и конвейеров синтеза речи.

Потоковые события надежны и соответствуют стандартным форматам OpenAI.

режим JSON и вызов функций

Принудированный структурированный вывод путем установки response_format для json_object. Это обеспечивает согласованное разделение для приложений последующей обработки.

Использовать tools для вызова функций. Модель бесшовно обрабатывает выполнение инструментов.

Параметры, такие как temperature и top_p управляйте креативностью и случайностью.

Параметры: temperature, top_p и seed

Управляйте вариативностью вывода с помощью temperature (0-2), top_p (0-1), и seed для воспроизводимости.

Использовать stop последовательности для обрезки ответов. presence_penalty и frequency_penalty сократите повторения.

Эти параметры работают точно так же, как SDK OpenAI.

Лимиты, ошибки и контекстное окно

Лимит запросов: 300 запросов/мин, 8 параллельных запросов. Максимальный размер тела: 8 МБ.

401: Неверный ключ. 402: Без кредита. 429: Превышен лимит запросов.

Контекстное окно составляет 100 000 токенов. Максимальный вывод — 16 000 токенов.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)