Gemma api Hızlı Başlangıç Rehberi

Kimlik doğrulama ve base URL

Anahtarınızı dashboard'da oluşturun. İstekleri sansürsuz modelimize yönlendirmek için sağlanan temel URL'yi kullanın. Kimlik doğrulama standart bir başlığa dayanır.

Temel URL: HTTPS://api.apigemma.com/v1

Başlık: Authorization: Bearer YOUR_API_KEY

Her hesap için yalnızca bir aktif anahtar. Değiştirildiğinde eski anahtar hemen iptal edilir. Kayıt için telefon numarası gerekmez.

Sohbet tamamlamaları uç noktası

Metin prompt'larını sohbet tamamlamaları uç noktasına gönderin. Model, yasal yetişkin kullanım için içerik reddi olmadan metin döndürür.

Bağlam penceresi: 100.000 belirteç. Maksimum çıktı: 16.000 belirteç. Hatalar ve reddetmeler ücretsizdir.

SSE üzerinden işlev çağırma, JSON modu ve akış destekler.

SSE ile akış yanıtlar

Akışı etkinleştirmek için stream alanını true olarak ayarlayın. Sunucu Gönderilen Olaylar aracılığıyla tokenları gerçek zamanlı olarak alın.

Token kullanımı son chunk'ta raporlanır. Bu, sohbet arayüzleri ve ses sentezleme hatları için idealdir.

Akış olayları güvenilirdir ve standart OpenAI formatlarını izler.

JSON modu ve fonksiyon çağırma

response_format'ı ayarlayarak yapılandırılmış çıktı zorlayın response_format için json_object. Bu, aşağı akış uygulamalar için tutarlı ayrıştırma sağlar.

Kullan tools işlev çağrısı için. Model, araç yürütmesini sorunsuz şekilde yönetir.

Parameters like temperature ve top_p yaratıcılığı ve rastgeleliği kontrol edin.

Parametreler: sıcaklık, top_p ve seed

Çıktının varyasyonunu şunu kullanarak kontrol edin temperature (0-2), top_p (0-1), ve seed yeniden üretilebilirlik için.

Kullan stop yanıtları kısaltmak için diziler. presence_penalty ve frequency_penalty tekrarlamayı azaltın.

Bu parametreler OpenAI SDK'sı gibi çalışır.

Limitler, hatalar ve bağlam penceresi

Hız sınırı: dakikada 300 istek, 8 eşzamanlı istek. Maksimum gövde boyutu: 8 MB.

401: Geçersiz anahtar. 402: Bakiye yok. 429: Hız sınırı aşıldı.

Bağlam penceresi 100.000 tokendır. Çıktı maksimumu 16.000 tokendır.

cURL

Copycurl https://api.apigemma.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Show me the gemma model weights config file"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigemma.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigemma.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)