Ollama endpoint API Dokümantasyonu

Temel URL ve Kimlik Doğrulama

Her istek için sağlanan temel URL'yi ve bir API anahtarını kullanın. Uç nokta https://api.ollamaendpoint.com/v1Yetkilendirme header'ı Bearer token olarak kullanın. Bu anahtarı Google veya e-posta ile giriş yaptıktan hemen sonra oluşturursunuz. Anahtar hesap başına özeldir ve önceki aktif anahtarı yerine geçirir.

İlk İstek

Metin oluşturmak için standart bir sohbet tamamlama gönderin. Model kimliği uncensored ve standart OpenAI istemcileriyle aynı parametreleri kabul eder. Bu, NSFW LLM görevleri veya kısıtlamasız içerik üretimi için geçerlidir.

• Yöntem: POST
• Uç nokta: /v1/chat/completions
• Model: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Başarılı bir yanıt, oluşturulan metni choices dizisi içinde döndürür. Şunu kontrol edin: usage alanı, token sayılarını görmek için.

Python SDK Entegrasyonu

Resmi OpenAI kitaplığını yükleyin ve temel URL'yi yapılandırın. Bu, tanıdık Python koduyla uncensored ollama modelini kullanmanıza olanak tanır. Ayarlayın base_url ve api_key istemciyi başlatmadan önce. Kod, mevcut OpenAI SDK'ları ile uyumlu kalır.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Şunu çağırın chat.completions.create GPT için yapacağınız gibi yöntem. Yanıt yapısı standart beklentileri karşılar. Akış yapabilir veya tam yanıtlar alabilirsiniz.

Node SDK Entegrasyonu

API ile etkileşim kurmak için Node.js OpenAI paketini kullanın. İstemciyi özel temel URL ve API anahtarınızla yapılandırın. Bu yaklaşım sunucu tarafı uygulamaları veya kenar işlevleri için çalışır. Paket serileştirmeyi ve yeniden denemeleri otomatik olarak yönetir.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

İsteğinizle birlikte completion uç noktasını çağırın. Kitaplık, yanıt nesnesine çözülen bir promise döndürür. Hataları standart HTTP durum kodlarına göre işleyin.

SSE ile Akış Yanıtları

Ayarlayarak akışı etkinleştirin stream: true istekinizde. Sunucu, Sunucu Gönderilen Olaylar (SSE) akışı döndürür. Her parça kısmi metin ve token kullanım verisi içerir. Son parça, faturalandırma için tam kullanım istatistiklerini içerir. Bu, uzun çıktılar için algılanan gecikmeyi azaltır.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tam yanıtı yeniden oluşturmak için her parçadan gelen içerik parçalarını birleştirin. Akışta gelen hataları işleyin. Son parça, ön ödemeli krediniz için token sayısını onaylar.

Saniye Başına İstek Limitleri ve Kısıtlamalar

Her API anahtarı dakikada 300 istek ve 8 eşzamanlı istek destekler. Maksimum istek gövdesi boyutu 8 MB'tır. Bağlam penceresi, istem ve tamamlama birlikte 100,000 token içindir. Çıktı limitleri istek başına 16,000 token'dır. Hatalar ve reddetmeler krediyi tüketmez. 401 hatası anahtarınızın geçersiz olduğunu belirtir. 402 hatası yetersiz ön ödemeli kredi olduğunu gösterir. 429 hatası hız sınırına ulaştığınızı belirtir. Limitler içinde kalmak için eşzamanlılığı ayarlayın.