Ollama endpoint API-dokumentation

Bas URL och autentisering

Använd den tillhandahållna bas-URL:n och en API-nyckel för varje förfrågan. Slutpunkten är https://api.ollamaendpoint.com/v1Auktorisation header som ett Bearer-token. Du genererar denna nyckel omedelbart efter att ha loggat in med Google eller e-post. Nyckeln är unik per konto och ersätter alla tidigare aktiva nycklar.

Första förfrågan

Skicka en standardbegäran om chattkomplettering för att generera text. Modell-ID:t är uncensored och accepterar samma parametrar som standard OpenAI-klienter. Detta fungerar för NSFW LLM-uppgifter eller obegränsad innehållsgenerering.

• Metod: POST
• Slutpunkt: /v1/chat/completions
• Modell: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Ett lyckat svar returnerar den genererade texten i choices-arrayen. Kontrollera den usage fält för att se tokenräkningar.

Python SDK-integration

Installera det officiella OpenAI-biblioteket och konfigurera bas-URL:n. Detta gör att du kan använda den okensorerade ollama-modellen med välkänd Python-kod. Ställ in base_url och api_key innan du initierar klienten. Koden förblir kompatibel med befintliga OpenAI SDK:er.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Anropa chat.completions.create metod precis som du skulle göra för GPT. Svarsstrukturen matchar standardförväntningar. Du kan strömma eller få fullständiga svar.

Node SDK-integration

Använd Node.js OpenAI-paketet för att interagera med API:t. Konfigurera klienten med den anpassade bas-URL:t och din API-nyckel. Denna metod fungerar för server-sidiga applikationer eller edge-funktioner. Paketet hanterar serialisering och omförsök automatiskt.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Anropa kompletteringsslutpunkten med din prompt. Biblioteket returnerar en promise som löses till svarobjektet. Hantera fel enligt standard HTTP-statuskoder.

Strömningsresponser med SSE

Aktivera strömning genom att ställa in stream: true i ditt begäran. Servern returnerar en Server-Sent Events (SSE) ström. Varje bit innehåller delvis text och tokenanvändningsdata. Den sista biten innehåller komplett användningsstatistik för fakturering. Detta minskar den upplevda latensen för långa utdata.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ackumulera innehållsdelarna från varje bit för att återställa hela svaret. Bearbeta fel när de anländer i strömmen. Den sista bekräftar tokenantalet för din förbetala kredit.

Begränsningar för begäranderänta och begränsningar

Varje API-nyckel stöder 300 förfrågningar per minut och 8 samtidiga förfrågningar. Den maximala storleken på förfrågningsbodyn är 8 MB. Kontextfönstret är 100,000 tokens för prompt och completion tillsammans. Utdata begränsas till 16,000 tokens per förfrågan. Fel och avslag konsumerar inte kredit. Ett 401-fel betyder att din nyckel är ogiltig. Ett 402-fel indikerar otillräckligt förbetalt kredit. Ett 429-fel betyder att du har nått hastighetsgränsen. Justera din koncurrents för att hålla dig inom gränserna.