Ollama-eindpunt API-documentatie

Basis-URL en authenticatie

Gebruik de verstrekte basis-URL en een API-sleutel voor elk verzoek. Het eindpunt is https://api.ollamaendpoint.com/v1Autorisatie header als Bearer-token. Je genereert deze sleutel direct na het inloggen met Google of e-mail. De sleutel is uniek per account en vervangt elke vorige actieve sleutel.

Eerste verzoek

Stuur een standaard chat-completie om tekst te genereren. De model-ID is uncensored en accepteert dezelfde parameters als standaard OpenAI-clients. Dit werkt voor NSFW LLM-taken of onbeperkte inhoudsgeneratie.

• Methode: POST
• Eindpunt: /v1/chat/completions
• Model: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Eén succesvolle respons retourneert de gegenereerde tekst in de choices array. Controleer de usage veld om tokenaantallen te bekijken.

Python SDK Integratie

Installeer de officiële OpenAI bibliotheek en configureer de basis-URL. Hiermee kun het ongecensureerde ollama-model gebruiken met bekende Python-code. Stel de base_url en api_key voordat je de client initialiseert. De code blijft compatibel met bestaande OpenAI SDK's.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Roep de chat.completions.create methode net zoals u dat zou doen voor GPT. De responsstructuur komt overeen met standaardverwachtingen. U kunt streamen of volledige antwoorden krijgen.

Node SDK-integratie

Gebruik het Node.js OpenAI-pakket om met de API te communiceren. Configureer de client met de aangepaste base URL en je API-sleutel. Deze aanpak werkt voor server-side applicaties of edge-functies. Het pakket behandelt serialisatie en retries automatisch.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Roep het completion-eindpunt aan met uw prompt. De bibliotheek retourneert een promise die resolveert naar het responsobject. Verwerk fouten volgens de standaard HTTP-statuscodes.

Streaming-responsen met SSE

Activeer streaming door stream: true in je verzoek. De server retourneert een Server-Sent Events (SSE)-stream. Elke chunk bevat gedeeltelijke tekst en tokengebruiksgegevens. De laatste chunk bevat de volledige gebruikstatistieken voor facturering. Dit vermindert de waargenomen latentie voor lange uitvoeren.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Accumuleer de contentonderdelen van elke chunk om de volledige respons te reconstrueren. Verwerk fouten zoals ze in de stream aankomen. De laatste chunk bevestigt het tokenaantal voor je prepaid tegoed.

Rate Limits en beperkingen

Elke API-sleutel ondersteunt 300 verzoeken per minuut en 8 gelijktijdige verzoeken. De maximale grootte van de request body is 8 MB. Het contextvenster is 100,000 tokens voor prompt en completion samen. Uitvoerlimieten zijn 16,000 tokens per verzoek. Fouten en weigeringen verbruiken geen krediet. Een 401-fout betekent dat uw sleutel ongeldig is. Een 402-fout geeft onvoldoende vooruitbetaald krediet aan. Een 429-fout betekent dat u de rate limit heeft bereikt. Pas uw concurrency aan om binnen de limieten te blijven.