Ollama Endpunkt API-Dokumentation

Basis-URL und Authentifizierung

Verwenden Sie die bereitgestellte Basis-URL und einen API-Schlüssel für jede Anfrage. Der Endpunkt ist https://api.ollamaendpoint.com/v1Autorisierung header als Bearer-Token. Sie generieren diesen Schlüssel unmittelbar nach der Anmeldung mit Google oder E-Mail. Der Schlüssel ist pro Konto eindeutig und ersetzt jeden vorherigen aktiven Schlüssel.

Erste Anfrage

Senden Sie eine Standard-Chat-Vervollständigung, um Text zu generieren. Die Modell-ID lautet uncensored und akzeptiert die gleichen Parameter wie Standard-OpenAI-Clients. Dies funktioniert für NSFW-LLM-Aufgaben oder uneingeschränkte Inhaltsgenerierung.

• Methode: POST
• Endpunkt: /v1/chat/completions
• Modell: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Eine erfolgreiche Antwort gibt den generierten Text im choices-Array zurück. Prüfen Sie den usage Feld, um Token-Anzahlen zu sehen.

Python SDK-Integration

Installieren Sie das offizielle OpenAI-Paket und konfigurieren Sie die Basis-URL. Dies ermöglicht Ihnen die Verwendung des unzensierten Ollama-Modells mit bekannten Python-Code. Legen Sie das base_url und api_key bevor Sie den Client initialisieren. Der Code bleibt mit bestehenden OpenAI-SDKs kompatibel.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Rufen Sie die chat.completions.create Methode genau wie für GPT. Die Antwortstruktur entspricht den Standarderwartungen. Sie können streamen oder vollständige Antworten erhalten.

Node SDK-Integration

Verwenden Sie das Node.js OpenAI-Paket, um mit der API zu interagieren. Konfigurieren Sie den Client mit der benutzerdefinierten Base URL und Ihrem API-Schlüssel. Dieser Ansatz funktioniert für serverseitige Anwendungen oder Edge-Funktionen. Das Paket behandelt Serialisierung und Wiederholungen automatisch.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Rufen Sie den Vervollständigungs-Endpunkt mit Ihrem Prompt auf. Die Bibliothek gibt ein Promise zurück, das zum Antwortobjekt aufgelöst wird. Behandeln Sie Fehler gemäß den Standard-HTTP-Statuscodes.

Streaming-Antworten mit SSE

Aktivieren Sie Streaming, indem Sie stream: true in Ihrer Anfrage. Der Server sendet einen Server-Sent Events (SSE)-Stream. Jeder Chunk enthält teilweise Text- und Token-Nutzungsdaten. Der letzte Chunk enthält die vollständigen Nutzungsstatistiken für die Abrechnung. Dies reduziert die wahrgenommene Latenz für lange Ausgaben.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Stellen Sie die Inhaltsteile aus jedem Chunk wieder her, um die vollständige Antwort zu rekonstruieren. Verarbeiten Sie Fehler, wie sie im Stream eintreffen. Der letzte Chunk bestätigt die Token-Anzahl für Ihr Guthaben.

Ratenbegrenzungen und Beschränkungen

Jeder API-Schlüssel unterstützt 300 Anfragen pro Minute und 8 gleichzeitige Anfragen. Die maximale Größe des Anfragekörpers beträgt 8 MB. Der Kontextfenster beträgt 100.000 Tokens für Prompt und Completion zusammen. Die Output-Limits liegen bei 16.000 Tokens pro Anfrage. Fehler und Ablehnungen verbrauchen kein Guthaben. Ein 401-Fehler bedeutet, dass Ihr Schlüssel ungültig ist. Ein 402-Fehler zeigt unzureichendes Prepaid-Guthaben an. Ein 429-Fehler bedeutet, dass Sie das Rate-Limit erreicht haben. Passen Sie Ihre Parallelität an, um innerhalb der Limits zu bleiben.