Documentație API Endpoint Ollama

URL de bază și autentificare

Folosește URL-ul de bază furnizat și o cheie API pentru fiecare solicitare. Endpoint-ul este https://api.ollamaendpoint.com/v1Autorizare header ca un token Bearer. Generați această cheie imediat după autentificare cu Google sau email. Cheia este unică per cont și înlocuiește orice cheie activă anterioară.

Prima cerere

Trimiteți o completare standard a chat-ului pentru a genera text. ID-ul modelului este uncensored și acceptă aceiași parametri ca și clienții OpenAI standard. Acest lucru funcționează pentru sarcini LLM NSFW sau generare de conținut nelimitat.

• Metodă: POST
• Punct final: /v1/chat/completions
• Model: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Un răspuns cu succes returnează textul generat în array-ul choices. Verifică usage câmp pentru a vedea numărul de tokeni.

Integrare SDK Python

Instalează biblioteca oficială OpenAI și configurează URL-ul de bază. Acest lucru îți permite să utilizezi modelul ollama uncensored cu cod Python familiar. Setează base_url și api_key înainte de a inițializa clientul. Codul rămâne compatibil cu SDK-urile OpenAI existente.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Apelați chat.completions.create metodă exact ca pentru GPT. Structura răspunsului se potrivește cu așteptările standard. Poți face streaming sau să obții răspunsuri complete.

Integrare SDK Node

Folosește pachetul OpenAI Node.js pentru a interacționa cu API-ul. Configurează clientul cu URL-ul de bază personalizat și cheia ta API. Această abordare funcționează pentru aplicațiile server-side sau funcțiile edge. Pachetul gestionează serializarea și reîncercările automat.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Invocați endpoint-ul de completări cu promptul dumneavoastră. Biblioteca returnează o promisiune care se rezolvă la obiectul de răspuns. Gestionați erorile conform codurilor standard de stare HTTP.

Răspunsuri în streaming cu SSE

Activați streaming-ul setând stream: true în cererea ta. Serverul returnează un flux de Evenimente trimise de server (SSE). Fiecare fragment conține text parțial și date de utilizare a tokenilor. Fragmentul final include statisticile complete de utilizare pentru facturare. Acest lucru reduce latența percepută pentru ieșiri lungi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Acumulează părțile de conținut din fiecare bucată pentru a reconstrui răspunsul complet. Procesează erorile pe măsură ce apar în flux. Ultima bucată confirmă numărul de tokeni pentru creditul tău preplătit.

Limite de rată și constrângeri

Fiecare cheie API suportă 300 de cereri pe minut și 8 cereri concurente. Dimensiunea maximă a corpului cererii este de 8 MB. Fereastra de context este de 100,000 de tokeni pentru prompt și completare combinate. Limitele de output sunt de 16,000 de tokeni per cerere. Erorile și refuzurile nu consumă credit. O eroare 401 înseamnă că cheia dvs. este invalidă. O eroare 402 indică un credit preplătit insuficient. O eroare 429 înseamnă că ați atins limita de rată. Ajustați concurența pentru a rămâne în limite.