Documentazione API Endpoint Ollama

URL Base e Autenticazione

Utilizza l'URL base fornito e una chiave API per ogni richiesta. L'endpoint è https://api.ollamaendpoint.com/v1Autorizzazione header come token Bearer. Generi questa chiave immediatamente dopo aver effettuato l'accesso con Google o email. La chiave è unica per account e sostituisce qualsiasi chiave attiva precedente.

Prima richiesta

Invia un completamento chat standard per generare testo. L'ID del modello è uncensored e accetta gli stessi parametri dei client OpenAI standard. Questo funziona per attività LLM NSFW o generazione di contenuti senza restrizioni.

• Metodo: POST
• Endpoint: /v1/chat/completions
• Modello: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Una risposta corretta restituisce il testo generato nell'array choices. Controlla la usage campo per visualizzare il conteggio dei token.

Integrazione SDK Python

Installa la libreria ufficiale di OpenAI e configura l'URL base. Questo ti permette di utilizzare il modello ollama uncensored con codice Python familiare. Imposta il base_url e api_key prima di inizializzare il client. Il codice rimane compatibile con gli SDK OpenAI esistenti.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Chiama il chat.completions.create metodo proprio come faresti per GPT. La struttura della risposta corrisponde alle aspettative standard. Puoi trasmettere o ottenere risposte complete.

Integrazione SDK Node

Utilizza il pacchetto OpenAI Node.js per interagire con l'API. Configura il client con l'URL di base personalizzato e la tua chiave API. Questo approccio funziona per applicazioni server-side o funzioni edge. Il pacchetto gestisce la serializzazione e i retry automaticamente.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Invoca l'endpoint di completamento con il tuo prompt. La libreria restituisce una promise che si risolve nell'oggetto di risposta. Gestisci gli errori in base ai codici di stato HTTP standard.

Risposte in streaming con SSE

Abilita lo streaming impostando stream: true nella tua richiesta. Il server restituisce uno stream di Server-Sent Events (SSE). Ogni chunk contiene testo parziale e dati di utilizzo dei token. L'ultimo chunk include le statistiche complete di utilizzo per la fatturazione. Questo riduce la latenza percepita per gli output lunghi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Accumula le parti di contenuto da ogni chunk per ricostruire la risposta completa. Gestisci gli errori mentre arrivano nello stream. L'ultimo chunk conferma il conteggio dei token per il tuo credito prepagato.

Limiti di frequenza e vincoli

Ogni chiave API supporta 300 richieste al minuto e 8 richieste concorrenti. La dimensione massima del corpo della richiesta è di 8 MB. La finestra di contesto è di 100,000 token per prompt e completamento combinati. I limiti di output sono di 16,000 token per richiesta. Gli errori e i rifiuti non consumano credito. Un errore 401 indica che la tua chiave non è valida. Un errore 402 indica credito prepagato insufficiente. Un errore 429 indica che hai raggiunto il limite di frequenza. Regola la tua concorrenza per rimanere entro i limiti.