Documentación de la API del Endpoint de Ollama

URL Base y Autenticación

Usa la URL base proporcionada y una clave de API para cada solicitud. El punto de conexión es https://api.ollamaendpoint.com/v1Autorización header como token Bearer. Generas esta clave inmediatamente después de iniciar sesión con Google o correo electrónico. La clave es única por cuenta y reemplaza cualquier clave activa anterior.

Primera solicitud

Envía una finalización de chat estándar para generar texto. El ID del modelo es uncensored y acepta los mismos parámetros que los clientes estándar de OpenAI. Esto funciona para tareas de LLM NSFW o generación de contenido sin restricciones.

• Método: POST
• Punto final: /v1/chat/completions
• Modelo: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Una respuesta exitosa devuelve el texto generado en la matriz choices. Verifica el usage campo para ver el recuento de tokens.

Integración del SDK de Python

Instala la biblioteca oficial de OpenAI y configura la URL base. Esto te permite usar el modelo ollama uncensored con código Python familiar. Establece el base_url y api_key antes de inicializar el cliente. El código sigue siendo compatible con los SDKs existentes de OpenAI.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Llamar a la chat.completions.create método igual que harías con GPT. La estructura de la respuesta coincide con las expectativas estándar. Puedes transmitir o obtener respuestas completas.

Integración del SDK Node

Usa el paquete de OpenAI para Node.js para interactuar con la API. Configura el cliente con la URL base personalizada y tu clave API. Este enfoque funciona para aplicaciones del lado del servidor o funciones de borde. El paquete maneja la serialización y los reintentos automáticamente.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Invoca el endpoint de completion con tu prompt. La biblioteca devuelve una promesa que se resuelve al objeto de respuesta. Maneja los errores según los códigos de estado HTTP estándar.

Respuestas en streaming con SSE

Habilita la transmisión estableciendo stream: true en tu solicitud. El servidor devuelve un flujo de Server-Sent Events (SSE). Cada fragmento contiene texto parcial y datos de uso de tokens. El último fragmento incluye las estadísticas de uso completas para la facturación. Esto reduce la latencia percibida para salidas largas.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Acumula las partes de contenido de cada fragmento para reconstruir la respuesta completa. Procesa los errores a medida que llegan en el stream. El último fragmento confirma el recuento de tokens para tu crédito prepagado.

Límites de velocidad y restricciones

Cada clave de API soporta 300 solicitudes por minuto y 8 solicitudes concurrentes. El tamaño máximo del cuerpo de la solicitud es de 8 MB. La ventana de contexto es de 100,000 tokens para prompt y finalización combinados. Los límites de salida son de 16,000 tokens por solicitud. Los errores y rechazos no consumen crédito. Un error 401 significa que tu clave es inválida. Un error 402 indica crédito prepagado insuficiente. Un error 429 significa que alcanzaste el límite de velocidad. Ajusta tu concurrencia para mantenerte dentro de los límites.