Ollama 端点 API 文档
在几秒内开始使用无审查 LLM API。本指南涵盖基础 URL、身份验证以及您的 OpenAI 兼容 API 工作流的 SDK 集成。
基础 URL 和认证
对每个请求使用提供的 base URL 和 API 密钥。端点是 https://api.ollamaendpoint.com/v1授权 作为 Bearer 令牌。此密钥在通过 Google 或电子邮件登录后立即生成。每个账户的密钥唯一,并替换之前任何活跃的密钥。
首次请求
发送标准聊天补全以生成文本。模型 ID 为 uncensored 并接受与标准 OpenAI 客户端相同的参数。这适用于 NSFW LLM 任务或无限制的内容生成。
- 方法:POST
- 端点:
/v1/chat/completions - 模型:
uncensored
curl https://api.ollamaendpoint.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
}'
成功响应在 choices 数组中返回生成的文本。检查 usage 字段以查看令牌计数。
Python SDK 集成
安装官方 OpenAI 库并配置基础 URL。这使您可以使用熟悉的 Python 代码使用无审查的 ollama 模型。设置 base_url 和 api_key 在初始化客户端之前。代码与现有的 OpenAI SDK 保持兼容。
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
调用 chat.completions.create 方法就像您对 GPT 所做的那样。响应结构符合标准预期。您可以流式传输或获取完整响应。
Node SDK 集成
使用 Node.js OpenAI 包与 API 交互。使用自定义 base URL 和您的 API 密钥配置客户端。这种方法适用于服务器端应用或边缘函数。该包自动处理序列化和重试。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
使用您的提示调用 completion 端点。库返回一个解析为响应对象的 Promise。根据标准 HTTP 状态代码处理错误。
使用 SSE 的流式响应
通过将 stream: true 在你的请求中。服务器返回服务器发送事件 (SSE) 流。每个数据块包含部分文本和 token 使用数据。最后一个数据块包含用于计费的完整使用统计信息。这降低了长输出的感知延迟。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
累积每个块的内容部分以重建完整响应。处理流中到达的错误。最后一个块确认预付费信用的令牌计数。
速率限制与约束
每个 API 密钥支持每分钟 300 次请求和 8 个并发请求。最大请求体大小为 8 MB。上下文窗口为 100,000 个 token(提示词和补全词合计)。输出限制为每次请求 16,000 个 token。错误和拒绝不消耗信用额度。401 错误表示您的密钥无效。402 错误表示预付费余额不足。429 错误表示达到速率限制。调整并发数以保持在限制范围内。
常见问题解答
ollama 端点的基础 URL 是什么?
基础 URL 为 HTTPS://api.ollamaendpoint.com/v1。用于所有 API 调用。它与标准的 OpenAI 客户端兼容。
如何处理流式传输响应?
将 stream 参数设置为 true。API 返回服务器发送事件。处理每个 chunk 以构建最终文本。最后一个 chunk 包含使用数据。
如果我触及速率限制会怎样?
您收到 429 状态码。限制为每个密钥每分钟 300 次请求。降低并发或等待后重试。并发请求限制为 8 个。
获取您的 API 密钥
注册,获取密钥,指向新的基础 URL。完成。