Ollama 端點 API 文件說明

基礎 URL 與驗證

使用提供的基礎 URL 和 API 金鑰處理每個請求。端點為 https://api.ollamaendpoint.com/v1授權 header 作為 Bearer token。此金鑰在您使用 Google 或電子郵件登入後立即產生。金鑰與帳戶唯一對應，並取代任何先前的有效金鑰。

首次請求

發送標準的聊天完成以生成文字。模型 ID 為 uncensored 並接受與標準 OpenAI 客戶端相同的參數。這適用於 NSFW LLM 任務或無限制內容生成。

• 方法：POST
• 端點： /v1/chat/completions
• 模型： uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

成功回應會在 choices 陣列中返回生成的文本。檢查 usage 欄位以查看 token 計數。

Python SDK 集成

安裝官方 OpenAI 函式庫並設定基礎 URL。這使您可以使用熟悉的 Python 程式碼使用 uncensored ollama 模型。設定 base_url 和 api_key 在初始化客戶端前。程式碼仍與現有 OpenAI SDK 相容。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

呼叫 chat.completions.create 方法就像您對 GPT 所做的一樣。響應結構符合標準預期。您可以流式傳輸或獲取完整響應。

Node SDK 整合

使用 Node.js OpenAI 套件與 API 互動。使用自訂基礎 URL 和您的 API 金鑰設定用戶端。此方法適用於伺服器端應用程式或邊緣函式。套件會自動處理序列化和重試。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

使用您的提示呼叫完成端點。該庫返回一個解析為回應物件的 Promise。根據標準 HTTP 狀態碼處理錯誤。

帶有 SSE 的串流回應

在請求主體中將 stream: true 在你的請求中。伺服器返回伺服器發送的事件（SSE）串流。每個區塊包含部分文字和 token 用量資料。最後一個區塊包含用於計費的完整統計資料。這能降低長輸出的感知延遲。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

累積每個區塊的內容部分以重建完整回應。處理串流中到達的錯誤。最後一個區塊確認預付信用的計數。

速率限制與限制條件

每個 API 金鑰支援每分鐘 300 次請求及 8 個並行請求。最大請求主體大小為 8 MB。提示與補全合計的上下文視窗為 100,000 個 token。每個請求的輸出限制為 16,000 個 token。錯誤與拒絕不會消耗信用額度。401 錯誤表示您的金鑰無效。402 錯誤表示預付信用額度不足。429 錯誤表示您已觸及速率限制。調整您的並行數量以保持在限制範圍內。