Ollama endpoint เอกสารประกอบ API

URL ฐานและการตรวจสอบสิทธิ์

ใช้ URL พื้นฐานและคีย์ API ที่จัดเตรียมไว้สำหรับคำขอทุกครั้ง เอนด์พอยต์คือ https://api.ollamaendpoint.com/v1การอนุญาต header เป็น Bearer token คุณสร้างคีย์นี้ทันทีหลังจากเข้าสู่ระบบด้วย Google หรืออีเมล คีย์นี้จะเป็นเอกลักษณ์สำหรับแต่ละบัญชีและจะแทนที่คีย์ที่ใช้งานอยู่ก่อนหน้าทั้งหมด

คำขอครั้งแรก

ส่งคำขอ chat completion มาตรฐานเพื่อสร้างข้อความ รหัสโมเดลคือ uncensored และยอมรับพารามิเตอร์เดียวกันกับไคลเอนต์ OpenAI มาตรฐาน ซึ่งใช้ได้กับงาน LLM NSFW หรือการสร้างเนื้อหาแบบไร้ข้อจำกัด

• วิธี: POST
• จุดปลาย: /v1/chat/completions
• โมเดล: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

การตอบกลับที่สำเร็จจะส่งคืนข้อความที่สร้างไว้ในอาร์เรย์ choices ตรวจสอบ usage ช่องเพื่อดูจำนวนโทเค็น

การผสานรวม SDK Python

ติดตั้งไลบรารี OpenAI ทางการและกำหนดค่า URL พื้นฐาน วิธีนี้ช่วยให้คุณใช้โมเดล ollama uncensored ด้วยโค้ด Python ที่คุ้นเคย ตั้งค่า base_url และ api_key ก่อนเริ่มต้นไคลเอนต์ โค้ดยังคงเข้ากันได้กับ SDK ของ OpenAI ที่มีอยู่

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

เรียก chat.completions.create method just like you would for GPT. The response structure matches standard expectations. You can stream or get full responses.

การผสานรวม Node SDK

ใช้แพ็กเกจ Node.js OpenAI เพื่อโต้ตอบกับ API กำหนดค่าไคลเอนต์ด้วย URL พื้นฐานที่กำหนดเองและคีย์ API ของคุณ วิธีการนี้ใช้ได้กับแอปพลิเคชันฝั่งเซิร์ฟเวอร์หรือฟังก์ชันขอบ (edge functions) แพ็กเกจจัดการการแปลงข้อมูลและการลองใหม่โดยอัตโนมัติ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

เรียกใช้เอนดพอยต์ completion พร้อมคำขอของคุณ ไลบรารีจะส่งค่า promise ที่แก้ไขเป็นวัตถุการตอบกลับ จัดการข้อผิดพลาดตามรหัสสถานะ HTTP มาตรฐาน

การตอบกลับแบบสตรีมมิ่งด้วย SSE

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true ในการร้องขอของคุณ เซิร์ฟเวอร์ส่งสตรีม Server-Sent Events (SSE) แต่ละชิ้นส่วนมีข้อความบางส่วนและข้อมูลการใช้งานโทเค็น ชิ้นสุดท้ายมีสถิติการใช้งานครบถ้วนสำหรับการเรียกเก็บเงิน วิธีนี้ลดความล่าช้าที่ผู้ใช้รู้สึกสำหรับผลลัพธ์ยาวๆ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

สะสมส่วนเนื้อหาจากแต่ละ chunk เพื่อสร้าง response เต็มรูปแบบ จัดการข้อผิดพลาดเมื่อได้รับใน stream chunk สุดท้ายยืนยันจำนวน token สำหรับเครดิตแบบเติมเงินของคุณ

อัตราจำกัดและข้อจำกัด

คีย์ API แต่ละตัวรองรับ 300 คำขอต่อนาที และ 8 คำขอพร้อมกัน ขนาดสูงสุดของ body คำขอคือ 8 MB หน้าต่าง context มีขนาด 100,000 tokens สำหรับ prompt และ completion รวมกัน ข้อจำกัดผลลัพธ์คือ 16,000 tokens ต่อคำขอ error และการปฏิเสธไม่ใช้เครดิต error 401 หมายถึงคีย์ของคุณไม่ถูกต้อง error 402 หมายถึงเครดิตเติมเงินไม่เพียงพอ error 429 หมายถึงคุณชน rate limit ปรับความพร้อมกันของคุณให้อยู่ในขีดจำกัด