Dokumentasi API Endpoint Ollama

URL Dasar dan Autentikasi

Gunakan URL dasar yang disediakan dan kunci API untuk setiap permintaan. Endpointnya adalah https://api.ollamaendpoint.com/v1Otorisasi header sebagai token Bearer. Anda membuat kunci ini segera setelah masuk dengan Google atau email. Kunci tersebut unik per akun dan menggantikan kunci aktif sebelumnya.

Permintaan Pertama

Kirim penyelesaian chat standar untuk menghasilkan teks. ID model adalah uncensored dan menerima parameter yang sama dengan klien OpenAI standar. Ini berfungsi untuk tugas LLM NSFW atau generasi konten tanpa batasan.

• Metode: POST
• Endpoint: /v1/chat/completions
• Model: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Respons yang berhasil mengembalikan teks yang dihasilkan dalam array choices. Periksa yang usage bidang untuk melihat jumlah token.

Integrasi SDK Python

Instal perpustakaan resmi OpenAI dan konfigurasikan URL dasar. Ini memungkinkan Anda menggunakan model ollama uncensored dengan kode Python yang sudah familiar. Atur base_url dan api_key sebelum menginisialisasi klien. Kode tetap kompatibel dengan SDK OpenAI yang ada.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Panggil chat.completions.create metode seperti yang Anda lakukan untuk GPT. Struktur respons sesuai dengan harapan standar. Anda dapat melakukan streaming atau mendapatkan respons penuh.

Integrasi SDK Node

Gunakan paket OpenAI Node.js untuk berinteraksi dengan API. Konfigurasikan klien dengan base URL kustom dan kunci API Anda. Pendekatan ini berfungsi untuk aplikasi sisi server atau fungsi edge. Paket menangani serialisasi dan retry secara otomatis.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Panggil endpoint penyelesaian dengan prompt Anda. Perpustakaan mengembalikan promise yang diselesaikan ke objek respons. Tangani kesalahan sesuai dengan kode status HTTP standar.

Respons Streaming dengan SSE

Aktifkan streaming dengan mengatur stream: true dalam permintaan Anda. server mengembalikan stream Server-Sent Events (SSE). Setiap chunk berisi teks parsial dan data penggunaan token. Chunk terakhir mencakup statistik penggunaan lengkap untuk penagihan. Ini mengurangi latensi yang dirasakan untuk output panjang.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Akumulasi bagian konten dari setiap potongan untuk memulihkan respons lengkap. Tangani kesalahan saat tiba di aliran. Potongan terakhir mengonfirmasi jumlah token untuk kredit prabayar Anda.

Batas Laju dan Kendala

Setiap kunci API mendukung 300 permintaan per menit dan 8 permintaan simultan. Ukuran badan permintaan maksimum adalah 8 MB. Jendela konteks adalah 100,000 token untuk prompt dan penyelesaian secara gabungan. Batas output adalah 16,000 token per permintaan. Error dan penolakan tidak mengonsumsi kredit. Error 401 berarti kunci Anda tidak valid. Error 402 menunjukkan kredit prabayar tidak cukup. Error 429 berarti Anda mencapai batas laju. Sesuaikan konkurensi Anda agar tetap dalam batas.