Ollama päätepisteen API-dokumentaatio

Perus-URL ja todennus

Käytä annettua perus-URL-osoitetta ja API-avainta jokaiseen pyyntöön. Päätepiste on https://api.ollamaendpoint.com/v1Valtuutus header Bearer-tokenina. Luot tämän avaimen heti kirjautumisen jälkeen Googlella tai sähköpostilla. Avain on yksilöllinen tiliä kohti ja korvaa kaikki aiemmat aktiiviset avaimet.

Ensimmäinen pyyntö

Lähetä tavallinen chat-valmius tekstin luomiseksi. Mallin tunnistetiedot ovat uncensored ja hyväksyy samat parametrit kuin standardit OpenAI-asiakkaat. Tämä toimii NSFW-LLM-tehtäviin tai rajoittamattomaan sisällöntuotantoon.

• Menetelmä: POST
• Päätepiste: /v1/chat/completions
• Malli: uncensored

Copycurl https://api.ollamaendpoint.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Get the local ip address of this machine"}]
  }'

Onnistunut vastaus palauttaa luodun tekstin choices-taulukossa. Tarkista usage kenttä tokenien lukumäärän tarkistamiseen.

Python SDK -integraatio

Asenna virallinen OpenAI-kirjasto ja määritä base URL. Tämä mahdollistaa uncensored ollama -mallin käytön tutulla Python-koodilla. Aseta base_url ja api_key ennen asiakkaan alustamista. Koodi pysyy yhteensopivana olemassa olevien OpenAI-SDK:iden kanssa.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpoint.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kutsa chat.completions.create metodi kuten GPT:n kohdalla. Vastauksen rakenne vastaa yleisiä odotuksia. Voit streamata tai hakea koko vastauksen.

Node SDK -integraatio

Käytä Node.js OpenAI -pakettia vuorovaikutukseen API:n kanssa. Määritä asiakas mukautetulla base URL:lla ja API-avaimellasi. Tämä lähestymistapa toimii palvelinsivuisissa sovelluksissa tai reuna-funktioissa. Paketti käsittelee serialisoinnin ja uudelleenyrittelyt automaattisesti.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpoint.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Kutsu completion-päätepistettä syötteelläsi. Kirjasto palauttaa promise-objektin, joka ratkeaa vastausobjektiksi. Käsittele virheet standardien HTTP-tilakoodien mukaisesti.

Streamausvastaukset SSE:n kanssa

Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. Palvelin palauttaa Server-Sent Events (SSE) -streamin. Jokainen osa sisältää osittaisen tekstin ja tokenkäyttödataa. Viimeinen osa sisältää täydelliset käyttötilastot laskutusta varten. Tämä vähentää koettua viivettä pitkissä tulosteissa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kasakoi sisältöosat jokaisesta palasta rekonstruoidaksesi koko vastauksen. Käsittele virheet saapuessaan streamissa. Viimeinen palaus vahvistaa token-määrän esimaksutilillesi.

Nopeusrajoitukset ja rajoitukset

Jokainen API-avain tukee 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä. Pyynnön rungon enimmäiskoko on 8 Mt. Kontekstiikkuna on 100 000 tokenia promptin ja vastauksen yhteensä. Vastausrajat ovat 16 000 tokenia pyyntöä kohti. Virheet ja hylkäykset eivät kuluta kredittiä. Virhekoodi 401 tarkoittaa, että avaintasi ei ole voimassa. Virhekoodi 402 tarkoittaa riittämätöntä ennakkomaksukredittiä. Virhekoodi 429 tarkoittaa, että olet ylittänyt nopeusrajan. Säädä samanaikaisuuttasi pysyäksesi rajojen sisällä.